GPT-4登場以降に出てきたChatGPT/LLMに関する論文や技術の振り返り - Platinum Data Blog by BrainPad
本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 この記事では、GPT-4の登場から執筆日（2023年5月31日時点）までの2ヶ月間で登場した論文を振り返りながら、まとめて紹介していきます。 LLM/ChatGPTの動向 オープンソースLLM モデル オープンソースLLMの調整 Adapter、LoRA Instruction Tuning Human Feedback プロンプトエンジニアリング プロンプトエンジニアリングの課題①：プロンプトに大量の情報を入れられない プロンプトエンジニアリングの課題②：複雑なタス
「GPT-3」などの最新言語モデルが自然に他者の心を推察する能力である「心の理論」を獲得していたという研究論文
あまりに高精度なテキストを生成できるということで話題になった「GPT-3」のような最新の言語モデルは、言語処理能力を向上させる過程で自然に他者の心を推察する能力を獲得していたとする研究論文が発表されました。 [2302.02083] Theory of Mind May Have Spontaneously Emerged in Large Language Models https://arxiv.org/abs/2302.02083 Theory of Mind May Have Spontaneously Emerged in Large Language Models (PDFファイル)https://arxiv.org/ftp/arxiv/papers/2302/2302.02083.pdf ヒトが他者の心の状態、目的、意図、知識、信念、志向、疑念などを推測する心の機能を「心の理
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://x.com/ai_database/status/1751414199673291092?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
https://x.com/ai_database/status/1747553215753978170?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
https://x.com/masa_kazama/status/1747151010475483237?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
https://x.com/chokkanorg/status/1698559663267254439?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
アイブン🎨AI論文データベース on Twitter: "金融分野特化の大規模言語モデル開発フレームワーク「FinGPT」 論文：https://t.co/t7CQC0tM3x 高品質な金融データへのアクセスを民主化することを目指し、コロンビア大学とニューヨーク大学の研究者らが新フレームワーク「FinGPT」をオープンソースで公開しました。… https://t.co/6ih0enhT4Q"
https://twitter.com/hillbig/status/1660409936264970240?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
https://twitter.com/icoxfog417/status/1660511535721222145?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
https://twitter.com/odashi_t/status/1638424545483976704?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
Mamoru Komachi on Twitter: "ここに名前が出ているというのを教えてもらったが、現在の基盤モデルはほぼウェブ検索エンジンだと思っている。作るのも、人工知能というよりは、一周回ってウェブ検索エンジンとかなり似ている感じではないかな。… https://t.co/7ODd2Ir6C2"
https://twitter.com/icoxfog417/status/1537986649400832000
u++ on Twitter: "DeBERTa の論文の説明、分かりやすかった DeBERTa: Decoding-enhanced BERT with Disentangled Attention (Machine Lea... https://t.co/30Sdx8BZpN via @YouTube"
https://twitter.com/hochreitersepp/status/1524620894181732352?s=12&t=PacB7n7zjno-ot_5KxLQYw
goto@meta翻訳開発者 on Twitter: "ニューラル機械翻訳の出力に対して、専門用語を一貫して訳せているかを測定する指標を提案している論文で、実装も公開されている。使ってみよう。 https://t.co/P7T12vDG6Q https://t.co/b1guly2UkM"
Reina Akama on Twitter: "最先端NLP勉強会お疲れ様でした！発表論文数は過去最多41件、例年以上に盛り沢山でしたが皆様にとって有意義な会になっていれば幸いです。ご支援いただいたスポンサー様、ご発表や議論で盛り上げてくれた皆様、どうもありがとうございました！… https://t.co/XiwJUOHY15"
Yoshihiko Suhara on Twitter: "ACL2021 の分野別おすすめ論文と研究動向をまとめたブログ記事↓。自分も一部（ちょっとだけ）執筆しています〜。 https://t.co/eICUN42TB9"
Megagon Labs on Twitter: "This year's #ACL2021 conference accepted 710 papers out of 3350 submissions. Our members @suhara @nikita_bhutani Ha… https://t.co/07iMDhaRR6"
goto@meta翻訳開発者 on Twitter: "言語モデルにとって語順は重要な要素なのか、を分析している論文。 BERTベースのモデルは、多くの場合、語順を入れ替えてテストしてもGLUEタスクでのスコアはあまり変わらなかったという話。… https://t.co/AmYvULX4ei"
goto@meta翻訳開発者 on Twitter: "Googleの実用的すぎる神論文。 言語モデルの学習を効率化する為に、学習データから似たものを排除する手法を提案し、少ない学習ステップで同等以上の精度のモデルを学習できることを示した論文。… https://t.co/tBlGtBFE9l"