速報：話題の 1ビットLLMとは何か？｜寺田英雄（㈱オープンストリームCTO）
2024-02-27にarXiv公開され，昨日（2024-02-28）あたりから日本のAI・LLM界隈でも大きな話題になっている、マイクロソフトの研究チームが発表した 1ビットLLMであるが、これは、かつてB-DCGAN(https://link.springer.com/chapter/10.1007/978-3-030-36708-4_5; arXiv:https://arxiv.org/abs/1803.10930 )という「１ビットGANのFPGA実装」を研究していた私としては非常に興味をそそられる内容なので、論文を読んでみた。今回は速報として、その内容のポイントを概説したい。 論文情報 Ma, S. et al. (2024) ‘The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits’, arXiv [c
AIが自分自身に報酬を与えて進化する「自己報酬型言語モデル」 米Metaなどが開発、実験でGPT-4を上回る【研究紹介】
TOPコラム海外最新IT事情AIが自分自身に報酬を与えて進化する「自己報酬型言語モデル」 米Metaなどが開発、実験でGPT-4を上回る【研究紹介】 AIが自分自身に報酬を与えて進化する「自己報酬型言語モデル」 米Metaなどが開発、実験でGPT-4を上回る【研究紹介】 2024年1月23日 米Metaと米ニューヨーク大学に所属する研究者らが発表した論文「Self-Rewarding Language Models」は、大規模言語モデル（LLM）が自分自身に報酬を与えることで繰り返し学習する「自己報酬型言語モデル」を提案した研究報告である。このモデルは、自身が生成した問題に対する応答に報酬を割り当て、その結果をトレーニングデータとして使用。自己を反復して訓練することで、精度を向上させられる。 keyboard_arrow_down 研究背景 keyboard_arrow_down 研究内容
AI（LLM）についてまだみんなが知らない8つの事実（論文：Eight Things to Know about Large Language Modelsについて）
いかにも海外の煽り記事みたいなタイトルを付けてしまったが、おおむねそういう感じの内容の論文が発表されて、興味深かったので今回はそれについて書いてみたい。 最近、「AGIが人類を滅亡させる！」みたいなAI人類滅亡説がにわかに広がっているらしい。 これの言い出しっぺみたいな人は、ユドコウスキー氏という方らしいが、彼は何十年も前からAI脅威論を言っていたらしい。そういう人もいるとは思うが、最近はそれを真に受けちゃう人が増えてるらしい。ChatGPTの実力に驚いた人が増えたからだろうか。 ホワイトハウスでFox Newsの記者が「AIが人類を滅亡させるってホントですか？」と質問しちゃうというような、パニック映画さながらの出来事まで起きている。これはエイプリルフールではない。 ホワイトハウスでFox Newsの記者が「機械知能研究所の専門家がAI開発を無期限に停止しないと文字通り地球上のすべての人間
高速で論文がバリバリ読める落合先生のフォーマットがいい感じだったのでメモ - 書架とラフレンツェ
(図書館学系の話題でもあるからちょっと悩んだけれど、文献読解全般に関する内容だからこちらへ) 既に日々論文をバリバリ読んでいるひとには今更な記事だろうけれど、分野ごとの違いもあって興味深かったのでざっくり記録する。 論文を大量に読む際に、頭から几帳面に読んでいると時間がどれほどあっても足りないし、後から「こんなことが書いてあった論文なんだったっけ？」という問題も発生してしまう。 研究者の皆様はMendeley などの文献管理ツールをを用いていることが多いかとは思うが、それでも論文の読み方そのものに工夫をすればインプット/アウトプットの効率が圧倒的によくなるので、やってみるにこしたことはない。 その工夫とは何かというと、論文を読むときに「特定の問いに集中して読む」というものだ。学術論文は分野ごとの違いはあれ、必ず特定の流れに従って構成されている。そこで要点のみに注目して読み、他の事項を捨てる
神戸大学学術成果リポジトリ Kernel
共同討議(特集:アニメーション「超」講義！ : 現代アニメーション論の先端に学ぶ) / 石岡, 良治 / 土居, 伸彰 / 前川, 修 / 大﨑, 智史 / 中村, 紀彦 / 大橋, 完太郎(司会)
印仏間で「テレパシー実験」に成功、思念を技術的に伝達
【9月5日 AFP】数千キロ離れたインドとフランスにいる人同士が、心に思った簡単なメッセージを直接接触することなく相手に伝える実験に、米ハーバード大学（Harvard University）の専門家らが率いる研究チームが初めて成功した。 この実験は、たとえ相手が数千キロ離れた場所にいても、テクノロジーを使えば脳から脳への情報伝達が可能であることを示している。 論文の共同執筆者で理論物理学者のジュリオ・ルッフィーニ（Giulio Ruffini）氏は、スペインのバルセロナ（Barcelona）でAFPの電話取材に応じ、「テレパシーという夢の技術的実現と言える。しかし、魔法などでは断じてない」「われわれは、電磁波で脳とやりとりする技術を使用している」と語った。 実験では、インターネットに接続した無線脳波計を装着した人に、「オラ」（スペイン語で「こんにちは」）や「チャオ」（イタリア語で「こんにち
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
論文検索・文献調査 無料データベース｜非特許文献調査｜その他調査 | 「e-patent」知的財産（特許・意匠・商標）のポータルサイト
仏教に伝わる瞑想法の効果、科学的に実証される
【後藤弘茂のWeekly海外ニュース】 ディープラーニングというGPUの新市場
香港中文大学、STAP細胞作製の再現に成功か【4/3 更新】
SJN News 再生可能エネルギー最新情報 » Maintenance Mode
行動ターゲティング広告の経済効果と利用者保護に関する 調査研究 報告書