AIは「賢いフリ」をしていた──ハーバード大などが暴いたLLMの決定的弱点「ポチョムキン理解」とは？ | XenoSpectrum
大規模言語モデル（LLM）は、流暢な会話をこなし、専門的な質問にも答える。その驚くべき能力に、私たちは「AIは本当に理解しているのではないか」という期待を抱きがちだ。しかし、その知性は本物なのだろうか？ こうした我々の抱く最もな疑問に対し、2025年6月26日に発表された一つの研究論文が1つの答えを与えてくれるかもしれない。 ハーバード大学、MIT、シカゴ大学の世界トップクラスの研究者たちが共同で発表した論文は、LLMが概念を「理解しているフリ」をするという、根源的な欠陥を白日の下に晒した。本稿では、この「ポチョムキン理解」と名付けられた現象の核心に迫り、それが私たちのAIに対する見方、そして人工知能の未来に何を意味するのかを解説する。 賢いフリをするAI──「ポチョムキン理解」という新たな弱点 今回発表された論文「Potemkin Understanding in Large Langu
Wolfram氏によるChatGPTの仕組みと機能に関する解説について｜IT navi
数式処理システムのMathematicaや質問応答システムのWolfram Alphaを開発したStephen Wolfram氏が「What Is ChatGPT Doing … and Why Does It Work?」（ChatGPTは何をしていて、なぜそれがうまく機能するのか？）と題するブログ記事を発表しました。 この記事は、とても分かりやすい言葉で、沢山例を挙げて詳しく説明していますので、ChatGPTの仕組みを理解したいと思っている人には必読の記事だと思います。 ブラウザの翻訳機能を利用して日本語で読むこともできますが、易しい言葉で書かれた文章であるにも関わらず、これを完全に理解するのは簡単なことではありません。 前半は大規模言語モデル、ニューラルネットワーク、Transformerなどの仕組みについて相当詳しく説明しており、後半はChatGPTに関するWolfram氏独自の解
Kaggle創薬コンペにおけるDeep Learningの適用 - Technical Hedgehog
創薬においてコンピュータの活用はますます盛んになってきており、2012年にはKaggleでコンペも開催されました。このコンペは標的に対する分子の活性を推定するというタスクでした。 用いられた手法としては1位はDeep Learning、2位は非Deepな機械学習手法でありスコアにこそ大差はありませんでしたが、創薬においてDeep Learningの適用可能性を示したことで当時は話題になったそうです。だいぶ前のコンペなの解説記事はすでに多くありますが、コンペを通じて創薬の概要とDeep Learningがどのようなアプローチで適用されたのかを紹介してみます。 ！Caution！ できる限りの調査をしましたが、私は製薬や医療に詳しい人ではないので誤った解釈をしてしまっている可能性があります。「ここ間違っている」と言う点がありましたら指摘いただけると幸いです。 では、はじめにコンペのタスク背景と
Ponanza開発者、山本一成氏が語る強化学習とA/Bテスト運用の舞台裏 | ログミーBusiness
2019年1月28日、AWS Loft Tokyoにて「囲碁・将棋分野でのコンピューター活用の最前線〜あの天才女流棋士たちも活用するAWS〜」が開催されました。囲碁・将棋の世界では、コンピューターによる強化学習を取り入れた戦術研究が盛んになっています。そんな囲碁・将棋におけるAI活用の今について、現役棋士として活躍しながらAWSを利用して研究を行っている大橋拓文六段と、将棋プログラムPonanzaの作者である山本一成氏が、自身の経験を踏まえて語ります。プレゼンテーション「Ponanza 強化学習とA/Bテスト運用」に登壇したのは、山本一成氏。Ponanza開発の舞台裏と、用いられた技術について解説しました。 Ponanzaにおける強化学習とA/Bテスト運用山本一成氏（以下、山本）：山本一成と申します。よろしくお願いします。 ありがとうございます。ここからはややガチめなエンジニアの話です。ま
中国の人工知能研究が日本を一気に抜き去った理由 : 深読みチャンネル : 読売新聞（YOMIURI ONLINE） 1/4
コンピューターで人間の頭脳を代替する人工知能（ＡＩ）の研究競争が世界で 熾烈 ( しれつ ) さを増してきた。中でも中国の伸長が著しく、ＡＩで東京大学合格をめざす日本のプロジェクトを模倣した中国版「難関大学突破プロジェクト」も始まった。産業応用を狙うと言い、技術交流を日本側に持ちかけてきた。中国側の狙いはどこにあるのか。日本側のプロジェクト・ディレクターである新井紀子・国立情報学研究所（ＮＩＩ）教授に寄稿してもらった。 ＊新井教授の横顔は こちら １９８０年代初頭に茨城県つくば市を訪れたことがある。研究機関らしい巨大なビルが点在する広大な空き地の上を、建設作業車が土埃(ぼこり)を上げて雑草をなぎ倒して行く。あの頃のつくば市によく似ている。それが私の中国・合肥の第一印象である。 私は２０１５年７月、合肥にある「ｉＦＬＹＴＥＫ」（アイフライテック；科大迅飛）という新興ＩＴ企業で開催される“中国
Companion webpage to the book "Mathematics for Machine Learning"
Companion webpage to the book "Mathematics for Machine Learning". Copyright 2020 by Marc Peter Deisenroth, A. Aldo Faisal, and Cheng Soon Ong. Published by Cambridge University Press. View the Project on GitHub View On GitHub Please link to this site using https://mml-book.com. Twitter: @mpd37, @AnalogAldo, @ChengSoonOng. We wrote a book on Mathematics for Machine Learning that motivates people to
【プレスリリース】人工知能が「繰り返し成長すること」で計算コストを１／３６００に削減 ～界面構造を高速に決定し、高性能な物質開発を加速～ | 日本の研究.com
ポイント物質内部に無数に存在する「界面」の構造は、電気やイオンの伝導性、物質の耐久性など多くの機能に決定的な役割を果たしています。そのため、界面の構造を決定することは物質科学において最も重要な研究課題の１つです。本研究グループは、人工知能の技術を利用して界面構造を高速に決定する手法を開発してきました。今回、転移学習という技術を使って人工知能が繰り返し成長することで、計算コストを約１／３６００まで削減することに成功しました。界面機能の理解が深まり、高性能な物質開発がさらに加速すると期待されます。 東京大学 生産技術研究所の溝口 照康 教授、小田 尋美 学院生（研究当時）、清原 慎 大学院生、東京大学 大学院新領域創成科学研究科の津田 宏治 教授らの研究グループは、機械学習注１）の転移学習注２）という技術を活用して人工知能が繰り返し成長することで、物質の界面注３）の構造を決定するための計算コス
Adobe MAX 2017のスニークス – 人工知能Adobe Senseiの活用技術 - ICS MEDIA
米Adobeアドビ Systemsシステムズが主催の世界最大のクリエイティビティ・カンファレンス「Adobe MAX 2017」（ネバダ州ラスベガス）。二日目の10月19日は「スニークス」と題してAdobeの研究中の技術が発表されました。スニークスはAdobe MAXで最大の盛り上がりをみせる恒例の人気イベントです。 ここで発表されたものは現時点では製品に搭載されていないものの将来的に製品に組み込まれるかもしれない技術。過去の例を挙げると、Photoshopのディフォグ（霧を増減させる）機能やマッチフォント機能、最新のPremiere Proに搭載されたイマーシブ空間内での編集機能もかつてスニークスで発表された技術です。本記事では発表された11のテクノロジーを、現地のイベントに参加したスタッフ（池田）がレポートします。 今年は人工知能Adobe Senseiをフル活用した次世代技術のオンパ
統計物理学と機械学習の関係 - HELLO CYBERNETICS
統計物理学の始まり 統計物理の着想は熱力学にあり 熱力学におけるエントロピーという概念の導入 統計物理学のモチベーション 統計物理学の着想 統計物理学を始める上での基本 熱の移動の正体 統計物理学でのエントロピー 統計力学と機械学習 情報統計力学 イジングモデル イジングモデルを更に一般化したスピングラスモデル 統計力学が機械学習にもたらすもの 機械学習での発展 最後に 量子アニーリングコンピュータ ベイズ 統計物理学の始まり まず統計物理学がどんなものかを説明しましょう。ここを定性的にでも把握しておくと、だいぶ機械学習に近しい考え方を持っていることを強く実感できるはずです。 統計物理の着想は熱力学にあり 統計物理学は熱力学からやって来ました。 私達は生活の中で容易に実感できるように、「熱」というものが温度の高い方から低い方へ流れていくことを知っています。運動エネルギーや化学エネルギー、電
Pythonや機械学習、そして言語の競争について – 極めて主観的な見地から | POSTD
(訳注：2016/1/5、いただいた翻訳フィードバックを元に記事を修正いたしました。) よくある主観的で痛烈な意見を題名に付けたクリックベイト（クリック誘導）記事だろうと思われた方、そのとおりです。以前指導してくれた教授から教わったある洞察/処世術は、些細でありながら私の人生を変えるマントラとなったのですが、私がこの記事を書いたのはそれによるものです。「同じタスクを3回以上繰り返す必要があるなら、スクリプトを書いて自動化せよ」 そろそろ、このブログはなんだろうと思い始めているのではないでしょうか。半年振りに記事を書いたのですから。ツイッターで書いた Musings on social network platforms（ソーシャル・ネットワークプラットフォームについてじっくり考える） はさておき、この半年の間書き物をしていないというのはうそです。正確には、400ページの 本 を書きました。
機械学習の超初心者が、みんなが良いと言う記事を読んでまとめてみた - たくさん調べたことをまとめるブログ
機械学習をやるまえに スライドで「機械学習とは」を感じよう 必ずと言っていいほど紹介されてる動画 日本語なので聞きやすそうな動画 これだけは読んでおきたい初心者向けの本 実際に簡単なサンプルを試してみよう！（すぐできる！） なんで動いてるのか 機械学習にはたくさんの手法があることを知る スライドで「Deep learningとは」を感じよう 勉強のための 環境構築 をしよう 勉強のためのプログラムを書こう ライブラリごとの初歩記事 真似していろいろつくってみよう 最後に、なんだかすごそうな人の紹介 機械学習について勉強したいので調べてみたのですが、同じ情報源を良いと言ってる人が多い印象でした。 それだけ実践的な情報が少ないのかもしれませんが。。 「この本、さっき読んだ記事でもおすすめしてたな。あれ、この記事もだ。」 なんてことが多々。 そこで、機械学習をやる前に情報を整理したいと思い、この
AIベンチャーの雄が総務省の開発指針に反対する理由
人工知能（AI）の開発者が研究開発に当たって留意すべき原則「AI開発ガイドライン（仮称）」の素案を策定するため総務省が設置した産官学会議から、AIスタートアップのPreferred Networks（PFN）が離脱していたことが明らかになった。 Preferred Networksは深層学習（ディープラーニング）開発のスタートアップ企業で、深層学習フレームワーク「Chainer」の開発元としても知られる。 総務省 情報通信政策研究所は、同ガイドライン素案策定のための産官学会議「AIネットワーク社会推進会議」を主催している。2016年12月には、素案策定に向けた論点整理を公開した。 この素案は、日本政府がOECD（経済協力開発機構）などに提案することを目的に策定するもので、「日本の法制度に直接反映させることを想定したものではない」（同研究所）という。 だがこの方針に対し、2017年1月まで同
ガートナー プレス・リリース
ガートナーのエキスパートから提供する、確かな知見、戦略的アドバイス、実践的ツールにより、ミッション・クリティカルなビジネス課題の解決を支援します。
AI Monetization Landascape in US
ベンチャー投資の米国，EU，日本の比率（去年はもっと開いたが）そもそも新規事業に対する民間投資50:5:1とこれだけ差がある中で，日本はどうするのか？ グローバル視点に切り替えたらどうか？ 自国をフィンランドと思えば，施作は変わる．日本の産業構造（労働慣行）をどう変えるか．根っこの議論がないとだめ．日本の産業界はデータ利活用の対応できているのか？ それができていないから，日本の産業はジリ貧になる．AIは技術じゃないよ！だから頭の良いデータサイエンティストをコンサルにおいてもデータ利活用は回らない．会社のITシステムを根っこからデータが上がって処理する仕組みを作らないと．会社のど真ん中にソフトウェアを分かっている経営者を置こう．
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
グーグルの天才AI研究者、ニューラルネットワークを超える「カプセルネットワーク」を発表
人工知能がもたらす「新しいエンジニア」の時代には、物理学者がテック業界を支配する
今までの投稿記事のまとめ（統計学/機械学習/数学 etc） - Qiita