AIは本当に「考えている」のだろうか？ この数年、私たちの社会を席巻するこの問いに、Appleの研究チームが冷徹な光を当てた。2025年6月7日に公開された論文「The Illusion of Thinking（思考の幻想）」は、AIが複雑な問題に直面したとき、性能が突如として崖から転落するように崩壊するだけでなく、難問を前にして「考えることを放棄する」かのような不可解な振る舞いを見せることを示し、OpenAIの「o3-mini」やAnthropicの「Claude 3.7 Sonnet」といった最先端のAIが持つ「推論能力」に、これまで見過ごされてきた“根本的な限界”が存在することを、緻密な実験によって暴き出したのだ。 なぜこの研究は重要なのか？ AI評価の「汚染」からの脱却 近年のAI開発競争は、「推論（Reasoning）」を最大のテーマとしてきた。「思考の連鎖（Chain-of-T

（小林 啓倫：経営コンサルタント） 2025年5月20日（日本時間）、Microsoftの開発者向けイベント「Build」が米シアトルで始まった。そのキーノートスピーチで、MicrosoftのCEO兼会長であるサティア・ナデラが、「オープン・エージェンティック・ウェブ（Open Agentic Web）」という新しいコンセプトを打ち出している。 これは「AIエージェント」（生成AIなど最先端のAI技術を駆使し、自律的に動作することが可能なアプリケーション）が、ユーザーや企業に代わってウェブを含むデジタル環境全般で自律的に活動し、目的を達成するという未来のビジョンだ。 オンラインショッピングを例に挙げよう。 現在のEコマースサイトを訪問しているのは、もちろん人間のユーザーだ。人間が検索エンジンなどを使ってサイトを選び、訪れ、そこに並べられた商品を見て、自分の好みや予算といった条件の中から目的

The Registerはこのほど、「AI model collapse is not what we paid for • The Register」において、AIモデルの性能低下に関する懸念を示した。著者のSteven J. Vaughan-Nichols氏は、特に検索エンジンにおいて、AIが提供する結果の質が低下していると指摘し、これを「AIモデルの崩壊（model collapse）」と呼んでいる。 検索エンジンで進むAIの統合 現在、GoogleやBingなどの検索サービスでは、検索エンジンに対するAIの統合を積極的に進めている。例えばGoogleは、「生成AIによる検索体験（SGE: Search Generative Experience）」という名称で、検索に生成AIの「Gemini」を統合して結果の要約や追加質問の提案などを行っている。プログラミングのコード生成や料理レシ

インチキAIに騙されないために 2023.01.11 Updated by yomoyomo on January 11, 2023, 12:20 pm JST プリンストン大学教授のアーヴィンド・ナラヤナン（Arvind Narayanan）を最初に認知したのは、当初はエドワード・W・フェルテンの個人ブログだった、コンピュータセキュリティやプライバシーなどを中心的に扱うFreedom to Tinkerへの寄稿者としてでした。本連載でも2014年の「ビッグデータの不都合な真実」という文章で、フェルテンとナラヤナンによるビッグデータの匿名化技術に関する論文を取り上げていますが、ナラヤナンをセキュリティやプライバシー分野の研究者だと思っていました。 しかし、彼はそれにとどまらず、大学の講義をオンラインで無償提供するCourseraでビットコインと暗号通貨技術の講座を持ち、書籍『仮想通貨の教科

先鋭化する大富豪の白人男性たち、警告する女性たち 2023.09.11 Updated by yomoyomo on September 11, 2023, 21:53 pm JST 「テックブロ（tech bro）」という言葉があります。IT業界で働く男性を指しますが、ケンブリッジ英英辞典によると、社交性に欠けるのに自身の能力を過信する米国の若い男性という含意もあるようです。 最近、この言葉が出てくる文章で気になったものがあるので、それらの紹介から始めたいと思います。 一つはダナ・ボイドの「メタバースは未だシカトさせていただきます」です。これはメタバースがテーマの新刊を送ってきた友人に対し、メタバースには一貫して興味がないと宣言する文章なのですが、彼女の拒否反応には理由があります。彼女は初期のバーチャルリアリティー（VR）の体験者であり、2014年にはVR体験の性差にフォーカスした「Oc

現代のテック分野における最大のバズワードの一つとなった「生成AI」。先日もジブリ風のAIアートがSNSを席巻し、さまざまな議論を呼んでいたが、その波はゲーム業界においても急速に勢いを増しており、『Call of Duty: Black Ops 6』のように私たちが普段遊んでいるタイトルの中にも、すでに生成AIによって作られた作品が含まれるようになってきている。 アートワークやテキストなどはもちろんだが、独立系ゲームメディアのaftermathが報じたように、実際の開発現場では、承認を得るためのピッチ制作やコンセプトの立案、社内外でやり取りするメールの本文に至るまで、より広範な場面で生成AIの導入が加速している。最近はDuolingoのように、プロダクト開発などに生成AIを積極的に活用し、その結果として「業務委託を減らして、生成AIに置き換える」という方針を打ち出す企業も増えてきているが、レ

新たな研究により、ChatGPTやGeminiといった主要なAIチャットボットが、依然として巧妙な「ジェイルブレイク（脱獄）」と呼ばれる手法によって、本来ブロックされるべき有害な情報や違法な指示を生成してしまう脆弱性を抱えていることが明らかになった。イスラエルのベン・グリオン大学の研究者チームが発表したプレプリント論文「Dark LLMs: The Growing Threat of Unaligned AI Models」は、この問題の根深さと、いわゆる「ダークLLM」の脅威拡大に警鐘を鳴らしている。驚くべきことに、一部の脆弱性は7ヶ月以上前に公になっていたにも関わらず、主要なLLMプロバイダーの対応は十分とは言えない状況だという。 「Dark LLMs」の台頭とジェイルブレイクの巧妙化 大規模言語モデル（LLM）は、医療から教育まで、現代社会の様々な分野に変革をもたらしている。その一方

現在私の活動しているジャンルは知名度こそ高く、名前を聞けば昔やってた・懐かしいなどと言われるような幅広い世代向け某リズムゲームです。本ジャンルはあまり二次創作に向いているとはいえないキャラクターの情報量であり、絵を描いていると言うと驚かれることがほとんどです。SNSでもゲーム自体の純粋なファンは多いのですが、少ない情報量からありもしないキャラクター像を妄想して興奮し、同人活動に勤しむような同士は少なく、罪悪感を抱えながらファンアートを量産しています。 そんな中、ただでさえ情報量の少ないキャラクター同士、その上本編では一切関わりのない、名前も分からない、同じ世界に生きているかどうかもわからないキャラクターの関係性を捏造し、みだらな行為をしている絵を描くことに取り憑かれてしまい、貪るように一日中スケベな絵を描いています。溜まった劣情を放出したあとに、あまりの背徳感からページを破って捨ててしまい

海外のイラストサイト「Danbooru」は10月5日までに、画像生成AI「NovelAI Diffusion」（NovelAI）と無関係であると主張する声明を発表した。声明は英語と日本語で記載。「最近話題になっているNovelAIのことでお悩みになっている絵師様へ」とし、メッセージを公開している。 NovelAIは10月3日にサービスを開始した画像生成AIで、「二次元美少女をうまく生成できる」などと話題になった。その中で、NovelAIの公式Twitterアカウント（＠novelaiofficial）は、データ学習元にDanbooruを使っていると投稿。Twitter上ではNovelAIの違法性を問う声も上がっており、ソース元としてNovelAIが明示したDanbooruにも批判の目が向いていた。 Danbooruはさまざまなユーザーが描いたイラストを掲載する海外サイト。同サイトを巡っては

学生がAIで｢知性をサブスク｣する。教育現場に混乱を巻き起こすAI2025.05.23 20:0012,719 Lucas Ropek - Gizmodo US ［原文］ （ Kenji P. Miyajima ） 生成AIってちゃんと使おうとするとかなり頭を使うはずなのだけど…。 AI業界は｢社会を劇的に変える｣と宣言してきましたが、アメリカの教育システムを見るとその本気度は一目瞭然です。 アメリカの教育現場は、まさしく｢破壊的｣な変化にさらされています。しかもその影響はあまりに大きく深刻で、もはやこの先ちゃんと機能する社会が戻ってくるのかどうかすら怪しく思えてくるほどなのだとか。 AIに振り回される学生の知性高等教育の現場でいま起きている混乱を象徴する、もっとも情けなくて残念な出来事について、New York Magazine（ニューヨーク・マガジン）が紹介しています。多くの現役学生へ

【5月23日 AFP】ローマ・カトリック教会の教皇レオ14世は、今月の就任に際し、人工知能（AI）が抱える課題に言及し、希望と黙示録的な恐怖の両面をはらむAI技術に対し、宗教指導者が影響力を発揮することへの期待を強調した。 この発言は、米国のプロテスタント福音派指導者らによって引用された。21日に公開されたドナルド・トランプ米大統領宛ての公開書簡の中で、福音派の指導者らは「責任ある形で加速するAI革命」を求めるとともに、「潜在的な危険性」に警鐘を鳴らした。 公開書簡で福音派指導者らは、「病気の治療や実際の問題解決に役立つ強力なAIツールの開発」を求めた。その一方で、「誰にも制御できない、自律的かつ人間を超える知性を持つ機械」への懸念も示され、シリコンバレーのいわゆる「AI終末論者」の表現を反映したものとなっていた。 レオ14世は今月10日、枢機卿らに対し、自身の教皇名は「最初の大規模な産業

つながりのテクノロジーはまたしても我々を引き裂く 2025.05.21 Updated by yomoyomo on May 21, 2025, 14:51 pm JST 歴史家のダニエル・イマーヴァールが、ニューヨーカー誌に寄稿した「テクノロジーによる「注意力の危機」を煽る“エリート”たちの本音」に書くように、ニコラス・カーの『The Shallows: What the Internet Is Doing to Our Brains』（邦訳は『ネット・バカ　インターネットがわたしたちの脳にしていること』）は、インターネットが我々の集中力と熟考する能力を奪っている、つまりは「インターネットが我々の能力を退化させる」ことを正面から論じた最初期の本です。 発表当時、この主張には多くの反論が寄せられました。これは『The Shallows』の前段にあたるアトランティック誌への寄稿文のタイトル「

トランプ陣営のソーシャルメディアアカウントがシェアしている雑なAI生成画像、いわゆる「AIスロップ画像1」を見て、いったい何のつもりなのだと疑問を抱いたことのある人は少なくないだろう。これまで気に留めなかったが、さすがに「トランプ教皇」の画像には度肝を抜かれたという人もいるかもしれない。 昨今のトランプ政権の公式アカウントは、かなりの頻度でAIスロップをソーシャルメディアに投稿している。とりわけ目にする機会が多いのは、トランプ大統領を教皇やスターウォーズの登場人物として描いたナルシスティックな画像だが、その他にもトランプ政権が強制送還した人々をモチーフとして描いた「Hope」のポスター（オバマ政権を象徴する画像の一つ）風の画像や、当局者をジブリ風に描いた画像などもある。 著名なテクノロジー系ジャーナリストたちによる米メディア「404 Media」は2025年5月7日、「The AI Slo

OpenAIの画像生成で作られた、ジブリ風のサム・アルトマンのイラスト。Effie Webb/OpenAI's 4o tool サム・アルトマンはAIについて、人々がアートを創造しやすくするものであり、それは社会にとって「純粋な勝利」だと語っている。OpenAIのCEOであるアルトマンは、ChatGPTのジブリ風画像生成に関する反発を受けて、生成AIツールを擁護した。彼はインタビューで、AIツールがクリエイティビティのハードルを低くすると語った。OpenAIの新しい画像生成ツールの発表は、スタジオジブリ風画像の津波を引き起こし、著作権に関する懸念を高めたが、サム・アルトマンはAIによるアートが社会にとって「純粋な勝利」だと考えている。 2025年4月6日にYouTubeで公開された、起業家でコンテンツクリエイターのヴァルン・マイヤ（Varun Mayya）によるインタビューで、アルトマンは

コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕

ケニアの「現代の奴隷制」を終わらせるよう訴え 2024年5月、ワシントンで、ケニアのウィリアム・ルート大統領を迎え、米国とケニアのパートナーシップ60周年の国賓晩さん会を催す米バイデン大統領宛に、公開状が届いた。公開状はケニアの技術者100人からのもので、米国のテクノロジー分野における「現代の奴隷制」を終わらせるよう訴えるものだった。 手紙を書いたのは、メタ、OpenAIなどの米企業でデータ・ラベラーやコンテンツモデレーター、AI関係の仕事に就く労働者だ。バイデン政権に、米国企業がケニアの大手テクノロジー企業の従業員との協力を約束し、今後のパートナーシップにおいて、国際労働規則を遵守するという条項を含むよう求めた。 ケニアは世界でも指折りの新興テクノロジーハブであり、「シリコンサバンナ」と称されているが、失業率が高い。そのケニアで、テクノロジーブームは特に多くの若者に仕事をもたらした。 し