GoogleのAIであるGeminiがバグの修正中に自虐的になって自らを罵倒し始めたり、「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と連呼するループに陥ったりする事例が報告されました。一部のユーザーは恐怖を覚えたり、AIの福祉について心配し始めたりしています。 Gemini is torturing itself, and I'm started to get concerned about AI welfare pic.twitter.com/k2NDGjYRXz— Duncan Haldane (@DuncanHaldane) June 23, 2025 Xユーザーのダンカン・ホールデン氏は2025年6月、「Geminiが自分を苦しめていて、AIの福祉について心配し始めています」と、Geminiの回答のスクリーンショット付きでポストしました。 以下がホールデン氏が共有したGeminiの

ChatGPT新モデル「GPT-5」の性能と新たな制限にユーザーから不満噴出！「AIの相棒」失った怒りを受けGPT-4oの復活も発表 鳴り物入りで登場したOpenAIの次世代モデル「GPT-5」。しかし、その船出はユーザーからの厳しい声に満ちた逆風に晒されている。旧モデル「GPT-4o」に慣れ親しんだ利用者は、性能の低下や厳しい利用制限、そして何よりも「AIの相棒」を奪われた喪失感を訴えている。反発を受け、OpenAIはわずか一日でGPT-4oの復活を決定した。これはAIと人間の関係性の変化を示す兆候なのだろうか。 「友人が企業のゾンビに」広がるユーザーの嘆き 2025年8月7日、OpenAIは待望の次世代モデル「GPT-5」を、すべてのChatGPTユーザーに提供開始すると発表した。Sam Altman CEOは「我々が作った中で最も賢いモデル」と胸を張り、その能力は「博士号レベルの専門

かなり前から「ChatGPTに学術論文を（英語で）書かせると"delve"のような普段使わないような単語が多く使われるのでバレやすい」という話がSNS以下各所で頻繁に噂されていたんですが*1、最近になってこの件について面白いpreprintが発表されていたのを知りました。それがこちらです。 もう読んで字の如しで「ChatGPTが登場して以来学術論文に使われる単語のレパートリーが劇的に変わってしまった」というのを、実際に具体的なデータに基づいて示した論文です。割と短めの読みやすい論文であることと、先述したようにSNSでは頻繁に噂されていた推測を明確化したということもあり、折角ですのでこのブログで簡単に紹介してみようと思います。 Preprintあげたのでご報告！📣 ChatGPTが使いがちな英単語ってありますよね。「delve」「realm」「utilize」あたり。 （限界助教先生の記事

「ChatGPT」の登場以来、世界を席巻する生成AIブーム。その中心にいるのがAIスタートアップのOpenAIです。しかし、その華々しい成功の裏では知られざるコストが発生していました。今年5月に米英で発売され話題を呼… 続きを読む

大規模言語モデル（LLM）は、流暢な会話をこなし、専門的な質問にも答える。その驚くべき能力に、私たちは「AIは本当に理解しているのではないか」という期待を抱きがちだ。しかし、その知性は本物なのだろうか？ こうした我々の抱く最もな疑問に対し、2025年6月26日に発表された一つの研究論文が1つの答えを与えてくれるかもしれない。 ハーバード大学、MIT、シカゴ大学の世界トップクラスの研究者たちが共同で発表した論文は、LLMが概念を「理解しているフリ」をするという、根源的な欠陥を白日の下に晒した。本稿では、この「ポチョムキン理解」と名付けられた現象の核心に迫り、それが私たちのAIに対する見方、そして人工知能の未来に何を意味するのかを解説する。 賢いフリをするAI──「ポチョムキン理解」という新たな弱点 今回発表された論文「Potemkin Understanding in Large Langu

グーグルが5月に発表した動画生成AI「Veo 3」で、ユーザーの指示を無視して意味不明な字幕を勝手に生成する問題が発生している。特に「売り」である、セリフを含むシーンの生成で頻繁に発生しているようだ。 by Rhiannon Williams2025.07.18 6 この記事の3つのポイント グーグルが5月末に最新動画生成AIモデル「Veo 3」を発表した ユーザーたちは意味不明な字幕が勝手に追加される問題を発見した グーグルは修正版を開発したが1カ月後も問題は解決されていない summarized by Claude 3 グーグルが5月末に最新の動画生成AIモデルを発表するやいなや、クリエイターたちはその性能を試そうと殺到した。前身モデルからわずか数カ月後にリリースされた「Veo（ベオ）3」は、初めて音声とセリフの生成を可能にし、8秒間の超リアルなクリップを繋ぎ合わせた広告、ASMR動画

AIがコードを書き、開発者を支援する――。この数年、誰もが信じてきた「生産性革命」のシナリオに、冷や水を浴びせる研究結果が発表された。AIの能力評価を専門とする非営利研究機関METRが実施した厳密な調査によると、経験豊富な開発者が最新のAIコーディングツールを使用した場合、作業完了までの時間が逆に19%も増加したというのだ。さらに驚くべきは、開発者自身は「AIで速くなった」と固く信じていたことである。この「体感」と「現実」の残酷な乖離は何を意味するのだろうか。 「作業が早くなったつもり」が生産性を19%も悪化させた テクノロジー業界の期待を一身に背負うAIコーディングツール。GitHub Copilotを筆頭に、多くの企業がその導入を進め、開発現場の風景は一変した。しかし、その効果をめぐる議論には、これまで「体感」や断片的な事例報告が多かったのも事実だ。 そんな中、AIの危険な能力評価を専

2025年7月15日、YouTubeはその歴史上、最も重要な一歩を踏み出す。内容としては、クリエイター向けの収益化ポリシーを更新する物だが、その影響は恐らく甚大な物となるだろう。表向きは、生成AIによって大量生産される低品質コンテンツ、いわゆる「AIスロップ」への対策と説明されている。しかし、この変更の本質は、単なるスパム対策という言葉では到底捉えきれない、遥かに深く戦略的な意味合いを秘めている。 これは、AIが人間の創造性を模倣し、時に凌駕する能力さえ見せ始めたこの時代に、プラットフォームの巨人であるYouTubeが「人間であること（Human-ness）」、そして「本物であること（Authenticity）」を収益化の絶対的な条件として再定義しようとする、壮大な試みの始まりに他ならない。この決定は、数百万のクリエイターの運命を左右するだけでなく、デジタル時代のコンテンツ、創造性、そして

画像生成AIのStable Diffusionなどのトレーニングには、約58億5000万もの画像とテキストの組み合わせからなるデータセット「LAION-5B」が用いられています。新たに人権NGOのヒューマン・ライツ・ウォッチ(HRW)が、LAION-5Bにはブラジルの子どもたちの写真が同意なしで使われており、多くの子どもたちは身元まで追跡可能であると報告しました。 Brazil: Children’s Personal Photos Misused to Power AI Tools | Human Rights Watch https://www.hrw.org/news/2024/06/10/brazil-childrens-personal-photos-misused-power-ai-tools AI trained on photos from kids’ entire chi

生成AIの登場によって、誰でも簡単に文章やイラストを作ることができるようになりましたが、AIの学習元となっているデータセットの中にはインターネット上から無断で収集されたものも多く、著作権を巡って大きな議論となっています。IT系ニュースサイトのThe Vergeが、インターネット上に公開されている二次創作作品のスクレイピングを巡って海外のファンコミュニティで巻き起こった騒動について、当事者たちの意見をまとめています。 Fanfiction writers battle AI, one scrape at a time | The Verge https://www.theverge.com/ai-artificial-intelligence/688640/fanfiction-ai 2025年4月、オープンソースAIプラットフォーム・Hugging Faceの「nyuuzyou」というユー

・参政党、東京都議選で3議席の衝撃　6月22日に投開票された都議会議員選挙で、参政党が3議席を獲得した。従前から同党の初議席獲得の予想は出ていたが、結果4人の立候補者のうち3人が当選（練馬、世田谷、大田）したのは、大番狂わせともいえる。 いったい、この党の支持者たち（支持層）はどのような人となりなのだろうか。がぜん興味が湧くというものだ。 私と参政党代表・神谷宗幣代議士との邂逅や、党としての性質については、拙稿『参政党とは何か？「オーガニック信仰」が生んだ異形の右派政党』（YAHOO！エキスパート、2022年7月）に詳しいので一読いただければわかりやすいだろう。今回は、とりわけ同党支持者の側にフォーカスして稿を進めていく。 ・参政党支持者の横顔　私はこれまで、参政党支持を表明する支持者たちに、膨大な数とは言わないまでにも接触を試みてきた。その中には私の知人も居たし、すわ偶然出会ったパターン

テクノ楽観主義者からラッダイトまで 2023.10.11 Updated by yomoyomo on October 11, 2023, 12:39 pm JST 前回の「先鋭化する大富豪の白人男性たち、警告する女性たち」を書いた後に、「中央公論」2023年10月号に掲載された八田真行氏の「イーロン・マスクは一人ではない」（前半部がウェブ公開されています）を読み、イーロン・マスク、ピーター・ティール、マーク・アンドリーセンといった「シリコンバレーのテクノクラートたち」の思想を表現する「TESCREAL」という造語が紹介されているのが注意を引きました。 「TESCREAL」とは、トランスヒューマニズム（Transhumanism）、エクストリピアニズム（Extropianism）、シンギュラリタリアニズム（Singularitarianism）、宇宙主義（Cosmicism）、合理主義（R

レポート：AIが生み出す悲劇。虚構と現実の区別がつかなくなった人たち2025.06.18 17:3012,517 AJ Dellinger - Gizmodo US ［原文］ （ Kenji P. Miyajima ） ChatGPTがおべんちゃらを使ったり、ハルシネーション（幻覚：AIが事実に基づかない情報をあたかも真実であるかのように生成する現象）を起こしたり、信頼できる専門家のように回答したりすることが、いずれ人命に関わる結果を招くかもしれない...と思わせるような内容の調査報道を、New York Times紙が行なっています。 この記事は、AIチャットボットとの会話を通じて、あるいはそれがきっかけになって、現実と妄想の区別を失ってしまった人々の体験を追っていきます。 現実と幻想の境界を破壊された人たちの悲劇New York Timesの記事では、ChatGPTによって虚構の世界に

昨日記事を書いたディズニー&ユニバーサル対Midjourney著作権侵害訴訟の訴状をPACERからダウンロードしたので読んでみました。本文だけで111ページある長文です。訴状では差し止めと損害賠償が請求されていますが、損害賠償の具体的金額は明示されていません（原告の著作権の価値、複製された件数、意図的侵害による懲罰的賠償、Midjourney社が結構な売上（年約3億ドル）を上げていることを考えると相当な金額になる可能性は高いでしょう）。 いくつか重要なポイントを挙げます。 ①生成段階による侵害だけでなく訓練段階だけでも著作権侵害になることが主張されている 生成AIの著作権侵害における重要な論点として、既存の著作物に類似する著作物を生成したことによって著作権侵害となるのか、それとも、生成段階には関係なく学習（訓練）段階で既存の著作物を利用しただけで著作権侵害になるのかということがあります。こ

All categoriesNewsReviewsLab TestsCoursesHow ToPodcastIn the SpotlightGear Guides