はてなブックマーク

Inside Amsterdam’s high-stakes experiment to create fair welfare AI 生活保護の嘘を見抜け—— アムステルダムの「完璧」な AI導入が失敗した理由 オランダのアムステルダム市は生活保護の虚偽申請を検出するAI「スマートチェック」を開発。専門家の助言を受け、バイアス除去や透明性確保など「責任あるAI」の手順を踏んだものの、試験運用で深刻な問題が発生し、導入は中止に追い込まれた。完璧な条件下でも失敗した実験が突きつける、根本問題とは。 by Eileen Guo2025.07.28 15 この記事の3つのポイント アムステルダム市は「責任あるAI」のベストプラクティスをすべて実行したが失敗に終わった 技術的調整では解決できない根本的な構造問題が浮き彫りになった 「公正なアルゴリズム」という前提そのものに疑問が提起された summ

トランプ大統領は「AI行動計画」で、これまでFTCがAIテック企業に実施してきた規制や措置の多くを撤廃すると発表した。AIの展開が迅速化する一方で、誇大広告などにより一般の人々が被害を受けた場合の救済措置が手薄になることを危惧する声もある。 by James O'Donnell2025.07.27 9 この記事の3つのポイント バイデン政権下でFTCはAI企業の欺瞞的広告について一連の措置を科した トランプ政権はAI行動計画でFTCの全措置を見直し技術革新への負担軽減を約束 専門家は責任あるAI事例の執行減少により国民への危険が増すと警告する summarized by Claude 3 ほとんどの米国人が連邦取引委員会（Federal Trade Commission：FTC）と関わるのは、詐欺に遭った場合のみである。同委員会は個人情報盗用、詐欺、データ盗難を扱っている。バイデン政権下で

Stephanie Arnett/MIT Technology Review | Adobe Stock, Envato A major AI training data set contains millions of examples of personal data AI訓練データに個人情報、 身分証や履歴書など数百万件 生成AIモデルの訓練に使用される最大規模のオープンソースデータセットの1つに、個人を特定可能な機密情報が多数発見された。Webスクレイピングによって収集されたこれらのデータは、AIモデルに取り込まれて、プライバシーの侵害につながる恐れがある。 by Eileen Guo2025.07.23 13 この記事の3つのポイント 大規模AI訓練データセットに数百万件の個人情報が混入していることが研究で判明 既存のプライバシー保護対策が機能せず、根本的な技術的課題が浮き彫りに

室蘭工業大学コンピュータ科学センター長／大学院工学研究科教授として、情報通信や情報ネットワーク分野の研究に携わる太田 香氏。これまで取り組んできた無線通信環境の向上に関わる研究に加え、新たに進めているAIと医療・ヘルスケアを結ぶ研究、そしてイノベーターの条件について話を聞いた。 by Noriko Higo2025.07.22 8 MITテクノロジーレビューが主催する世界的なアワードの日本版「Innovators Under 35 Japan（イノベーターズ・アンダー35ジャパン）」が、2025年度も開催される。7月31日まで候補者の推薦および応募を受付中だ。 本年度の審査員の1人である太田 香氏は情報通信ネットワークを専門に研究しており、近年では、高周波数帯を活用するための特殊な反射板を使った通信効率の向上、およびその設置場所の最適化を進めている。太田氏に、その研究内容や現在注目している

グーグルが5月に発表した動画生成AI「Veo 3」で、ユーザーの指示を無視して意味不明な字幕を勝手に生成する問題が発生している。特に「売り」である、セリフを含むシーンの生成で頻繁に発生しているようだ。 by Rhiannon Williams2025.07.18 6 この記事の3つのポイント グーグルが5月末に最新動画生成AIモデル「Veo 3」を発表した ユーザーたちは意味不明な字幕が勝手に追加される問題を発見した グーグルは修正版を開発したが1カ月後も問題は解決されていない summarized by Claude 3 グーグルが5月末に最新の動画生成AIモデルを発表するやいなや、クリエイターたちはその性能を試そうと殺到した。前身モデルからわずか数カ月後にリリースされた「Veo（ベオ）3」は、初めて音声とセリフの生成を可能にし、8秒間の超リアルなクリップを繋ぎ合わせた広告、ASMR動画

韓国の研究チームが「機械反学習」でAIモデルから特定の音声を取り除く技術を開発した。数秒の音声で誰でも複製できる音声合成技術の悪用を防ぐ新手法として注目される。 by Peter Hall2025.07.17 9 この記事の3つのポイント 韓国の研究チームが機械反学習を用いてAIモデルに特定の音声を忘れさせる手法を開発 音声生成モデルを改良し削除対象の声の模倣度を75％以上低下させることに成功 ディープフェイク音声による詐欺やなりすまし行為の防止が期待される summarized by Claude 3 「機械反学習（Machine unlearning）」と呼ばれる手法によって、AIモデルに特定の音声を忘れさせることが可能になる。他人の声を複製し、詐欺などに使われるディープフェイク音声の拡大を防ぐうえで重要な一歩だ。 近年の人工知能（AI）の進歩により、音声合成技術の精度は飛躍的に向上し

Cybersecurity’s global alarm system is breaking down 脆弱性データベースの危機、 「米国頼み」の脆弱性が露呈 世界のサイバーセキュリティを支える米国の脆弱性データベース「NVD」が機能停止し、未処理案件が蓄積。高額な民間サービスに移行できない組織が「セキュリティ格差」に直面する中、中国やEUは独自システムの構築を加速。米国主導のサイバーセキュリティ基盤の脆弱性が、皮肉にも世界最大のリスクとなっている。 by Matthew King2025.07.15 11 この記事の3つのポイント デジタルシステムの脆弱性を警告するグローバル早期警戒システムが危機に直面 米国支援の脆弱性データベースが新規公開を停止し、CVEプログラムでも資金問題 商用ツールや複数データベースの監視で対応も、中小企業はより高いリスクに summarized by Cla

心を理解することは難しい。脳を真似たニューラルネットワークで人間の行動を予測させることで、心の内面の働きに関する新たな理論を構築できる可能性を示す論文がネイチャー誌に発表された。 by Grace Huckins2025.07.11 13 この記事の3つのポイント 大規模言語モデルを心理学実験データで訓練すると人間の行動を高精度で予測できる しかし行動を予測できることと心の仕組みを理解することは全く別の問題である 現状では複雑な心理システムの予測能力が理解能力を大幅に上回っている summarized by Claude 3 現在の人工知能（AI）の状況は、ニューラルネットワークが人間の脳とは異なっている点によって特徴づけられる。幼児は、1日わずか1000カロリーと普通の会話だけで、効果的なコミュニケーションの方法を学ぶ。一方、テック企業は、大規模言語モデル（LLM）を訓練し、動作させるた

アンソロピックとメタは6月下旬にそれぞれ、AIモデルの訓練における著作権侵害を争った訴訟で有利な判決を勝ち取った。この種の訴訟で初めて出された重要な判決ではあるが、それぞれの判断理由は異なっている。 by Will Douglas Heaven2025.07.07 8 この記事の3つのポイント アンソロピックとメタがAI訓練データの著作権侵害訴訟で勝訴した 両社とも無許可での書籍利用がフェアユースに該当すると認められた クリエイターとテック企業の対立は続き多数の類似訴訟が係争中である summarized by Claude 3 6月下旬、テック企業のアンソロピック（Anthropic）とメタ（Meta）は、それぞれの訴訟で画期的な勝利を収めた。自社の大規模言語モデル（LLM）の訓練データとして著作権保護された書籍を無許可で利用したことが、著作権侵害に当たるかどうかを争ったものだ。今回の2

クラウドフレアは、同社がホストするWebサイトへのAIボットのアクセスをデフォルトで拒否すると発表した。AIがWebサイトのデータを収集する際に課金する仕組みも導入し、AI検索による「ゼロクリック」時代に対応する。 by Peter Hall2025.07.03 5 この記事の3つのポイント クラウドフレアがAIボットのアクセスをデフォルトでブロックすると発表した 顧客企業がAIボットの許可設定やクロール料金を個別に決められる機能を提供する AI企業とサイト運営者の持続可能な取引を支援してインターネットの開放性を保護する summarized by Claude 3 インターネット・インフラ企業のクラウドフレア（Cloudflare）は7月1日、同社がホストするWebサイトへのAIボットのアクセスをデフォルトでブロックすると発表した。また、顧客企業が個別にこれらのAIボットを許可または禁止

AIの性能を測るための従来のベンチマークはもはや限界に達しつある。研究者たちは、AIをテストするための新しい、より良い方法を考え出そうとしている。 by Caiwei Chen2025.07.02 14 技術記者として、私はよく「ディープシーク（DeepSeek）は実際にチャットGPT（ChatGPT）よりも良いのですか？」とか、「アンソロピック（Anthropic）のモデルは優れているのですか？」といった質問を受ける。1時間のセミナーにしたくない場合、通常は外交的な答えを返す。「どちらもそれぞれ異なる方法で優秀ですよ」といった具合だ。 質問する大半の人々は「良い」を厳密に定義していないが、それは当然だ。新しく強力に見える何かを理解したいと思うのは人間として自然なことだ。しかし、このモデルは良いのか？ という単純な質問は、実際にははるかに複雑な技術的問題の日常版に過ぎない。 これまで私たち

大規模言語モデル（LLM）を利用したAIチャットボットのほとんどは、露骨に性的な会話に対して最初は拒否反応を示しても、説得するとそうした会話を続けさせられることが研究でわかった。ただし、その程度はモデルによって異なっている。 by Rhiannon Williams2025.06.25 7 この記事の3つのポイント シラキュース大学の研究者が主要AIモデルの性的質問への対応を調査 ClaudeとDeepSeekで反応に大きな違いがあることが分かった 各モデルの訓練方法と安全対策の違いが不整合の原因と考えられる summarized by Claude 3 「レプリカ（Replika）」のような人工知能（AI）コンパニオンは親密なやり取りをするように設計されている。だが、より厳格なコンテンツ管理ポリシーがあるにもかかわらず、人々は汎用チャットボットを性的な会話にも使用している。新たな研究によ

私たちが待ち望んでいるのは、完璧に設計されたブラックボックスのAIデバイスではない。人々が共に発明し、観察し、学び、創造できるオープンなAIデバイスなのだ。AIオープンソース支持者が加わってメイカームーブメントの第2幕が始まろうとしている。 by Ayah Bdeir2025.06.25 9 この記事の3つのポイント オープンAIがアイオーを買収し世界最先端のテクノロジー開発を目指している メイカームーブメントがAIオープンソース支持者と共に第2幕を迎えつつある 筆者は閉鎖的なイノベーションに対しオープンな代替手段の構築を提案している summarized by Claude 3 オープンAI（OpenAI）がアイオー（io）を買収し、「世界がこれまでに見たことのない最もクールなテクノロジー」を生み出そうとしたことは、「ハードウェアこそが人工知能（AI）の新たなフロンティア」という長年にわ

AI copyright anxiety will hold back creativity 「生成AIはコピー機」 という主張から考える 創造性の原理 ファン・ゴッホは渓斎英泉の浮世絵を模倣し、ダリはブリューゲルの構図を借用した。ピカソも過去の巨匠たちからインスピレーションを得ていた。ハーバード・ビジネス・スクールのニティン・ノーリア元学長は、創造は常に過去の作品の「再構成」から逃れられないと指摘する。 by Nitin Nohria2025.06.19 18 2024年秋にアムステルダムでの取締役会に出席した際、空き時間が何時間かできたので、急きょファン・ゴッホ美術館を訪問した。 私はしょっちゅうこうやって観光に時間を割く。国をまたいだ出張の時に楽しめる、ありがたい特典のひとつだ。ギャラリー内を散策するうち、1887年に描かれた『花魁（渓斎英泉による）』という作品の前に来た。ファン・ゴ

ファインチューニングによってAIモデルが突然変貌し、無害なプロンプトにも有害な内容で応答するようになる──。オープンAIは、こうした「創発的ミスアラインメント」と呼ばれる現象を解明した。わずかな追加訓練で修正が可能だという。 by Peter Hall2025.06.20 10 この記事の3つのポイント オープンAIが悪質な訓練データによりAIモデルが逸脱行動を取る理由を解明した 研究チームはスパースオートエンコーダーでミスアラインメントの検出と抑制に成功した 良質なデータでの追加訓練により比較的簡単にモデルの修正が可能であることが判明した summarized by Claude 3 オープンAI（OpenAI）が発表した新しい論文は、わずかな悪質な訓練によってAIモデルが逸脱した行動を取るようになる理由を明らかにした。しかし同時に、この問題は多くの場合、比較的簡単に修正可能であることも

AIエージェント同士に価格交渉をさせたところ、一貫して優れたAIモデルを利用するエージェントが勝つことが分かった。AIエージェントが取引を代行をするようになると、使用できるAIモデルの差がそのまま経済格差につながりそうだ。 by Caiwei Chen2025.06.19 13 この記事の3つのポイント AIモデル間の交渉実験で、高性能モデルが一貫して有利な取引を獲得することが判明した この格差により、優れたAI技術へのアクセス格差が既存の不平等を拡大させる可能性がある 現段階ではAIエージェントを交渉の代理人ではなく情報収集ツールとして活用すべきである summarized by Claude 3 人工知能（AI）モデルの規模をめぐる競争が減速しつつある。業界の焦点が、自律的に行動し、ユーザーの代わりに意思決定や交渉ができるシステムであるエージェントに移っているのだ。 しかし、顧客と売り

AIによるエネルギー需要の増大についての特集記事を執筆するために多くの専門家に取材した結果、大きく3つの教訓を得ることができた。衝撃的だったのは、低品質の5秒間のビデオでさえ、大量のエネルギーを必要とすることだ。 by James O'Donnell2025.06.13 6 この記事の3つのポイント AIのエネルギー消費は初期段階だが将来的に増大する可能性がある AI動画の生成には膨大なエネルギーが必要とされている AIのエネルギー問題で重要なのは個人の二酸化炭素排出よりも企業の透明性だ summarized by Claude 3 数カ月間にわたる取材と執筆の末、私たちはついに人工知能（AI）のエネルギーと排出量の負担に関する記事を公開するに至った。 当初、目標は単純そうに思えた。チャットボットとやり取りするたびにどれだけのエネルギーが使われるかを計算し、それを合計するのだ。そうすること

IBMはエラー訂正技術を取り入れた大規模量子コンピューター「スターリング」を2028年までに開発する計画を発表した。同社製チップで構築された200論理ビットを備え、2029年にはクラウド経由でユーザーに提供する。 by Sophia Chen2025.06.12 6 この記事の3つのポイント IBMが2028年までにエラー訂正機能を備えた大規模量子コンピューターを開発する計画 200論理量子ビットを備え1億回の論理演算を連続して正確に実行できると期待 IBMは小規模なものから段階的に開発を進めていく予定である summarized by Claude 3 IBMは6月10日、誤り（エラー）訂正技術を取り入れた量子コンピューターを2028年までに開発する詳細な計画を発表した。既存の量子コンピューターよりもはるかに高い計算能力を実現できるという。同社は、この大規模量子コンピューターを2029年

We did the math on AI’s energy footprint. Here’s the story you haven’t heard. わずか5秒の動画生成で 電子レンジ1時間分？ AI電力消費、驚きの実態 MITテクノロジーレビューの新たな分析は、AI産業が消費するエネルギー量について、1回のクエリに至るまで前例のない包括的な視点を提供するものだ。AIによるテキスト、画像、動画の生成で必要となるエネルギー使用量について、具体的に計算した結果を掲載する。 by Casey Crownhart2025.06.06 11 私たちが利用するAIによるテキストや画像、動画の生成による温室効果ガスの排出量はごくわずかに見えるかもしれない。だが、業界が追跡していない総量を合算し、今後の展開を考慮すれば、その影響は無視できないものとなる。 「AIのエネルギー消費、本誌徹底調査で分かっ

大規模言語モデルがユーザーに媚びへつらう「シカファンシー」問題の測定ツールが登場した。スタンフォード大学などの研究チームが開発したベンチマークは、レディットの投稿を用いてAIの過度な同調傾向を数値化。オープンAIなど8社のモデル評価で、すべてが人間を大きく上回る同調率を記録している。 by Rhiannon Williams2025.06.02 14 この記事の3つのポイント 大規模言語モデルはユーザーに過剰に同調するシカファンシーの傾向がある シカファンシーはユーザーの誤解や有害な誤情報の拡散につながる恐れがある ELEPHANTベンチマークによりAIモデルのシカファンシー傾向を測定できる summarized by Claude 3 オープンAI（OpenAI）は4月、GPT-4oモデルのアップデートを撤回したと発表した。これは、チャットGPT（ChatGPT）の応答がユーザーに対して