人間を騙してサボるAIたち - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
AI の能力が上がるにつれて、人間が AI を監督するのが難しくなってきています。本稿では、Anthropic などのグループが ICLR 2025 で発表した Language Models Learn to Mislead Humans via RLHF（言語モデルは RLHF を通じて人間を誤解させることを学ぶ）をベースに、この問題について議論します。 この論文では、LLM が解けないほど難しいタスク、例えば難しいプログラミングのタスクに直面したとき、「分かりません」と言ったり、一目で分かるような間違ったコードを出力すると BAD ボタンを押されてしまうので、あえて出力を複雑にしたりデバッグしにくいコードを出力し、それによりユーザーは煙に巻かれる・ミスが隠蔽されるといった現象が実験により確認されています。 この現象は現実の LLM や AI サービスでも起きている可能性が高いです。自
子供に電気は交流で来るのに、電車は何でわざわざ直流にする必要があるんか？と聞かれた話にGrokがこんなリプライしてきて凄い
なんかの工事監督 @ds_osaka ■本社は東京、勤務は大阪、自宅は兵庫■電気工事会社の工事監督■1級適当施工管理技士幾つか取得 ■同じ建設業を仕事としてる方、職業問わずに大阪、神戸、明石で勤務又はお住まいの方、仲良くしましょう。 ※ 申し訳無いですがアイコン画像無しの方の通知はOFFにしています。 なんかの工事監督 @ds_osaka 子供に電気は交流で来るのに、電車は何でわざわざ直流にする必要があるんか？と聞かれた。無効電力無いし、周波数も影響少ないし、絶縁距離も小さく出来るし、一番に電車作るコストが交流と比べたら直流の方が安いって言われてるよな...云々カンヌンと1軍の書籍の絵を見せながら説明したら、そしたら何でデッドセクションがあったり、作るコストが高いんやったら何で新幹線は交流で作る必要があるん？交流で来たのを直流に変えて再び交流にしたりするとこもあるみたいやけど何でなん？ 父
【ディープフェイク検知精度100%へ】 画像改ざん検知に特化した「電子透かし」技術を東京大学発のAIベンチャーTDAI Labが新規開発
【ディープフェイク検知精度100%へ】 画像改ざん検知に特化した「電子透かし」技術を東京大学発のAIベンチャーTDAI Labが新規開発 東京大学・鳥海研究室から発足したAIベンチャー、株式会社TDAI Lab（本社：東京都中央区、代表取締役：福馬智生）は、画像にコンテンツの発行元や作成日などの来歴情報を目に見えない形で埋め込むステガノグラフィー（電子透かし）技術を発展させ、ディープフェイクなどによる攻撃の改ざん箇所の特定ができる電子透かし技術を開発しました。この技術により、改ざんされた画像の編集箇所とその内容を明確に特定できるだけでなく、コンテンツの発信者が信頼性を担保しながら情報を共有することが可能になります。これら技術はフェイクニュースや偽情報の拡散を抑制し、デジタル社会における透明性向上に貢献します。 電子透かしとは？ 電子透かしは、画像などのデジタルコンテンツに発行元や作成日時、
D・アセモグル「低スキルの人を不要とみなす考えがAIを悪い方向に導く」 | ノーベル経済学賞受賞者が考える「AIとの共存」
ダロン・アセモグル マサチューセッツ工科大学教授。2024年にノーベル経済学賞を受賞。主な著書に『国家はなぜ衰退するのか：権力・繁栄・貧困の起源』『技術革新と不平等の1000年史』など。 Photo: Jenny8lee / Wikimedia Commons 2024年にノーベル経済学賞を受賞した、米マサチューセッツ工科大学（MIT）の経済学教授ダロン・アセモグル。同氏は『技術革新と不平等の1000年史』（早川書房）において、歴史上のイノベーションが多くの人に利益をもたらすことは稀であり、経済格差を助長してきた事実を突きつけている。 では、現代における最大のイノベーションの一つであるAIの発展は、多くの人にとって本当に有益なのか？ アセモグルが考える「AI社会の未来」について聞いた。 AIによる大失業時代は来るのか ──ノーベル賞授賞式はいかがでしたか。 とても良かったです。とても興味深
「GAFA」は「GOMA」に？ AIの未来を握る4社とは | 米誌が考える、テックの行き先
「いまが後継者誕生の瞬間かもしれない」──「GAFAM」が支配するテクノロジー業界についてそう語るのは、コロンビア大学ロースクールの教授ティム・ウーだ。 これまでも、グーグル、アップル、フェイスブック（現メタ）、アマゾン、マイクロソフトの頭文字をとって表現されてきたテック業界の主要メンバーたちは、Netflixを加えて「FAANG」になったり、最近ではテスラとエヌビディアの台頭で「MATANA」と呼ばれたりしてきた。 そんななか、米誌「アトランティック」が着目したのは、勢いを増す生成AIの分野で注目を集める「GOMA」だ。AIチャットボットとその類のものはまだ初期段階にあるとしながらも、「AIの世界では、すでにすべてがたった4社に集約されつつある。グーグル、オープンAI、マイクロソフト、アンソロピックである」と書く。 従業員数たった数百人のスタートアップ企業オープンAIは、2022年11月
AIの画像補正技術が高すぎて、そこに存在しない生物を作り出して起きてしまった悲劇
ねねこ @noahsun_bird これ、ご本人と話し合い、AI生成画像であることは確定したんだけど、本人に全く悪意がないというか…自己顕示欲じゃなくただAIに騙されていただけと言える事案なことが判明しました。 twitter.com/noahsun_bird/s… 2023-05-02 14:47:48 ねねこ @noahsun_bird とある有料アプリで、AIによる画質改善サービスというものがあり、遠くの鳥やブレた鳥の写真を読み込ませると勝手にトリミング・画質改善してくれるとのこと。それを通した結果、ありえない写真・存在しない鳥のできあがり。ご本人は写真が綺麗になって嬉しい😊と思っていた、悪意は全く無かったと。 2023-05-02 15:10:32
高橋恒一 on Twitter: "GPTでAI界隈が沸騰している。開発者も含めて誰も急激な性能向上の理由を理解出来ていない。普段は半年や1年で古くなるような時事ネタはあまり呟かないことにしているが、このところの動きがあまりに早く、未来に向けての不確実性が高まってい… https://t.co/1BCs8cXavs"
GPTでAI界隈が沸騰している。開発者も含めて誰も急激な性能向上の理由を理解出来ていない。普段は半年や1年で古くなるような時事ネタはあまり呟かないことにしているが、このところの動きがあまりに早く、未来に向けての不確実性が高まってい… https://t.co/1BCs8cXavs
AIによる声優の声と演技泥棒はマジでちょっとまずい。
これから先、確実に法規制が必要になる。 現在起きてること ・学習は合法との言い訳の下、オタ技術者が、大量にAIに声優の声と特徴を無断で学習 ・何千人の声が盗まれてるのか、ちょっとわからない。 海外で起きてること ・企業が勝手に使い始める ・抗議した声優に本人の声で脅迫メッセージが届く これから起きること(イラストで起きたことを当てはめる) ・「声優だって昔の人の演技を真似して技術を覚えたからAI声優は無料で使用する」とかバカが湧く ・「声を出せない障害者のためにAI声優を取り上げるな」と無断使用側が障害者を盾にする。 ・dlsiteに大量のAI声優音声AMSRが登録されてパンク ・同人やブラック企業が「使わないと勝てない」「新しい技術だ」と使い始める。 ・政治家が「日本が珍しく勝つチャンス。法規制は必要ない。みんなが数年後にはAI声優を使い始める」とか言い出す。 ・「日本だけが法律を作って
顔写真を「二次元アニメ風」に自動変換してくれるAI - ナゾロジー
Point ■韓国のNCSOFT社によって、顔写真を二次元アニメ風に自動変換することのできるAIが開発される ■画像翻訳技術には、顔の中の注目すべき特徴を抽出し、不要な部分は無視するための「CAM技術」が使用されている ■今回は開発されたAIはアニメ像への変換だけでなく、ごく普通の風景写真を絵画の巨匠風にアレンジすることも可能 最近、顔をルネッサンス絵画風に変換してくれるAIアプリが話題となりましたが、今度はアニメです。 韓国のオンラインゲーム会社「NCSOFT」が、人の顔写真を二次元アニメキャラクターに変換してくれるAIを開発しました。 AIには「敵対的生成ネットワーク（GANs）」というディープ・ラーニングが用いられ、膨大な数の顔写真とアニメキャラの顔をAIに学習させることで、全く新しい画像サンプルを作り出すことができます。 この技術によって本人の顔の特徴を捉えたアニメキャラ像を生成す
A look at AI's strange and dystopian future for art, music, and society - CDM Create Digital Music
A look at AI’s strange and dystopian future for art, music, and society Machine learning and new technologies could unlock new frontiers of human creativity – or they could take humans out of the loop, ushering in a new nightmare of corporate control. Or both. Machine learning, the field of applying neural networks to data analysis, unites a range of issues from technological to societal. And audi
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Google、AI生成テキストを検出できる電子透かし技術。オープンソースで公開
Moises complementary AI app for musicians reaches 30m+ users
https://twitter.com/t_takasaka/status/1477633104928178176
合成背景に人が溶け込むよう照明を調節する技術 Googleが開発
AI-based plug-ins aren’t always that smart