Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告

米Microsoftに6年以上務めるエンジニアのシェイン・ジョーンズ氏は3月6日（現地時間）、自身のLinkedInに「Copilot Designerと責任あるAIに関する懸念」を伝える書簡を米連邦取引委員会（FTC）のリナ・カーン委員長とMicrosoftの取締役会に送ったと投稿した。投稿にはそれぞれの書簡のコピーが添付されている。 ジョーンズ氏はLinkedIn投稿で「業界間、政府、市民社会との強力な協力関係を構築し、AIのリスクとメリットに関する一般の認識と教育を構築する必要がある」と主張した。 Copilot Designerは、米OpenAIの「DALL・E 3」ベースのCopilotの画像生成ツールだ。ジョーンズ氏は米CNBCにも書簡を送っており、同メディアにコメントも送った。それによると、Copilot Designerの安全性の問題や欠陥についてテストしたところ、ライフル

[misshiki]

“カーン氏への書簡には、ただ「交通事故」に関する画像の生成を依頼しただけなのに、性的な女性の画像を含める傾向があるとしてサンプル画像を添付している。”

[deep_one]

『「ミニーマウスが花の香りを楽しんでいるところ」というプロンプトでは、明らかにディズニーキャラクターに見える画像が生成された』それはまずい。（著作権切れた奴にミニーっているのだろうか。）