OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」
米OpenAIで人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日（現地時間）、退社するとXで発表した。 「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」という。 Superalignmentチームはライケ氏と、共同創業者でチーフサイエンティストのイリヤ・サツケバー氏が率いてきた。サツケバー氏は14日に退社を発表している。 ライケ氏は、「超知能の構築は本質的に危険な取り組み」であり、「OpenAIは人類全体に大きな責任を担っている」が、「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らす。 OpenAIは昨年2月、AGI（Ar
チャットＧＰＴの回答「官僚が結局精査」、非公表情報を入力する恐れも…答弁導入に疑問の声（読売新聞オンライン） - Yahoo!ニュース
西村経済産業相が１１日の閣議後の記者会見で対話型ＡＩ（人工知能）「チャットＧＰＴ」で国会答弁を作成する可能性に言及したことについて、専門家からは情報管理の安全性を懸念する声や、導入の効果を疑問視する指摘が出ている。 【図表】ひと目でわかる…チャットＧＰＴの仕組み 「結局、チャットＧＰＴの回答を官僚が精査しなければならない」。西村氏が検討理由に掲げる「国家公務員の業務負担軽減」について、元官僚の小峰隆夫・大正大客員教授はそんな見方を示した。 小峰氏は、諸外国の制度の調査など、官僚の業務でチャットＧＰＴを使うメリットは多いとしつつ、「公開情報の中から無理やり回答を作り出すことがあり、うのみにするのは危険だ」と指摘。「政府の公式見解を示す国会答弁をチャットＧＰＴに丸ごと委ねることにはなり得ない」と話した。
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
