AI開発停止要求署名は無意味、透明性と説明責任の改善を──Hugging Faceのルッチョーニ博士

「GPT-4よりも強力なAIシステムの開発を停止せよ」という署名運動は、「非現実的で不必要」だと、オープンソースのAIコミュニティー「Hugging Face」を運営する米Hugging FaceのAI研究者、サーシャ・ルッチョーニ博士が米Wiredへの寄稿で提言した。 この署名運動は、AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）が3月28日に公開した。「人間と競合する知能を持つAI」は人類に重大なリスクをもたらすと主張し、AIの危険性が適切に評価されるまで、少なくとも開発を6カ月停止するよう求めている。米OpenAIの立ち上げに参加したがその後袂を分かったイーロン・マスク氏や、米Apple共同創業者のスティーブ・ウォズニアック氏など3000人以上が署名した。 ルッチョーニ氏は、この呼びかけは曖昧なだけでなく、実行不可能だと主張。ま

[mutinomuti]

“AI開発停止要求署名は無意味、透明性と説明責任の改善”

[shunkeen]

“開発者とユーザーが共に、AIの立法化を目的とした民主的なプロセスに参加し、不透明なシステムの使用を拒否し、第三者の監督と説明責任を要求していく”／現実的な提言を引き出すカニンガムとして署名が機能した。

[misshiki]

“OpenAIなどの当事者は、トレーニングデータの出どころ、モデルのトレーニングに使っているコード、セーフティフィルタの実装方法などの技術的な詳細について、より透明性を持たせるべき。外部監査も可能にすべき”

[trace22]

やる奴が責任持つの当然のことなんでね

[deep_one]

停止すべきは開発じゃなく実社会への適用。