ChatGPT 生成系AIで何ができる？危険性は？｜NHK

2022年11月に公開された、話題の対話式AI「ChatGPT」。 まるで人と話すような自然な対話ができるだけでなく、「小説を書いて」と入力すると物語を、「プログラムを教えて」と入力すると参考となるコードを出力してくれる。命令するだけで回答してくれる手軽さもあり、世界中で注目されているAIの１つだ。 このように命令に対してコンテンツを出力してくれるAIは「生成系AI」（ジェネレーティブAI）と呼ばれ、ChatGPTのような文字や対話だけでなく、画像や音楽を生成するAIなど、さまざまな種類が登場している。 一方で生成系AIをめぐってはリスクについても指摘されている。アメリカの調査会社が2022年末に公表した、2023年の世界10大リスクではロシア、中国に次いで３位に「大混乱生成兵器」というタイトルで「生成系AIの進歩や普及が、政治・経済的な混乱に広く影響するおそれがある」などとしてランクイン

[misshiki]

“2023年の世界10大リスクではロシア、中国に次いで３位に「大混乱生成兵器」というタイトルで「生成系AIの進歩や普及が、政治・経済的な混乱に広く影響するおそれがある」などとしてランクイン”

[mos-tantan]

嘘情報を危険視するならAIよりも人間の方が悪質だ

[ninnin2]

“だ。 清水さんはChatGPTに、主人公やヒロインの設定や舞台といった、物語を構築するために必要な最低限の情報を与え、どの”

[kjin]

もう手遅れなんだな“複数の専門家は「日本でもすでにさまざまな不正に使われてる可能性は十分あるが、AIが生成したかどうかを確認する方法が確立しておらず実態は不透明だ」などとしている。”

[Imamura]

仕事の進め方などを提案してくれるメンター的な役割について知りたい

[ya--mada]

このノリにはあんましついていけないんだよなぁ

[shunkeen]

悪意のあるコードの生成みたいな倫理に反する文章の生成依頼、特にサービス提供側の規制を回避する脱獄（jailbreak）行為はサービスへの攻撃とみなされてアカウント停止くらいそう。

[takuver4]

犯罪への利用か。これは防ぐの難しそうだなぁ。