AIが生成したコードは信用するな、脆弱性の巣窟になりがちなワケ

人間の質問に対して、AI（人工知能）が適切な回答を返してくれる「ChatGPT」が相変わらず大人気だ。先日、テレビのワイドショーがChatGPTを取り上げているのを見た。タレントがChatGPTに悩み事を相談し、アドバイスを受けるという内容だ。「最近のAIはこんなことまでできるのですか」と驚いてみせるというよくある展開である。 実際にChatGPTの回答には感心させられることが多い。なぜならChatGPTは「人間の好み」を知っているからだ。米OpenAI（オープンAI）が、「GPT」という巨大な基盤モデルを基に、人間のフィードバックに基づく強化学習を施している。 もっとも、間抜けな回答を返してくることもそれなりにある。目玉焼きの作り方をChatGPTに尋ねたところ、「卵に水と砂糖を入れてかき混ぜ、それを目玉焼きの形に焼く」という回答を返された。それでは目玉焼きではなく卵焼きになってしまう。

[bocuno]

人間が書いたコードも大概信用できないですけどね

[poad1010]

この記事をおすすめしました