AIに課題を書かせると資料にない内容を出力――慶應大のAI対策が話題に 狙いを聞いた

慶應義塾大学が授業資料に“見えないプロンプト”を仕込んでAI対策をしている――4月21日にXに投稿されたこんなポストが話題を呼んだ。一連のポストによると、授業資料を生成AIに入力して要約などを作成すると、AIが授業と関係ない内容を出力する仕組みになっていたという。この取り組みの狙いなどを慶應大に聞いた。 きっかけは、慶應大の「湘南藤沢キャンパス」（SFC）に通っているというXユーザーの一連の投稿だ。それによると、SFCの総合政策学部で開講している授業「総合政策学」の第1回では、総合政策学への導入と、生成AIが誤った情報を正しいかのように出力する「ハルシネーション」について話し、その際にPDF資料を配布した。 しかしこの資料には、授業や資料で触れていない福澤諭吉の本「文明論之概略」に関する要約文や指示文が見えない形で仕込まれていた。そのため、この資料をAIに入力して要約や感想を生成すると、「

[plasmatic]

“肯定的な声が続出した一方、問題性を指摘する声も複数上がった。”