AIに仕込んだ合言葉ひとつでロボットが人の手を切る。外部システムに潜む脅威

Secret trigger words could make AI-powered robots dangerous—and these researchers developed a defense - Binghamton News AIロボットに潜む危険性 大規模言語モデル（LLM）は、膨大な量の文章を学習して、人間が書いたような自然な文章を作り出すAIである。 生成AI、チャットボットとして、ChatGPTやgemini、Claudeなどを使用している人も多いが、これらもLLMだ。 LLMを使えば、人間が言葉で伝えた指示からロボット用の作業計画を自動で作ることが可能だ。 LLMの人気が高まる一方で、作業計画づくりに使う際の安全面のリスクについては、ほとんど研究されてこなかった。 アメリカ・ニューヨーク州立大学ビンガムトン校のコンピューター科学者チームは、LLMが悪用されると、ロボ