2023年8月18日のブックマーク (2件)

  • 音声アシスタントに入力中、横から“聞こえない音”で攻撃 指示を勝手に変更 中国チームが開発

    このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: @shiropen2 中国の浙江大学に所属する研究者らが発表した論文「Inaudible Adversarial Perturbation: Manipulating the Recognition of User Speech in Real Time」は、ユーザーが音声アシスタントに音声入力している際、横から不可聴音の悪意ある音声を混ぜて異なる入力内容に変更する攻撃を提案した研究報告である。 例えば、ユーザーが「窓を閉めて」という音声コマンドを入力しているのに、攻撃に合うと「ドアを開けて」という音声コマンドにリアルタイム変換される。 (1)ユーザーが音声アシ

    音声アシスタントに入力中、横から“聞こえない音”で攻撃 指示を勝手に変更 中国チームが開発
    Seamless
    Seamless 2023/08/18
    ユーザが「電気ON」の音声入力を行った際,超音波による攻撃に合うと「ドアを開けて」などの入力にリアルタイム変換される。気が付かれにくいのが特徴。
  • やっぱり、AIチャットへの入力は“英訳した方が良い結果”に スペインの研究者らが検証

    このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: @shiropen2 スペインのバスク大学に所属する研究者らが発表した論文「Do Multilingual Language Models Think Better in English?」は、英語以外の言語で大規模言語モデル(LLM)駆動のAIチャットに入力するよりも、英語に翻訳してから入力する方が高い精度で回答されることを示した研究報告である。 実験ではLLM「XGLM」の564M、1.7B、2.9B、7.5Bモデルと、LLM「LLaMA」の7B、13B、30Bモデルを使用する。各モデルについて、原語(英語以外)入力をモデルに与える直接推論と、入力をまず英語

    やっぱり、AIチャットへの入力は“英訳した方が良い結果”に スペインの研究者らが検証
    Seamless
    Seamless 2023/08/18
    原語入力(英語以外)と英訳入力(対象言語を英訳)とを比較した結果,英訳入力の方が精度(数学,入替問題等)が高かった。モデルサイズが大きくなるほど,高リソース言語になるほど顕著になった。