Google、AIによる予約電話代行への批判に「AIだと名乗らせる」と説明

米GoogleがGoogle I/O 2018で披露した、AIアシスタント「Googleアシスタント」がユーザーに代わって電話し、先方の人間と会話して予約などを実行する機能が物議を醸している。 この機能は、同社の新しいAIシステム「Google Duplex」によるもので、まだ開発段階だとして紹介された。基調講演では、美容院の予約とレストランの予約の2つのデモが披露されたが、いずれも人間と区別のつかない自然な会話になっており、会場からは驚きの声が上がった。 これについて、ノースカロライナ大学准教授でIT企業に批判的なツイートで知られるゼイネプ・ツーフェクシ氏は、Googleアシスタントは人間のふりをして電話をしただけでなく、相手をだますために「ふーむ」とか「ああ」とまで言ったとして「シリコンバレーの倫理は失われ、制御不能だ」とツイートした。 他にも、相手にAIだとわからないように会話するb

[rgfx]

Google、頭いい連中が「バカがリスクや見落としに気づかず、結果としてえらくEvilなディストピアを作り上げる」アンチパターンを慎重に避けながら、Digital wellbeingをがんばってる感じがある。

[sysjojo]

日本でオレオレ詐欺に使われる頃には、「エーアイさんには振り込まないで」とATMに貼られることでしょう。

[amsoat]

すごいの一言。

[keikei1009]

“透明性を重視していると語り、会話を（コンピュータ的ではなく）人間に近づける目的は電話の相手に快適な体験を提供するためであり、相手は自分がAIと話していることについては気づくようにすると説明していた”