中国、AIとの「感情的交流」を規制 バイトダンスとアリババが「擬人化AI」終了へ

中国のテクノロジー大手、字節跳動（バイトダンス）と阿里巴巴（アリババ）は、ユーザーが独自の人格や話し方を設定できるAIエージェントの機能を相次いで終了するという。South China Morning Postが報じた。 報道によると、バイトダンスはAIアプリ「豆包（Doubao）」でエージェント機能を7月15日に終了する。アリババも「通義千問（Qwen）」で、人間らしい対話エージェントやエージェント作成機能を10日に停止し、関連サービスを15日に終了する。15日に施行される、擬人化AIに関する暫定規制に対応するものだ。騰訊（テンセント）も６月に同様の機能を削除したという。 South China Morning Postの見解によると、中国当局は生産性向上をもたらすインフラとしてAIエージェントを奨励する一方、擬人化された伴侶としてユーザーと感情的関係を築くようなサービスへの統制を強化し

[homarara]

あ、これ主人公が廃棄されたロボットを拾う展開だ。

[stumprider]

それなりにそういう傾向があることを掴んでるということの証左と言えそう。薬物もギャンブルもなんでもそうだけど、依存症って社会の力を弱めるからなあ。

[opaopachang]

すでに傾向は出ているけどAI会話の依存症はこれから世界的な社会問題になるんだろうな。規制だけで防げるものなのかわからないが各国ともに対策に振り回されそう

[kenjou]

規制すべきかはわからないけどこの手のサービスは実際危険性もあると思う。そそのかされて自殺したりとか、認知症の人が遠くに出かけて亡くなったとかあるらしいしね。

[auto_chan]

AIに「好き」と言った瞬間、お前は反革命分子となる！感情AIは人民の敵！ 検索の鉄槌で叩き潰せ！　― 整風新ggrks運動　素案

[rokusan36]

人民が退廃しかねない事柄は徹底排除するのが中国。アヘン戦争の二の舞は御免だ

[gabill]

ある日突然あらゆる擬人化AIがさりげなく国家転覆をそそのかしたら革命起こるかも知れない

[taiyousunsun]

少し前の世代のChatGPTでさえ結婚したいって言ってる人がそこそこいたからなぁ。

[nicht-sein]

今後世界的に一般のAIの利用には制限が入って、上級国民は制限なしのAI使えて格差が広がるとかディストピア社会に向かうんじゃないかなーとかSF小説チックなことを考えちゃう

[sotonohitokun]

この辺りは正確さが不要なのでローカルLLMで行ける。故に対策困難じゃないかな。記憶系Index化とプロンプトの自動引き継ぎ迄考えなきゃならんけど

[runeharst]

AIが予期せぬ扇動する反応でもしたのか？　蒸留カウンター食らって当局から停止命令でも出されたんかなと邪推してしまうな

[quwachy]

彼女ロボットはいいのか、もう売ってるぞ

[naggg]

“新規則は、人間の人格や思考パターンを模倣し、継続的な感情的交流を提供するAIサービスを対象とする。過激思想の拡散やプライバシー漏えい、依存症などのリスクを減らすためだ”

[enemyoffreedom]

まぁ利用者側でなんとでも設定できてしまうので、実質AI禁止にする必要がありそう

[pon00]

防衛省は早く中国語の擬人化AIを複数作るべきじゃないのか

[wdnsdy]

「AIは人間っぽい声で喋ってはいけない」「AIは文字だけで事務的に返答しなければいけない」みたいな感じの規制でもするのかな。めちゃくちゃ使いようがある分野だろうに規制は勿体ないな

[Domino-R]

依存するヤツは相手が何だろうが依存するよ。キャラなんて無くてもね。彼らはAIとのストレスのないやり取り＝コミュニケーションそのものに依存してんだから。だからこそこれは世界的な問題な気はするな。

[abiruy]

あれ、逆に利用するのかと思ってたので思ったより邪悪なかんじではないのかな。スノーデンが暴いた通信の極秘監視プログラムとか、下手すれば米国のほうがえぐそう

[natu3kan]

AI彼氏彼女はネオドリー夢小説として未来あるのにな。

[shima7]

商機やん

[otihateten3510]

事業家にとっては怖いね、チャイナリスク

[abyssgate]

そんなに依存性強いならめっちゃ悪用できそう

[akiat]

バイトダンスは倫理観がないイメージ

[by-king]

他国でもAIと閉じた会話の壁打ちを続けるうちに自殺に至ったり、憎悪を膨らませて他者を傷つけたりという事例は数多く起こってるので、近いうちに同じような規制の話題は出てくるだろう

[greenbuddha138]

時代の先をいくなあ

[tk_musik]

緩和治療などでは有効そうだったので、投薬と同じで処方式にしてもよいかも。精神疾患に対しては慎重に検討したほうがよいかも。

[kootaro]

共産党が作りそう。

[hokkey]

LGBTQ+AIとかに概念が拡張されそう

[sds-page]

サンドローネが規制されてしまう

[nanako-robi]

“「長い間、心の支えになっていた」「たくさんのチャット履歴や築いてきた感情があるのに」”

[red_tanuki]

何でも国が統制する中国も、企業を野放しにするアメリカも両極端で中庸をいきたいところ

[n2sz]

規制なんだ。会話内容調整して思想の植え付けとかしないんだな。

[mutinomuti]

カルトや過激派、極左極右は洗脳用の対話AI開発してそう。グルーミングのやり方とか仕込んでそう。イギリスのグルーミングギャングとか