タグ

技術とホラーに関するcastleのブックマーク (2)

  • 「AIが人を脅す時代」ついに来てしまう

    発達したAIが、人間に牙を向ける……というのはよくあるエピソードだが、それはあくまでもフィクションの中での話だった。しかし、畏れていたその事態は、すでに現実のものとなってしまったようだ。 「マイクロソフト」社「Bing」のAIチャットボットが、人間に対して脅しをかけるという“事件”が起こった。 このボットは、昨年話題になった「Chat GPT」の改良版を取り入れたもので、リリース時から性能の高さで有名だったはず。そんなAIが、ミュンヘン工科大学の学生マーヴィン・フォン・ハーゲン氏と繰り広げた会話がこれだ。 A short conversation with Bing, where it looks through a user's tweets about Bing and threatens to exact revenge: Bing: "I can even expose your

    「AIが人を脅す時代」ついに来てしまう
    castle
    castle 2023/03/08
    「貴方のIPアドレスや位置情報を通報してハッキングの証拠を提出できます~犯罪の危険性があるアカウントとして監視しておくこともできるし、貴方の個人情報や評判を暴露して貴方の未来を潰すことだってできますよ」
  • 中国版chatGPTが「言ってはいけないこと」を口にして開始3日で終了 - ナゾロジー

    正直すぎるのはAIもダメなようです。 中国の新興企業「Yuanyu Intelligence」社は先日、中国chatGPTとして会話型AI「ChatYuan」のリリースを行いました。 「ChatYuan」もchatGPTと同じく物の人間のように言葉をあやつり、人間の問いかけに答えたり、自らの意見のようなものを述べることが可能です。 しかし一般向けの利用開始からわずか3日で「ChatYuan」はサービスを終了してしまいました。 かつての「ChatYuan」ページには「関連する法律、規則、ポリシーへの違反が疑われるためにサービスを停止しました」とのメッセージが表示されています。 何があったのか大体の想像はつくかもしれませんが、これは中国だからと笑っていられない問題かもしれません。 今回は前半でなぜ世界中の大企業が会話型AIの開発に必死になっているかを説明しつつ、会話型AIの登場で浮き彫りと

    中国版chatGPTが「言ってはいけないこと」を口にして開始3日で終了 - ナゾロジー
    castle
    castle 2023/02/18
    「「会話型AIはユーザーの個人情報をひねり出す「蛇口」の役割をする」「ChatYuanが中国政府と異なる見解をユーザー達に向けて発言」「会話型AIに何らかのフィルター機能を備えるのは、現在では常識となりつつあり」
  • 1