タグ

AIとニセ科学に関するcinefukのブックマーク (2)

  • 「機械の中の幽霊」ならぬ「AIの中の幻覚」? AIの「ハルシネーション」について考える - YAMDAS現更新履歴

    xtech.nikkei.com 中田敦さんが厳しい論調の文章を書いている。 これに対して、楠正憲さんが「自動運転と違って人命に関わる訳でもなく」と反応しているが、正直これには驚いた。楠正憲さんも2016年の WELQ 騒動を知らないわけはあるまい。検索結果は人命にかかわると言えるのではないか。 この騒動を機に、医師会やジャーナリスト団体が主催する「検索に関する勉強会」に講師として呼ばれる機会がとても増えました。そのとき、「検索エンジンにあがっている誤った情報を患者が信じ込んでしまい、こんなに大変なことが起きている」と、苦しんでいる当事者を目の当たりにしたんです。まるで私がGoogleの中の人間かのように非難を浴びたこともありました。 辻正浩氏が語る、SEOに携わる者の責務と未来 - Marketeer(マーケティア) ワタシの意見は、「この問題を過小評価している人が多すぎる」という星暁雄

    「機械の中の幽霊」ならぬ「AIの中の幻覚」? AIの「ハルシネーション」について考える - YAMDAS現更新履歴
    cinefuk
    cinefuk 2023/02/20
    ロボットが悪意なくニセ科学を広める(創作する)事だって可能だし、それがヒトを殺す事だってあり得る。VOMISA!" AI が間違った事実をでっちあげる「ハルシネーション(hallucination、幻覚)」のことである。"
  • AIを使うには“疑う力”が欠かせない データサイエンティストがNHK「AIに聞いてみた」に望むこと

    NHK総合で「AIに聞いてみた どうすんのよ!? ニッポン」の第4回が、4月13日に放送されました。NHKが独自開発した人工知能AIひろし」が、日が直面する課題についてその解決策を提言する──という番組です。 今回のテーマは「超未婚社会」。少子化の原因ともいわれている“未婚”というテーマに切り込みます。筆者はこれまで第2回、第3回の放送について、データサイエンスの視点で検証記事を書いてきました。 もはや筆者のソーシャル上のタイムラインでは番組の話題を取り上げているデータサイエンティストはほとんど見られない状態ではありますが、今回も番組内でAI人工知能)が提言した内容について、データを基に検証していきたいと思います。 AIは「未婚社会」について、どのような提言を行ったのでしょうか。番組を振り返ってみましょう。 三菱総合研究所が提供する生活者市場予測システムをベースに、例えば「恋人と余暇

    AIを使うには“疑う力”が欠かせない データサイエンティストがNHK「AIに聞いてみた」に望むこと
    cinefuk
    cinefuk 2019/04/18
    NHK「 #AIに聞いてみた」ぼくも見ていたけど、スタッフにもスタジオにもデータ分析の専門家がおらず、 #疑似相関 を「因果関係」のように扱うアホしかいなくてうんざりした。一種の #ニセ科学 だと思う
  • 1