タグ

ブックマーク / yamdas.hatenablog.com (3)

  • 「AIの開発を直ちに停止せよ」公開書簡が見逃してしまっているAIの現実的なリスク - YAMDAS現更新履歴

    aisnakeoil.substack.com Pause Giant AI Experiments と題された「GPT-4より強力なAIの開発を直ちに停止せよ」公開書簡が話題になっている。 これに署名している人でも、スティーブ・ウォズニアックなどは当に強力な AI に危機感を持っているのだろうなと素直に思うが、OpenAI の共同設立者でありながら、むちゃくちゃ言い始めた挙句に約束してた寄附金額の90%を反故にしたクソ野郎のイーロン・マスクなど、追い付ける見込みが無いと分かって正攻法で戦う気力を無くしただけ、つーか、当に開発が停止されたら絶対こいつこっそり自分だけ抜け駆けするだろ、と懐疑的に見てしまう。 「インチキAIに騙されないために」で取り上げたアーヴィンド・ナラヤナンらもこの公開書簡に批判的で、もっといえば公開書簡が偽情報、仕事への影響、そして安全性を AI の主要リスクと見る

    「AIの開発を直ちに停止せよ」公開書簡が見逃してしまっているAIの現実的なリスク - YAMDAS現更新履歴
    shunkeen
    shunkeen 2023/03/31
    見逃しているのか見ていないのか。公開書簡を出してるFuture of Life Instituteは名前にフューチャーと付くように、未来に焦点を当てていて、目の前の現実については、あまり興味がなさそうにも思える。
  • 「機械の中の幽霊」ならぬ「AIの中の幻覚」? AIの「ハルシネーション」について考える - YAMDAS現更新履歴

    xtech.nikkei.com 中田敦さんが厳しい論調の文章を書いている。 これに対して、楠正憲さんが「自動運転と違って人命に関わる訳でもなく」と反応しているが、正直これには驚いた。楠正憲さんも2016年の WELQ 騒動を知らないわけはあるまい。検索結果は人命にかかわると言えるのではないか。 この騒動を機に、医師会やジャーナリスト団体が主催する「検索に関する勉強会」に講師として呼ばれる機会がとても増えました。そのとき、「検索エンジンにあがっている誤った情報を患者が信じ込んでしまい、こんなに大変なことが起きている」と、苦しんでいる当事者を目の当たりにしたんです。まるで私がGoogleの中の人間かのように非難を浴びたこともありました。 辻正浩氏が語る、SEOに携わる者の責務と未来 - Marketeer(マーケティア) ワタシの意見は、「この問題を過小評価している人が多すぎる」という星暁雄

    「機械の中の幽霊」ならぬ「AIの中の幻覚」? AIの「ハルシネーション」について考える - YAMDAS現更新履歴
    shunkeen
    shunkeen 2023/02/20
    “「ハルシネーション」を間違いとして潰すのではなく、よりよい「幻覚」を見せるように最適化したらどうなるだろう”/幻覚によってこことは違う何かを見るとなるとシャーマンかな?シャーマンAIが未来を占う
  • AIが生む新たな非正規雇用と貧困の「ゴーストワーク」についての本の邦訳がようやく出る - YAMDAS現更新履歴

    yamdas.hatenablog.com メアリー・グレイとシド・スリの『Ghost Work』については3年近く前に取り上げているが、GAFA に代表される巨大テック企業の人工知能の「魔法」のような機能を実現する裏で、膨大な量の学習データをひたすらラベル付けする安月給の人間のホワイトカラー非正規労働者が、日常的にサービス残業を強いられ、労働条件に対する要求が繰り返し退けられてきた話は、現在もなくなってはいない。 これはまさに自動化が生む新たな貧困 「ゴーストワーク」で、https://t.co/XgIx7zThvH アーヴィンド・ナラヤナンも「AIツールの技術的進歩を持ち上げる一方で人間の労働を軽視する」として「AI報道で気をつけるべき18の落とし穴」の一つにわざわざ挙げているhttps://t.co/yvmPWsodX9 https://t.co/X8qOBQx1gz— yomoyo

    AIが生む新たな非正規雇用と貧困の「ゴーストワーク」についての本の邦訳がようやく出る - YAMDAS現更新履歴
    shunkeen
    shunkeen 2023/02/20
    AIのサプライチェーンにおける人権問題。責任あるAIの原則にそろそろ入ってくるのだろうか。心労が嵩むような労働の割にキャリアアップも望めず、残業は多く、給与は安い。人類は人類を雇えるほど成熟しているのか?
  • 1