はてなブックマーク

ページをブックマークして共有する

アレックス・タバロック「AIが戦闘機パイロットに勝利:AIの報酬ハッキング問題を考える」 — 経済学101

19 users

econ101.jp

    ブックマークしているユーザー

    • macj_jp macj_jp AIが自身の創造者である人間を超えるにはメタ認知が必要だからシンギュラリティは起きないという論説を見かけたけど、人間を超えるかどうかより意図しない報酬ハックのほうが問題かもしれない。 2017/11/17
    • T-norf T-norf テスラの車もそうだけど、AIが操る「パワー」が増えると、想定外は許されないよね。ついこないだまで、SFの中だけの話だったのにね。 2016/07/04
    • border-dweller border-dweller ”報酬ハッキング” メタな目的を察知して判断し更に他人との調整が出来る上位のAIが結局必要になるのかな 多プレイヤー間だと収集つかなそうな 2016/07/03
    • paravola paravola 人間をこえる AI 用のインセンティブ構造・学習構造として適切なものを設計する/人間に適用するときですら,インセンティブ設計はとても難しい 2016/07/02

    もっとよむ