人工知能が絶対にできないこと――AI研究の難問「フレーム問題」を考える

ハーバード・ビジネス・スクールのクレイトン・M・クリステンセン教授が書いた『ジョブ理論』（現訳は『Competing Against Luck』。日本語訳は2017年に刊行）には、私のような“ひよっこデータサイエンティスト”が仕事をする上で忘れてはならない教訓が記されています。 データは、顧客が「なぜ」ある選択をするのかについては、何も教えてくれない 教授は自身の身長や家族構成などのデモグラフィックを例に挙げ、「今朝、ニューヨーク・タイムズを買うという行動を私に選択させたのは、こうした特徴のせいではない」として、相関関係と因果関係を取り違えてはならないと強く訴えます。 この話を思い出すたびに、「手元にあるデータが世界の全て」だと思い込んで分析するとロクな結果にならないと、身につまされる思いでいっぱいになります。 苦労してたどり着いたダンジョンの奥にある宝箱には、絶対に強い武器や防具が入って

[wwolf]

↓現状の自動運転程度ではフレーム問題は発生しない。そもそもセンサー認識範囲というフレームがあるから。フレーム問題が現実的な問題になるのはもっと汎用的な人工知能が出来てから。

[onefootinthegrave]

フレーム問題ってそういうのなんだっけ？

[Kaisai_Adashino]

それでも、それでも人間にはあるはずだ!物言わぬ心なきAIごときには絶対に持てない何かが!…とすがり続ける人を見るたびに、そういう宿業みたいなものを優しく説得して引導を渡してくれる対話AIができてほしくなります

[n_231]

フレーム問題がこんなに致命的みたいな表現されてるの初めて見た。単にヒューリスティックな思考様式をベースにしとけば解決する話でしょ。少なくとも人間はそうしているように見える。

[ryuzi_kambe]

？？？「人間だって目に見えないものは信用しないじゃないですか」

[shields-pikes]

ビールの話。人間だって、全ての銘柄を把握してるわけじゃなくて、KIRINの文字やキリンのロゴマークで判断してるのでは？

[blueboy]

エイブラハム・ウォルド　http://fujipon.hatenablog.com/entry/2017/03/07/002016

[satomi_hanten]

最近よくある「うちは大量のデータを持っているんだからAIを導入すれば効率が上がる」間違い。何らかの解を得るためのデータも含まれていないといけない。「故障直前のデータ及び紐付け」など。

[perl-o-pal]

社長「我が社でも人工知能の事業を立ち上げたいな…そうだ、人工知能の応用事例を学習させてみよう」

[kangaetemita]

エイブラハム・ウォルドすげー

[adsty]

今あるデータこそが全てだとする人工知能の苦手な部分。

[nisisinjuku]

範囲指定し、範囲内の分析に足るデータが有り、答えがある場合に相関関係でなく、因果関係という形で答えを導き出せる。ってことね。流動的かつ外的要因などが多く答えが不明なものの分析には現状向かないか。

[geopolitics]

ＡＩというかデータサイエンティストは今でも職人芸と聞いた。データを集める前、集めた後は人間のお仕事。

[Shinwiki]

gitでソースコード管理して、誰がいつどこで何をどのように変更したかは追えても、「why」だけがわからない。コメント読んでもなんでそんなことしたかわからない。そういうこと？

[xjack]

また，ディープラーニングを人工知能と勘違いした記事か，と思ってそっ閉じ．

[otihateten3510]

フレーム問題って本当に問題なのか？　という疑問が15年前からあるんだけど。まあいいや。古典。

[tick2tack]

MLをAIと呼んでるだけなのに、AIだからとフレーム問題もってくるって。そもフレーム問題自体が古いのでは。

[masahiko_of_joytoy]

ビールのくだり、もう少し分かりやすい例え話なかったの

[dazz_2001]

プログラムを自動で作れるプログラム(AI)ができない限り、SFのような世界は訪れない。

[rissack]

Deep learningはフレーム問題を突破する可能性のあるブレークスルーだと雑に認識していたけど違うのか？90年代に出尽くした議論をまた繰り返す？

[rck10]

アカデミック的にはその通りだけど、ユーザーはそんな高尚な人工知能は求めてない。売上が増える選択肢が知りたいだけなので、機械学習で充分。

[ga_kun]

“データを超越した「原因と結果」への洞察は、人間の役割なのだと考えるべきでしょう。” 何事にも原因と結果があると思い込むのは人間の短所でもある。

[thesecret3]

人工知能ができないことを考えてると、人間ができるはずのことができない人がかなり含まれてしまうという問題が。

[nanoha3]

↑←↓→フレーム問題が解決出来ない皆さん！！！！！！！！！

[Cald]

フレーム問題って人間のフレームと機械のフレームを合わせる問題だと思うのだけど。

[I8D]

「枠の外側にあるもの（今無いもの）の存在に気付くのが難しい」というのにはフレーム問題って名前があったんだ。この能力こそが個人の賢さの指標だと思っていたけれど、正にAIにとっての難問だったのだな。

[yuichi0613]

"ほとんどの人工知能に「知らず知らず」はありません。懇切丁寧に、決まった枠で学習させなければ、ないという状態が分からないのです"

[entryno001]

AIの挙動制御

[globalizer]

データの偏りだよな。

[pmint]

って話自体が本やWebメディアの受け売りなわけで。生存バイアスの件は人間の話でしょ。実際にはフレーム問題に対処できる人間なんていない。/ この手の話は人間（例: 近頃の若者）を貶める話と一緒に見える。

[sds-page]

「愚者は経験に学び、賢者は歴史に学ぶ」って話かな

[kenzy_n]

漫画のEDENでAIによる戦闘ロボの操作時に触れていたのを思い出した

[ad2217]

現状で困難なこと＝絶対にできないこと。2042年で世界が終わるわけでもなかろうに。

[kuroyuli]

日々新たな商品が生まれる、全ての缶ビールを学習させるなど事実上不可能だからです→むしろ それこそ得意なのでは？　法律と宗教以外は、曖昧な倫理観と価値観で成り立つこの世界→科学は？？

[mojisan]

aiに頼る社会が続くと、社会が崩壊する気がする

[NuL]

人間でさえ因果と相関を混同するからね

[deep_one]

今のタイプのシステムだと「存在しないデータ」の可能性についてAIが自分で考える事はないな。