「人工知能は、黒魔術の影響が強くなっている」――“最強将棋ソフト”Ponanza開発者が語る

「人工知能の分野では、だんだんと黒魔術の影響力が強くなってきています」――“最強将棋ソフト”「Ponanza」を開発した山本一成さん（愛知学院大学特任准教授）が、NHKの番組「視点・論点」で語ったこんな話が、NHKの公式サイトに掲載され、注目を集めている。 記事によると、10年前、山本さんが「Ponanza」を作った当時は、アマ5段の山本さんが8枚落ちのハンデを付けても勝ってしまうほど「とても弱い将棋プログラム」だったが、わずか10年で名人に勝つまでに成長した。 Ponanzaに限らず、人工知能が飛躍的に成長する中で「人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっている」という「少し困った状況」が起きていると、山本さんは話す。人工知能研究の分野では、「どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称」として、「黒魔術」という言葉がスラングとして定

[tikuwa_ore]

「十分に発達した科学技術は、魔法と見分けがつかない」か。アーサー・C・クラーク、マジすげえな。／見出しだけ読んだら、開発者がオカルトに狂ったのかと勘違いしたwww

[deep_one]

ディープラーニングの方法論について読むと、かなり絶望するからな。なんでそれでいいのか全く分かんないような調整が行われて、でも効果があるとそれが広がったりする。確かにそれはオカルトと呼ぶべき物…

[asakura-t]

まあ、原理がよー分からんけど再現性があって動いてるのは工学なら割とありそうではある。

[tencube]

「何故うまくいくか分からない」ということは、裏を返すと理論的な発展性に乏しく、今後改善していく方法が分からないということでもある。

[muchonov]

今の深層学習界隈に対して、前々から同じ印象を持ってた。 http://b.hatena.ne.jp/entry/329227482/comment/muchonov 還元主義以前に「理解する」という概念自体が危機にあるように思う

[haruten]

「このプログラムがなぜこのように動いているのかわかりません」などと現場で言おうものなら張り飛ばされるところだが

[megazalrock]

本当にスーザン・カルヴィンみたいな人工知能を相手にする心理学者が必要になるかもしれんな。

[Erlkonig]

原理は分からないけどなんか動いてしまうしある程度の再現性もあるから経験則を体系化して必ずしも科学的手法に基づくとは言い難い巨大な技術体系が打ち立てられてしまう流れ、アリュージョニストの呪術だ……。

[fromdusktildawn]

ディープラーニングはもはや科学どころか工学ですらなく、中世の職人芸になってきてる。そのうち中世の徒弟制度のようなものが復活し、AI職人の秘伝の技が師匠から弟子へと受け継がれていくようになるんじゃないのか

[kagakaoru]

マネジメントとか医療とか、人に関わることもだいたいそうだよね。たしか全身麻酔もメカニズムわかってないけど使ってるんでしょ？

[fake-jizo]

「人工知能の分野では、だんだんと黒魔術の影響力が強くなってきています」――将棋ソフト「Ponanza」を開発した山本一成さんがNHKの番組「視点・論点」で語ったこんな話が注目を集めている。 　「人工知能の分野では、

[eroyama]

その理屈を抽出するAIが待たれる

[shinichiroinaba]

“人工知能研究の分野では、「どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称」として、「黒魔術」という言葉がスラングとして定着しているという。”

[susumu_bb]

面白い、不確実性、人間に近い、でも非道、そのうちに道も学ぶかも、長く生きる為に、そしたら人間と変わらなくなるかな、人間の脳が10%以下しか活用されてない理由がそこかも

[the48]

理解が及んでないだけだよな

[chuntanqui]

文章要約としては0点の表題

[madridNewyork]

みずほのエンジニアは全員黒魔道士

[o-0-0-o]

シンギュラリティはまだ先ですかね

[neogratche]

悪魔召喚プログラムは高性能AIだった・・・？

[vanillableep1618]

知能／知性は論理が土台になっていない…と。魔術としか呼べない何ものかによって成り立っていて、人間が制御できるものではない…そこに不気味さを感じるのかもね…まあ人のクオリアも良く分かってないので無問題w

[suzukiMY]

http://www.nhk.or.jp/kaisetsu-blog/400/273618.html

[pinkyblue]

なんだ業界スラングなのか。見出しだけ見て、いわゆる西洋の悪魔崇拝の黒魔術のことかと思い「この人大丈夫か？」と思ってしまった

[enjoyworking]

デジタルなのか、アナログなのか…

[ZOOZ]

無理が通れば道理がひっこむ

[bbsa]

日本社会じゃ受け入れられなそう。管理できないものは日本の大手企業には扱えない。

[sho]

ポジティブな成果が出てるものに「黒」を付ける意味がわからない。単に「魔術」ないし「魔法」でいいじゃん?

[t-tanaka]

山本氏の著書「人工知能はどのようにして 「名人」を超えたのか?」の第2章「科学からの卒業」の要約。

[Sinraptor]

人工知能がさまざまな分野で使われるようになった時、「なぜうまくいかなかったのか分からない」という事態が起きそうな気がする。

[piltdownman]

なんとなく、ヨーダの声で再生されてしまった

[RabbitBit]

黒魔術の定義がいいな。「どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称」。

[tsutsuji360]

「科学か魔法」って、確かドラえもんの映画であったな。

[kastro-iyan]

まさしく、おまじないって奴か。ソースコメントで見た事ある

[raitu]

ディープラーニングは人間がまともに制御できてない、と言っていいのかな。「飛行機が飛ぶ原理を正確には把握できてない」のと同列に語っていいのかな

[abiruy]

マーケティングの世界は人間相手なので謎の変化が多く、手探りだらけやで。

[shoot_c_na]

十分に発達した科学技術は魔法と見分けがつかない

[hihi01]

演繹から帰納へとソフト進化の原則が変わったから従来の演繹論理の立場からそのメカニズムは説明できなくて当然。 http://hpo.hatenablog.com/entry/2017/01/30/220000 問題はでは人とは異なる人工知能のエラーの出現の仕方。

[tuki0918]

気になるのはテストをどう書いていくか、黒人をゴリラと認識した場合にどう修正したら良いのか...

[n_pikarin7]

「なぜ」は分からないけど「どのように」かは分かる。まるで人生だな。

[takun71]

自分よりも上位の知性はよくわからないもやもやしたものってことかな。黒魔術かあ。未来の世界はそんなものに囲まれた世界なのか。。

[wushi]

せやな