エピソード - 視点・論点

北朝鮮による拉致被害者は日本政府認定だけでも１７名。最初の被害者、久米裕さんが拉致されて４７年が経過しようとしている。拉致問題の風化を防ぐ必要性を改めて問う。

[kenchan3]

科学ならそうだが工学ならよくあること。

[iroirogimon]

AIの知能については、そのうちAIに説明してもらいたい。

[tach]

「人工知能の性能を上げるほどなぜ性能が上がったのかを説明できなくなっている」人工知能は科学でなく工学。工学だからといって科学だとは限らず、科学でないからといって役に立たないとは限らない

[obsv]

医学分野でも作用機序のわからない薬とかあるようだし、実用と理解が同期しないのは今に始まったことではないが、AI研究で生物知能の解明につながるかと期待している人間としては非常にモヤモヤした気持ちになる。

[kei_1010]

還元主義だけを科学だと定義してるのが間違いかもね。それにしても、AIは黒魔術というより、神託みたいだな。温暖化対策を尋ねたら、煮干しを神棚に飾れ、とか言われたら面白いのに。バグでも誰にもわからない。

[kash06]

実際に動いているが、研究者当人であっても、なぜ、そのように動いているかは経験的にしか理解できない。すごいな人工知能。いわばワタルと龍神丸のような状態だ！（多分、全く違う

[bigburn]

将棋AI「PONANZA」作者の解説。進化を極めたAIの改良が実験と経験を重ねる職人的なやり方（黒魔術）しか通用しなくなり、科学の還元主義から逸脱してる話が面白い

[izmii]

こうしたある種楽観的で暖かみのある科学感を今後とも支持していきたい

[zakkie]

AIで作られた工業製品の品質保証はできるんだろうか？

[c_shiika]

そのうちAIを作ることに特化したAIが出てきそうだな

[hdkINO33]

「高度に発達した科学は魔法と見分けがつかない」ってやつか……

[nizimeta]

“黒魔術」は人工知能の世界でもスラングとして定着しており、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称”

[tswat]

人工知能が高度になるほど、理論的に説明がつかなくなる。その点で、魔術と変わらない。

[keint]

CNNの学習した結果の解釈が難しいというやつか

[Labyrinthos]

>「黒魔術」(という言葉)は人工知能の世界で、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称となっている >人工知能はプログラマーの直感や予想された性能を逸脱することが求められている

[adsty]

「黒魔術」は人工知能の世界でもスラングとして定着しているという。

[Nean]

ヒリスが似たような話をどこかでしていたような。

[axkotomum]

面白い

[ume-y]

「人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです」

[tana_bata]

神託だよねぇ

[paravola]

はっきりとお伝えしておきたいのは、私が黒魔術を嫌っていたり、恐れているわけではないということです。なぜならPonanzaは、私よりもはるかに強い将棋のプロ棋士たちを相手に戦うために設計されているからです

[suzukiMY]

『この黒魔術は人工知能の世界でもスラングとして定着しており、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称。しかし知能を理解するにはこの還元主義的な考えではうまくいきません。』

[navagraha]

「プログラムに埋め込まれている数値がどうしてその数値でいいのか、あるいはどうしてその組み合わせが有効なのか、そういったことを真の意味で理解していない」

[kamehi]

プログラムと魔術というとSICPを思い浮かべるが、AIにおける魔術というのは意味（というかレイヤというか）が違うようだ。あと、「魔術」でなくて「黒魔術」としているのには、何かの含意があるのだろうか。

[raitu]

“なぜPonanzaが強いのかについて、私は１００％説明することはできません。今のPonanzaは実験的・経験的にしか強くすることができません”

[ueshin]

人間がつくったものなのに、当の人間にはなぜそれがうまくいっているかわからない。しかも推論は永遠に試行錯誤。それが世界というものではないの。

[SasakiTakahiro]

ネガティブな要素をうまくコントロールすれば、社会はきっとよい方向に向かう。

[sisya]

面白い。ただ、「たまたまうまくいった改良を集める結果」を集めているといえば薬についても近いものがあるので、結局人間がすべてを理解して運用することはできないのかもしれない。

[blueribbon]

「人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです。…結局、知能というのは…どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない」

[naggg]

そうなのよー

[zxcvdayo]

単にNNのパラメータの話じゃないと思う。山本氏はよく「LazySMP」に関して黒魔術だって述べてる http://diamond.jp/articles/-/127697

[gmym]

講義でもDNNの中間層に関しては「黒魔術みたいなもん」って言ってたし、人工知能研究のコミュニティでは黒魔術という単語が流行ってるんの？

[simabuta]

とはいえAIがAIを作り出し、そのAIがまたAIをつくりだしたらちょと怖いよね。。

[Mash]

とある魔術の人工知能

[kabutomutsu]

この黒魔術の写真がなんなのか気になって本文読めてない。探す。

[kaerudayo]

スカイネットによる審判の日も近いなw

[novak777]

人工知能に倫理を教える向きがあるけれど、未来では人間が人工知能に倫理的な判断を仰ぐようになるのかもしれない。

[ton-boo]

次世代の囲碁将棋プログラムには人間様にわかるように解説する機能をつけることを目指してほしい

[kurakano]

遊びでうまくいかなかった改良を組み合わせると奇跡が起こった的展開が残されてそうなお話。積み上げる方で精一杯というか名人に勝ってるから十分か。

[bbbtttbbb]

接着剤が何故くっつくのか科学的に判明していない、とか