人工知能に人間を「裁く」ことはできるのか？

人工知能に人間を「裁く」ことはできるのか？：【増補】真説・人工知能に関する12の誤解（13）（1/4 ページ） 人工知能に判断を任せられる領域が広がってきています。しかし、それが「信頼できる」ものかどうかは考え続けなければいけません。先日も、人工知能が“思い込み”で判断していると疑われる例が「司法」の現場で飛び出しました。 「AIトレーダー」に「AI面接官」、さらには「AI婚活」まで――。昨今、人工知能が意思決定のための判断材料を提供してくれる領域が急速に広がっています。2018年には、この傾向がさらに加速していくでしょう。 「人工知能に仕事が奪われる」という悲観的な意見はあるものの、今のところは、そのほとんどは「仕事を手伝ってくれる」程度の能力しか発揮していないのが実情です。このまま人工知能と人間の“住み分け”が進めば、人間が人間にしかやれないことに集中できる環境が実現するかもしれません

[circled]

データに黒人差別が混ざっていたのを、機械学習モデル化して、その結果を検証したところ元データの黒人差別が明らかになったという話では。過去に正しい判断しか無かったのであればAIも正確だけど、そんなデータ無い

[sotonohitokun]

正直「(弁護士の弁舌で左右されがちな）陪審員」とか「(今後のキャリアパスを考えて結論をだすような）職業裁判官」よりベターならいいと思うよ。

[Falky]

最後の「誤った判断の責任を誰が取るか」はどうでもよくない？人間の裁判官は、誤った判決の責任を取ってるの？

[khtokage]

個人的に「人間はAIのミスを許すことが出来るのか」がポイントだと思ってる。産業革命以降の事とかも考えると最終的には「慣れたら出来る」んだろうけど、人間、自分や同類には甘いけど他人や下の人には厳しいから。

[Syncrea]

シビュラシステムや、攻殻機動隊SACでもあったAIの多数決で決める方式とか、未来にはまだまだ選択肢あると思うんだ。

[mkataigi]

人工知能で黒人と白人で差があったって、使ったデータに人間のバイアスがすでに入ってたとしか思えないんだが。「被告人に質問を出し」の段階で答える人間（被告人）が持ってる偏見が反映されてるだけじゃん？

[BigHopeClasic]

刑事裁判についていうと、刑法総論の教科書に出てくるような極めて複雑な論理を、現実の事案にあてはめて展開できるAIは相当実現困難だと思う。

[Sinraptor]

AIも偏見を持つ。恐ろしい。

[ad2217]

完璧になることはありえないが、２、３年で人間よりマシになるだろう。

[Pandasista]

AI大岡越前の登場が待たれる。

[BUNTEN]

俺の量刑もプラスされそうだ。▼アルゴリズムを公開してくれるなら考えてやってもいい。

[ku__ra__ge]

そもそも再び罪を犯す危険性を判定するシステムに「肌の色」の情報を入力する必要はないのでは。存在しない情報を元にバイアスをかけることはできない。

[takekon591]

教師データが間違ってたら正しくない答えが出ると思う

[enderuku]

妖怪道中記みたいに人間からは理不尽に思える理由で判断してきそうで怖い、あいつらって将棋とかもそうだけど人間の理外から物考えてるじゃん

[occurstar]

人間よりも高度に考えた結果のミスなら仕方ないのでは？

[interferobserver]

良記事。こういう記事をもっと読みたい。

[hinatadegorone]

なので、Person of Interest で、フィンチが全能たりうる"マシン"をあえてクローズドシステムにして、最後の判断を人間に委ねたというシナリオはすごい、と改めて思ったり。

[tick2tack]

典型的な紛争の調停などで使えないかなー。労働紛争なんかを簡単に解決してほしい。

[kyokosohonne]

怖い…

[kurukurukururi]

冤罪になった昔の裁判で使われた証拠や証言から有罪を判断するかどうか検証してみてほしい。もし無罪とか判断出たらおもしろいなと思った

[kamiokando]

裁くだけなら今すぐにでもできるだろう。「死刑」

[tsutsumi154]

あゝあなたの側で暮らせるならば辛くはないわ。この東京裁く

[straychef]

過去のデータからその時点で最適な量刑は計算で出せる　ただそれがいいかどうかというだけの話

[hitomit-93-123]

できへんできへん

[timetrain]

人間だって納得してるわけじゃないしなあ

[nakex1]

読み込ませるデータは過去の判例のほかには双方の主張でいいんじゃないかな。弁論主義の徹底。そういう意味では刑事より民事に向くかも。

[yoko-hirom]

人間が偏見の無い判断を下し，判断理由を説明でき，間違っていたら責任を取るかというと。人並みを実現できれば実用性は十分。

[santo]

実世界において「偏見」は判断に合理的利益をもたらすし、AI予測は高度に洗練された偏見システムに他ならない。人間が築いた正義概念は合理性とは一致しないものであり「で、どうする？合理？正義？」という選択

[pon00]

判例主義なんだから裁判官はAIにしてしまえ、なんてブコメでなるほどと思った記憶を思い出したが、確かに学習させるデータがネックになるのか。

[KariumNitrate]

こういう記事を見てどんな作品を思い出すのかは知りたいな。俺はフール・フォー・ザ・シティだけど。

[aquos12345]

スターウォーズでBB-8がロボットに乗って帝国兵をやっつけてたような・・・

[megazalrock]

結局は『人間に人工知能を「裁く」ことはできるのか？』にかかってると思うが。

[rti7743]

人間にできるんだからAIにもできると思う。まずは裁判員みたいなポジションからスタートして、徐々に数と権限を増やしていけばいいと思う。AIの権限と判決を下すパラメタをどう設定するかを選挙で問えばいいと思う。

[morita_non]

その人工知能の決定に従う覚悟が人間側にあるかどうかだけ。

[pekee-nuee-nuee]

AIには教える人間の偏見が入り込んでしまうので、AlphaZero的に生命を保護する原理みたいなところだけ教えて機械同士で議論させてみたら、人類を滅ぼすべきという結論が出て、そして終わりがやってくる

[digits_sa]

人工知能「色相が濁っています。」

[torimal3104]

デデンデンデデン…

[quwachy]

俺も無実の人に有罪判決を下した裁判官は少なくとも同じ量刑を課せられるべきだと思う、裁判官が無責任に判断するのは良くない、間違ったときに責任を取らせるシステムが必要不可欠