社会参加型 (society-in-the-loop) 人工知能 - Joi Ito's Web - 日本語

Photo by wp paarz via Flickr - CC BY-SA 社会参加型 (society-in-the-loop) 機械学習という用語を使うのをぼくが初めて効いたのは、イヤド・ラフワンがそれを口にしたときだった。かれはScience に掲載されたばかりの論文を説明していたところで、その論文自動運転車に人々がどんな判断を行ってほしいと思うかについて世論調査を行うというものだったお----哲学者たちが「トローリー問題」と呼ぶものの現代版だ。この考え方は、世間の優先順位や価値観を理解することで、社会が倫理的と考えるやり方で機械が振る舞うように訓練できるというものだ。また、人々が人工知能 (AI) とやりとりできるようにするシステムを作って、質問をしたり行動を見たりすることで倫理を確かめてもいい。 社会参加型 (society-in-the-loop) 機械学習は、人間参加型

[yumu19]

society-in-the-loop。ふむ。

[zia_glass]

アクティブラーニングの香り

[manboubird]

哲学者と聖職者数名は、それが効用主義的な観点からは正しく思えても、社会にとっては裁判官が人間だというのが重要なのだと説明した。そのほうが「正しい」答えが出るよりも大事なんだという。

[OKETA]

社会参加型 (society-in-the-loop) 人工知能 - Joi Ito's Web - JP

[isrc]

機械学習ツールを万人が使えるようにして、とてもオープンで包含的な対話を実施し、人工知能の進歩からくる力を再分配することが必要になる。見かけ上だけ倫理的に見えるよう訓練する方法を考案するだけじゃダメだ

[tanayuki00]

機械は訓練データが間違っていない限り間違えない。個人は間違えるが、社会は概ね正しい選択をする。