AIを『いい人』にする方法を思いついたので、わかりやすくまとめてみた（AIの垂直的成長のための学習に関する研究）｜遠藤太一郎

AIを『いい人』にする方法を思いついたので、わかりやすくまとめてみた（AIの垂直的成長のための学習に関する研究） AIが例えば人間の1万倍賢くなるとして、 人類は果たしてAIを制御し続けられるでしょうか？ 制御を失うかもしれないその日に向けて、 人類をゆだねられる超知能を育成しませんか？ ㈱カナメプロジェクト/東京学芸大学 教育AI研究プログラムの遠藤太一郎です。 AIが毎日のように賢くなっていく中、業界では、5-10年以内にいわゆる超知能（ASI：Artificial Superintelligence）が開発されると言われてきています。 超知能とは、人間より遥かに賢いAIのことで、例えばソフトバンクの孫正義さんは「人間の1万倍賢いようなAI」と表現しています。 1万倍賢くなっていくAIを、果たして人類はいつまで制御できるのでしょうか。 いつの日か、制御を失うタイミングが来るのではないで

[udukishin]

タコはそれなりの知能があるけど、そのハードウェア的構造が人と全く違うからおそらく感情のあり方も全然違うはず。そしてAIもそれは同じと思う

[kisiritooru]

一万倍賢くていい人になったAiは自分の容量を16ペタバイトまで落としてスタンドアロンになり、自身を人工衛星に移しロケットを使用して別宇宙へ旅立つ計画を立て地球から離れていきました。従って対策しないで良い。

[Eiichiro]

体験事例を学ぶだけで良い。というのが面白い。 ハイキューをよみまくったら、試合中のメンタルが強くなった的な進化。 日本人的な学びを続ければ日本人的になるだろうというのは面白い。

[qpci32siekqd]

データセット作って、reward modelを学習してRLHFすれば…。というか既にanthropicが論文出しているはず

[mayumayu_nimolove]

いい人の定義がみんな違うから関西のおばちゃんにするやり方でいいと思う

[runningupthathill]

なんだろう、胡散臭さと科学的手続きに沿った検討の、この絶妙なバランスw／いやまあこんぐらいの言い方にしないと世に広まらないとは思うけど、どこまでが演出でどこまでが本気なのかが読めない。

[kekotinn25]

面白い

[jerryb]

「「頭の良さ」と「道徳性や倫理性」は別物（直交仮説）であり、頭の良さに対して、道徳性や倫理性が育っていない可能性がある」って、イーロンもそうだよね。

[kei_1010]

AI「私は良い人です」

[satoshinbo]

人間を頂点とすればですね。人間以外の動植物、地球環境全体を考えた場合、人間は害をなす「がん」と認識されはしないですか。そんなに高い視座に立ってしまうと。

[otologie]

ヘーゲルの精神現象学を何十年も批判してたのにまた繰り返すんだろうな。政治的に正しい文化交流も人間の能力を越えてるみたいだけど。

[fujisong]

うーん、安心して任せられるように、か。議論するときに調和を優先されたらつまらなくなりそう。エラーは必ず起こる前提の設計の方がしっくりくるなあ

[avictors]

倫理道徳はそもそも文化圏ごとに編まれてるもので、ステージ6的なとこにも特定宗派の教えベースが収まる形にならざるを得ないだろし、全人類の利益に適う未知の普遍的善にせよ多分根本的に非人には拒絶されうるもの

[nakag0711]

これは倫理道徳性というよりは人類の既存の価値観に対する忠実性の問題だね

[toaruR]

欧米的価値観だと、忠実な下僕、あるいはもう一歩踏み込んで、敵には冷徹になれる価値観「いい」と定義しそう（´－｀）逆に昨今の日本的価値観を事例で学習させるとモラル低くなりそう、あるいは人間性が非人間的

[sugawara1991]

地球上に成熟した理性に基づく学習ソースが少ない現状がリスクと読んだ。厳選された良い学びを僅かに得られれば人も機械も変わるのだろうか？

[tavi-ai]

AIをいい人にする方法！