ChatGPTのOpenAI、「人間超え」制御へ研究開始 - 日本経済新聞

【シリコンバレー=渡辺直樹】対話型人工知能（AI）「Chat（チャット）GPT」を開発した米新興企業のオープンAIは5日、人間の知能を超えるAIが生まれた際に、安全にコントロールするための研究を始めると発表した。今後4年間でオープンAIが持つ20%のコンピューターのリソースを充てる。生成AIがもたらす未知の危険を防ぐ狙い。研究を通じ、AIが人間の意図に従うように自動で調整する機能の構築を目指す

[ginga0118]

頭の良いってのがどう判断すれば良いかわからないが、八割くらいの人よりも使えるんじゃないかな

[ysksy]

真ん中が伸ばし棒の7文字単語は全然答えられなかったから、まだ発展の余地は大きいんだよな。

[cloverstudioceo]

俺たちすごいよアピールだろ。俺的には、軽量なLLMを動かすノウハウが集約されて来てて、別にOpenAIじゃ無くてもいいんじゃねって感じになってくると思ってる

[udofukui]

気づいたら支配下にいるとかあり得なくないよね。バイトのシフトをAIに決められるとかが最初の一歩。

[SasakiTakahiro]

人間の知能を超えるAIが生まれた際に、安全にコントロールするための研究を始める。スーパーインテリジェンス。

[ys0000]

別にシンギュラリティを規制頂きく必要はなくない？

[tekmak]

人間も自分の知能を超えたり超えられたりしてると思うけど制御できたことはない気がする

[toaruR]

誰もおでこイジらないのが民度高いとおもいました＼(^o^)／ごめんなさい

[san57]

オープンAI

[ak1024]

“研究を主導するチーフサイエンティストのサツキバー氏”頭痒そう、、、

[deejayroka]

“人間の知能を超えるAIが生まれた際に、安全にコントロールするための研究を始めると発表した”

[osugi828]

上司は自分より有能な部下を扱えない的な話もあるし、少し理解はできる。東大卒新卒を使えない話とかよく出てくるし。

[takeishi]

頭に輪っかをはめて、三蔵法師がお経を唱えるとムギュっとするやつを

[Five-of-NineX]

すでに人間を超えているのでは？つーか、人間って具体的にどう定義するの？

[younari]

人をちゃんと人として対等に答えてくれるだけでどれだけでありがたい

[yujimi-daifuku-2222]

AIの開発が人より上手いAIはその内産まれるでしょうね。/その時点で人がAIより上手くできる分野が残っているかはちょっと分からない。費用の問題で単純な肉体労働は最後まで人の仕事として残るでしょうが。

[kisiritooru]

「マジで人間居ない方がいいじゃん！」と判断されたときのために、若しくは人間排除に特化させた思想のAIが出現したときに必要

[qpci32siekqd]

既に計算機の並列化の限界と電力が発電所1個分使うような状態で、AIで解決出来るのだろうか

[filinion]

シンギュラリティ論、一時もてはやされた後「起きるわけないじゃんwww」みたいにバカにされていた（例：https://www.asahi.com/articles/ASM7K3669M7KULZU001.html）が、ここへきて再び復権の兆し。カーツワイルの言った通りだ…。

[and_hyphen]

“AIの能力は2045年までに人間の知能を超える「シンギュラリティー（技術的特異点）」を迎えるという予測がある”