ビル・ゲイツが予測する「AIと社会」の未来。私たちが今のうちにできる5つのこと | ライフハッカー・ジャパン
ビル・ゲイツが目撃した「2つの革命」現在67歳のゲイツ氏は、同氏がこれまでに目撃したなかで、「これは革命だと思ったテクノロジーの進歩は2つしかなかった」と述べています。 1つは、グラフィカルユーザーインターフェイス（GUI）で、初めて目にしたのは1980年だったそうです。今では考えられませんが、当時、コンピューターを使おうと思ったら（そんな人はほとんどいませんでした）、Cプロンプト（「C:>」など）に応じて必要なコマンドを正確に入力しなければなりませんでした。 クリックしたいものを何でもクリックできる、Windowsのような（Macのような）インターフェイス。そのデモを初めて見たとき「これで世界は一変する」と、ゲイツ氏は確信したそうです。 そのデモをゲイツ氏に見せたのは、ある優秀なプログラマーでした。「すぐにブレインストーミングをはじめて、ユーザーが手軽にコンピューターを使えるこのアプロー
GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
先日OpenAIより発表されたGPT-4が話題ですが、同タイミングで公表されたTechnical Reportを読んでみたところ、全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説されていた、言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かったため、簡単にまとめてみました。 https://arxiv.org/pdf/2303.08774.pdf サマリ GPT-4のリリースに向けて、OpenAIでは安全性を評価するために50人超の専門家らを含む"レッドチーム"を結成。2022年8月から8ヶ月に渡ってリスクの評価とその軽減に向けたチューニングを実施してきた リスク評価における実験の中には「自身をコピーするプログラムを実行できるGPT-4が自己増殖をしないか確認する」と
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
