GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
先日OpenAIより発表されたGPT-4が話題ですが、同タイミングで公表されたTechnical Reportを読んでみたところ、全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説されていた、言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かったため、簡単にまとめてみました。 https://arxiv.org/pdf/2303.08774.pdf サマリ GPT-4のリリースに向けて、OpenAIでは安全性を評価するために50人超の専門家らを含む"レッドチーム"を結成。2022年8月から8ヶ月に渡ってリスクの評価とその軽減に向けたチューニングを実施してきた リスク評価における実験の中には「自身をコピーするプログラムを実行できるGPT-4が自己増殖をしないか確認する」と
授業中の生徒の脳状態をリアルタイムで把握する技術、東大が高校で実証 ニュースイッチ by 日刊工業新聞社
東京大学大学院の開（ひらき）一夫教授らは２７日、授業中の生徒の脳状態をリアルタイムに色で表すことで、学習指導に役立てるシステムの実証実験を公開した。三浦学苑高等学校（神奈川県横須賀市）の生徒２４人と教師が協力。脳の働きを計測する装置を頭部につけて現代社会の授業を行った。 同システムは、授業中の生徒と教師の脳の活動を調べるため、携帯型の脳活動計測装置（ｆＮＩＲＳ）を頭に付ける。教師のパソコンに無線で計測データが送られる仕組みで、生徒が課題に取り組む際の脳活動をパソコン画面に表示する。平静状態を青、脳活動が活発な状態は赤で表示される。最大４０人を同時計測できる。 当日の授業では、教師が「国民主権とは何か」と質問を投げかけると、生徒が一斉に答えを紙に書き始め、脳の状態が活発になる様子をパソコン上で確認できた。 開教授は「先生が各生徒の脳活動をリアルタイムで見ることで、授業のやり方を工夫できる。今
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
