GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
先日OpenAIより発表されたGPT-4が話題ですが、同タイミングで公表されたTechnical Reportを読んでみたところ、全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説されていた、言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かったため、簡単にまとめてみました。 https://arxiv.org/pdf/2303.08774.pdf サマリ GPT-4のリリースに向けて、OpenAIでは安全性を評価するために50人超の専門家らを含む"レッドチーム"を結成。2022年8月から8ヶ月に渡ってリスクの評価とその軽減に向けたチューニングを実施してきた リスク評価における実験の中には「自身をコピーするプログラムを実行できるGPT-4が自己増殖をしないか確認する」と
神戸のシステム屋が24年間続けてきたこと - ゆとりずむ
24年経っても、多くの神戸っ子にとって1月17日は特別な日だ。 もっとも私は、当時小学2年生だったし、被害の軽い神戸市西区に住んでいたので、深い思い出はない。震災当日も呑気に幼馴染と学校へ向かっていたところ、電気が止まってつかなくなった信号のもとで交通整理をしていた教師に「何やっとんねん！はよ帰れ！」と追い返されたくらいだ。延々と続く安否情報に飽き飽きしながらも、少しでも明るく振る舞おうとしてくれた大人たちの姿はぼんやりと記憶に残っている。まだ当時は、本当の苦労は知らなかったのだ。 震災のことに関して、むしろ記憶に残っているのは、高校生の時分にインターンシップという名目で遊びに行っていた会社で受け取った「災害対応マニュアル」と書かれた小さな冊子のことだ。 地場のシステム屋が、リクルーティングと宣伝を兼ね社長の気まぐれで夏休みの期間に始めたものだったが、初日に「手の空いたときにでも読んでおい
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
