GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
先日OpenAIより発表されたGPT-4が話題ですが、同タイミングで公表されたTechnical Reportを読んでみたところ、全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説されていた、言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かったため、簡単にまとめてみました。 https://arxiv.org/pdf/2303.08774.pdf サマリ GPT-4のリリースに向けて、OpenAIでは安全性を評価するために50人超の専門家らを含む"レッドチーム"を結成。2022年8月から8ヶ月に渡ってリスクの評価とその軽減に向けたチューニングを実施してきた リスク評価における実験の中には「自身をコピーするプログラムを実行できるGPT-4が自己増殖をしないか確認する」と
当たり前のことをやっているだけで凄い - 覚書
IT業界で10年以上過ごしている中で、凄いと思う人達にたくさん出会ってきました。最初はとくに新卒で入社した会社の先輩方が中心でした。ここでいう凄さとは何かというと「仕事を片づけるのが早い」とか「成果物の完成度が高い」などです。当時、こんなふうに自分もなってみたいという思いが強くて必至で真似しようと試行錯誤したのですが、全然うまくいきませんでした。ありていにいえば、表面上の凄さだけを見ていたことが失敗の原因だったかと思っています。早く仕事を片づけようと焦り、結果完成度も下がり…と、さんざんでした。 その後はアプローチを変えて、彼らの日常の何気ない振る舞いなどを観察することにしました。すると、彼らのうちの多くの凄さの源泉は驚異的に頭の回転が速いとか、ほかの誰もが持っていない異能力を持っていたりするわけではなく、世間で当たり前と言われていることを息をするようにやっていることだとわかりました。たと
笑い飯 哲夫が経営する“激安の学習塾“とは「学力差が家庭環境によって起こるのはおかしい」（女子SPA！） - Yahoo!ニュース
Wボケ＆ツッコミ漫才で異次元の笑いを生み出してきた実力派漫才コンビ・笑い飯の哲夫さん。お笑い芸人として活躍しながら、 2020年から大阪市の相愛大学で人文学部の客員教授を務めるなど教育者としての顔も持っています。 【画像】学習塾を経営している笑い飯の哲夫さん そんな哲夫さんは、8年ほど前から大阪市淀川区で、低料金で通うことができる小・中学生向けの学習塾を経営しています。 哲夫さんが塾経営を始めた背景には、昨今社会問題になっている「教育格差」に対する思いがありました。子どもたちが学力を身につけるためには公教育だけでは難しい面がある一方、学習塾に通うためには高額な授業料が必要であることに疑問を持ったといいます。 哲夫さんの学習塾「寺子屋こやや」の実態や、スタートしたきっかけなどについて聞きました。 芸人の先生が教える低価格塾――哲夫さんはなぜ学習塾「寺子屋こやや」を始めることになったのでしょう
なぜ勉強するのかを教えてはならない - 家庭教師の経験を通じて見えてくる真理 - 天国と地獄の間の、少し地獄寄りにて
家庭教師としての経験も5年になった。入れ替わりの激しいこの業界だから、ベテランと言ってもいいだろう。これは「プロ」としての経験という意味だ。大学生のアルバイトとか、そういうのは除外したい。 その私が、いくつかの例外的なケースを除いてほぼ最初からずっと厳格に適用してきているルーチンがある。それは、初回の指導時に、「なんで勉強するんですか？」と生徒に聞くことだ。どうしても都合で第1回めにできないときには2回めとか3回めになる場合もあるが、できるだけ早い時期にこれを確認しておく。 本当は、「勉強」という言葉も使いたくない。これは誤用だし、危険な言葉だ。けれど、「学習」みたいなよそ行きの言葉では生徒と話が通じないから、しかたなしに使って尋ねる。「勉強は好きですか？」「好きじゃないです」「じゃあなぜ、好きじゃないことをするんですか？ なぜ勉強するんですか？」すぐに答える生徒は多くない。たいていは、こ
「何故勉強は必要か」に対する母の『コップとお茶』を使った解答が聡明過ぎる件について
レ点 @8jouhan_ns 勉強をなぜするのか親に訊いたときに、コップを指して「国語なら『透明なコップに入った濁ったお茶』、算数なら『200mlのコップに半分以下残っているお茶』、社会なら『中国産のコップに入った静岡産のお茶』と色々な視点が持てる。多様な視点や価値観は心を自由にする」というようなことを返され 2015-08-15 23:14:24 レ点 @8jouhan_ns @8jouhan_ns 凝り固まった考え方は悪なのではなく損だ、というふうに教えてくれたのは助かりました。だから自由にやればいいんだ、ぶつかったらごめんなさいすればいいんだ。 2015-08-15 23:21:59
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
