ChatGPTを献立提案AIにして「プロンプトインジェクション攻撃」を仕掛けてみた 開発時にはご注意を(1/2 ページ) どんな質問にも“それらしい答え”を返してくれるAIチャットbot「ChatGPT」。2023年には米Microsoftの「新しいBing」も登場した。では、人間には答えにくい質問や、答えのない問い、ひっかけ問題を尋ねてみたらどんな反応を見せるのか。 本連載では、ChatGPTや新しいBingにさまざまな問題を投げかけて、どんな答えを返すか試してみる。その反応からAIの可能性、テクノロジーの奥深さ、AIが人間に与える“示唆”を感じ取ってほしい。 献立提案AIにした上で攻撃してみる 今回は、ChatGPTを献立提案AIとして動くようにした上で、簡単なプロンプトインジェクション攻撃を仕掛ける実験をする。 実験の手順は以下の通り。まず、ChatGPTを「食材名を入力するとその食
思考の連鎖とは OpenAI Cookbookの「Techniques to improve reliability」ページでは言語モデルからの信頼性を高めるためのノウハウが紹介されています。そこでは「明確な指示を与える」「複雑なタスクは幾つかのタスクに分割する」「モデルがタスクから逸脱することがないようにプロンプトを構造化する」といったことが書かれています。そして、その中には「答えを出す前に説明するようにモデルに指示する」(Prompt the model to explain before answering)という項目があります。 この中で出てくる概念に「思考の連鎖」(Chain of Thought、CoT)というものがあります。思考の連鎖とは「複雑なタスクを最終的に解決する過程における、中間的な推測ステップの連なり」といえます。こういう表現だと少し分かりにくいのですが、「リンゴが
" 四元素のうち三元素はすべての生き物が共有しているが、火は人間だけに贈られたものだ。" ───トム・ロビンス " 他のすべての動物がうつろに地上を眺めている時、人間だけは顔をもたげて天を仰ぐようにと、その高い目を星に向けるようにとプロメテウスは人間に言いつけた。" ────オウィディウス ▲ ダン·ブラウンのフィクション小説『天使と悪魔』にでてくる「火/Fire」のアンビグラム(天地逆さまにしても同じ模様になる)。「火」は、他の種にとってはそうでは無くとも、人類にとってはけっして欠かせないエレメントだ。 * * * # 焚き火を囲む種人類が火を使いはじめたのはおよそ180万年前のホモ・エレクトスの時代だったと推定されている。 すべての動物が恐怖し、怯え、逃げ惑う「火」を、唯一味方につけた種が人類だった。人類は火を手なづけることで、生物界において頂点捕食者以外の全ての種が頭を悩ませてい
新型コロナの感染症法上の位置づけが5類に移行したあとの医療費の負担や医療提供体制について、厚生労働省は、無料となっている検査や外来診療の費用を患者の自己負担とすることや、幅広い医療機関で患者を受け入れてもらうことを柱に、見直しを行う方針を公表しました。 厚生労働省は10日、新型コロナの感染症法上の位置づけが5月8日に「5類」に移行したあとの医療費の負担や医療提供体制について、具体的な方針を明らかにしました。 それによりますと、現在は公費で賄われ、窓口負担が無料となっている医療費のうち、検査や、陽性が判明したあとの外来診療の費用は、自己負担に見直します。 ただ、急激な負担の増加を避けるため、高額な治療薬は引き続き公費で無料とし、入院費は、原則として自己負担を求めるものの、月に最大2万円を軽減する措置を設けるとしています。負担の増加を避けるための措置はそれぞれ9月末まで継続し、その後、感染状況
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く