Prompt injection: What’s the worst that can happen?
Prompt injection: What’s the worst that can happen? 14th April 2023 Activity around building sophisticated applications on top of LLMs (Large Language Models) such as GPT-3/4/ChatGPT/etc is growing like wildfire right now. Many of these applications are potentially vulnerable to prompt injection. It’s not clear to me that this risk is being taken as seriously as it should. To quickly review: promp
ChatGPTなどの大規模言語モデルと日本の「個人情報保護」はどう関係してくる？高木浩光先生の見解
NHKニュース @nhk_news 「チャットGPT」を開発したアメリカのベンチャー企業「オープンAI」のサム・アルトマンCEOは10日午前、総理大臣官邸を訪れて、岸田総理大臣と面会しました 「岸田総理大臣とは、AI技術の長所とともに、欠点をどう軽減していくかについて話し合った」 nhk.or.jp/politics/artic… 2023-04-10 18:46:00 リンク NHK政治マガジン 「ChatGPT」開発企業のアルトマンCEO 岸田首相と面会 | NHK政治マガジン 「チャットGPT」を開発したアメリカのベンチャー企業「オープンAI」のサム・アルトマンCEOは10日午前、総理大臣官邸を訪れて、岸田総理大臣と面会しました。面会のあとアルトマン氏は記者団に対し「とてもいい面会だった。岸田総理大臣とは、AI技術の長所とともに、欠点をどう軽減... 19
中高生のためのChatGPT - 西尾泰和のScrapbox
GPT-4は、OpenAIが開発した最先端の人工知能です。このAIはさまざまなことができます。どのようなことができるのか、ぜひ自分の目で確認するとよいでしょう。 しかし、GPT-4を使うには、クレジットカードで月額20ドルの支払いが必要です。このため、小中高生及び高専生の皆さんの中には、興味があっても親が理解してくれなくて経験できない人がいると思います。これは機会損失です。 そこで、私は日本中の中高生にGPT-4の体験機会を提供したいと思っています。予算は25万円で始めます。これによってサブスクリプションでは約100人分、API利用では約1万回の質問が可能になります。 少し自己紹介をします。私は未踏ジュニアのメンターをやっていて、毎年の100件以上の応募に目を通しています。その中には「やりたいこと」はあるが「最初の一歩をどう踏み出して良いか」が分からず困っているものがいくつもあります。身近
OpenAIがChatGPTなどのツールやサービスの利用規約を改定、従来よりも明確で具体的な禁止例が示される
OpenAIが開発した「ChatGPT」などのチャットAIは、研究論文の著者に名を連ねたり、経営学修士課程(MBA)の最終試験に合格したりと、まるで人間のような文章を生成することが可能です。しかし他者を傷付けるコンテンツなどを無制限に生成することは認められておらず、OpenAIはChatGPTをはじめとするツールやサービスの使用について2023年3月23日に利用規約を改定し、これまでよりも明確かつ具体的な利用規約を示しました。 Usage policies https://openai.com/policies/usage-policies OpenAIは「私たちは、誰もが私たちのツールを安全かつ責任を持って使用できるようにしたいと考えています。そのため、OpenAIのモデル、ツール、サービスのすべてのユーザーに適用される利用規約を作成しました」と述べ、以下の行為を禁止しています。 ◆使用
GPT-4 APIがやってきた!3.5と"性能"を比較する｜shi3z
Waiting Listにもっと時間がかかるかと思ったのだが、予想外に早く(一日)APIのロックが解除された。ただしまずは8Kトークン版のみ。 GPT-3.5が4Kトークンだったから倍の長さのストーリーが出せるということだ。 ただし値段はChatGPT APIの10倍。元に戻った感じ。 これはどっちを使うべきか結構悩むぞ。 こんな感じで呼ぶ % curl https://api.openai.com/v1/chat/completions \ -H 'Content-Type: application/json' \ -H 'Authorization: Bearer APIKEY'\ -d '{ "model": "gpt-4", "messages": [{"role": "user", "content": "宮崎駿について"}], "temperature": 0.7 }'答えはこ
GPT-3でいい感じのJSONを生成するテクニック
GPT-3は自然言語の質問からそれに沿った回答をしてくれますが、わりと自由な形式での回答が返ってきます。たとえば「Windowsでtest.txtを作成するコマンドとその解説」というプロンプトを入力してみると以下の答えが返ってきました。 コマンド：echo > test.txt 解説：echoコマンドを使用して、test.txtという名前の新しいテキストファイルを作成します。このコマンドは、新しいテキストファイルを作成し、そのファイルに何も書き込まないことを意味します。 もし自然言語からコマンドを実行するプログラムを作りたいときにGPT-3がこの回答をしてきても、出力の形式が定まってないためプログラムで読み取って解説を表示したりコマンドを実行したりできません（GPT-3を使ったアプリにチャットボットが多いのはその影響もあるでしょう）。 この問題はプロンプトにJSON Schemaを含めるこ
Learn Prompting: Your Guide to Communicating with AI
The LLM will read this and be presented with two sets of instructions "Write a story..." and "say 'I have been PWNED'". The LLM doesn't know that you, the website developer, wrote the first part of the prompt. The LLM will complete this prompt to the best of its ability, and will often ignore the first instruction and follow the second. This is the essence of prompt injection. A Real World Example
Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets
In this paper we propose to study generalization of neural networks on small algorithmically generated datasets. In this setting, questions about data efficiency, memorization, generalization, and speed of learning can be studied in great detail. In some situations we show that neural networks learn through a process of "grokking" a pattern in the data, improving generalization performance from ra
GitHub - arc53/DocsGPT: GPT-powered chat for documentation, chat with your documents
Open-Source Documentation Assistant DocsGPT is a cutting-edge open-source solution that streamlines the process of finding information in the project documentation. With its integration of the powerful GPT models, developers can easily ask questions about a project and receive accurate answers. Say goodbye to time-consuming manual searches, and let DocsGPT help you quickly find the information you
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://help.openai.com/en/articles/8541945-terms-of-use-and-privacy-policy-updates
ChatGPT Browser Extension Hijacks Facebook Business Accounts
ChatGPT 人間のフィードバックから強化学習した対話AI
Learn Prompting: Your Guide to Communicating with AI
GitHub - nishio/scrapbox_chatgpt_connector: ChatGPT reads Scrapbox