プロンプトインジェクション対策｜ChatGPT APIのLINEボットを一ヶ月運用して戦った記録 - Qiita
ChatGPTのチャットボットを安全に運用する方法 プロンプトインジェクションは、不適切な文字列や悪意のあるコードを含むプロンプトがChatGPTに送信されることで発生するセキュリティ上の懸念です。 2023/04/11現在、LINEボットとして公開されている多くのサービスでプロンプトインジェクション対策がなされていないようです。この記事では、プロンプトインジェクション対策の背景や具体的なプロンプトの例を紹介し、ChatGPT APIを安全に利用する方法を説明します。 背景 ChatGPT APIは、OpenAIが開発した大規模な言語モデルで、自然言語処理のタスクを実行するために利用されます。しかし、APIを利用する際にはセキュリティ上の問題が生じることがあります。プロンプトインジェクションはその一例で、攻撃者が意図的に悪意のあるプロンプトを送信することで、システムやユーザーに悪影響を与え
グーグル、人間の指示でロボットがコードを記述できる言語モデルを発表
Googleは、大規模言語モデル（LLM）利用に向けた新たな取り組みを発表した。ロボットが人間の指示に基づいて自分でコードを作成できる仕組みを示すものだという。 最新の取り組みは、ロボットが人間の曖昧な指示を理解して論理的に思考し、確実に反応できるようにする、Googleの「PaLM-SayCan」モデルをベースにしている。OpenAIの「GPT-3」 LLMや、GitHubの「Copilot」のような自動コード補完関連の機能もベースになっている。 「人間から指示が与えられた時に、ロボットが自分でコードを書いて世界とやりとりできたら、どうなるだろう」とGoogleの研究者は述べている。PaLMのような最新世代の言語モデルは、複雑な論理的思考が可能で、膨大なコードによって訓練されてきたという。「自然言語で指示を与えられると、最新の言語モデルは、汎用コードだけでなく、われわれが発見したように、
［速報］マイクロソフト、自然言語をプログラミング言語にAIで変換、新ノーコード機能をPower Appsに搭載。AI言語モデル「GPT-3」を採用。Microsoft Build 2021
［速報］マイクロソフト、自然言語をプログラミング言語にAIで変換、新ノーコード機能をPower Appsに搭載。AI言語モデル「GPT-3」を採用。Microsoft Build 2021 マイクロソフトは、オンラインで開催中の開発者向け年次イベント「Microsoft Build 2021」で、ローコード／ノーコード開発ツール「Power Apps」に、英語で説明すると自動的にその機能をプログラミング言語の「Power Fx」に変換してくれる新機能の搭載を発表しました。 Power FxはExcelの数式をベースにしたプログラミング言語で、今年の3月に発表されたばかりです。 参考：Excelの数式をベースにしたプログラミング言語「Microsoft Power Fx」登場。オープンソースで公開予定。Microsoft Ignite 2021 これによりプログラミングせずに、Power A
「Yahoo!知恵袋」の不快な投稿、見えないところへ わずか1日で6億件を処理 ヤフー社内で何が起きたのか (1/2) - ITmedia NEWS
老舗Q＆Aサービス「Yahoo!知恵袋」は、長い間あるものに悩まされてきた。規約違反ではないため削除できないが、見る人を不快にさせる内容の“グレーな投稿”である。これまで社内でパトロールを行うなど対応してきたが、同サービスの投稿は約6億件にものぼり、全てのグレーな投稿を見つけ出すことは難しかった。スーパーコンピュータ「kukai」（クウカイ）が導入されるまでは。 グレーな投稿には、中身がなく質問への回答になっていないものや、アダルトカテゴリーではないのに年齢制限が必要そうなものなどがある。ユーザー投稿型サービスだからこそ起こる問題だが「利用者から厳しい意見をいただくことも多い。どこかで線引きをする必要があった」とヤフーの丹羽達洋さんは話す。 そこで考えたのが、グレーな投稿を検出し、トップページなど人目につきやすい場所では非表示にするという対応だった。 グレーな投稿、どうやって見つける？ し
日本語ってすごくコスパが悪い言語だと思う
単純に同じ時間に詰め込める情報量が英語とかの方が段違いに多い 讃美歌の「もろびとこぞりて」って聴いたことあると思うけど、日本語だと もろびとこぞりて むかえまつれ って歌ってる間に、原詩（のひとつ）では Joy to the world, the Load is come. Let earth receive her King! まで歌えてるわけだからね もう単純に、単語数が違う。情報量が違う 日本語側は「諸人（もろびと）」なんていう普段使わない比較的パフォーマンスのいい単語を使ってさえこの結果だからね あと英詩の方が子音の入り方が細かいし普通にかっこいい。日本語は一音一文字のせいで何か間延びした感じ 関係ないけど日本語の「ありがとうございます」って単語が苦手だ 感謝を伝えるっていう、日常的に滅茶苦茶使う言葉でありながら異様に発語しにくい 日本語でもウ段の音であれば無声化して英語の子音のよ
How German Sounds Compared To Other Languages || CopyCatChannel
Subscribe to our channel: http://bit.ly/MakeThemMeow Experience how awfully harsh German sounds in comparison to other (more beautiful?!) languages! This is the original version! Click here to see all of our other videos with the German guy and German comedy! http://bit.ly/GermanComedy This is CopyCatChannel with Felix & Marius. We are two weirdos from Berlin and we like cats & the internet. W
海外「日本よ、冗談だろ？！」 常用漢字の多さに外国人がショック
外国人が日本語を勉強する上で、 最難関の1つとされる漢字の勉強。 「一般の社会生活において、 現代の国語を書き表す場合の漢字使用の目安」 として政府によって告示されている常用漢字表は、 2136字と決して少ないものではなく、 見慣れない文字を一から学ぶ必要のある外国人の大変さは、 やはり想像に難くありません。 動画では、そんな常用漢字の一覧表が紹介されています。 （動画の一覧表は2010年に行われた改定以前のもので、1945字） その数に、多くの外国人が圧倒されていました。 Some Japanese Words! ■ 俺ならあのポスターをベッドの真上の天井に貼り付ける。 そうすれば、もう不眠症とはオサラバだ :) カナダ ■ こういうの1つくらいあると最高だね。 俺には漢字の勉強はあまりにも難しすぎる……。 ポルトガル ■ ジョウヨウカンジは1945個あって、 高校卒業までに覚えるべきと
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
言語学者「2066年までに英語の”th”音が無くなる」理由は発音しにくいから？→いろんな国で発音される”th”のバリエーションが面白い