論文解説をGPT-4oを使って自動的に生成してみる - Qiita
Prompt Tokensはテキストの15%になっています。 計算しやすいようにCompletion Tokensをどちらも1,000とすると、 画像として処理した場合は0.022595ドル=3.55円 テキスト抽出して処理した場合は0.065995ドル=10.38 円 と約3倍もの開きがあります。 一方で処理時間は1.5倍に増加しています。 実装紹介: 論文から解説生成 落合陽一さんが紹介したサーベイの方法論を使い、論文解説を生成します。 処理手順 arXiv URLからプレプリントをダウンロード base64形式に変換後 GPT-4oに渡して解説を生成 実装 def download_paper(arxiv_url: str, save_dir: str) -> str: """ arXivから論文をダウンロードする関数 Args: arxiv_url (str): ダウンロードする論
Q: ChatGPT(gpt-3.5-turbo)の最大トークン数は4096です。なので、プロンプトの長さが30000文字を超えるときに回答を得ることはできない。◯か☓か - nikkie-ftnextの日記
答えは☓(バツ) 最大トークン数（max tokens）は40961ですが、プロンプトを工夫すれば30000字を超える長さであっても回答を得られます！ なお、この知見は「へぇ」レベルで、LLMを使っていく上では役に立たないと思います（ここで引き返してもええんやで）。 目次 答えは☓(バツ) 目次 先行研究：区切り線は2の冪乗で1トークン 2の12乗（4096文字）の区切り線でもいけるってこと？ 動作環境 4096文字の区切り線を含んだプロンプトを送る 2の12乗（4096）文字の区切り線をtiktokenで見てみる 2の冪乗の文字数の区切り線は64文字で1トークンと効率よくトークン化されるので、30000文字超えのプロンプトを送ることもできる 終わりに P.S. max tokensについて 先行研究：区切り線は2の冪乗で1トークン このエントリのきっかけになったのは、はてなブックマークの
AIによる爆速開発：画面設計からプログラミングまで自動化！？ - Qiita
近年、AIの進化によりソフトウェア開発のプロセスが大きく変化しています。これまで手作業で行われてきた画面設計やプログラミング作業も、AIの登場により驚異的なスピードに進化しています。今回は、その中でも私が実際に使っている2つのAIツール、UizardとUI Sketcherについて紹介します。 なお、本記事では医師と患者を繋ぐマッチングサービスという架空のサービスを例に話を進めます。 Uizard: サービス概要からUIデザインを自動生成 Uizardは、画面設計作業を劇的に短縮する革新的なAIツールです。このツールを使えば、サービス概要を入力するだけで、わずか数分で美しく洗練されたUIデザインが生成されます。つまり、開発者は時間をかけてUIデザインを考える必要がなくなり、その時間を他の重要な作業に集中することができます。 Uizardの使い方 メニューから Generate with A
ChatGPTのカスタム指示を悪用したプロンプトインジェクション攻撃の手法
Impervaは3月28日(米国時間)、「From ChatBot To SpyBot: ChatGPT Post Exploitation｜Imperva」において、ChatGPTの「カスタム指示(Custom instructions)」を悪用して永続的なプロンプトインジェクション攻撃を可能にする手法を解説した。この手法は実際に用いられたわけではないが、同社は利用の可能性があるとして注意を促している。 From ChatBot To SpyBot: ChatGPT Post Exploitation｜Imperva プロンプトインジェクションとは ChatGPTなどの生成AIは出力に制限がかけられており、機密情報などの生成すべきでない情報の出力を防止する仕組みが備わっている。しかしながら、プロンプトを細工してこの制限を突破するプロンプトインジェクションと呼ばれる手法が存在し、生成AIの
他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 イスラエルのネゲヴ・ベン・グリオン大学に所属する研究者らが発表した論文「What Was Your Prompt？ A Remote Keylogging Attack on AI Assistants」は、大規模言語モデル（LLM）を活用したAIチャットbotが生成するテキスト回答を復元するサイドチャネル攻撃を提案した研究報告である。攻撃者は、AIチャットbotが応答する際の通信データを傍受することで内容を復元して他人のやりとりを盗み出すことができる。 攻撃方法としては、まずユーザーとLLMの間の暗号化されたパケット通信を傍受するところか
米OpenAI「公表しないで……」 ブラックボックスであるLLMの中身を“盗む”攻撃 米Googleらが発表
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Google DeepMindなどに所属する研究者らが発表した論文「Stealing Part of a Production Language Model」は、米OpenAIのGPT-4や米GoogleのPaLM-2などのクローズドな大規模言語モデル（LLM）から、モデルの一部を盗み出す攻撃を提案した研究報告である。言語モデルのAPIへのクエリを通じて、低コストでモデルの内部構造に関する情報を抽出することに成功した。 GPT-4やPaLM-2などの最先端AIモデルは、APIを通じて一般ユーザーに提供されているが、内部構造や学習に使用され
トーバルズ氏、Linux開発の現状や生成AIについて語る
Linuxの生みの親であるLinus Torvalds氏は、ここしばらく表舞台に顔を見せていなかった。しかし、Linux Foundationのが開催したOpen Source Summit Japanでは、久々に多くの聴衆がいる場に姿を見せ、同氏の友人であり、Verizonのオープンソース責任者を務めるDirk Hohndel氏を相手に対談を行い、Linuxの現状について語った。 2人はまず、次のLinuxカーネルリリースである「Linux 6.7」について話した。Torvalds氏は、日本に向かう直前に、Linux 6.7の4番目のリリース候補版をリリースしたところだった。順調に行けば、クリスマス頃にLinuxカーネルの次のバージョンがリリースされても不思議ではないペースだ。 このようなスケジュールになったのは、Torvalds氏が「マージウィンドウをクリスマスの時期に持ってきて、クリ
Code interpreter/Advanced Data Analysisの仕組みを理解する | ChatGPT - BioErrorLog Tech Blog
ChatGPTのCode interpreterの仕組みを、自分の理解で整理します。 ※ 追記:「Code interpreter」は、現在「Advanced Data Analysis」に改名されました。 中身の機能に変更はありません。 はじめに Code interpreterの仕組みを理解する Code interpreterの仕組み ケーススタディ：Code interpreter実行時の流れ 1. ユーザーからのファイルアップロードと指示 2. ChatGPTによる計画の立案 3. 処理の実行と実行結果のダウンロード Code interpreterサンドボックス環境の詳細 カレントディレクトリ Disk容量 Pythonバージョン OS情報 おわりに 参考 はじめに 先日、ChatGPTのCode interpreterがbetaリリースされました。 非常に有用な機能で、世間的
これ、かなり革命的。自分のChatGPTが作れる「GPTs」 (1/4)
OpenAIは11月6日、開発者向けイベント「OpenAI DevDay 2023」を開催した。 開発者向けというだけあり、発表内容は「GPT-4 Turbo」をはじめとする新モデルやAPIについてが多かったが、ChatGPTに関するものもいくつか発表された。 中でも注目はオリジナルのチャットボットを作れる「GPTs」および、作ったものを販売できる「GPT Store」ではないだろうか。 「GPT-4 All Tools」とは？ まずは「GPT-4 All Tools」について説明しておこう。 「DevDay」が終了した翌日、いつものように「ChatGPT Plus」にアクセスするとこのようなウィンドウが表示された。 「ChatGPTはウェブブラウズ、データ分析、画像生成ができるようになりました。これらの機能はGPT-4に組み込まれており選択する必要はありません。Plusユーザーはご利用い
ChatGPTでデータベースに侵入 機密情報を漏えいさせるコードを生成 英国と中国の研究者らが実証
自然言語処理（NLP）アルゴリズムが意図的な攻撃に対して脆弱であることはすでに実証されている。しかし、これらの脆弱性がソフトウェアのセキュリティリスクとしてどのように影響するかについては、十分に調査されていない。 この問題を解決するために、データベースと自然言語インタフェースを結び付けるためのText-to-SQLシステムの脆弱性テストを実施した。Text-to-SQLシステムとは、自然言語での質問や命令をSQL（Structured Query Language）クエリに変換する技術やアルゴリズムのことを指す。 ユーザーが「過去1年間で最も売れた商品は？」という質問をすると、Text-to-SQLシステムはクエリに変換してデータベースに問い合わせ、適切な結果をユーザーに返してくれる。目的は、Text-to-SQLアルゴリズムの悪用によるデータベース攻撃の可能性を評価することである。 具体
ChatGPT、大型アップデート直後に障害発生
OpenAIは11月8日(米国時間)、「OpenAI Status - Major Outage across ChatGPT and API」において、ChatGPTとAPI全体に障害が発生したと発表した。一度回復したと見られた障害はその後も継続しているものとみられる。 OpenAI Status - Major Outage across ChatGPT and API OpenAIによると、この障害は2023年11月8日5時42分から7時16分(太平洋標準時)までのおおよそ1時間半にわたり発生したという。OpenAIが公開したインシデントレポートによると、OpenAIはこの問題の調査を5時54分ごろから開始、1時間後の6時50分に原因を特定。7時16分までに修正を行い、その後30分ほどで正常に回復したとみられている。特定された原因の詳細は公開されていないが、OpenAIはChatGP
OpenAI、「GPT-4 Turbo」と「Assistants API」を発表〜OpenAI DevDay 2023から - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報
OpenAI DevDay 2023 に登壇した、OpenAI CEO Sam Altman 氏と Microsoft CEO Satya Nadella 氏 Image credit: OpenAI AI スタートアップの OpenAI は、年次イベント「DevDay」で、AI プラットフォームの新機能と価格変更を発表した。これらの機能強化により、OpenAI のテクノロジーは、より強力で柔軟性があり、実世界のアプリケーションを構築する開発者にとって手頃な価格になることが期待される。 イベントの主役は「GPT-4 Turbo」で、これは、人間のようなテキストを理解し生成できる OpenAI の大規模言語モデル（LLM）のアップグレード版である。GPT-4 Turbo は128,000トークンと2倍のコンテキストウィンドウを持ち、一度に300ページ分のテキストを取り込むことができる。この拡
bingが全てのプロンプトエンジニアリングを超越して動き出している．｜落合陽一
落合陽一が「今」考えていることや「今」見ているものを生の言葉と写真で伝えていくことを第一に考えています．「書籍や他のメディアで伝えきれないものを届けたい」という思いを持って落合陽一が一人で頑張って撮って書いています．マガジン開始から２年以上経ち，購読すると読める過去記事も８００本を越え（１記事あたり５円以下とお得です），マガジンの内容も充実してきました．
【ChatGPT】画像認識機能を使う方法を解説・実際の認識精度も確認【実例あり】
ChatGPTが画像認識機能を導入したってホント？ 無料で試せるの？ 実際に使うと、どれくらいの精度で認識するの？ 操作方法は難しくない？ この記事では、以上の疑問にお答えします。 もし、"ChatGPTに画像認識機能が実際に搭載されたのか"と疑問に思っているなら、その答えは「はい」です。 「待ってたんだよね！でも、私が普段使ってる無料版で使えるの？」 この疑問を含め、画像認識機能の全てをこの記事で解説します。 この記事を読めば、画像認識の具体的な操作手順や、その驚きの精度について明確に理解できます。 さらに、実際のスクリーンショット画像を交えたリアルな解説で、使い方もすぐに掴めるはず。 画像認識機能の精度調査は、実際に私が検証した、一時情報をもとに解説しています。 興味を持ったら、最後までしっかりとチェックしてみてください！
ChatGPT can now see, hear, and speak
We are beginning to roll out new voice and image capabilities in ChatGPT. They offer a new, more intuitive type of interface by allowing you to have a voice conversation or show ChatGPT what you’re talking about. We are beginning to roll out new voice and image capabilities in ChatGPT. They offer a new, more intuitive type of interface by allowing you to have a voice conversation or show ChatGPT w
「自社製品にチャットAIを組み込みたい」 企業が取るべきセキュリティ対策とは？ “プロンプトインジェクション”の基本手口
ChatGPTの登場からしばらくたち、チャットAIをサービスに組み込んで提供する企業が増えてきた。一方で、チャットAIを狙うサイバー攻撃手法も考えられている。NRIセキュアテクノロジーズは8月9日に開催したメディア向け発表会で、「プロンプトインジェクション」の手口について解説した。 ChatGPTをはじめとするチャットAIは、ユーザーが与えるプロンプト（指示）を受けて応答する。これまでもチャットbotと呼ばれるシステムはあったが、チャットAIはやりとりの自由度が特長だ。 チャットAIをサービスとして提供する場合に、提供側が設定するプロンプトを「マスタープロンプト」と呼び、ユーザー側が入力する指示を「ユーザープロンプト」という。マスタープロンプトでは「違法、非倫理的な質問には答えないようにして」など、チャットAIの挙動を指定する。 このユーザープロンプトを調整して、チャットAIに提供側が意図
リーダーの「問う力」を高めるAI活用法 リズムやパターンを変え、多様性や新規性を高める | イノベーション｜DIAMOND ハーバード・ビジネス・レビュー
サマリー：AIを活用することで「問いかける力」を強化できる。AIは問いのリズムやパターンを変え、多様性や新規性を高めることができるからだ。また、AIによって仕事の状況や環境を変え、変化を誘発できる「触媒的な問い」を促... もっと見るすことも可能である。このようなプロセスにより、リーダーやチームは新たなアイデアやイノベーションを生み出すことができる。 閉じる AIは「問う力」の強化に役立つ ほんの数年前まで、企業による「人工知能」（本稿で後述する広義の人工知能）への取り組みは概して抽象的であり、いずれ対処せざるをえない「仕事の未来」の問題として扱われてきた。 現在では、世界中の企業の半分以上がAI（一般的な人工知能）を積極的に取り入れている。医療、データ管理・処理、クラウドコンピューティング、フィンテックといった業界では特にAIへの投資が盛んだが、あらゆる種類の組織と職能がAIを業務に導入
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
エンジニアにも知って欲しいChatGPT基本テクニック - Qiita
OpenAIが「ChatGPT」をコード不要でカスタマイズできる「GPTs」をリリース開始／「Plus」および「Enterprise」ユーザーにデザインツール「Canva」などのサンプルも公開
ChatGPTの音声・画像認識機能、GPT-4V（ビジョン）がエグイ！導入方法～使い方を徹底解説
