フィードバックを送信 プロンプト設計戦略 コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。 プロンプト設計により、機械学習（ML）制御モデルの出力を初めて利用するユーザーでも、オーバーヘッドを最小限に抑えられます。プロンプトを慎重に作成することで、目的の結果を生成するようにモデルを調整できます。プロンプト設計は、特定のユースケースに合わせて言語モデルを適応させることをテストする効率的な方法です。 言語モデル、特に大規模言語モデル（LLM）は、単語間のパターンと関係を学習するために、膨大なテキストデータでトレーニングされています。テキスト（プロンプト）を受け取った言語モデルは、高度なオートコンプリート ツールのように、次に来ると思われるものを予測できます。したがって、プロンプトを設計する際は、モデルによる次の予測に影響を与える可能性のあるさまざまな要因を考慮し

この記事は Elastic Stack (Elasticsearch) Advent Calendar 2023 18日目の記事です。 こんにちは。 Acroquestのデータサイエンスチーム「YAMALEX」に所属する@shin0higuchiです😊 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 さて、最近はLLMの発展に伴ってRAG（Retrieval-Augumented Generation）が盛んに活用されています。 その中で、キーワードベースの検索だけでなくベクトル検索を併用するケースが多く見られ、実際にElasticsearchが利用されているケースも多く目にします。そのため、Elasticsearchのベクトル検索に興味を持っている方も多いと思います。今回の記事では、Elasticsearchのベクトル検索の速度な

Amazon Rekognition Face Liveness を使用することにより、アプリケーションプロバイダーは、サービスにアクセスしているユーザーが実在の人物なのか、それとも顔を偽装して別の身元になりすまし、認識されないようにしようとする悪意のある人物なのかをリアルタイムで検出できます。顔面偽装には、プレゼンテーション攻撃 (印刷された写真をカメラに映し出すなど) やデジタルインジェクション攻撃 (カメラをバイパスするソフトウェアを使用するディープフェイクビデオなど) があります。Amazon は、Rekognition Face Liveness の新しいバージョンをリリースしました。これにより、攻撃を検出する際のモデルの精度が向上し、正規ユーザーには新しいユーザーインターフェイス (UI) によってより合理的なエクスペリエンスが提供されます。 金融、ギグエコノミー、通信、医療、

はじめに どうもこんにちは、kunishouです。本記事は LLM Advent Calendar 2023 18日目の記事になります。LLMアドカレも終盤に差し掛かかってきました。私は今回のLLMアドカレでは、データセットに関する2つの記事を投稿してきましたが、今回は、データセットの話ではなく LLM の強化学習、モデル最適化について紹介したいと思います。 本記事について 本記事は LLM における強化学習と Direct Preference Optimization （ DPO ）を適用することによる LLM の安全性能への影響について検証した記事になります。なお、強化学習や DPO の詳細な理論については、本記事では説明しない点についてはご了承下さい。 モチベーション 強化学習、モデル最適化の定量的な効果への興味 LLMの開発フェーズには、ベースモデルを作る事前学習フェーズと、ベー

この記事はエムスリーAdvent Calendar 2023の18日目の記事です。 AI・機械学習チームの高田です。 AI・機械学習チームではデータパイプラインを構築する機会が多く、パイプラインの中でpandasを活用しています。 今回はpandasのSeries型を扱う関数の単体テストにMagicMockを使った際にハマったポイントを紹介したいと思います。 Series.mapの活用例 単体テスト 何が起きているのか 修正結果 おわりに We are hiring!! Series.mapの活用例 データの前処理工程ではDataFrameやSeriesの値を利用して別のSeriesを作成することが多くあります。 例えばアンケートの自由記述回答のうち、一定の文字数以上のデータのみ扱うために、テキストデータのSeriesから文字列長のSeriesを作成する場合が考えられます。 Seriesか

2023年12月6日に発表されたAMDのAI特化型チップ「MI300X」は、NVIDIA製AI特化型チップ「H100」と比べて優れた性能を発揮できることがアピールされています。一方でNVIDIAはMI300XとH100の比較の際のテスト環境が同一ではなかったと主張しました。そこでAMDはNVIDIAの指摘に対する検証を行いました。 AMD strikes back at Nvidia with new MI300X benchmarks — MI300X shows 30% higher performance than H100, even with an optimized software stack | Tom's Hardware https://www.tomshardware.com/pc-components/gpus/amd-strikes-back-at-nvidia-

by Solen Feyissa 中国の大手IT企業であるByteDanceは以前、ユーザーの好みにピッタリな動画を見つけるTikTokのアルゴリズムで世界的なAIのリーディングカンパニーとなりましたが、OpenAIの台頭により生成AIの分野で後れを取っています。独自の生成AI「豆包(Doubao)」で巻き返しを図るByteDanceが、利用規約に違反する形でOpenAIのAPIを使用し、「Project Seed」という名称で大規模言語モデル(LLM)を開発していたことが内部文書から明らかになったと、IT系ニュースサイトのThe Vergeが報じました。 ByteDance is secretly using OpenAI’s tech to build a competitor - The Verge https://www.theverge.com/2023/12/15/240031

AIエージェントシステム構築のガイドラインについてOpenAIの研究者らが論じているホワイトペーパー『Practices for Governing Agentic AI』（2023年12月14日公開、以下ホワイトペーパー）の内容が非常に示唆に富むものだったので、本稿ではこの内容を読み解いていこうと思います。 注意事項ホワイトペーパー内の表現は、分かりやすいように意訳してお届けしています。例えば"limited direct supervision"は「限定的な直接の監視」と訳せますが、表現が硬いため、意を汲んで「人間による部分的な管理」などと訳出しています。そのため正確な表現については原著をご参照ください。 3分で理解したい人向けのまとめエージェント型AIシステムとは、人間による部分的な管理下であっても、複雑な目標を自律的に遂行できるAIシステムのことを指します。 このようなシステムは、

米OpenAIは12月18日（現地時間）、AIの脅威を防ぐための安全プロセスを拡張したと発表した。10月に発表した「Preparedness」のWebサイトが更新されている。 新たに部門横断的な「Safety Advisory Group」（安全諮問グループ）を設立する。10月に立ち上げたPreparednessチームは引き続きフロンティアモデル（最先端の既存モデルの機能を超え、さまざまなタスクを実行できる大規模な機械学習モデル）の限界を調べるための技術的作業を推進する。安全諮問グループは、Preparednessチームからの報告書を検討する。 意思決定は経営陣が行うが、取締役会は決定を覆す権利（拒否権）を持つ。 取締役は現在、アダム・ディアンジェロ氏、元SalesforceのCEOで取締役会長に就任するブレット・テイラー氏、経済学者のラリー・サマーズ氏の3人。米Microsoftも議決権

OpenAIは、大規模言語モデル（GPT-4）でよりよい結果を出すためのプロンプトエンジニアリング（プロンプトのノウハウ）入門テキストを同社のウェブサイトで公開している。 同テキストでは、現在同社で最高の性能を持つ大規模言語モデルGPT-4を対象に、よりよい結果を導くための6つの戦略と、それぞれを実行する際の具体的な戦術（コツ）が掲載されている。 また、「Prompt examples」のページでは、上記で紹介したものを含む多数のプロンプト例が紹介されており、すぐに利用できるようになっている。 では紹介された6つの戦略を見ていこう。 明確な指示を書く LLMは利用者の心を読むことができないので、回答が長すぎる場合は「簡潔に」、単純すぎる場合は「専門家レベルで」と明示的に依頼する必要がある。 具体的な戦術としては下記が提案されている。 ・より関連性の高い回答を得られるよう、質問は詳細に ・モ

OpenAIは、大規模言語モデル（GPT-4）でよりよい結果を出すためのプロンプトエンジニアリング（プロンプトのノウハウ）入門テキストを同社のウェブサイトで公開している。 同テキストでは、現在同社で最高の性能を持つ大規模言語モデルGPT-4を対象に、よりよい結果を導くための6つの戦略と、それぞれを実行する際の具体的な戦術（コツ）が掲載されている。 また、「Prompt examples」のページでは、上記で紹介したものを含む多数のプロンプト例が紹介されており、すぐに利用できるようになっている。 では紹介された6つの戦略を見ていこう。 明確な指示を書く LLMは利用者の心を読むことができないので、回答が長すぎる場合は「簡潔に」、単純すぎる場合は「専門家レベルで」と明示的に依頼する必要がある。 具体的な戦術としては下記が提案されている。 ・より関連性の高い回答を得られるよう、質問は詳細に ・モ

※GitHubアカウントでのログインがあります。これはチームコラボレーションの機能で必要になってくるからとのことです。ログインせずに試せるようにもしていくそうです。 使用感 ダブルクリックでの選択 クリックでのカーソル移動 キーボードショットカット などMacの基本的な操作感のまま直感的に入力できるようになっています。 またtabキーでは通常のタブ補完もできますし、実行コマンドの詳細も確認できたりします。 ブロック コマンドごとにブロックに別れています。そのため コマンドごとに（コマンド、出力、その両方、プロンプト、ディレクトリ）をコピー ブロック内での検索 ブロックで移動できるのでスクロールが少なく済む などがメリットとしてあります。 ブロックごとにコピーできるので共有するときなど捗ります。 コマンドパレット、コマンドサーチ ⌘P でコマンドパレットにアクセスできます。 コマンドパレット

2023年12月10日から16日にかけて行われた機械学習と計算論的神経科学のカンファレンスイベント「NeurIPS」において、シドニー工科大学の研究チームによる「生の脳波を直接言語に翻訳する」という大規模言語モデル「BrainGPT」の論文が注目論文として選出されました。 Portable, non-invasive, mind-reading AI turns thoughts into text | University of Technology Sydney https://www.uts.edu.au/news/tech-design/portable-non-invasive-mind-reading-ai-turns-thoughts-text New Mind-Reading "BrainGPT" Turns Thoughts Into Text On Screen | I

N/S 高等学校でプログラミング講師をしている Kuwabara です。 本記事は、筑波NSミライラボ Advent Calendar 2023 の18日目の記事です。 この記事では、自然言語処理の歴史（〜2023年）について、登場人物二人の掛け合いとともに、振り返っていこうと思います。AIについてあまり知らない方にも、何とか雰囲気をつかんでいただけるように頑張って書いたので、ぜひ読んでいただけると幸いです。 はじめに シグマ「ふんふんふふーん」 オメガ「ハロー、シグマ。ごきげんだね」 シグマ「やあ、オメガ。今、ChatGPTで遊んでいたんだ」 オメガ「そうなんだね」 シグマ「すごいよなあ、ChatGPT。いったいどんな仕組みなんだろ。人間が裏で頑張って返事してくれているとしか思えないよ」 オメガ「確かにね！　あ、そうだ。せっかくだしさ、今日は一緒に自然言語処理について学んでみる？」 シグ

タダ飯狙いでIT系コミュニティのイベントなどに入り込む人たちがいる、ということが少し前から話題になっている中で、実際に不審者がイベントに入り込もうとした事案がまた明らかになりました。 12月11日と12日の2日間、都内で開催されたコミュニティ主催の技術系カンファレンスで、おそらくは無料の食事を目当てにした不審な人物らが侵入しようとした出来事が発生していたことがイベントの当事者の発言で示されています。 スタッフとして不審者に対応した一人である鍋島理人氏は、「勉強会参加者や運営に危害が及ぶほどの脅威であり、必要なのは不審者対策そのものだと認識を改めた。というか僕はそれぐらい怖かった」とポストし、今回の事態の大きさを吐露しました（鍋島氏は以前、翔泳社でDevelopers Summit（通称デブサミ）のオーガナイザーを勤めたこともある、イベントやコミュニティの運営に関して十分な知見を備えた人物で