この記事は "What We’ve Learned From A Year of Building with LLMs" という記事を著者の一人である Eugene Yan さんから許可を得て翻訳したものです。 https://applied-llms.org/ Thank you for giving me a permission to translate this wonderful article! 著者の方々 Eugene Yan Bryan Bischof Charles Frye Hamel Husain Jason Liu Shreya Shankar 原文の公開日 2024/６/8 今は大規模言語モデル（LLM）を使った開発がとってもエキサイティングな時期です。この1年間で、LLMは実世界のアプリケーションに対して「十分に良い」ものになりました。そして、年々良くなり、安く
![[翻訳]LLMで1年間開発して学んだこと〜LLMプロダクト開発を成功に導くための実践的ガイド〜](https://cdn-ak-scissors.b.st-hatena.com/image/square/3636c7c8e7c838018a6e006d55b3f4b8d18f34cc/height=288;version=1;width=512/https%3A%2F%2Fres.cloudinary.com%2Fzenn%2Fimage%2Fupload%2Fs--7VM-vHg9--%2Fc_fit%252Cg_north_west%252Cl_text%3Anotosansjp-medium.otf_55%3A%25255B%2525E7%2525BF%2525BB%2525E8%2525A8%2525B3%25255DLLM%2525E3%252581%2525A71%2525E5%2525B9%2525B4%2525E9%252596%252593%2525E9%252596%25258B%2525E7%252599%2525BA%2525E3%252581%252597%2525E3%252581%2525A6%2525E5%2525AD%2525A6%2525E3%252582%252593%2525E3%252581%2525A0%2525E3%252581%252593%2525E3%252581%2525A8%2525E3%252580%25259CLLM%2525E3%252583%252597%2525E3%252583%2525AD%2525E3%252583%252580%2525E3%252582%2525AF%2525E3%252583%252588%2525E9%252596%25258B%2525E7%252599%2525BA%2525E3%252582%252592%2525E6%252588%252590%2525E5%25258A%25259F%2525E3%252581%2525AB%2525E5%2525B0%25258E%2525E3%252581%25258F%2525E3%252581%25259F%2525E3%252582%252581%2525E3%252581%2525AE%2525E5%2525AE%25259F%2525E8%2525B7%2525B5%2525E7%25259A%252584%2525E3%252582%2525AC%2525E3%252582%2525A4%2525E3%252583%252589%2525E3%252580%25259C%252Cw_1010%252Cx_90%252Cy_100%2Fg_south_west%252Cl_text%3Anotosansjp-medium.otf_37%3Aseya%252Cx_203%252Cy_121%2Fg_south_west%252Ch_90%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyL2QzODg4YjM0MzEuanBlZw%3D%3D%252Cr_max%252Cw_90%252Cx_87%252Cy_95%2Fv1627283836%2Fdefault%2Fog-base-w1200-v2.png)
インストールが完了したらアドレスバーに chrome://flags と入力して設定画面を開きます。以下の 2 つのフラグを設定します。 Enables optimization guide on device: Enabled BypassPerfRequirement Prompt API for Gemini Nano: Enabled また、あらかじめ Gemini Nano のモデルをダウンロードしておく必要があります。アドレスバーに chrome://components/ と入力して Optimization Guide On Device Model の「アップデートを確認」をクリックします。 Gemini Nano を使ってみる それでは、Gemini Nano を使ってみましょう。以下のコードをコンソールに貼り付けて実行します。 const canCreate = aw
NVIDIAがオープンモデル「Nemotron-4 340B」を発表、LLMトレーニング用合成データの生成に革命を起こすか
高度なAIのトレーニングには高品質な学習データが欠かせませんが、そのようなデータは急速に枯渇しつつあることが問題となっています。NVIDIA2024年6月14日に、大規模言語モデル(LLM)のトレーニングに使用する合成データの生成を念頭に開発され、商用アプリケーションにも使えるオープンソースのAIモデル「Nemotron-4 340B」を発表しました。 NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models | NVIDIA Blog https://blogs.nvidia.com/blog/nemotron-4-synthetic-data-generation-llm-training/ Nvidia's 'Nemotron-4 340B' model red
リコーの国内販売子会社であるリコージャパンは2024年6月28日、生成AI（人工知能）が対話形式で社内情報に関する質問に回答するサービスを2種類、同日から提供すると発表した。RAG（Retrieval Augmented Generation、検索拡張生成）の仕組みを使い、LLM（大規模言語モデル）が社内規定や過去事例、業務報告書といった社内文書を参照できるようにすることで回答精度を上げる。 「RICOH デジタルバディ」は大企業での利用を想定する。PDF、Word、Excel、PowerPoint形式のファイルをアップロードできる。個人や部門ごとに利用範囲を制御でき、情報の漏洩を防ぐ。米Amazon Web Services（AWS）の生成AIサービス「Amazon Bedrock」を通じてLLMにアクセスする。既存データベースとの連係、長文読解や多言語対応に強いLLMへの切り替えなど、
「PerplexityのAIがクローラーをブロックするrobots.txtを無視している」との指摘に対しCEOが「無視しているわけではないがサードパーティーのクローラーに依存している」と主張
生成AIを利用した検索エンジンの「Perplexity」に対して、検索エンジンやAIトレーニングなどのボット(クローラー)を制御できるテキストファイル「robots.txt」の指示を無視し、管理者がPerplexityの巡回を禁止したウェブサイトにもアクセスしていることが指摘されています。これに対し、Perplexityのアラヴィンド・スリニヴァスCEOが、「robots.txtの指示を無視しているわけではない」「自社のクローラーだけでなく、サードパーティーのクローラーにも依存している」と釈明しました。 Perplexity AI CEO Aravind Srinivas on plagiarism accusations - Fast Company https://www.fastcompany.com/91144894/perplexity-ai-ceo-aravind-sriniv
Next.js Chrome AI ChatbotThis is an open source AI chatbot app template built with Next.js, the Vercel AI SDK, and the chrome-ai provider. It uses Google Chrome's built-in large language model, Gemini Nano.
マクドナルドはIBMと提携し、ドライブスルーに「自動で注文を受けることができるAIチャットボット」を試験的に導入していたのですが、このテクノロジーを店舗から撤去する予定であることが、外食産業関連メディア・Restaurant Business Magazineの報道で明らかになりました。 McDonald's is ending its drive-thru AI test https://www.restaurantbusinessonline.com/technology/mcdonalds-ending-its-drive-thru-ai-test McDonald’s will stop testing AI to take drive-thru orders, for now - The Verge https://www.theverge.com/2024/6/16/24179
【AI】多数のアップロードした文書に特化したAIチャットアプリ「NotebookLM」の強みと弱点 | EARLの医学ノート
■Googleから新たなAIツール「NotebookLM」が試験的に無料公開された．NotebookLM自体は2023年の開発者向けカンファレンスGoogle I/O 2024の基調講演で発表されたサービスで，2023年12月8日から米国アカウントのみで使用可能となり，開発者や企業がGoogle AI StudioやGoogle Cloud Vertex AIのAPIを通してGemini-1.0Proを搭載したNotebookLMが利用できた．今回はそれが大幅アップデートされ，かつ世界200か国で公開され，SNSでもかなり話題となっている． 1．NotebookLMとは何か？ ■NotebookLMは作家のSteven Johnson氏とのパートナーシップで設計されたもので，ユーザーがパソコン，Google Drive，Googleスライド，ウェブサイト，あるいはテキストの直接入力から複数
技術本部Strategic Products Engineering Unit Contract One Devグループの伊藤です。契約データベース「Contract One」の開発に携わっています。 Contract Oneでは、GPTを活用した機能をいくつか提供しています。 今回は、Contract OneのGPTを活用した機能開発のために、LLMOpsの取り組みの一環としてLangfuseを導入し始めた話をします。 なお、本記事は【Strategic Products Engineering Unitブログリレー】という連載記事のひとつです。 buildersbox.corp-sansan.com はじめに Contract Oneでは、GPTを活用した文書内検索 *1 と要約機能 *2 を約1年前にリリースし、現在も提供しています。 GPTは自然言語形式の入力をAPI形式で処理でき
Amazonが「Metis」というコードネームでチャットAIを開発中であることが報じられています。 Amazon reportedly working on new AI chatbot to compete with ChatGPT - SiliconANGLE https://siliconangle.com/2024/06/24/amazon-reportedly-working-new-ai-chatbot-compete-chatgpt/ Report: Amazon developing AI chatbot that would compete with ChatGPT and others – GeekWire https://www.geekwire.com/2024/report-amazon-developing-ai-chatbot-that-would-compe
はじめに この記事はDifyを使った業務用AIツールの開発方法をまとめたものです。 Macのローカル環境上でテキスト分類器を作成することをゴールとしており、 環境構築から実装までを初心者向けに最初から解説しています。 環境構築 モデルの入手 モデルは商用利用可能なElyzaを利用します。 公式が量子化(軽量化)済みのGGUF版を提供してくださっているのでそちらを使用します。 以下のURLのFiles and Versionsからggufファイルをダウンロードしておいてください。 Ollamaの準備 LLMはollama上で動かします。以下の手順に従ってollamaのインストール後、elyzaを起動しておいてください。 ollamaのインストール 以下のURLよりollamaをインストールします。インストール後に起動するとステータスバーにllamaのアイコンが現れます。 ダウンロードURL
AppleがWWDC24で発表したパーソナルAIの「Apple Intelligence」は、OpenAIのChatGPTと統合されていますが、その他のチャットボットを導入することも計画されています。AppleはGoogleのGeminiを統合する計画があると語っていたのですが、これが2024年秋頃にはリリースされる可能性があると報じられました。 Apple’s Longer-Lasting Devices, iOS 19 and Apple Intelligence on the Vision Pro - Bloomberg https://www.bloomberg.com/news/newsletters/2024-06-30/apple-s-longer-lasting-devices-ios-19-and-apple-intelligence-on-the-vision-pro-
こんにちは西山です。 メール配信サービスとしてAWSではAmazon SES（以降SES）が用意されています。 SESは簡単に使い始めることができますが、運用していく中ではバウンスメールや苦情メールを管理していく必要があります。 ギークフィードでは社内システムやYouWireなどの自社サービスでSESを利用しており、どのようにバウンスメール、苦情メールを管理しているかをご紹介します。 苦情メールもバウンスメールと同様に管理しているので、この記事ではバウンスメールについてのみ記載しています。 アイキャッチ画像はGoogle Geminiで生成しました。 なぜバウンスメールを管理する必要があるのか Amazon SESを利用すると、メールはAmazonから送信先となるEメールプロバイダーへ送られ受信者に届けられます。 Eメールというのはスパムや迷惑メールの温床で、送信元のメールサーバーや送信元
[セッションレポート] プロンプトエンジニアリング入門（AWS-TC-04）#AWSSummit | DevelopersIO
こんにちは、AWS事業本部の荒平(@0Air)です。 AWS Summit Japan 2024にて、AWS-TC-04「プロンプトエンジニアリング入門」のセッションに参加しましたのでレポートします。 オンデマンド配信を見よう AWS Summit Japanの登録を行うことでオンデマンドで視聴可能です。（現地参加された方は改めての登録は不要です。） "AWS-TC-04"を検索してみてください。 セッション概要 このセッションでは、基盤モデルの基本とプロンプトエンジニアリングの主要な概念について学びます。 また、プロンプトを設計するためのベストプラクティスと、ゼロショット、フィューショット、 Chain of Thought プロンプティングなどのいくつかのプロンプティング手法について、例を通して学びます。 セッションスピーカー： 佐中 晋 氏 所属：アマゾン ウェブ サービス ジャパン
![[セッションレポート] プロンプトエンジニアリング入門（AWS-TC-04）#AWSSummit | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/9eea763f2eac736cbd32de0c7e9f136cd854c226/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2024%2F06%2Feyecatch_awssummit2024_session.png)
Large language models (LLMs), programs which use reams of available text and probability calculations in order to create seemingly-human-produced writing, have become increasingly sophisticated and convincing over the last several years, to the point where some commentators suggest that we may now be approaching the creation of artificial general intelligence (see e.g. Knight, 2023 and Sarkar, 202
[アップデート]Amazon CloudWatch Application SignalsがGAしました！CDKでサンプル作ってみた | DevelopersIO
[アップデート]Amazon CloudWatch Application SignalsがGAしました！CDKでサンプル作ってみた Amazon CloudWatch Application SignalsがGAしました！Application Signalsを試しに使うための環境をCDKで作り、実際にSLO/SLIを設定してみます。 はじめに 先日AWS上でSLO/SLI設定を比較的簡単に実現できるAmazon CloudWatch Application SignalsがGAしました！GA前からAWS上ではAPMがどう実現可能なのか、何が違うのかという記事はいくつかありました。 本稿ではApplication Signalsの簡単な概要と提供環境/言語/リージョンについての紹介に合わせて、実際にサンプルを作ってどんな動作をするのか確認してみます。実際に0から構築することで何が必要なの
![[アップデート]Amazon CloudWatch Application SignalsがGAしました！CDKでサンプル作ってみた | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/0021836084bdde128e82746a611da7093dc6b0f8/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2023%2F08%2Famazon-cloudwatch.png)
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
[翻訳]LLMで1年間開発して学んだこと〜LLMプロダクト開発を成功に導くための実践的ガイド〜
Chrome の 組み込み AI Gemini Nano を試してみる
リコージャパン、社内の質問にRAGを使って答える生成AIサービスを提供開始
Chrome AI - Vercel AI SDK
マクドナルドがドライブスルーの注文を受けるためIBMと提携して導入したAIチャットボットを撤去
Vol.04 LLMOps に取り組み始めた話 - Sansan Tech Blog
AmazonがチャットAI「Metis」を開発中との報道、ChatGPTと直接競合し2024年後半リリース予定
DifyとOllamaを使ってMacのローカルで動く業務用LLM-AIツールを作成する
Appleは今秋にGoogleのチャットボット・GeminiをApple Intelligenceに統合するとのウワサ
Amazon SESでバウンスメールを管理する | ソフトウェア開発のギークフィード
ChatGPT is bullshit - Ethics and Information Technology