【KARAKURI LM 10本ノック】番外編： Chrome内蔵のローカルLLMで「どこでもCopilot」を作ってみた
本記事中で紹介しているユーザスクリプト「どこでもCopilot」。ChromeビルトインのLLMで、任意のフォーム上で文章の続きをサジェスト。外部通信なし、無料で動作こんにちは、カラクリR&Dの吉田です。今回は、10本ノック「番外編」ということで、Google Chrome の最新版に本日(2024–08–22)組み込まれたローカルLLMの話をします。 本記事の概要2024年8月22日に公開された Google Chrome の「バージョン128」にローカルLLM として Gemini Nano が組み込まれました。このLLMは、フロントエンド JavaScript から手軽に呼び出し可能で、ローカルLLMなので外部への通信は発生しません。しかも無料です。 本記事では、このLLMを体験する方法を記します。また、このLLMを応用して、任意のフォーム上で入力した文章の続きをリアルタイムで補完し
「尖った人ではなく、暗黙知を形式知に変換する人がほしい」 “均質人材”を育成してきた日本でこれから求められる能力とは
「プログラミングを学ぶ」ではなく「要件定義を学ぶ」 田中邦裕氏（以下、田中）：あと13分ぐらいになったので、今後の展望にいきたいのですが、その前に、質問が7個ほど来ているので、みなさんに聞きたいと思います。 一番投票数が多い質問が、「非エンジニアでAIを使ったスマホアプリを作りたいんだけれども、プログラミングをそもそも学ぶべきか？」という質問です。 生成AIがある今、何をどのように学ぶべきなのか。プログラムを学ぶべきなのか、それ以外になにか手段があるのか。目的によっても違うのですが、ざっくりとしたこの質問に対して、なにか答えられる方はいますか？ 比戸将平氏（以下、比戸）：じゃあ、私から。 田中：はい、お願いします。 比戸：先週ぐらいに、NVIDIAのジェンスン（Jensen Huang氏）が、「今後はAIがプログラムを書くから、もうプログラムを学ぶ必要はないよ」と発言したのが切り取られて、
なぜ我々は GitHub Copilot Enterprise の導入を見送ったのか - 一休.com Developers Blog
CTO 室の恩田です。 今回は GitHub Copilot Enterprise を評価してみて、現時点ではまだ採用しないことを決めた、というお話をご紹介したいと思います。 きっかけ とあるエンジニアが Slack で自身の times チャネルに時雨堂さんの GitHub Copilot Enterprise のススメという記事を投稿したことが発端でした。特に感想はなく URL に 👀 だけが添えられていたので、後で見るぐらいのメモだったんだと思います。 それを見かけた別のエンジニアが技術雑談チャネルにその投稿を共有して、これは凄そうと話題を向けたところ、CTO の「評価してみる？」の一言で、有志が集って評価プロジェクトが始まりました。 雑談チャネルできっかけとなる投稿が共有されてから、30分足らずの出来事でした（笑）。 この話題が出たのは金曜日でしたが、週明け早々に稟議を終え、火曜
「ないと生きていけない」、内製のあらゆる場面に生成AI使うグロービスとLM
出典：日経クロステック、2024年1月30日 （記事は執筆時の情報に基づいており、現在では異なる場合があります） 「もはや『GitHub Copilot』がなければ生きていけない」――。組織人事コンサルティングを手掛けるリンクアンドモチベーション（LM）の梅原穂高リードエンジニアはこう話す。GitHub Copilotは、米GitHub（ギットハブ）が提供する生成AI（人工知能）によるコード補完サービス。同様の声は、システム内製に生成AIを活用する先進エンジニアからも多く聞かれる。 システム内製の先進企業は、コーディングにとどまらず開発ドキュメントの翻訳、テスト自動化など、システム内製のあらゆる段階で生成AIを使い始めている。こうした先進企業であるグロービスとリンクアンドモチベーションの取り組みを見ていこう。 開発ドキュメントの翻訳も生成AIで ビジネススクールなどを運営するグロービスは、
専門組織が先陣を切り生成AI試すKDDI系やTBS、機動力高めて内製開発の起点に
出典：日経クロステック、2024年1月31日 （記事は執筆時の情報に基づいており、現在では異なる場合があります） 通信業界やメディア業界でも、生成AI（人工知能）を活用し、システム内製の効率化を図る先進企業が出てきている。KDDIアジャイル開発センター（KAG）やTBSテレビでは、機動力のある組織が先陣を切って生成AIを試し、内製拡大の起点となっている。 アジャイル開発に最適な生成AI KDDIのグループ会社でシステム開発を手掛けるKAGは、米GitHub（ギットハブ）のコード補完サービス「GitHub Copilot」や米Amazon Web Services（アマゾンウェブサービス、AWS）の生成AIアシスタント「Amazon Q」などを試してきた。同社で蓄積したシステム開発における生成AI活用のノウハウをKDDIにも展開することを目指す。 KAGは、システムのアジャイル開発を推進する
ChatGPTで社内ナレッジの回答をするLINEボットを作ってみた - Qiita
概要 先日、Microsoft AzureにPromptFlowという機能が追加されました。 これはAzureOpenAIに対してのプロンプトエンジニアリングをローコードで支援する仕組みなんですが、DBを用意してそこに社内ドキュメントを格納しておき、それに対してPromptFlowの内部でアクセスすることによってChatGPTに社内ドキュメントへの検索、回答機能を持たせることができます。 このChatGPTに対して独自ドキュメントを拡張知識として持たせる仕組みのことをRAG（Retrieval Augmented Generation）といいます。 参考: プロンプトエンジニアリング手法 外部データ接続・RAG編 - Platinum Data Blog by BrainPad PromptFlowの機能によって、独自の拡張知識を持ったChatGPTのREST APIをオンライン上にデプロ
横須賀市、日本初のChatGPT導入の知見を生かし行政のイノベーションを目指す
「DIGITAL X DAY 2023」より、神奈川県横須賀市 デジタル・ガバメント推進室の太田 耕平 氏 生成AI（人工知能）技術を活用した生産性の向上は自治体業務でも期待されている。神奈川県横須賀市は、AIチャットサービス「ChatGPT」をいち早く導入し、利用状況などの情報発信を積極的に続けている。同市のデジタル・ガバメント推進室 課長補佐の太田 耕平 氏が、「DIGITAL X DAY 2023 生成AIで始める業務改革」（主催：DIGITAL X、2023年9月）に登壇し、ChatGPTの導入経緯や活用のポイント、今後の展望について解説した。 「すべての始まりは2023年3月29日、市長からの『ChatGPTを使って何か検討できないか』という相談からだった」−−。神奈川県横須賀市 デジタル・ガバメント推進室 課長補佐の太田 耕平 氏は、同氏がAI（人工知能）チャットサービスの「C
独自生成 AI チャットボット作成、Copilot 拡張の民主化 (Microsoft Ignite 2023/Microsoft Copilot Studio の誕生を踏まえて) - Qiita
独自生成 AI チャットボット作成、Copilot 拡張の民主化 (Microsoft Ignite 2023/Microsoft Copilot Studio の誕生を踏まえて)PowerPlatformPowerVirtualAgentsChatGPTAzureOpenAI はじめに 日本時間 2023 年 11 月 16 日深夜より Microsoft Ignite が開催されております。 その中で、Power Platform 界隈の人からすると衝撃的なニュースが飛び込んできました。 それは、以下の通り、Power Platform のサービス群の一つである、Power Virtual Agetns が Microsoft Copilot Studio に変わった旨です。 今回は、こちらについて、私の考えを整理してみたいと思います。 独自生成 AI チャットボット作成、Copilo
LLMのプロンプト技術まとめ - Qiita
現在，34個掲載(一部執筆途中) Xのアカウント@fuyu_quantでも技術系の投稿をしているのでよかったらフォローしてください！ はじめに 今回はすぐに使えそうなプロンプトの工夫やフレームワークについて有名なものをまとめました．LMの出力の精度向上に役立てられればと思います． 論文があるものについてはarXivに最初に投稿された順番で掲載しています． 論文で精度向上が確認されているのは英語での検証がほとんどであるため，日本語で改善されるかは分かりません． 全てのLLM(GPT-4,Llama2,...)で精度が改善するとは限りません． ※記事に誤り等ありましたらご指摘いただけますと幸いです． 以下の記事では敵対的プロンプト技術をまとめています！ 目次 Zero-shot prompting Few-shot prompting 2021年〜 Generated Knowledge Pr
Amazon BedrockのClaudeとAmazon Kendra、AWS Lambdaを利用し、RAGを実装してみた | DevelopersIO
はじめに Amazon BedrockとAmazon Kendra、AWS Lambdaで、Retrieval Augmented Generation（RAG）を実装してみました。 最近、社内の業務効率化などの目的で、AIの言語モデル（以降、LLM）を用いて社内情報を活用するための手法として、RAGがよく話題になっています。 RAGとは具体的には、ユーザーからの問い合わせ（プロンプト）に基づいて外部データから関連するドキュメントを検索し、その結果をもとにLLMが質問への回答を生成するという手法です。 以前の記事で、検索（Retrieval）のフェーズのみをKendraを使い、試してみました。 構成 構成としては、下記の通りです。 Kendraのインデックスには、Network Load Balancer（NLB）のAWSドキュメントをウェブクローラーでインポートします。 Kendraのデ
凄すぎると話題の「Open Interpreter」の始め方・使い方まとめ - Qiita
以下の記事を見て、早速「Open interpreter」を試してみたので、使い方や始め方をまとめておきます Open Interpreterとは Open Interpreterは、GPT-3.5、GPT-4、Code Llamaなどの大規模言語モデル（LLMs）を活用して開発されたオープンソースのツールです。 このツールは、OpenAIが提供するChatGPTの「Advanced Data Analysis(旧Code Interpreter)」のオープンソース版とも言える存在で、Python、Javascript、Shellなどのプログラミング言語のコードを自然言語による対話を通じてローカル環境で実行することができます。 このツールの最大の特徴は、ChatGPTの「Advanced Data Analysis」と違いローカル環境で動くため、ファイル容量やネット接続への制約がなく、Ch
ChatGPT新機能が“無双”だった（西田宗千佳） (1/4)
新連載を始める。テーマはAIのニュースチェックだ。基本的には2週に一度、主にASCII.jpで公開されるニュースについて、簡単な解説と流れの分析をしていきたい。紹介されていないものでも重要な話については、別途短い解説を追記していく。 というわけで1回目は、2023年7月前半のAIニュース振り返りだ。 （※記事のタイトルをタップすると記事ページが開きます） DeepL、日本法人「DeepL Japan 合同会社」を設立 日本企業との取引を迅速化（7月3日） 翻訳AIは急速に品質が上がり、日常的に筆者もお世話になっている。DeepLは利用者を増やしているが、実のところ、無料版が強いというよりも「個人事業主でも、企業でも気軽に契約できる有料版」があることがビジネスの強みだ。日本の場合、翻訳AIを使うといってもそれは「無料でGoogle翻訳を使う」ことが多く、有料版利用は企業でも多くはないという。
Azure OpenAI Service を利用したエンタープライズアーキテクチャのメモ - Qiita
はじめに Azure 上で OpenAI をエンタープライズ利用するアーキテクチャがガンガン出てくるので自分用にメモ 1. ChatGPT × Cognitive Search を使ったエンタープライズサーチ 今一番バズってるアーキテクチャ。組織内の大量のドキュメントを ChatGPT で検索できる。多くの企業がまずこのアーキテクチャで実装を始めている。MS 公式 Tech Blog 記事は 153K Views というとんでもない View 数を記録。 ChatGPT(gpt-35-turbo)モデルでトレーニングされたデータに基づいてテキストを生成するのではなく、企業内に閉じたデータのみから生成する方法の例を示しています トークンの制限(4,096)の壁をできるだけ回避するための手法を紹介しています 「引用」をテキストに付加することで信頼できる応答を生成します 日本語解説記事 6/20
ChatGPTで独自データを扱うためのエンべディング｜緒方 壽人 (Takram)
【2023/11/7追記】 OpenAI Dev Dayにて、開発者向けの大型アップデートが発表されました。この記事で紹介している手法は、Retrieval-Augmented Generation(RAG)と呼ばれてきましたが、今回のアップデートでコンテクスト長（やりとりできるテキストの長さの上限）がこれまでの8Kから128K（12万8千トークン）に大幅にアップするため、一般的な本の内容は1冊分丸ごと渡すことができるようになります。独自データベースとの連携という意味では、ここで紹介している手法も引き続き有効な手法ですが、API関連でも様々な機能が追加されているので、リリースやSam Altmanによるキーノートは要チェックです。 ChatGPTは、膨大な量のテキストを学習してはいますが、天気予報のような最新の情報や、ある特定の本の内容や、特定のサービスの詳細についてはじめから知っているわ
OpenAIのEvalsを利用してLLMの性能をテストする方法｜mah_lab / 西見 公宏
OpenAIのGPT-4 APIのウェイティングリストに申し込むと、メールで以下のような内容が送られてきます。 While we ramp up, invites will be prioritized to developers who have previously build with the OpenAI API. You can also gain priority access if you contribute model evaluations to OpenAI Evals that get merged, as this will help us improve the models for everyone. OpenAI APIで開発したことがある開発者に優先的に招待します。また、OpenAI Evalsにモデル評価を投稿し、それがマージされた場合にも、優先的にアク
完全に知識ゼロから ChatGPT MeetUp Tokyo #0 をおっかけ視聴してみた - 電磁波に撃たれて眠りたい！
去る2023年4月28日(金)に虎ノ門の KDDI Digital Gateで開催された「ChatGPT Meetup Tokyo #0」 もともと会場側スタッフとして参加する予定だったんですが、先約があり参加できなかったため、Youtubeのアーカイブを通じて追っかけ視聴してみました。 chatgpt.connpass.com www.youtube.com オンライン/オフラインともに、参加された人たちが口を揃えて 「ヤバすぎる」 「我々はどのくらい周回遅れしているのか」 「エンジニアとして危機感を感じた」 と語られていたので身構えながら挑みましたが、それは本当でした。 自分がどれだけこの分野についての知見が浅かったのか、上辺だけの情報しか見てなかったのか思い知らされることになりました。 このブログ記事は、タイトルにあるとおりLLMに関して本当に何も知らない私が私なりに残したメモと所感
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GPT-4oとPhi-3でLLMとSLMの双方を取り込むMicrosoftのAI戦略
生成AIによるプロダクトと生産性向上の舞台裏@2024.04.16
技術選定の審美眼（2023年版） / Understanding the Spiral of Technologies 2023 edition
ローカルLMMは使えるか？～性能、展望、ホスティングと費用 #ChatGPTjp
