大規模言語モデルの開発者が知っておくと役立つさまざまな数字
Googleの人工知能部門の責任者を務めるスゴ腕エンジニアのジェフ・ディーンがかつて作成した「すべてのエンジニアが知っておくべき数字」に習って、「大規模言語モデル(LLM)の開発者が知っておくべき数字」が元Googleのエンジニアだったワリード・カドスさんによってまとめられています。 ray-project/llm-numbers: Numbers every LLM developer should know https://github.com/ray-project/llm-numbers ◆プロンプト編 40-90％：プロンプトに「簡潔に」を追加することで節約できる量 LLMの返答はトークン単位で課金されるため、LLMに簡潔に返答するよう要求すると大幅にコストを削減可能です。単にプロンプトに「簡潔に」を追加するだけでなく、例えば10個の案を出すというプロンプトを行う時に代わりに5個
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti
もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし
LLMプロダクト開発とはどういうものなのか？｜erukiti
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由という記事を書きました。 mutaguchiさんのツイートを見て、LLMプロダクトの開発とはどういうものなのかを知らない人も多いのかなと気づいたので、そこらへんを記事として書いてみます。 https://t.co/4WvjuuoGnC 「LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由」の記事のはてブコメント見てたんだけど、ほとんど理解されてなかったのが興味深い。 ・プロプライエタリなLLMでは、ランニングコストが嵩み、これを利用したサービスは成立しづらい… — mutaguchi (@mutaguchi) April 24, 2024 商用LLM APIとローカルLLMって使い方が全然違う気がしてる。 商用LLM APIって、機微情報を送らないこと、規約違反テキストを送らないこ
ノーコードLLM統合アプリのdifyでollamaと連携してみた - Qiita
はじめに 革新的な連携: ノーコードプラットフォームDifyとAIツールOllamaの連携により、開発プロセスが劇的に変革されます。 探求: この記事では、両ツールの統合手順と開発者にとっての利点を詳しく探ります。Difyの直感的なインターフェースを通じて、OllamaのAIモデルを効果的に活用する方法を紹介します。 Ollamaとは Ollamaは、LLama3やLLava、vicunaやPhiなどのオープンに公開されているモデルを手元のPCやサーバーで動かすことの出来るツールです。 difyとは DifyはオープンソースのLLMアプリ開発プラットフォームです。 RAGエンジンを使用して、エージェントから複雑なAIワークフローまでLLMアプリを編成します。 前提の環境の説明 OS: Windows 11 ollamaはWinodowsのインストーラを使用する difyはDocker De
お出かけ｜Osaka Metro
運行状況 検索 メニュー 地下鉄・運行状況 2024/08/25 00:32現在 ◯＝通常運行 △＝遅延など ×＝運転見合わせ 遅延証明書はこちら
Amazon BedrockにCohere Command R と Command R+ が来たよ！RAGがすげーよ！ - Qiita
Amazon BedrockにCohere Command R と Command R+ が来たよ！RAGがすげーよ！AWSragbedrockCohereCommand-R+ GW真っ只中の4/30、Amazon BedrockにCohere Command RとCommand R+がやってきました！！🎊🎊🎊 Command R+はただのテキスト生成の枠を超えたAPIになっています！（と勝手に解釈しています！！） いろいろ特徴がありそうですが、まずは、RAGをやってみました。 なにがすごいの？ Command R+のInvoke ModelのBodyが特徴的で、 documentを渡す専用項目があります 。
LangChainでインターネット検索ができるToolまとめ - Qiita
情報源はLangChainのToolsのページ Bing Search Brave Search DuckDuckGo Search Google Search 全部駆使したら、まぁまぁな無料枠になりそう Bing Search 概要： MicrosoftのBing検索 https://www.bing.com/ 使用API： Bing Web Search API https://learn.microsoft.com/ja-jp/bing/search-apis/bing-web-search/overview LangChainの実装方法： requests 使い方 Azureポータルにアクセス Bing Search v7を有効化 APIキー発行 import os os.environ["BING_SUBSCRIPTION_KEY"] = "<key>" os.environ["
【未経験者大歓迎】RAG超入門：AWSが推奨するRAGを体験するハンズオン - Qiita
2024/5/5更新：生成AIに興味を持った方向け、続編を投稿しました。 「Qiitaに聞いた！！」をAmazon Bedrockで作った！（Claude 3でRAG） タイトルはふざけてますが、プロンプトエンジニアリングにより本投稿と同様の内容を行う解説をしています。 （BedrockのClaude 3モデルと、Google検索を使った構成です） 生成AIはとても注目度が高い技術ですが、すこしとっつきにくいところがあるかもしれません。新しいモデルや活用手法が毎日のように登場し、ウォッチし続けるのはかなり大変です。 タイミングを逃して入門できていない方向けに、 とりあえず作って体感してみよう というコンセプトで、ハンズオン記事を作成しました。🎉🎉🎉 ハンズオンの内容は「RAG」です。RAGは生成AIの活用法としてよく出てくるキーワードです。ハンズオンでは、ただのRAGではなく最先端の
知れば写真が上手くなる！基本・応用の構図15選と構図を使いこなすコツ | Adobe
「きれいだな」「残しておきたいな」と思った風景を、そのまま切り取って残せる写真。 たくさん写真を撮っていると、あるときふと、どれも同じような写真に見えたり、思い通りのイメージで撮れないと感じたりすることがあります。 そんなときは、まず「構図」を見直してみましょう。 同じ写真でも構図を変えるだけで、写真の雰囲気や印象は大きく変わります。 構図を意識して写真を撮ることで、その写真の中で特に目立たせたい要素が際立ち、作品を通して伝えたいメッセージがより伝わりやすくなるからです。 さらに、構図をたくさん知っておくと、写真撮影の引き出しが増え、目の前の被写体や風景の魅力を引き出しやすくなります。 この記事では、よく使われる構図から応用編まで、15種類の構図を紹介します。 この記事の内容を参考に、表現の幅を広げ、もっと写真撮影を楽しんでくださいね。 まず押さえておきたい10の基本構図 まずは、基本的な
ふきん代わりに「超吸水スポンジ」が便利！洗面所やキッチンの水滴が残らなくなるよ | ROOMIE（ルーミー）
※本記事は2023年2月21日に公開された記事を再編集して掲載しています。 Text and Photographed by きむ（ら） 洗面台の周りはもちろんですが、テーブルや植物の周りなどに水が溢れてしまうことってありますよね。 普通は布巾やタオルで拭き取ることが多いと思いますが、溢れた水の量が多いと吸い取り切れないことも……。 かわいい見た目で水を吸い取ってくれる suuu 「シズク」 2,750円（税込） そんな溢れた水問題を解決してくれるのが、suuuの「シズク」という高性能な吸水アイテム。 使い道で一番分かりやすいのが洗面台周り。 どんなに上手に使っていても、洗面台の周辺は結構水が残ってしまいます。 子どもがいる場合なんてもう大変……。 そんなときはこのsuuuでさっと拭けばすぐに水を吸ってくれるんです！ 先っぽがちょんと尖っているので、隅に残った水を吸い取るのも簡単です。 見
ノーコードで、高機能AIチャットbotを作ろう。「Dify」を徹底解説｜ChatGPT研究所
今回は、最近話題の「Dify」というオープンソースのLLMアプリ開発プラットフォームを使って、簡単にAIアプリを作る方法をご紹介します。 Difyとは何か？Difyは、生成AIツールの開発プラットフォームです。 単一のモデルを使うのではなく、複数のAIモデルやツールを組み合わせることで、特定のタスクに特化した高性能なAIアプリケーションを簡単に作ることができます。 その最大の特徴は、RAG（Retrieval-Augmented Generation）エンジンを搭載していることです。RAGとは、関連する情報を検索・取得し、それを基に高品質な回答を生成する技術です。Difyではこの強力なRAGエンジンにより、幅広い分野でのAI活用が可能となっています。 圧倒的に使いやすいインターフェースDifyのもう一つの大きな魅力は、その使いやすさです。プログラミングの知識がなくても、直感的なGUIでドラ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
