Independent analysis of AI language models and API providersUnderstand the AI landscape and choose the best model and API provider for your use-case
Fastlyは、生成AIへのAPIコールをセマンティックに基づいてインテリジェントにキャッシュすることで、APIコールからの高速なレスポンスとAPIコール回数の低減によるコスト削減などを実現する「Fastly AI Accelerator」を発表しました。 インテリジェントなセマンティックキャッシング 通常のアプリケーションが提供するAPIは、引数と返値が文字列や数値などのデータ型によって決められています。そのため、APIキャッシュのアルゴリズムにおいて引数が一致しているかどうかを判断し、一致している場合にはキャッシュ済みの返値を高速に返す、といった処理はそれほど複雑なものではありません。 一方で、最近登場した生成AIにおいては、プロンプトが自然言語で記述されるため、ほとんど同じ内容であったとしてもさまざまな表記や表現が可能なため、プロンプトが過去のプロンプトと完全に一致することは期待でき
AI-based API building platformBuild a REST API from natural language and screenshots using AI, deploy it on Cloudflare Workers, and immediately roll it out globally. Works anywhereHanabi.rest creates multi-runtime APIs for web standards. In addition to operating on a live editor on the web, it generates code that works with Cloudflare, Fastly, Deno, Bun, Lagon, AWS, or Node.js.. Live SandboxGenera
最近、LLMにWeb Backendを書かせて遊ぶ、Hanabiというサービスを作っています。その開発過程で、前に試したLLMをAPIとして振る舞わせるアプローチを再検討したので、記事としてまとめました。 一年ちょっと前、私はChatGPTをWebフレームワークにしようと試みました...が、残念ながら全く実用的ではありませんでした。しかし、あれから一年、LLMは目覚ましい進歩で進化を遂げました。価格は下がり、速度も上がり、記憶容量の増加やRAGの発展など、もはや別物レベルで進化しています。 いまならもうちょっと実用的なヤツが作れるんじゃねってことで、色々な手法を面白がった再検討したまとめです。 余談ですが、一年前はLLM=ChatGPTという状況でしたね...懐かしい。ちょうどvicuna13Bが出た頃ですかね? ↓去年の記事(できれば読んでほしい)↓ 出来たもの 全部プロンプトに入れちゃ
はじめに Vercel AI SDK (React 等から LLM の API をいい感じに stream で呼び出せるようにするやつ) から Ollama (OSS の LLM をローカルで動かすやつ) を呼び出す方法を調べました。 参考 課題 Vercel AI SDK の サンプルコードを、OpenAI から Ollama の langchain のモデルを使って、置き換えて動かそうとしたけど、なぜかうまくいかなかった。 解決方法 ここのディスカッションにいろんな解決方法が記載されている。その中からいくつか試した。 解決方法 1 OpenAI Compatibility API を使う OpenAI API と同じ API で呼び出す方法。呼び出せるモデルに制約がある。マルチモーダルの llava は呼び出せない。 URL 変えるくらい。シンプル。すんなり動いた。 解決方法 2 la
LayerX バクラク事業部 機械学習チームの機械学習エンジニア兼マネージャーの松村(@yu-ya4)です。半年間に結婚祝いでいただいたたくさんのお酒が順調に減ってきているのですが、サントリーウイスキー角瓶 4Lペットだけはなくなる気配がありません。 この記事はLayerXテックアドカレ2023の16日目の記事のはずです。 前回はosukeさんの『Azure AI SearchのSemantic Ranker』という記事でした。 次回はminako-phさんによるタメになる記事、『Notionでスプリントのあれこれをダッシュボードで可視化する 』が公開予定ですされました。 昨今のAIの進化には目を見張るものがあります。先日のOpenAI DevDayやMicrosoft Igniteでも様々な衝撃的な発表がなされました。今週は違う意味で衝撃的なニュースが多かったですが。 そのような時代です
こんにちは、Ubie(ユビー)株式会社のUbie Discoveryという組織で、ソフトウェアエンジニアとして働いている八木(@sys1yagi)です。 ChatGPTが賑わっていますね。正確にはGPT-3.5やGPT-4といった大規模言語モデルのブレークスルーが賑わっているわけですが、一般的にはChatGPTを通して大規模言語モデルに触れるというケースがほとんどだと思います。 ChatGPTの業務利用のリスクChatGPTを使った業務効率化のアイデアなどが散見されますが、ChatGPTの場合、Open AI社によって入力内容を学習等に利用される場合があります。 基本的に会社で契約を結んでいないWebサービス等に対して、業務に関連するデータを入力するべきではないわけですが、便利さのあまりについつい入力してしまうケースもあるかもしれません。各社においては法務等と連携して利用に関する注意喚起等
こんにちは!逆瀬川 ( https://twitter.com/gyakuse ) です! 今日発表されたGPT-4について見ていきたいと思います。 なにがすごいのか 専門的な問題を解けるようになった たとえば米国司法試験で上位10%、GPT-3.5は下位10%だった 非常に長い文章を入出力できるようになった 最大で32k tokens (日本語で約2.5万文字、文庫で50pくらい) 画像をもとに会話できるようになった (これは実験段階でまだ提供されません) 特に嬉しいのは32k tokensまで文章を扱えるようになったことでしょう。 たとえば小説を書くみたいなときも、プロット、設定等に3000文字使っても、残り2.2万文字くらい使えます。 画像をもとにした会話の例 USER: この画像はどこがおかしいですか?パネルごとに説明してください GPT-4: この画像は、3つのパネルで構成される
Intro OpenAI の API を用いて、長年の課題だった文書校正を VSCode 上で実現するプラグインを修作したところ、思った以上の成果だった。 文章校正と誤字脱字検出 執筆を補助するツールは多々開発されているが、基本は形態素解析を用いた品詞分析の延長で行うものが多かった。 よくある「助詞の連続」、「漢字の開き閉じ」、「一文の長さ」などは、ある程度の精度で検出可能ではあるが、結局執筆時に一番検出して欲しいのは「誤字脱字」だ。 文体をどんなに揃えたところで、誤字脱字があるとやはりクオリティが低く感じるし、そこさえ抑えられていれば、他のスタイル統一は訓練である程度なんとかなる。 英語のスペルチェックはかなり進んでいるが、日本語においてはそこまで革新的なものが見当たらない。あらゆるツールを試したが、結局満足のいく精度が出る誤字脱字検出は「Word の校正機能」しかなかった。 そこで筆者
はじめに こんにちは。データアナリティクス事業本部のおざわです。 今回は、ChatGPTで小学生の娘に漢字ドリルを作ってみた話を共有したいと思います。 最近、DevelopersIOでもChatGPT関連の記事がどんどん出てきて盛り上がっています。英語の学習にも使えるという話を聞いて、むか~し娘の算数プリントに出てくる人物の名前を好きなアニメキャラにしたら喜んでやっていたのを思い出しました。 ちょうど漢字の書き取りをやっていたので「AIで漢字ドリルが作れたら面白いかも」と思ってやってみました。 1. 題材 題材に使わせてもらったのは朝霧カフカさん(原作)、春河35さん(作画)の「文豪ストレイドッグス」です。 実は、娘がこのアニメ&漫画に出てくる福沢諭吉(通称社長)に大ハマリしています。 毎日Netflixで文ストのアニメを観て、寝る前になるとマンガや小説を読みふけり、自分のデスクに置いた諭
「OpenAI」の 記事「Chat completions」が面白かったので、軽くまとめました。 1. ChatGPT API「ChatGPT」は、OpenAIの最も先進的な言語モデルである「gpt-3.5-turbo」を搭載しています。「OpenAI API」から「gpt-3.5-turbo」を使用して独自アプリケーションを作成できます。 ・メールや文章のドラフト ・Pythonコードの生成 ・一連の文書に関する質問応答 ・会話型エージェントの作成 ・ソフトウェアへの自然言語インターフェースの追加 ・さまざまな科目の家庭教師 ・言語の翻訳 ・ビデオゲームのキャラクターのシミュレート 2. 使用料金使用料金は、以下で確認できます。 3. Colab での実行「gpt-3.5-turbo」は、マルチターンの会話を簡単にするように設計されていますが、会話のないシングルターンタスクでも役立ちます
この1週間はGPT-3のユースケースの広さに驚かされる毎日でした. シリコンバレーでは話題騒然ですが日本ではほとんど話題になっていないので,勢いで書くことにしました. GPT-3はOpenAIが開発した言語生成モデルです.名前の由来であるGenerative Pretrained Transformerの通り,自然言語処理で広く使われるTransformerモデルを言語生成タスクで事前学習しています. 先月申請すれば誰でもGPT-3を利用できるOpenAI APIが発表され,様々な業種の開発者によって驚くべきデモンストレーションがいくつも公開されています. 特に話し言葉からJSXやReactのコードを生成するデモは著名なベンチャーキャピタルから注目を集め,誇大広告気味だと警鐘を鳴らす事態に発展しています. This is mind blowing. With GPT-3, I built
マイクロソフトは、これまでプレビュー機能として提供してきたRPA機能「UI Flows」を正式版として搭載した「Power Automate」を4月2日にワールドワイドでリリースすることを明らかにしました。 Power Automateは2019年11月に行われたイベント「Microsoft Ignite 2019」で発表されたサービスです。これまでMicrosoft Flowと呼ばれていた自動化ツールを改名し、RPA機能を追加したもの。 もともとMicrosoft Flowは、IFTTT的なサービス連係サービスとして、GitHub、Dropbox、Slack、メール、Twillio、Googleカレンダーなど多数のサービスを連係する機能を備え、2016年にリリースされました。 Power Automateでも300以上のクラウドサービスやアプリケーションとの接続、連係が可能です。例えば、
Named Entity API Named Entity APIは、固有表現抽出を行うプロダクトです。 Conditional Random Fields(CRF)とRecurrent Neural Network(Bidirectional LSTM)の技術を組み合せて応用することで、辞書ベースではなく固有名詞・数値などの品詞を識別する機能を提供します。 Text Summarization API Text Summarization APIは、文章要約を行うAPIです。 このモデルでは、入力された文章の意味を読み取り、意味が遠い文章を自動で判断・抽出し、要約結果として出力することができます。 Image Generate API Image Generate APIは、Deep Convolutional Generative Adversarial Networks(DCGAN)
Googleが人工知能(AI)に力を入れている。合言葉は「AIを全員の手に」。米サンフランシスコで開催の「Google Cloud Next 2018」(7月24~26日)では、1月に発表した「Cloud AutoML」への拡張を発表した。また、SQL文を用いて機械学習モデルを構築できる「BigQuery ML」もベータ版が提供開始された。 AIはもはやニッチではない 2017年にGoogle Cloudのチーフサイエンティストに就任したFei-Fei Li氏は、「約20年にわたってAIの進化に関わってきた。AIは今や業界を変革する技術になった」という。「AIは企業、社会、生活を変えるものであり、これを民主化するのがGoogleの役割だ」とLi氏は続けた。 Googleは機械学習/AIの分野で、機械学習フレームワークの「TensorFlow」、機械学習モデルのトレーニングを可能にする「Cl
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く