Fastly、生成AIのAPIをインテリジェントにキャッシュ、高速レスポンスとコール回数削減を実現する「AI Accelerator」発表
Fastlyは、生成AIへのAPIコールをセマンティックに基づいてインテリジェントにキャッシュすることで、APIコールからの高速なレスポンスとAPIコール回数の低減によるコスト削減などを実現する「Fastly AI Accelerator」を発表しました。 インテリジェントなセマンティックキャッシング 通常のアプリケーションが提供するAPIは、引数と返値が文字列や数値などのデータ型によって決められています。そのため、APIキャッシュのアルゴリズムにおいて引数が一致しているかどうかを判断し、一致している場合にはキャッシュ済みの返値を高速に返す、といった処理はそれほど複雑なものではありません。 一方で、最近登場した生成AIにおいては、プロンプトが自然言語で記述されるため、ほとんど同じ内容であったとしてもさまざまな表記や表現が可能なため、プロンプトが過去のプロンプトと完全に一致することは期待でき
OpenAI、AIインフラをAzureだけでなくOracle Cloudへも拡大へ
オラクル、マイクロソフト、OpenAIの3社は提携を発表し、OpenAIにさらなるAIインフラのキャパシティを提供するために、OpenAIが利用するプラットフォームをMicrosoft Azureに加えてOracle Cloudへ拡大することを発表しました。 もともとOpenAIとマイクロソフトは複数年にわたる長期的なパートナーシップにより、Microsoft AzureがOpenAIの独占的なクラウドプロバイダーとして、研究や製品、APIによるサービスなど、OpenAIのすべてのワークロードを支えることを発表しています。 今回の3社の提携は、このOpenAIを支えるクラウドプロバイダーにOracle Cloudが加わることを意味します。 OpenAIのサム・アルトマンCEOはこの提携に当たり、次のようにコメントしています。 We are delighted to be working w
AIで商品名をクレンジングする、Llama2や、Google Cloud Gemini-proとVertex AIを活用した商品名の最適化
ECサイト上の商品名は、「送料無料」や「ポイント5倍」、「母の日」といった宣伝文句が付加され、本来の商品名が分かりづらくなっています。 これらの不要なキーワードは、自然言語モデルを作成する際の妨げとなり、精度を上がりづらくしている一つの要因となっています。 そこで、本記事では、これら不要なキーワードを効率的に除去する方法について、具体的な手法と事例を紹介します。 データクレンジングの例、LLMオープンモデルを活用したアプローチ、さらにはGoogle Cloud PlatformのVertex AIやGemini-proを用いた解決策について触れます。 3行まとめ ・商品名から頻出単語のリストを作成し、商品名から不要なキーワードを検索して除去する ・オープンモデルでプロンプトを実行し除去する ・Google Cloud Platform のVertex AI、Gemini-proで除去する
SaaSビジネスがいま、AIで大きく変わろうとしている | Coral Capital
月間10万人が読んでいるCoral Insightsのニュースレターにご登録いただくと、Coral Capitalメンバーによる国内外のスタートアップ業界の最新動向に関するブログや、特別イベントの情報等について、定期的にお送りさせていただきます。ぜひ、ご登録ください！ これまでソフトウェア・スタートアップは、主に企業における個人やチームの生産性向上のためのソフトウェアに注力してきました。要するに、ソフトウェアは実際に実務を行う「実務者」を支援するために作られてきたのです。ユーザー数に応じた価格設定が一般的であるのも、こうした背景から1人あたりの生産性向上効果でコストを正当化する価格戦略が適切とされていたからです。 しかし現在、LLMによってパラダイムシフトが起ころうとしています。インターネットの黎明期には、多くのウェブサイトが「オフラインの現実世界」に基づいて作られていました。例えば、街の
Vertex AI Gemini ProとLangChainで実現するMultimodal RAG
はじめに この記事は、Google Cloud Champion Innovators Advent Calendar 2023 18日目の記事です。 機械学習エンジニアをしています、原です。Google Cloud Champion Innovators(AI/ML)として選出いただき、活動しています。Google Cloud Innovatorsは、Google Cloud開発者/技術者のためのメンバーシッププログラムです。誰でも参加可能ですので、Google Cloudユーザーの方はぜひ参加をおすすめします！ 先日、下記のような記事を公開し、Vertex AIにおけるGemini APIの概要と簡易的な実装例を紹介しました。 今回は少し実践寄りで、Vertex AIでのGemini APIとLangChainを組み合わせて、MultimodalなRAGを構築する一例を紹介します。実現
“AIを全員の手に”を掲げるグーグルの狙い--「AutoML」など企業向けサービス強化
Googleが人工知能（AI）に力を入れている。合言葉は「AIを全員の手に」。米サンフランシスコで開催の「Google Cloud Next 2018」（7月24～26日）では、1月に発表した「Cloud AutoML」への拡張を発表した。また、SQL文を用いて機械学習モデルを構築できる「BigQuery ML」もベータ版が提供開始された。 AIはもはやニッチではない 2017年にGoogle Cloudのチーフサイエンティストに就任したFei-Fei Li氏は、「約20年にわたってAIの進化に関わってきた。AIは今や業界を変革する技術になった」という。「AIは企業、社会、生活を変えるものであり、これを民主化するのがGoogleの役割だ」とLi氏は続けた。 Googleは機械学習／AIの分野で、機械学習フレームワークの「TensorFlow」、機械学習モデルのトレーニングを可能にする「Cl
Google Cloud、SQL文で機械学習ができる「BigQuery ML」を提供開始
Googleは2018年7月25日（米国時間）、Google Cloud Platform（GCP）で、ユーザーがSQL文を書くことにより機械学習が実行できる「BigQuery ML」を、ベータ版として提供開始したと発表した。 Googleは2018年7月25日（米国時間）、Google Cloud Platform（GCP）で、ユーザーがSQL文を書くことにより機械学習が実行できる「BigQuery ML」を、ベータ版として提供開始したと発表した。 Googleは新機能を、同社がGCPで進める「AIの民主化」の一環だと説明した。「データを活用した機械学習あるいは予測分析が、RやPythonの書ける人たちだけしかできないのでは、人材不足を解消できず、ビジネスの現場における機動的なデータ活用も妨げられる」としている。 GoogleはAIの民主化への取り組みとして、「Cloud AutoML」
TechCrunch | Startup and Technology News
Finbourne, founded out of London’s financial center, has built a platform to help financial companies organize and use more of their data in AI and other models. Even as quick commerce startups are retreating, consolidating or shutting down in many parts of the world, the model is showing encouraging signs in India. Consumers in urban cities are embracing the convenience of having groceries delive
マイクロソフト、AIでソフトウェアのバグや脆弱性を探る「Microsoft Security Risk Detection」を発表
マイクロソフト、AIでソフトウェアのバグや脆弱性を探る「Microsoft Security Risk Detection」を発表 バグや脆弱性を発見する有名な手法のひとつに「Fuzzing Test」があります。Fuzzing Testとは、検査対象のソフトウェアに問題を引き起こしそうなデータ（これが「Fuzz」と呼ばれる）を大量に送り込み、その応答や挙動を監視する、というものです。 これまでFuzzing Testは一般にセキュリティテストの専門家などがテストデータを作成し、実行し、その挙動を監視する作業を行ってきました。また、すでに一部のリスク検出サービスではこうした作業にAIの利用も始まっているとのこと。 Microsoft Security Risk Detectionは、AIを使ってこうした作業を自動化し、クラウドによって大量に実行すると、マイクロソフトリサーチのDavid M
Google I/O 2016まとめ（Web的視点） - Qiita
今年は… 前日 初日 2日目 3日目 誰も話題にしなくなった 結論: 現地の経験はプライスレス 気づかせてくれたGoogle、ありがとう！ ここから本題（すでに半分過ぎてますが ） 主な発表 Google Assistant, Google Home, Allo, Duo, Daydream, Android Wear 2.0, Android Studio 2.2, Firebase, Android Instant Apps, Project Tango (Google Tango), Project Jacquard, Project Soli, Project Ara, Google Spotlight Stories, etc... セッションの数 Misc: 16 Ads: 6 Android: 66 Cloud: 15 Design: 9 Firebase: 28 Game:
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Replicate
https://aws-amplify.github.io/amplify-js/
Google、データさえあれば素人でもAIを構築できるサービスを展開