Azure OpenAI Serviceを1分あたりに利用できる上限値の話
SRE Unitの若松です。Azure OpenAI Serviceには、1分あたりに利用できる上限値が決められています。今回はこの上限値のカウントの仕方ついて紹介します。 上限値は２つAzure OpenAI Serviceで1分あたりに利用できる上限値は2つあります。一つは、API 呼び出しに伴うトークン数であるTokens-per-Minute (以降TPM)、もう一つは、API の呼び出し回数 であるRequests-Per-Minute（以降RPM）になります。 TPMTPMは1分あたりのトークン数です。1分あたりに消費できるTPMに上限があります。現在利用しているAzure OpenAI Serviceのリソースに割り当てられているTPMの上限値を確認するには、Azure OpenAI StudioのQuotasで確認できます。 例えば、モデルgpt-35-turboのTPMの
AIを学ぶのに必要な最低限の数学の知識は5つだけ!｜shi3z
最近、「AIを理解したくて代数幾何の教科書を勉強しているんですよ」という人によく会う。 五年前くらい前に、note株式会社の加藤社長も「社内で代数幾何学の勉強会を開いてるんですよ」と言っていた。僕はその都度「それは全く遠回りどころか明後日の方向に向かってますよ」と言うのだがなかなか聞き入れてもらえない。 確かに、AI、特にディープラーニングに出てくる用語には、ベクトルやテンソルなど、代数幾何学で使う言葉が多い。が、敢えて言おう。 代数幾何学とAIはほとんど全く全然何も関係していないと。 なぜこのような不幸な誤解が生まれてしまうかの説明は後回しにして、意地悪をしても仕方ないので、AIを理解するために最低限知っておかなければならない用語を5つだけ紹介する。 テンソル(スカラー、ベクトル、行列など)おそらく、「テンソル」という言葉が人々を全ての混乱に向かわせている。 Wikipediaの説明は忘
20230614_「ChatGPTについて調べてくれ」と社長から特命を受けた人のためのChatGPT概論(40min版)
https://forest.f2ff.jp/introduction/7866?project_id=20230601
ＭＪ＋漢字どないな｜やま
MJ＋という文字集合が、デジタル庁より作成、公表される予定です。 地方公共団体の基幹業務システムの統一・標準化に関する共通機能等技術要件検討会（第2回）｜デジタル庁 (digital.go.jp) 現在どんな日本語コンピュータ環境でも全く同じように文字を扱える訳ではないので、画面に表示された文字の形を構成する部品、部首を見たら、学校で習った形、住民票や戸籍の記載とも形が違う、意図通り表示されず文書の内容を再現できない、といったことが起こります。それらを回避/解決し、情報交換を容易に行えるようにすることがMJ+の主な目的です。 163万字というのは戸籍ベンダーが管理する文字の和集合らしいのですが、 同じ文字を纏めても(同定しても)、多くの文字があります。 日本の行政では、これら多くの文字の形を扱っているものの、各省庁や自治体のシステムで共通して使える文字の標準は、明確に定められていないのが現
ChatGPT×Whisperで履歴書と職務経歴書づくりを効率化 開発してみてわかった、生成AIの活かし方 | ログミーBusiness
ROXX社・CTO松本宏太氏松本宏太氏：弊社は「ChatGPT×Whisper」でいろいろプロトタイプを作っているので、その中の事例を1つ紹介して、そこで学んだ内容をもとに、今後の展望をお話できればなと思っています。 （スライドを示して）今日は、こういう感じで話していこうかなと思っています。まず、自己紹介をさせていただきます。 あらためて、株式会社ROXXでCTOをやっている松本と申します。「kotamat」という名前でいろいろやっているのですが、もともとバックエンド寄りのエンジニア出身で、最近はLLMを使った開発をテーマに、4人ぐらいのチームで取り組み始めています。 転職エージェントがサポートしたがらない層に対する支援をChatGPTで効率化弊社は、2つの事業を展開していて、今日は（スライドを示して）この「agent bank」という方を、メインにお話しさせていただければなと思っています
改正電気通信事業法が施行だけど、またしても何も知らなかったWebサイトやアプリ運用者のために書いておくぜ - フジイユウジ::ドットネット
2023年6月16日 から改正電気通信事業法が施行なんですけど知ってました？ これ、収益目的なら企業運営でも個人運営でもほとんどのWebサービス・スマホアプリが対象という、めちゃめちゃ広範囲にみんなが対応が必要なやつなんですけど、ヤバくない? 何もしてなくない? やっべえなというWEBサイト担当者/アプリ開発者が結構いそうな雰囲気がいんたーねっつから漂ってまいりました。 企業のオウンドメディアや、個人運営のアフィリエイト目的サイトなんかも対象になる場合があって、メディア系サイトはもちろんアプリ開発者にも影響ある感じですので、やるべき内容をブログにしたためておきます。 ※ぼくは法律の専門家ではないので、ちゃんと総務省の公式ドキュメントなどにも当たってくださいね。 ググると「外部送信規律」とか「電気通信事業者又は第三号事業を営む者」とか専門用語の記事ばっかり出てきて自分が何をしたらいいのかの情
Whisperの認識精度をプロンプト活用で向上させる | 株式会社アルファー・コミュニケーションズ | ソフトウェア製造・開発・販売
2023.03.30 はじめに Whisper音声認識はその高い認識精度で注目を集めていますが、専門用語などにはうまく対応できない場合があります。OpenAIの他の機能と同様にWhisperにもpromptパラメータがあり、これにより認識精度が向上することが確認できました。本記事では、promptの使用例とそれによる改善結果について紹介します。 Whisper APIのpromptパラメータ promptに関するドキュメント（Prompting）の概要は以下の記載があります。 (1) モデルが音声で誤認識しがちな特定の単語やイニシャルを修正する (2) 前回の文字起こし結果を参考に文字起こしをする (3) 句読点の挿入を指示する (4) フィラー除外せずに残す (5) 文体の指示（簡体字中国語や繁体字中国語など） プロンプトエンジニアリングという言葉が出現するほどプロンプト記述テクニックが
【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた | DevelopersIO
【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた こんにちは。CX 事業本部 Delivery 部のきんじょーです。 ここのところChatGPT と戯れてアプリを作ったり、様々なプロンプトの検証をしていましたが、言語モデルの性能を最大限に引き出すために、体系的にプロンプトエンジニアリングを学びたいと考えていました。 GitHub に「Prompt Engineering Guide」という素晴らしいリポジトリがあったので、読んで検証した内容をブログにまとめていきます。 本記事は、執筆時点の上記リポジトリの内容を元にしていますが、意訳や独自に検証した日本語のプロンプトを含みます。 上記リポジトリも絶賛開発中の段階のため、最新情報や原文が気になる方はリポジトリを直接参照してください。 目次 プ
自然な対話で商品検索！OpenAI と全文検索エンジンで対話型ゆるふわ検索 AI アシスタントを作ってみた | DevelopersIO
自然な対話で商品検索！OpenAI と全文検索エンジンで対話型ゆるふわ検索 AI アシスタントを作ってみた ChatGPT(GPT-4)を対話のインタフェースに利用し、検索は自社で持つ商品 DB(OpenSearch)を組み合わせることで、店員さんと対話で商品を絞り込む体験を提供する商品検索AIアシスタントを作成したプロジェクトの結果報告です。 こんにちは。CX 事業本部 Delivery 部のきんじょーです。 突然ですが皆さん、 ECサイトと実店舗での商品購入をどのように使い分けていますか？ 私は欲しいものが決まっている場合、もっぱら Amazon を利用しています。 一方で、家具・家電や洋服など、詳しい店員さんに相談したい場合は実店舗に足を運ぶことが多いです。 両者の違いは何でしょうか？ 自分の中に具体的な欲しいものが見えている場合、EC サイトでキーワードを入力して検索し、欲しい商品
祝日を計算しようと思ったら闇が深かった話 - Qiita
はじめに 巷にカレンダーのAPIは溢れているが、万年カレンダーを作ってみるなどした。 実装方針 日付の基本的な計算はChronoライブラリを使う これで今日が何日で何曜日かの計算は簡単にできる。 祝祭日は政府が定義しているルールに従って実装すれば良い。 と思っていた時期がありました。 祝祭日のルール 国民の祝日に関する法律（昭和２３年法律第１７８号）に則り、内閣府が公布している資料では以下の通り この資料の2条の定義と3条のルールに従えば大体の祝日をカバーできることになる。 ただし、このページだけをサラッと読んだだけでは理解できない罠がいくつかある。 ちゃんとリンク先まで読めばまず引っかからないが、一旦ここでも要約する。 春分の日と秋分の日 これらは、日本国内においては天文学的に定まっており年によって変化する。 表にあるように、4年に1回の周期で23と22日で繰り返すように成っているかのよ
ローカルLLMの情報まとめ｜npaka
「ローカルLLM」の記事が増えてきたのでまとめました。 「Llama 2」ベースのローカルLLMについては、以下でまとめています。
Wolfram氏によるChatGPTの仕組みと機能に関する解説について｜IT navi
数式処理システムのMathematicaや質問応答システムのWolfram Alphaを開発したStephen Wolfram氏が「What Is ChatGPT Doing … and Why Does It Work?」（ChatGPTは何をしていて、なぜそれがうまく機能するのか？）と題するブログ記事を発表しました。 この記事は、とても分かりやすい言葉で、沢山例を挙げて詳しく説明していますので、ChatGPTの仕組みを理解したいと思っている人には必読の記事だと思います。 ブラウザの翻訳機能を利用して日本語で読むこともできますが、易しい言葉で書かれた文章であるにも関わらず、これを完全に理解するのは簡単なことではありません。 前半は大規模言語モデル、ニューラルネットワーク、Transformerなどの仕組みについて相当詳しく説明しており、後半はChatGPTに関するWolfram氏独自の解
postfixによる大量メール送信にまつわる問題と対処 - エムスリーテックブログ
【SREチーム ブログリレー2回目】 お疲れ様です。エンジニアリンググループ、コアSREの山本です。 前回ブログリレー1回目の記事で大量メール送信のために基本設定について書かせていただきました。 www.m3tech.blog 今回はそれを受けて構築したサーバで実際に発生したいくつかの問題、その問題への対処といったものを書かせてください。 エムスリーのメール送信で発生した問題とその対策 特定のメールサーバからの突然のメール拒否 メールの翌日までの滞留 TLS問題 メールがどうしても迷惑メール扱いされるという苦情 postfixのメール処理とステータス メールログの監視 まとめ We are Hiring! エムスリーのメール送信で発生した問題とその対策 実際にここ一年あたりの間に発生した問題とその問題への対応を記述していきたいと思います。postfixを利用して送信していますので設定はpo
大量メール送信のための予備知識 - エムスリーテックブログ
【SREチーム ブログリレー1回目】 お疲れ様です。エンジニアリンググループ、コアSREの山本です。 他の情報伝達手段が現れた今は「メール」は以前よりも比重は落ちたかもしれませんが、まだまだ多くの人に情報を一気に伝えるための重要なツールです。 エムスリーでは自社サーバを利用してメールの大量送信を実施していますが、メール送信を実施するにあたって気にすべき基本的な事項についてシェアさせてください。 大量メール送信に関連する基本的な設定 基本的な設定(SPFと逆引き) DKIM IPの追加削除 バウンスメール処理 金で解決 まとめ We are Hiring! 大量メール送信に関連する基本的な設定 メール送信自体はそれほど難しいものではありません。 エムスリーではpostfixを利用していますが、設定はほとんどオリジナルでもメール送信自体は可能です。せいぜいドメイン名を登録するくらいでもいけます
Apple Vision Pro体験者が7つの疑問に答える。装着感、バッテリー、リアルとのずれ、心打たれたポイント | テクノエッジ TechnoEdge
アップルの世界開発者会議WWDC23初日である6月5日、基調講演の後に、Steve Jobs Theaterの地下ロビーでVision Proの実物が展示された。しかしこれは展示のみで、触れたりすることはできなかった。 そして6月5日の午後から6月6日にかけて、一部のジャーナリストがApple Park内の某所（場所は非公開）で、Vision Proを体験することができた。筆者は幸運にもその機会を得たので、知り得たことを、Q&A形式で回答しよう。 なお、その体験の舞台となった部屋は、アップルのプレゼンテーションに出てくるような広いリビングを模した部屋。筆者は大きな3人がけのソファーに座っており、前にローテーブル。正面は壁。そして、ローテーブルの左右には1人がけのソファーがあり、人がいるという状態だった。 正確には計測していないが、体験時間はおそらく40分ぐらい。前後にセッティングや順番待ち
山で遭難、スマホも圏外…でも「わずか２０秒で発見」 救助隊員も驚いた、ドローンを駆使する新技術 ソフトバンクが実用化へ ｜ 47NEWS
自然を満喫でき、健康にもいいとして人気の登山。一方で遭難も多く、警察庁によると、全国で発生した山岳遭難事故はここ数年、年間３０００人前後と高い水準が続いている。中高年が道に迷ったり転倒したりするケースが多い。冬季には、スキー場のコース外を滑る「バックカントリースキー」による遭難も相次いでいる。 ただ、遭難してもスマートフォンや携帯電話で救助を要請できるとは限らない。山間部は電波が届かない「圏外」であることが多いためだ。山岳救助を担う人々にとっても、悪天候での捜索は二次遭難の恐れがあり、位置が分からない状況での捜索は簡単ではない。 そこで携帯電話大手のソフトバンクは、新たな技術で、圏外でも遭難者が持つスマホや携帯の位置を瞬時に特定する技術を開発。実用化に向けて準備を進めている。ドローンを使い、捜索対象の山間部を一時的に「圏内」にして携帯回線の位置情報を取得する仕組みだ。北海道での実地訓練を取
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
openai-cookbook/examples/How_to_call_functions_with_chat_models.ipynb at main · openai/openai-cookbook
OpenAI Platform
Apple Vision Pro「やばい」。掛け値なしに驚きの体験、実機レポート【西田宗千佳のRandomTracking】
[iPhone駆け込み寺] アップル製品のヘビーユーザーでVRユーザーでもある筆者は「Vision Pro」のココが気になった！![[iPhone駆け込み寺] アップル製品のヘビーユーザーでVRユーザーでもある筆者は「Vision Pro」のココが気になった！](https://cdn-ak-scissors.b.st-hatena.com/image/square/8d5e9f8c1e008bc1f18016ad15590741a34a7314/height=288;version=1;width=512/https%3A%2F%2Fk-tai.watch.impress.co.jp%2Fimg%2Fktw%2Flist%2F1506%2F836%2Fcont0.jpg)
