はじめに 連載の第3回となる今回は、Python 3.10以降の新機能のうち、ジェネリクスのための新しい型引数構文、**kwargsのより厳密な型付け、オーバーライドデコレータtyping.overrideなどの型関連機能、構造的パターンマッチング、with文の入れ子構文の改良など、文法関連の新機能を中心に紹介します。 対象読者 Pythonの最新の機能を把握したい方 Pythonの経験者で、Pythonに改めて入門したい方 プログラミング言語の最新パラダイムに関心のある方 必要な環境 本記事のサンプルコードは、以下の環境で動作を確認しています。 macOS Sonoma Python（3.12.0） Visual Studio Code 1.82.3（Python v2023.19.12831011、Pylance v2023.10.11） mypy（1.5.1） サンプルの実行 掲載サ

ユーザープロンプトをLLMが言い換えて、LLM自身が理解しやすくする手法『RaR』 2023/11/13 AI論文解説 LLM プロンプト AIDB Research 本記事では、大規模言語モデル（LLM）に対するユーザーの質問・指示に対する応答の質を向上させる新しい手法「RaR（Rephrase and Respond）」について、論文をもとに紹介します。本研究はカリフォルニア大学ロサンゼルス校（UCLA）の研究者によって発表されています。 「RaR」は、LLMがユーザーの質問を自身が理解しやすい形に自ら言い換える手法で、GPTシリーズ（GPT-4、GPT-3.5）など複数のLLMで効果が確認されています。 RaRの実行プロンプトは比較的シンプルであり、LLMに質問の言い換えと回答を一度に行わせることが可能です。 以下ではRaRの研究背景、理論、実行プロンプト例、実験の内容と結果、デモン

Transformerという手法は必ずしも万能でも効率的でもない。 むしろTransformerは非効率的だというのが一般的な見解だ。しかし、Transformerには実績があり、実績という壁の前には多少(かどうかわからないが)の非効率は無視される。 他にもHyenaなどもっと効率的と思われる手法が提案されているが、そうした提案の一つがRWKVである。 そもそもなぜTransformerが必要になったかというと、それまで言語モデルに用いられていたRNN(Recurrent Neural Network)は並列処理が難しかったからだ。並列処理が難しい理由は簡単で、言葉というのは過去から未来へ向かって一方向に進むからである。 言語モデルは全て「この文章に続く単語は何か」を予測し、それを連鎖的に繰り返していくが、RNNは単語をひとつひとつ選んでいかないと次の単語を原理的に予測できない。 これを並

AdeptやWayveなどに投資するAI特化のベンチャーキャピタル「Air Street Capital」が160ページ以上に渡って、AIの現状をまとめたレポート、「State of AI」の2023年版が、2023年10月12日に公開された。 このレポートには今押さえておくべき生成AI市場や技術の状況が豊富な事例やデータとともにまとまっており、生成AIに事業として取り組む関係者は一度は目を通すべき内容になっている。 とはいえボリューミーなレポートを読む時間をなかなか確保できないという方も多いだろう。本記事では、そんな方々向けに特に興味深いスライドをピックアップして紹介していく。 State of AIについてこのレポートは、英国のAIに特化したベンチャーキャピタル「Air Street Capital」が2018年から毎年発行している、AIの現状を、豊富な統計データとともに網羅的にまとめ

Fast and Portable Llama2 Inference on the Heterogeneous Edge • 12 minutes to read The Rust+Wasm stack provides a strong alternative to Python in AI inference. Compared with Python, Rust+Wasm apps could be 1/100 of the size, 100x the speed, and most importantly securely run everywhere at full hardware acceleration without any change to the binary code. Rust is the language of AGI. We created a very

OpenAI の DevDay で発表された、GPTs は、特定のタスクに特化したカスタムモデルを作成できる ChatGPT Plus で利用できる新しい機能です。作った GPTs は、自分だけで使うのはもちろん、友達にシェアしたり。ウェブ上で公開することもできます。 この GPTs の機能である Actions を使うと、OpenAPI Schema を元に、外部 API を ChatGPT エージェントが実行するようになります。 この機能を使って Notion などの様々なサービスと GPTs を繋げてみたので、そのデモと GPTs のつくりかたを解説します。 デモ Notion は、API と呼ばれる開発者が Notion のデータを操作し、外部アプリケーションやサービスと連携するための機能が公開されています。そこで、Notion API の OpenAPI スキーマを書いて検索、デ

先日のOpenAI DevDayで、GPT-4 Turbo with visionというものが発表されました。Chat Completions APIで画像ファイルをインプットとして渡して、画像解析をしてくれるAPIです。 私は以前、「Azure Computer Vision APIの日本語OCR機能を使ってみる」や「Google Cloud Vision APIの日本語OCR機能を使ってみる」で、各クラウドの画像認識APIの日本語OCR機能を検証するエントリーを書きました。OpenAIも画像認識APIが使えるようになったので、まったく同じ検証方法で評価してみました。 GPT-4 Turbo with vision OCR機能の利用 OpenAIのAPI Keyを準備します。API Keyを取得されていない方は、「OpenAI API Key取得」で検索してください。 今回の検証コードは

The new Assistants API is a stateful evolution of our Chat Completions API meant to simplify the creation of assistant-like experiences, and enable developer access to powerful tools like Code Interpreter and Retrieval. Chat Completions API vs Assistants API The primitives of the Chat Completions API are Messages, on which you perform a Completion with a Model (gpt-3.5-turbo, gpt-4, etc). It is li

こんにちは。エンタープライズソリューショングループの石川です。大企業連携システムの基盤の開発や運用を担当していて、日々発生するエラーの監視や調査も行っています。今回は手間と時間がかかりがちだったエラー調査を、ChatGPTを使って改善した話をします。 エラー調査の背景 カタログサイトの概要とエラー発生時の影響 注文受付が影響を受ける理由とエラーの具体例 エラー発生時の調査手順 1. 注文受付へのリクエストがないか確認 2. 購買システムに注文情報を再送信する仕組みがあるか確認 3. 再送信の仕組みがない購買システムの場合は、社内の担当グループに対応依頼 MonoChatに聞きながらGASアプリケーションを作成 実現したかったこと 改善のためのアプリケーションを作成 改善の費用対効果 振り返り エラー調査の背景 カタログサイトの概要とエラー発生時の影響 大企業連携は、各企業様が持つ購買システ

OpenAI DevDay 2023 の冒頭で基調講演する共同創業者でCEOのサム・アルトマン氏 Image credit: OpenAI OpenAIの開発者会議「Dev Day」での最新リリースで、カスタムが可能になったGPTs、新しいGPT-4 Turbo、アシスタントAPIが発表された。もちろん、私のようなAI全般のオブザーバーは先週の津波のようなAIの発表に疲れ果てている。 ホワイトハウスのAI大統領令、G7の自主行動規範、英国の安全サミット、AIの「ゴッドファーザー」たちによるXリスク論争の激化、著名なAI著作権裁判の縮小判決、そしてMidjourney、Runway、Stability AIからの最新情報があった。 まだある。Scarlett Johannson氏がAIアプリに法的措置を取ったし、Googleが広告主の商品画像にGenAIツールを導入、 AMDがAIチップの販

NVIDIAがAIおよびハイパフォーマンス・コンピューティング(HPC)向けのGPU「H200」を2023年11月13日(月)に発表しました。H200は前世代モデル「H100」と比べて推論速度が2倍、x86 CPUと比べてHPC性能が110倍になっていることがアピールされています。 H200 Tensor Core GPU | NVIDIA https://www.nvidia.com/en-us/data-center/h200/ NVIDIA Supercharges Hopper, the World’s Leading AI Computing Platform | NVIDIA Newsroom https://nvidianews.nvidia.com/news/nvidia-supercharges-hopper-the-worlds-leading-ai-computing

生成人工知能（AI）は素晴らしい生産性ツールかもしれないが、ITユーザーやビジネスユーザーは、日常業務やビジネスプロセスが複雑化していることへの警戒心も持つ必要がある。米国電気電子学会（IEEE）が新たに公開した調査レポートの執筆者らはこのように警告し、「AIの利用は思われているほど簡単ではない」と注意を促した。 9月に世界各地のさまざまな業界のIT幹部350人を対象として行われた調査の結果によれば、多くの企業がAIの可能性を活用したいと考えているが、その過程で教育や組織的な準備に取り組むことが必要だという。 とはいえ、さまざまな障害にもかかわらず、AIへの大規模な移行は起きている。自然言語処理を利用したツールをすでに導入したか、1年以内に導入する計画があると答えた回答者は70％と、前年の67％から増加していた。今後1年に想定されているAIのユースケースは、リアルタイムのサイバーセキュリテ

AIの回答は信用できますか？ AIの回答は正確さや最新の情報を保証するものではありません。事実と異なる場合があります。 AI回答機能の回答にはOpenAI社のGPT-4を用いています。GPT-4の学習データは2021年9月までのデータで、最新の情報が反映されていない可能性があります。 AIの回答はどのように生成されるのですか？ 今回提供するAI回答機能は、OpenAI社の大規模言語モデルGPT-4を用いています。投稿いただいた質問をOpenAI社に送り、生成されたAIによる回答を表示しています。 一度表示されたAIの回答を非表示にすることはできますか？ AI回答機能の利用に同意して質問を投稿をすると、AIによる回答がされます。あとから非表示にできないため、AIの回答を希望されない場合は、AI回答機能に同意せずに質問を投稿してください。 もしも誤って投稿した際には、違反報告から削除依頼を行っ

安全性などへの懸念が広がる生成AI。国内初の認証制度の開始に向けた準備が始まっている。 日本の大手企業など23社が主体となった動きを取りまとめたのは、27歳の若きスタートアップ経営者だった。 その“行動力”と“先見の明”の背景には何があったのか、インタビューで探った。 （経済部記者 名越大耕） アメリカ・シリコンバレーに本社を置くスタートアップ企業「Robust Intelligence（ロバスト インテリジェンス）」。 創業者の大柴行人さんは1995年生まれの27歳だ。高校卒業後すぐに渡米し、ハーバード大学に進学した。 大学2年生の時、知人の起業を支援するため休学した際、AIの機械学習に関心を持ち、大学に戻ってからはAIのぜい弱性と保護システムの研究に打ち込んだ。 研究を進めていくうちに、AIには情報漏えいなどといったセキュリティ面でのぜい弱性だけでなく、AI自体が差別することや、プライ

自動運転などに欠かせないAI＝人工知能の性能向上が求められる中、先端半導体の国産化を目指す「Rapidus」は、AI半導体の設計に強みがあるカナダのスタートアップ企業と業務提携し、製品の共同開発に向けて協力していくことになりました。 自動運転をはじめあらゆる機器がインターネットとつながるいわゆるIoT社会の実現に向けては、情報や画像を処理するAI向けの半導体の性能向上が求められていて、この分野ではアメリカの半導体大手エヌビディアなどが先行しています。 こうした中、先端半導体の国産化を目指す「Rapidus」は、カナダのスタートアップ企業で、AI半導体の設計などに強みがある「テンストレント」と業務提携し、AI向けの半導体の共同開発を行うことになりました。 また、テンストレントは来年にも日本に研究開発の拠点を新たに設け、高度な演算処理に必要な半導体の開発を進めるRapidusの知見も生かして協

楽天グループは11月14日、米OpenAIと協業し、新AIプラットフォーム「Rakuten AI for Business」を提供すると発表した。AIを使ってさまざまな企業活動を支援する。2024年以降に提供を始める予定。 同プラットフォームでは、営業やマーケティング、カスタマーサポート、オペレーション、戦略策定、システム開発などの企業活動をサポート。具体的な機能として、データ分析やチャート作成などの分析業務ができる「Rakuten AI Analyst」や、消費者へのサービス提供を手助けする「Rakuten AI Agent」、企業の資料を分析して顧客からの質問に回答できる「Rakuten AI Librarian」などを提供する。 楽天は同プラットフォームについて「スマートフォンやタブレットなどのあらゆる端末から、いつでもどこからでもアクセスできる、利便性の高いインタフェースを提供する

Google DeepMindのAI気象予測モデル「GraphCast」、従来予報を大きく上回る性能との研究結果 Google DeepMindは、「Graph Neural Network」（GNN）採用の気象AIモデル「GraphCast」をオープンソースで公開した。欧州中期天気予報センターのデータでトレーニングされており、向こう10日間の気象予測を約1分で生成する。 米Google DeepMindは11月14日（現地時間）、「前例のない精度で中期天気予報を行うことができる」と謳う気象AIモデル「GraphCast」を発表した。 同日に科学雑誌「Science」に掲載された論文によると、世界の気象状況を最大10日前まで予測する場合、GraphCastは気象シミュレーションシステム「欧州中期天気予報センター」（ECMWF）の「高解像度予報」（HRES）より正確かつ迅速だったという。 異

Google DeepMindが気象予測AI「GraphCast」を発表しました。10日間の天気を予測する場合、従来の気象予測システムではスーパーコンピューターを数時間稼働させる必要がありましたが、GraphCastでは1台のマシンを1分稼働させるだけで従来の予測システムを超える精度での予測が可能とアピールされています。 Learning skillful medium-range global weather forecasting | Science https://www.science.org/doi/10.1126/science.adi2336 GraphCast: AI model for faster and more accurate global weather forecasting - Google DeepMind https://deepmind.google/

YouTubeは、生成AIツールなどを使って現実と見紛う合成コンテンツを公開する場合はそれを開示することを義務付ける。開示のためのオプションを追加する計画だ。また、自分の声や顔が生成AIコンテンツに使われた場合に削除リクエストできるようになる。 米Google傘下のYouTubeは11月14日（現地時間）、生成AI関連の2つの新たなガイドラインを発表した。 YouTubeのコミュニティガイドラインには既に、視聴者を保護するための多様な規則があるが、生成AIの台頭で新たなリスクが生じており、それに対処するための新たなアプローチが必要になっているとYouTubeは説明する。 コンテンツが合成であることの開示を義務付け クリエイターに対し、AIツールなどを使って現実と見紛う改変あるいは合成コンテンツを生成した場合は、その開示を義務付ける。開示するための新たなオプションを選択できるようにする計画だ