Version 1.87 is now available! Read about the new features and fixes from February. October 2023 (version 1.84) Update 1.84.1: The update addresses these issues. Update 1.84.2: The update addresses these issues. Downloads: Windows: x64 Arm64 | Mac: Universal Intel silicon | Linux: deb rpm tarball Arm snap Welcome to the October 2023 release of Visual Studio Code. There are many updates in this ver

はじめに 「Pythonで儲かるAIをつくる」などの著者の赤石です。 私の本は基本的にPythonの実習コード付きです。実習コードの前提環境をどうするかが、常に大きな問題なのですが、最近の本ではすっかりGoogle Colabに頼っています。 Google Colabは、gmailのアカウントさえ持っていれば、セットアップ作業ゼロで、即Jupter + Pythonの環境が使える点が圧倒的に便利だからです。 一方で、要注意点もあります。Google Colabは各種ライブラリの最新バージョンを常に反映しています。それはそれでありがたいことなのですが、出版時とライブラリのバージョンが変わると、サンプルプログラムの挙動が変わることがあるのです。 このような事象が見つかった場合は、読者のためにできる限りサンプルコードに修正を加えて本と同じ動きを保つようにしています。 しかし、「Pythonで儲か

本記事は、2023年夏季インターンシッププログラムで勤務された上原祐輝さんによる寄稿です。 背景 商品の購入数予測は重要 近年、小売業界ではDXが進み、多くのビジネスプロセスが効率化されています。その中で、特に購入数予測は企業の競争力を左右する重要な要素となっています。購入数予測とは、過去のデータやトレンドを元に、将来の商品の購入数や需要を予測することを指します。正確な購入数予測は、在庫の無駄を削減し、商品の売り切れリスクを減少させるだけでなく、適切な価格設定を可能にし、利益の最大化に寄与します。 PFNにおいても購入数予測に取り組んでいますが、これまでのモデルでは商品間の需要の食い合いを捉えられていませんでした。そこで、本インターンシップでは需要の食い合いを考慮した商品の購入数予測モデルの開発に取り組みました。 既存モデルの問題点 購入数の予測において、最も基本的なアプローチの一つが各店

ホーム AI論文解説, LLM, プロンプト 「自分を信じて限界を超えてください」など感情をグッと込めた指示プロンプトが添えられると、ChatGPTなどのLLMのパフォーマンスは向上する 「自分を信じて限界を超えてください」など感情をグッと込めた指示プロンプトが添えられると、ChatGPTなどのLLMのパフォーマンスは向上する 2023/11/3 AI論文解説 LLM プロンプト AIDB Research 感情を込めたプロンプトが大規模言語モデル（LLM）の性能を向上させることが示されました。「自分を信じて限界を超えてください」や「困難は成長のチャンスです。」といった自信や成長に関わる要素を含む指示が、モデルの出力品質に貢献するとの報告です。 この発見は、人間の感情を取り入れたアプローチが、人工知能の分野においても重要な役割を果たす可能性を示唆しています。Microsoftなどの研究グル

2023年10月分のAWSおよびGoogle Cloudの機械学習関連サービスのアップデート情報をお届けします。 データアナリティクス事業本部 インテグレーション部 機械学習チームの鈴木です。 クラスメソッド データアナリティクス通信(機械学習編) の2023年11月号です。2023年10月分のアップデート情報をお届けできればと思います。 今回でこのシリーズを初めて1年になりました。 はじめに AWSでは、Amazon SageMaker Canvasで、Amazon QuickSightやAmazon Kendra、各種LLM関連機能との連携が強化され、より多くのユースケースに対応しました。 また、個人的にはRekognitionのカスタムモデレーション機能が非常に嬉しいアナウンスでした。例えばECサイトやコンテンツ配信サービスでは、ユーザーに対して意図しないコンテンツを見せてしまうこと

LM Studio is an easy to use desktop app for experimenting with local and open-source Large Language Models (LLMs). The LM Studio cross platform desktop app allows you to download and run any ggml-compatible model from Hugging Face, and provides a simple yet powerful model configuration and inferencing UI. The app leverages your GPU when possible.

Python版の「LangChain」のクイックスタートガイドをまとめました。 ・LangChain v0.0.329 (2023/11/3) 1. LangChain「LangChain」は、「大規模言語モデル」 (LLM : Large language models) と連携するアプリの開発を支援するライブラリです。 「LLM」という革新的テクノロジーによって、開発者は今まで不可能だったことが可能になりました。しかし、「LLM」を単独で使用するだけでは、真に強力なアプリケーションを作成するのに不十分です。真の力は、それを他の 計算 や 知識 と組み合わせた時にもたらされます。「LangChain」は、そのようなアプリケーションの開発をサポートします。 主な用途は、次の3つになります。 ・文書に関する質問応答 ・チャットボット ・エージェント 2. LangChain のモジュール「L

自分用の整理・勉強会用として作成した解説資料です。内容の正確性については保証しかねますので必ず論文を参照してください。誤りや引用漏れ等がありましたら @catshun_ までご指摘いただけますと幸いです。

こんにちは、つくぼし(tsukuboshi0755)です！ 最近流行りのRetrieval-Augmented Generation(以下RAG)を組む際に、文書を保存するデータソースとしてKendraとS3を組み合わせるパターンは多いと思います。 今回は、RAGでよく使うKendraとS3をCloudFormationで構築し、利用する方法を紹介します！ 構成 今回の構成図は以下になります。 また以下の設定はRAGには必須ではありませんが、実際にRAGを運用する際に役に立つので合わせて設定します。 CloudWatch Logsの使用料金を減らすため、Kendraログに保持期間を指定 S3バケットに保存された文書データが不正にダウンロードされる事を防ぐため、バケットポリシーでKendraデータソースロール以外からのオブジェクト取得を禁止 テンプレート 以下のリポジトリのテンプレートをベー

サイバーエージェントは11月2日、新しい日本語大規模言語モデルを無料公開した。日本語と英語データで事前学習をした70億パラメータのベースモデル「CyberAgentLM2-7B」と、チャット向けにチューニングした「CyberAgentLM2-7B-Chat」の2種類を配布。ライセンスはApache License 2.0で、いずれも商用利用できる。

株式会社サイバーエージェント（本社：東京都渋谷区、代表取締役：藤田晋、東証プライム市場：証券コード4751）は、70億パラメータ・32,000トークン対応の日本語LLM（Large Language Model、大規模言語モデル）を公開したことをお知らせいたします。 当社はかねてより日本語LLMの開発に取り組んでおり、2023年5月には国内の自然言語処理技術の発展への寄与を目的とし、「CyberAgentLM」を一般公開しました。その後もLLMに関する研究開発を続け様々なモデルを開発するとともに、当社が提供する「極予測AI」をはじめとするサービスにおいて活用を進めております。

Calm2-7b（CyberAgentLM2-7B）は、サイバーエージェントが公開した最新の日本語LLMです。 このモデルは、既存のLLMをベースにするのではなく、1から独自に構築されており、チューニングモデルではなんと32,000トークンの入出力に対応しています。 GPT-4に迫る量のトークンに対応しているのはすごいですよね！ 今回は、Calm2-7bの概要や使ってみた感想をお伝えします。 是非最後までご覧ください！ なお弊社では、生成AIの開発について1時間無料相談を承っています。こちらからお気軽にご相談ください。 →無料相談で話を聞いてみる Calm2-7bの概要 Calm2-7bは、サイバーエージェント社が2023年11月2日に公開した最新の日本語LLMです。 このモデルは、ここ最近の日本語LLM開発のトレンドになっている、既存のLLMをベースに継続事前学習を適用して構築する方法で

【Youri 7B】日本最高峰の精度を叩き出す！学習量2兆トークン超えの最強日本語LLM 2023 11/09 Youri 7Bは、2023年10月31日に日本のrinna社が公開した最新の日本語LLMです。 このモデルは、Llama2 7Bをベースに開発され、目的や環境に合わせて複数のモデルが用意されており、より多くのAI研究に活用されることを目的としています。 また、量子化された軽量モデルもあるので、一般の方でも気軽に試すことができます！ 今回は、Youri 7Bの概要や使ってみた感想をお伝えします。 是非最後までご覧ください！ なお弊社では、生成AIの開発について1時間無料相談を承っています。こちらからお気軽にご相談ください。 →無料相談で話を聞いてみる Youri 7Bの概要 Youri 7Bは、2023年10月31日に日本のrinna社が公開した最新の日本語LLMで、Meta社の

Llama 2の性能を日本語に引き継いだモデルシリーズによりLLMの活用が容易に rinna株式会社（本社：東京都渋谷区/代表取締役：ジャン"クリフ"チェン、以下rinna）は、Llama 2に日本語の学習データで継続事前学習を行った「Youri 7B」シリーズを開発し、LLAMA 2 Community Licenseで公開したことを発表します。 ■ rinnaのモデル公開活動 OpenAI社が開発した大規模言語モデル (Large Language Model; LLM) であるChatGPTのサービスは、世界中の多くのユーザーが利用するサービスへと発展しました。ChatGPTに匹敵するLLMを開発するために世界中の研究・開発者が切磋琢磨し、その成果を共有・公開しています。rinnaも、研究成果を積極的に発表・公開しており、これまでに日本語に特化したGPT・BERT・HuBERT・CL

Stability AI Japan は、オープンな日本語大規模言語モデルの中で最高性能*のものを含む「Japanese Stable LM Beta (JSLM Beta)」シリーズをリリースしました。 各モデルは Llama-2 をベースとしており、追加の学習を行うことで日本語の能力や日本に関する知識等を追加し、日本における用途に特化させています。特に、最大サイズの指示応答言語モデルである JSLM Beta 70B は、700億パラメータの商用利用可能な日本語言語モデルです。2023年11月現在、我々の知る限りでは最大規模のオープンな日本語特化言語モデルとなります。 *注：性能の評価方法は後述 "A cute robot wearing a kimono writes calligraphy with one single brush" — Stable Diffusion XL (

LINEヤフー株式会社 プライバシー&トラストチーム / LINEヤフー研究所上席研究員 髙橋翼 コンピュータセキュリティシンポジウム 2023（2023/10/31） PWS企画「生成AIに関する問題と技術、制度的な対応について」の登壇資料です https://www.iwsec.org/css/2023/index.html

2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間分の生成AI関連論文の中から重要なものをピックアップし、解説をする連載です。第19回目は、人気の文字起こしソフト「Whisper」の高速化版、スマホでできるAIボイチェン、プレッシャーをかける感情付きプロンプトをはじめとする、生成AI最新論文の概要5つをお届けします。 生成AI論文ピックアップOpenAIの文字起こしAI「Whisper」を軽量かつ高速にするモデル「Distil-Whisper」　Hugging Faceが開発 3.2兆以上のトークンで学習された、130億のパラメータを持つオープン大規模言語モデル「Skywork」 テキストや画像から高品質な動画を生成するオープンソースモデル「VideoCrafter1」　中国テンセント含む研

今週世間を賑わせている画像生成AIの話題で一番インパクトのある話題が 「Real-Time Latent Consistency Model」、通称「RT-LCM」だと思います。 "RT-LCM" Real-Time-Latent-Consistency-Model リアルタイムで潜在空間が一貫して動きます CUDAとPython、またはM1/M2/M3チップを搭載したMacでも動くようです HuggingFaceSpacesでのデモもありますhttps://t.co/T7AmuKNzTC pic.twitter.com/U0l2WX7u6p — AICU Inc. (@AICUai) November 1, 2023 このLCM関係の論文を調査していたらけっこう勉強になったので簡単に紹介しておきたいとおもいます。 この数日で、既にいろんなデモが出ているのですが、いちばん有名と思われるのが

2023年11月4日、日本テレビは同社のニュース報道番組の画面を模したフェイク動画が出回っているとして報じました。ここでは関連する情報をまとめます。 無料ツール使い1時間で偽動画作成 問題の動画は、岸田首相が画面（視聴者）に対して卑猥な言葉など語り掛ける様子を映したように作成された偽動画。今年夏ごろにニコニコ動画に投稿されていた3分43秒（既に同サイト上では非公開）のうち、30秒分の抜粋版が11月2日頃にXを通じて拡散され、3日時点で232万回以上閲覧された。*1 *2 偽動画中の画面右上部には「日テレNEWS24 LIVE」というロゴ、テロップには「BREAKING NEWS」が表示されており、日テレのニュース番組が速報で報じているかのように見た人に思わせる作りをしていた。 偽動画の作成者に対し、複数のメディアが取材を行っている。作成者によれば、偽動画はインターネット上で入手可能な首相記

世界AIソフトウェア市場、2022年の640億ドルから2027年には約2510億ドルに　IDC予測：AIプラットフォームが近い将来に最大のカテゴリーに IDCによると、世界のAIソフトウェア市場は2022年の640億ドル規模から年平均31.4％のペースで成長し、2027年には約2510億ドル規模に達する見通しだ。 IDCは2023年10月31日（米国時間）、世界のAI（人工知能）ソフトウェア市場が2022年の640億ドル規模から年平均31.4％のペースで成長し、2027年には約2510億ドル規模に達するとの予測を発表した。 IDCによると、予測対象のAIソフトウェアには、AIプラットフォーム、AIアプリケーション、AIシステムインフラソフトウェア、AIアプリケーション開発／デプロイ（展開）ソフトウェア（AIプラットフォームを除く）が含まれる。ただし、生成AIプラットフォームおよびアプリケー

ChatGPTのような生成AIツールの台頭以来、Appleがいつ独自の生成AIを導入するのかについてさまざまなウワサが流れています。こうした声を受け、Appleのティム・クックCEOが改めて生成AIの開発に取り組んでいることを強調しました。 Tim Cook again says Apple is working on generative AI https://9to5mac.com/2023/11/02/tim-cook-apple-generative-ai/ Appleが投資家に向けて2023年第4四半期決算を発表した際、クックCEOは投資家から「他の多くのテクノロジー企業がすでにAIベースのツールを立ち上げているが、Appleは生成AIについてどのような取り組みをすすめているか？」と質問されたそうです。 この質問に対して、クックCEOは「Apple Watchの衝突事故検出機能や

OpenAIやMetaなどAI大手、フロンティアAIモデルのリリース前に政府当局のテストを受ける協定に署名 英国で開催のAI Safety Summitで、OpenAI、Meta、Microsoft、Google DeepMind、Anthropicは、フロンティアAIモデルのリリース前に政府当局がそれらのモデルをテストできるようにする協定に署名した。 英国で開催された世界初のAI Safety Summitで11月2日（現地時間）、AI大手の米OpenAI、米Meta、米Microsoft、米GoogleのGoogle DeepMind、米Anthropicは、新しいAIモデルを公開する前に米国および英国の政府当局がそれらのモデルをテストできるようにする新たな協定に署名した。 この協定は前日に発表された「ブレッチリー宣言」に続くもので、法的拘束力はない。 英国は「フロンティアAI（特に高

AIの実践的な使い方を研究しているジャヴィ・ロペズさんが、AIの力を最大限に活用してAngry Birdsのコピーゲーム「Angry Pumpkins」を作成する様子を投稿しています。 Midjourney, DALL•E 3 and GPT-4 have opened a world of endless possibilities. I just coded "Angry Pumpkins 🎃" (any resemblance is purely coincidental 😂) using GPT-4 for all the coding and Midjourney / DALLE for the graphics. Here are the prompts and the process I followed: pic.twitter.com/st3OEhVVtK— Javi

Tesla CEOでX（旧Twitter）のElon Musk氏は “X”プレミアムユーザーのために “X”のデータでトレーニングされ、作成されたチャットボット「Grok」を公開した。ChatGPTのOpenAIとは対照的に、このGrokは応答にもっと創造的で自由裁量を与えられている。 Musk氏とxAIによると、Grokをユーモアがあり、機知に富み、反抗的で、ほとんどどんな質問にも答えることができるチャットボットと説明している。Grokは、インターネットとXのデータに基づくモデル知識と、Xからのリアルタイム情報を使って回答を提供する。xAIによると、このチャットボットは、他のほとんどのAIシステムでは拒否されるような「スパイシーな質問」にも答えるという。 Announcing Grok! Grok is an AI modeled after the Hitchhiker’s Guide

米X（旧Twitter）のオーナー、イーロン・マスクCTOは11月3日（現地時間）、米xAI開発の新AIチャットボット「Grok」をXのサブスクリプションプラン「Xプレミアムプラス」会員に提供する計画だとポストした。 xAIは、マスク氏が7月に立ち上げを発表した“現実を理解する”ための新企業。Xプレミアムプラスは、10月発表の、Xプレミアム（旧Twitter Blue）のハイエンドプランだ。Webアプリ経由での料金は月額1960円。 マスク氏は、GrokはXのリアルタイムの情報にアクセスし、それは（ChatGPTなどの）他のモデルと比較して大きな利点になるとしている。

イーロン・マスク氏が7月に立ち上げたAI企業xAIは、同社初のAIモデル「Grok」を発表した。まだ初期β段階だが、ベンチマークでは「ChatGPT-3.5」や「Inflection-1」を上回るとしている。 イーロン・マスク氏率いる米AI企業xAIは11月4日（現地時間）、同社初のAIモデル「Grok」を発表した。マスク氏はそれに先立ち、GrokをXのハイエンドサブスクプランユーザーに提供する計画だとポスト済みだ。 xAIは企業サイトのトップページで「Grokは、『銀河ヒッチハイク・ガイド』をモデルにしたAIで、ほぼすべてのことに答えることを目的としており、質問すべきことを提案することさえできる」「ウィットに富んだ質問に答えるよう設計されており、反抗的な性格でもあるので、ユーモアが嫌いであれば使わないように」と説明している。 xAIは、全人類に利益をもたらすAIツールを構築するためにフィ

【読売新聞】　【ニューヨーク＝小林泰裕】米起業家のイーロン・マスク氏は３日、人工知能（ＡＩ）開発を手がける新会社「ｘＡＩ」によるサービスを４日から開始すると明らかにした。生成ＡＩの開発で先行する米オープンＡＩの「チャットＧＰＴ」や米

sponsored 最新インテル第14世代Coreプロセッサー対応のハイエンドモデル！ M.2 SSDが6つも搭載可能なゲーミングマザーボードASRock「Z790 NOVA WiFi」を写真で解説 sponsored ミニLED採用で有機EL並みに黒が黒いWQXGAディスプレー RTX 4060搭載でクリエイティブ作業もパワフル処理！MSI「Prestige 16 Studio A13V」レビュー sponsored TGS2023 GALLERIAブースステージイベントをレポート【後編】 SHAKAさんやBeauloさん、『スト6』プロも！ GALLERIAステージイベントが豪華すぎた sponsored ナイスモバイル株式会社 高学軍社長ロングインタビュー 「MAXHUB製品は日本専用チューニング＆ローカライズ済」ナイスモバイル高社長 sponsored 【後編】CVTE社ロングイン

ChatGPTはこれまでの対話システムと何が違う？　対話システムの言語理解を探る：対話システムの歴史から見たChatGPT（2） ChatGPTを対話システムと見なし、これまでの対話システムで用いられてきた技術との違いを整理しながら、どのようにして人間のような自然で流ちょうな対話が実現できているのかを解説する本連載。第2回は、第1回で取り上げた対話システムを中心に、用いられている言語理解の技術について解説する。 今回のテーマは、対話システムにおける言語理解である。対話システムで用いられてきた言語理解の技術を大別すると、パターンマッチ、構文解析、意味解析、深層学習による大規模言語モデルが挙げられる。本連載の第1回で取り上げた対話システムを中心に、用いられている言語理解の技術について解説する。 パターンマッチ 対話システムにおけるパターンマッチとは、事前に用意された特定のパターンと入力されるテ

OpenAIの「ChatGPT」をベースにしたAIアシスタントサービス「ConnectAI」を開発し、社内の業務改革を推進するパナソニック コネクト。2023年9月には、AIが自社固有の情報を扱えるようにするための開発・検証作業を新たにスタートさせた。どのような追加開発をしているのだろうか。 「ChatGPT」などの大規模言語モデル（LLM）は技術者や専門家のみならず一般ユーザーが直接気軽に使いこなせる点で急速に普及しつつある。一方で、業務での利用を考える場合には、機密情報の漏えいや著作権侵害のリスクなど検討すべきことが多く、導入には慎重さが求められる。 さらに、これらのモデルは一般的な情報やコンテンツに基づいて学習しているため、自社固有の情報まで考慮して回答させることが難しく、ニーズが高い一方でその仕組みのベストプラクティスは確立されていない。現時点ではChatGPTを活用する価値とリス

自然言語処理（NLP）アルゴリズムが意図的な攻撃に対して脆弱であることはすでに実証されている。しかし、これらの脆弱性がソフトウェアのセキュリティリスクとしてどのように影響するかについては、十分に調査されていない。 この問題を解決するために、データベースと自然言語インタフェースを結び付けるためのText-to-SQLシステムの脆弱性テストを実施した。Text-to-SQLシステムとは、自然言語での質問や命令をSQL（Structured Query Language）クエリに変換する技術やアルゴリズムのことを指す。 ユーザーが「過去1年間で最も売れた商品は？」という質問をすると、Text-to-SQLシステムはクエリに変換してデータベースに問い合わせ、適切な結果をユーザーに返してくれる。目的は、Text-to-SQLアルゴリズムの悪用によるデータベース攻撃の可能性を評価することである。 具体

このブラウザーはサポートされなくなりました。 Microsoft Edge にアップグレードすると、最新の機能、セキュリティ更新プログラム、およびテクニカル サポートを利用できます。