近年はさまざまな大規模言語モデルが台頭し、入力するプロンプトを工夫することで高精度な回答を得る方法も数多く生み出されています。しかし、入力プロンプトがあまりにも長くなりすぎると、チャットウィンドウの上限を超えてしまったり、APIのコストが増大してしまったりするデメリットも生じます。そこでMicrosoft Researchの研究チームは、意味を保ったまま入力プロンプトを圧縮する新たな技術「LLMLingua」を開発しました。 LLMLingua | Designing a Language for LLMs via Prompt Compression https://llmlingua.com/ LLMLingua - Microsoft Research https://www.microsoft.com/en-us/research/project/llmlingua/ LLMLin

","chat_template":"{{ bos_token }}{% for message in messages %}{{ 'GPT4 Correct ' + message['role'].title() + ': ' + message['content'] + '<|end_of_turn|>'}}{% endfor %}{% if add_generation_prompt %}{{ 'GPT4 Correct Assistant:' }}{% endif %}","eos_token":"<|end_of_turn|>","pad_token":null,"unk_token":"","use_default_system_prompt":true}},"discussionsDisabled":false,"downloads":29789,"downloadsAllT

Swallow Llama 2の日本語能力を強化した大規模言語モデル (7B, 13B, 70B) です。モデルのパラメータ（重み）が公開されていますので、LLAMA 2 Community Licenseに従う限り、研究や商業利用など自由に利用できます。 View on HuggingFace 大規模言語モデルSwallowは東京工業大学情報理工学院の岡崎研究室と横田研究室、国立研究開発法人産業技術総合研究所の研究チームで開発された大規模言語モデルです。英語の言語理解や対話で高い能力を持つ大規模言語モデルLlama 2 7B, 13B, 70Bの日本語能力を拡張するため、研究チームは言語モデルに日本語の文字や単語などの語彙を追加したうえで、新たに開発した日本語データを用いてモデルの構築を継続的に行う継続事前学習を行いました。研究チームで実施した性能評価では、2023年12月現在オープンな

要点 日本語能力に優れビジネスにも安心して活用できる大規模言語モデルを公開 継続事前学習により大規模言語モデルの日本語能力を改善 高度な日本語処理が求められる多くの場面で、生成AI技術の利活用を推進 概要 東京工業大学（以下、東工大） 情報理工学院 情報工学系の岡崎直観教授と横田理央教授らの研究チームと国立研究開発法人 産業技術総合研究所（以下、産総研）は、日本語能力に優れた生成AIの基盤である大規模言語モデル[用語1]「Swallow」を公開した[参考リンク1]。本モデルは現在公開されている日本語に対応した大規模言語モデルとしては最大規模であり、オープンで商用利用が可能であるため、ビジネスに安心して用いることができる。 東工大と産総研の研究チームは、英語の言語理解や対話で高い能力を持つ大規模言語モデル（米Meta社 Llama 2）の日本語能力を拡張することで「Swallow」を構築した

この記事は、NTTコミュニケーションズ Advent Calendar 2023 20日目の記事です。 はじめに こんにちは。 コミュニケーション&アプリケーションサービス部の吉仲です。 新卒2年目で、普段はB向け/C向けメールシステムと文書要約APIサービスの開発・運用に関する業務に取り組んでいます。 今回は、昨年から引き続き話題の生成AIのひとつ、大規模言語モデル (LLM: Large Language Model) を題材に、LLMを使って文章を「やさしい」表現へ言い換える例を紹介します。 この記事の内容 この記事では、以下の内容を扱います。 やさしい日本語 言い換え技術とテキスト平易化 LLMを使ったやさしい日本語への言い換え 前半にやさしい日本語、言い換え技術・テキスト平易化について簡単に解説し、後半はLLMによるやさしい日本語への言い換えの例を紹介します。 なお、この記事では

新世紀Coreと呼ぶべきかもしれない。｢インテル® Core™ Ultraプロセッサー｣は異世界転生者級のスゴさ2023.12.19 17:00Sponsored by インテル株式会社 武者良太 異世界転生者級のスゴさ!? いえ、これが現代最新のインテルテクノロジーのスゴさなのです。 長年CPU/SoCのトップシェアルートをひた走ってきたインテル。今までの歴史を振り返ると、パーソナルなコンピューターの転換期を常に支えてきたんですよね、彼ってば。 1978年～ ：｢8086｣後のNECのPC-9801シリーズで使われた 1982年～：｢80286｣16ビットCPU時代の頂点の1つ 1985年～：｢i386｣初期の32ビットCPU時代を牽引した存在 1993年～：｢Pentium｣1995年からのWindowsブームを支えた 2005年～：｢Pentium XE｣世界初のマルチコアCPU 2

AIを使って制作したアート作品のコンテスト「AIアートグランプリ」が開催された。 全国から100を超える応募があり、グランプリには、AIで誰でも自由に変身することができる世界を表現した動画「明日のあたしのアバタイズ」が選出された。 いま、特別な技術や知識が無くても誰でも簡単に創作を楽しめる時代が来ている。 「AIアートグランプリ」は、CGクリエーターやAIの研究者などの有志で作る実行委員会が開催している。 今回で2回目となる大会には、AIを使って制作した動画やゲームなど、小学生からお年寄りまで、幅広い年代からプロ・アマ問わず124作品の応募があった。 11月4日、東京・秋葉原で最終審査会が開催された。 最終審査に残った10作品は、人の手で使った影から、AIが新しい「影絵」を作り出するものや、空想の景色が切れ目なく次々と映し出されるものなど、手の込んだ、個性的なものばかり。

OpenAIが有害なAIのリスクと脅威から守るために社内の安全プロセスを見直し、「Safety Advisory Group(安全諮問グループ)」を技術チームの上に設立することを発表しました。このSafety Advisory Groupは継続的にAIモデルに対するテストを実施し、危険性があった場合は経営陣と取締役会に勧告を行うとのことです。 Preparedness https://openai.com/safety/preparedness Preparedness Framework(Beta) | OpenAI (PDFファイル)https://cdn.openai.com/openai-preparedness-framework-beta.pdf We are systemizing our safety thinking with our Preparedness Frame

Google Japanは12月19日、Googleの生対話型AI「Bard」の日本語版が、Googleサービスとの連携に対応したと発表した。チャットで指示することで、「Gmail」「Google ドキュメント」「Google ドライブ」「Google マップ」「YouTube」などから関連情報を検索し、回答に一括表示できるようになった。 新しいBardの使い方は次の通りだ。例えばメールで取引先とミーティングの予定を決めていたとする。Bardに「◯◯社とのミーティングはいつ？」と尋ねると、Bardはその日程を回答してくれる。 また、求職活動では「Googleドライブから2023年6月というタイトルを履歴書を見つけて、それを短い文章に要約して」と依頼すれば、新しいカバーレターを作成できる。 Googleマップとも連携しているので「東京駅から二子玉川駅までの電車での所要時間は？どの駅で乗り換え

Googleの生成AI「Bard」、日本語でもGmailやYouTube、Googleマップと連携可能に 米Googleは12月19日、生成AIチャット「Bard」について、GmailやYouTube、Googleマップなどとの連携機能を日本語でも利用可能にした。 GmailやYouTube、Googleマップに加え、GoogleドキュメントやGoogleドライブなどとも連携できる。公式ブログでは「○○君がメールしていた、富士登山の日程はいつ？」という質問に対し、Gmail上のデータを基に「○○君が提案した富士登山の日程は、2023年8月1日から8月4日」と回答する例を公開している。 他にも「××までの道のりを教えて」と聞くと、Bard上でGoogleマップを表示したり、「××でできる遊びを教えて」と聞くと、同様にYouTubeの動画を表示したりして回答するようになった。 今回の機能でBa

関連記事 音楽生成AI「Suno AI」が話題、文章から楽曲を瞬時に作成　プロの音楽家も「これはヤバい」と驚愕 音楽生成AI「Suno AI」がX上で話題になっている。歌詞や曲調を文章で指示するだけで音楽を自動生成するサービス。生成した音楽の出来栄えには、プロの音楽家からも驚きの声が上がっている。 Microsoft Copilot、GPT-4 Turbo、最新DALL・E 3対応などでグレードアップ Microsoftは、生成AIサービス「Microsoft Copilot」で間もなく提供する予定の複数の新機能を発表した。「GPT-4 Turbo」採用で2023年4月までの情報を反映する他、動画要約も可能になる。 Microsoft、「Bing Chat」を「Copilot」にリブランド　GPTも作れる「Copilot Studio」も発表 Microsoftは2月に立ち上げた“AI採用

AIの技術的進化において、テキストによる画像生成はそのほかの分野に比べて視覚的に「わかりやすく凄い」というのも相まって、広く認知されるようになった。約6年前は鳥の姿形をようやく制御できるかできないか（※1）という具合だったのにもかかわらず、現在では鳥に限らず様々なコンテンツを、美しく高解像度に生成できるようになった。 しかし、文字の完全な描写には未だ困難が伴っている。試しにAdobeが提供する画像生成AI『Firefly』にSign with the words "Real Sound" painted on it（訳："Real Sound"という文字の描かれた看板）と入力して画像を生成してみよう。 こちらの期待に反して看板に描かれているのはすべて大文字であり、SOUNDの"N"が抜けてしまった。 この生成はなぜ失敗してしまったのか、そしてAIが文字を生成することはなぜ難しいのか。本記事

2019年に、FacebookがAIでプロフィール画像を合成した偽アカウントを削除したと発表したことが報道されるなど、AIは以前からソーシャルメディアの頭痛の種でしたが、これまでAI画像を見破るのは難しいことではありませんでした。ところが、リアルな画像を大量に出力できる生成AIの発達により、かつて予言されていた「生成AIが大量生産したゴミコンテンツが生身の人間の努力を圧倒する」という未来が既に現実のものとなっていると、IT系ニュースサイトの404 Mediaが報じました。 Facebook Is Being Overrun With Stolen, AI-Generated Images That People Think Are Real https://www.404media.co/facebook-is-being-overrun-with-stolen-ai-generated-

Mozillaは、基本的な情報を入力するとAIが自動的にWebサイトのデザインを作成し、Webサイトの公開まで可能なサービス「Solo」を公開しました。 Soloは基本的に個人事業主が自分のビジネスのためのWebサイトを構築することを想定してWebサイトを作ってくれます。その理由をMozillaは次のように説明しています。 In 2023, website creation is still hard. While choosing a template is straightforward, sourcing images, writing content, and making a visually appealing site are really time-consuming. Add the requirements for showcasing reviews, schedul

生成AI「ChatGPT」を使ったゴミ出し案内サービスの実証実験を進めていた香川県三豊市は、AIによる正しい回答の割合が目標に届かなかったことから、本格導入を断念しました。 三豊市と東京大学大学院の松尾豊教授の研究室はことし6月から、「ChatGPT」を使ったゴミ出し案内の実証実験を開始しました。 市のホームページの専用画面でゴミの種類や内容などを入力すると、AI＝人工知能が分別や処分の方法を考えて文章で表示するものですが、正しい回答の割合が62.5％にとどまったため、7月7日に実証実験を休止しました。 そのあと、さまざまな改善を行って、10月23日から先月末まで2回目の実証実験を行いました。 正答率が99％まで向上すれば導入に向けて準備を進めることにしていましたが、2回目の実証実験でも正答率が94.1％にとどまったことなどから、本格的な導入を断念することを決めました。 三豊市では「今回得

陶磁器のような肌に、くりっとした目、そして金髪。まるで西洋人形を思わせる女性が、キャッチコピーをつぶやく。一見すると、これまでパルコが展開してきた、外国人モデルを起用した動画広告に見えるが、しゃべる口の動きはごくわずか。どこか人工的で妙な違和感が残る。実はこの広告、生成AI（人工知能）でつくったものだ。登場する女性モデルも生成AIでつくられたもので、従来の広告のようなモデル撮影は行っていない。