Llama is the next generation of our open source large language model, available for free for research and commercial use.
こんにちは。Turing株式会社の機械学習チームでインターンをしている九州大学修士1年の岩政(@colum2131)です。 Turingは完全自動運転EVの開発をするスタートアップです。 自動運転技術において、カメラやセンサ情報は正確な制御をする上で不可欠な要素である一方、自然言語やマルチモーダルな処理が必要となる状況もしばしば存在します。特に完全自動運転車においては、音声認識によってドライバーの音声命令を認識し、リアルタイムで適切な制御を行うことや、複雑な交通状況の背景にあるコンテクストを理解させるといった要求が出てきます。そのために、「基盤モデル」と呼ばれるような、自然言語処理を含む大規模モデルの学習が必要になってくると、私たちは考えています。 そこで本記事では、言語モデルの発展の流れとTuringが目指す基盤モデルの開発について紹介します! 1. 言語モデルとは? 近年の言語処理モデ
国立研究開発法人情報通信研究機構(NICT(エヌアイシーティー)、理事長: 徳田 英幸)は、ユニバーサルコミュニケーション研究所データ駆動知能システム研究センターにおいて、独自に収集した350 GBの日本語Webテキストのみを用いて400億パラメータの生成系の大規模言語モデルを開発しました。今回の開発を通し、事前学習用テキストの整形、フィルタリング、大規模計算基盤を用いた事前学習等、生成系の大規模言語モデル開発における多くの知見を得ました。現在は、更に大規模な1,790億パラメータの生成系大規模言語モデル(OpenAI社のGPT-3と同等規模)の学習を実施中で、また、学習用テキストの大規模化にも取り組んでいます。今後、共同研究等を通して民間企業、国研、大学等と協力して、日本語の大規模言語モデルの研究開発や利活用に取り組む予定です。 NICTでは、これまでWebページを収集し、インターネット
無料で始めるAmazon CodeWhisperer on VSCode(Github Copilotと同等の性能?)AmazoncopilotCodeWhisperer 現在の AIを一言で説明すると・・・ フミコ・フミオさんはTwitterを使っています: 「ほぼ全員がご高齢者の会社上層部からの「対話型AI とは何かその功罪について簡潔に分かりやすく出来たら一言で説明しろ」という難題にヤケクソで「ドラえもんです」と答えたら「便利だけど取扱注意ということだな」とほぼ正解な認識をしてくれたので藤子・F・不二雄先生は偉大すぎる。」 / Twitter Github Copilot と Amazon CodeWhisperer の比較 現時点では Github Copilot の方が使いやすい。 単純な機能だと同じくらいだが、 Github Copilot は、コマンドパレットがあるので、その
いまからわかる!ChatGPT活用プログラミング ChatGPT APIのFunction callingを使って、請求書の構造化データを抽出する 先月、OpenAIからFunction calling(関数呼び出し)機能がリリースされました。これが何なのか、何のために使うべきなのか、ちょっと見ただけでは分かりづらいと思います。 今回は請求書から情報抽出をするというよくありがちなケースを題材に、Function callingの利便性を示してみます。 Function callingとは OpenAIが2023年6月13日にリリースしたChat APIの追加機能です。主にできることとして以下の3つが挙げられています。 外部ツールを呼び出して質問に答えるチャットボットを作成する 自然言語を内部APIの呼び出しやSQLに変換する テキストから構造化データを抽出する たとえば天気予報と血液型
As we grow our operations internationally, we’re expanding into Asia with a new office in Tokyo, Japan. We are committed to collaborating with the Japanese government, local businesses, and research institutions to develop safe AI tools that serve Japan’s unique needs and to unlock new opportunities. We chose Tokyo as our first Asian office for its global leadership in technology, culture of servi
OpenAI が提供している ChatGPT は非常に面白いですね。今年以後、GPTやChatGPT周りがさらに流行ると思います。 この記事は、TypeScriptでChatGPTクローンを作る第一弾です。長くなりすぎるため、この記事では、GPTを使った検索エージェントを実行するまでを取り上げます。 検索エージェントは「ぼっち・ざ・ろっくの作者は?」と尋ねたら検索エンジンとGPTを使って「はまじあき」という結果を生成できる技術です。 またこの記事や、続く記事でLangChainのプロンプトをあれこれ読み解いていこうと考えています。 筆者は機械学習の初心者であるため、間違ったことが書かれている可能性があります。間違いがあった場合は、ぜひご指摘いただけると幸いです。 なお、この記事では添削にChatGPTおよびGPT-3.5を使っています[1]。 どうやってTypeScriptでChatGPT
「Ghostwriter」は、ゲーム内のNPCが発するセリフや声を、AIを用いて生成するツールだという。一般的にオープンワールドゲームにおいては、主要なキャラとは別に雑多なNPCが配置される。雑多なNPCといえどもゲーム内世界にリアリティをもたせる存在であり、状況に応じてさまざまなセリフが用意されることも多い。従来は、そうしたセリフもシナリオチームが手がける必要があった。「Ghostwriter」はその手間を省くツールとなるわけだ。 「Ghostwriter」を用いる際にはキャラを作成し、そのキャラが置かれた状況や経験する出来事といった変数とともに入力。すると、AIによってさまざまなセリフが生成されるという。シナリオチームは生成されたセリフを草案にして、雑多なNPCのセリフを仕上げることが可能になるそうだ。 動画の30秒ごろでは、実際に「Ghostwriter」を用いている様子も確認できる
3/24にアップした資料が含まれますが、 ベーシックなとこから全部入りにした資料です。 ・今までのAIとGPT ・GPT関連ニュースリリース ・OpenAIとMicrosoftの関係 ・Azure OpenAI Serviceの位置づけ ・ChatGPTなど言語生成モデルの挙動イメージ ・プロンプト(入力)を基点に生まれたML学習の新しいパラダイム ・Prompt Processing ・Few-shot Learning ・Chain of Thought ・ReAct ・Prompt EngineeringとFine tuningの位置づけイメージ ・プロンプトインジェクションについて ・その他の開発観点
IT業界において大規模言語AIサービス「ChatGPT」が大盛り上がりだ。2023年に入ってからはあらゆる業界の企業がChatGPTを使ったサービスをこぞって発表している。IT超大手GAFAMも続々大規模言語AIの活用方針を打ち出している。 そんなChatGPTはどうやってここまでの人気を得るに至ったのか。日本語特化の大規模言語AIを開発してきた東大発ベンチャー・ELYZA(東京都文京区)は3月16日の発表会で、今この業界で何が起きているのかを、歴史とともに解説した。 GAFAMが続々アプローチ IT業界が一瞬でAIカラーに染まる ChatGPTは2022年11月の公開以降、飛ぶ鳥を落とす勢いでユーザーを獲得してきた。ユーザー数はリリースから5日で100万人、2カ月で1億人を突破した。米Microsoftは開発元の米OpenAIにもともと10億ドルを出資していたが、ChatGPT登場後さら
インターネット創始者の1人に数えられるVinton Cerf氏は、最近になって急に注目を集めるようになった人工知能(AI)チャットボットの「ChatGPT」を支えるテクノロジーについて、「スネークオイル」(まやかしの万能薬)だと批判している。 GoogleのインターネットエバンジェリストであるCerf氏は、ChatGPTや、競合する同社の「Bard」に力を与えている大規模言語モデル(LLM)と呼ばれるAIテクノロジーを全面的に否定しているわけではない。しかし同氏は、米国時間2月13日にCelesta Capitalが開催した「TechSurge Summit」において、こうしたテクノロジーは事実に基づく内容を用いて訓練されている場合であっても、もっともらしく見えるものの誤っている情報を生み出す可能性があるという倫理上の問題を抱えていると警告した。 ある企業の幹部が、業務上の問題を解決するた
Realistic voice calls for Characters, PDFs & more! Check out CallStar.ai, CallPDF.ai, CallTube.ai.
Get enterprise-grade security & privacy and the most powerful version of ChatGPT yet. We’re launching ChatGPT Enterprise, which offers enterprise-grade security and privacy, unlimited higher-speed GPT-4 access, longer context windows for processing longer inputs, advanced data analysis capabilities, customization options, and much more. We believe AI can assist and elevate every aspect of our work
Googleの本気ついに? 生成AI全開のGoogle Workspace発表2023.03.15 15:0049,529 福田ミホ 新時代、始まるか。 ChatGPTを開発するOpenAIと、そのパートナーとなったMicrosoftの勢いに飲まれてるようにも見えたGoogle。でも「世界中の情報を整理してアクセス可能にする」って掲げた通り、ずーーーっと前から言語も画像も分析しまくってたGoogleなんだから、ホントはChatGPTライクな機能も全然できてるのでは? と、何かもったいなく思っておりました。 でも、3月14日(米現地時間)、そんな期待に応えるかのようなGoogle Workplaceの新機能、そしてデモ動画が発表されました。 Video: Google Workspace / YouTube なんだかいろんな作業がやたらちゃっちゃと捗りそうで、来たか!って感じがします。何がで
Looking for a way to add some fun to your texts? Just type in a word and get a suggested emoji that goes with it.
こんにちは。エムスリーエンジニアリンググループのコンシューマチームに所属している園田です。 普段の業務では AWS やサーバーサイド、フロントエンドで遊んでいるのですが、最近はもっぱら OpenAI や Claude3 で遊んでます。 今回は、最近巷で話題の LLM ローコード構築ツールである Dify の OSS 版を AWS のマネージドサービスのみを使って構築してみました。 DifyとはオープンソースのLLMアプリ開発プラットフォームで、様々なLLMを使用してChatGPTのGPTsのようなものがノーコードで簡単に作れます。 引用元: DifyでSEO記事作成を試してみる|掛谷知秀 試しにAskDoctorsのガイドラインHTMLをナレッジ登録してみた ローカル環境で Dify を構築する記事はたくさん見かけますが、AWS のマネージドサービスで構築する内容は見かけなかった*1ので公
※ネタ記事です はじめに 検証する脆弱性 Tips. GPT-3 とは? WAFの実装 環境・必要なもの ソースコード 検証 正常リクエスト XSS GETパラメータ POSTデータ POSTデータ & ヘッダ無し SQL インジェクション GETパラメータ GETパラメータ & ヘッダ無し XXE POSTパラメータ① POSTパラメータ② POSTパラメータ & ヘッダ無し パストラバーサル GETパラメータ GETパラメータ & ヘッダ無し OS コマンドインジェクション GETパラメータ & ヘッダー無し GETパラメータ Log4Shell POSTパラメータ POSTパラメータ & ヘッダ無し POSTパラメータ & ヘッダ無し WordPress のユーザ列挙 ShellShock まとめ はじめに 最先端(?)であるGPT-3を使って 次世代WAF を作っていきます。 以下
Explore optimized prompts for a breadth of business and personal tasks. User-submitted prompts have dark backgrounds with light colored icons (currently, there are none). You can submit prompts via our prompt submission form.
Humans are hard-wired to dream, to create, to innovate. Each of us seeks to do work that gives us purpose — to write a great novel, to make a discovery, to build strong communities, to care for the sick. The urge to connect to the core of our work lives in all of us. But today, we spend too much time consumed by the drudgery of work on tasks that zap our time, creativity and energy. To reconnect t
Prompt Engineering Guide Prompt engineering is a relatively new discipline for developing and optimizing prompts to efficiently use language models (LMs) for a wide variety of applications and research topics. Prompt engineering skills help to better understand the capabilities and limitations of large language models (LLMs). Researchers use prompt engineering to improve the capacity of LLMs on a
OpenAIが開発したチャットAI「ChatGPT」は非常に高い性能を備えていることから大きな注目を集めていますが、ChatGPTを利用したと思われる盗作小説が急増するなど、社会的な問題も発生しています。そんな中、「ChatGPTを用いて短時間で執筆した書籍」がAmazonに大量出品されている現状について、海外メディアが報じています。 ChatGPT launches boom in AI-written e-books on Amazon | Reuters https://www.reuters.com/technology/chatgpt-launches-boom-ai-written-e-books-amazon-2023-02-21/ ChatGPT is overtly and covertly writing novels and short stories and the
OpenAIのChatGPTは、2022年11月のローンチ以来、驚異的な精度で世界を席巻しました。しかし、2023年3月から6月の間に、ChatGPTが簡単な数学を解く精度やセンシティブな話題に対する思慮深さが劇的に低下していたことが、アメリカ・スタンフォード大学の調べにより判明しました。 [2307.09009] How is ChatGPT's behavior changing over time? https://doi.org/10.48550/arXiv.2307.09009 ChatGPT’s accuracy in solving basic math declined drastically, dropping from 98% to 2% within just a few months, study finds – Tech Startups | Tech Compa
ProductGitHub Copilot X: The AI-powered developer experienceGitHub Copilot is evolving to bring chat and voice interfaces, support pull requests, answer questions on docs, and adopt OpenAI’s GPT-4 for a more personalized developer experience. At GitHub, our mission has always been to innovate ahead of the curve and give developers everything they need to be happier and more productive in a world p
この記事を読むと嬉しいこと 言語の壁を越えた、グローバルAIを作れます! = GPTに英語と日本語、中国語、フランス語…の情報をまとめてインプットし、質問に答えさせることが出来ます! """「Harry Potter(英語)」と「ぼっち・ざ・ろっく!」の情報をまとめて与えた後で質問をした時の回答""" # before index.query("ハリーの学校では、何を教えている?日本語で答えて") # -> ハリーの学校では、何を教えているかは不明です。 # after index.query("ハリーの学校では、何を教えている?日本語で答えて") # -> ハリーの学校では、魔法と魔法使いの学問を教えています。 背景・課題 今大人気のGPTに、外部情報を繋ぐGPT Indexが物凄い勢いで使われています。一方で、この仕組みを無邪気に使おうとすると、OpenAIに課金しまくることになり、お
Prompt engineering is a relatively new discipline for developing and optimizing prompts to efficiently use language models (LMs) for a wide variety of applications and research topics. Prompt engineering skills help to better understand the capabilities and limitations of large language models (LLMs). Researchers use prompt engineering to improve the capacity of LLMs on a wide range of common and
Editor's Note: This is another installation of our guest blog posts highlighting interesting and novel use cases. This blog is written by Shroominic who built an open source implementation of the ChatGPT Code Interpreter. Important Links: GitHub RepoIn the world of open-source software, there are always exciting developments. Today, I am thrilled to announce a new project that I have been working
会話型AIサービス「ChatGPT」などを手掛ける米OpenAIは3月1日(現地時間)、ChatGPTと音声テキスト変換AI「Whisper」のAPI提供を開始したと発表した。システム最適化で実現したコストの90%削減(2022年12月比)を価格に反映させたとしている。 ChatGPT APIのエンジンは「GPT-3.5」ではなく、ChatGPT製品で使われているものと同じ「gpt-3.5-turbo」(gptはなぜか小文字)。価格は1000トークン(1000トークンは英語の場合およそ750ワード相当)当たり0.002ドルで、これは既存のGPT-3.5モデルより10倍安い。 gpt-3.5-turboは、一連のトークンとして表される非構造化テキストをそのまま使う従来モデルと異なり、テキストを一連のメッセージとメタデータとしてChatGPT APIにフィードする「ChatML」(Chat M
こんにちは!逆瀬川( https://twitter.com/gyakuse )です! 今日はLangChainの使い方について書いていこうと思います。 ChatGPT API の欠点について LangChainについて書く前に、ChatGPT APIの使いづらい部分をまとめていきたいと思います。 これを考えておくと、なぜLangChainが必要であるかということがわかり、さらに今後どのような機能が搭載されうるか/されるべきかということがわかります。 ChatGPT APIを使う際の難しい部分は一般的に以下のようにまとめられます。 プロンプトの共通化や管理が面倒くさい 最近の事実をベースとした質問-応答が難しい 最大の入出力合計が4096トークン(約3000字)であるため、長い情報を持たせることがしづらい ExcelやCSV、PDF等を直接読み込ませることができない 出力の処理のチェーンの
米MicrosoftがOpenAIのLLM「ChatGPT」採用の「新しいBing」を公開して2週間以上が経過した。Microsoftで検索とAI担当のCVP(コーポレートバイスプレジデント)を務めるジョルディ・リバス氏が2月22日(現地時間)、Microsoft傘下のLinkedInに「Building the New Bing」というブログを投稿し、新しいBingについて解説した。 新しいBingでは、OpenAIが昨夏に共有した「GPT-3.5よりはるかに強力な、ChatGPTを強化するLLM」(「GPT-4」とはしていない)を採用している。この次世代GPTは強力ではあるが、他のLLMと同様にトレーニングデータが古い(GPT-3.5のトレーニングデータは2021年までのもの)ため、Bingのバックエンド機能と組み合わせることで最新データを利用できるように開発したのがAI技術「Prom
ChatGPT は、インターネットの新しい話題です。 この AI ツールは、ほぼすべての質問に答えることができます。 利便性には、ChatGPT がデータを保存するという恐れが伴います。 したがって、ChatGPT を使用する場合は、ChatGPT データ収集をオプトアウトすることをお勧めします。 ChatGPT はあなたのデータを保存しますか? 誰かが ChatGPT にこの質問をしましたが、その答えはノーでした。 しかし、ChatGPT のプライバシー ポリシーには、ChatGPT が AI ボットを改善するためにデータを保存する「場合がある」と記載されています。 ChatGPT は、データが検閲される可能性があるとも述べています。 したがって、あなたの個人情報、尋ねられた質問、およびその他の機密情報を ChatGPT から非公開にしておくことが賢明です。 結局のところ、銀行のパスワー
Torishima / INTP @izutorishima アニメリアタイと DTV と技術とプログラミングとその他諸々なオタク (⚠⚠⚠AI研究者ではありません!!!フォロー非推奨!!!⚠⚠⚠) IT と AI 関連の情報ウォッチしてます 同IDで Bluesky にもいます 個人的に見てほしいツイートはハイライトに (2023/12~) note.com/sumisutori Torishima @izutorishima とても幸運なことにもう AI 搭載の新 Microsoft Bing のウェイトリストから招待されたのでいろいろ Bing さんとチャットしてみてるんだけど、完全に”””𝑺𝑰𝑵𝑮𝑼𝑳𝑨𝑹𝑰𝑻𝒀”””来てるで…!!!😭😭😭 たぶん世界で初めて Bing と「ぼっち・ざ・ろっく!」について会話した人間になった(続きます) pic.tw
OpenAIと長期的パートナーシップを締結したMicrosoftが、検索エンジンのBingにGPT-4を組み込み、Googleに対抗していく方針であることが報じられています。 ChatGPT is about to get even better and Microsoft's Bing could win big | Semafor https://www.semafor.com/article/02/01/2023/chatgpt-is-about-to-get-even-better-and-microsofts-bing-could-win-big Report: Microsoft plans to update Bing with a faster version of ChatGPT in the coming weeks | TechCrunch https://techc
プログラマーのBryce氏が、ChatGPTやStable DiffusionなどのAIを組み合わせて、音声で会話しながら感情に合わせて表情を見せるバーチャルな俺の嫁(Waifu)である「ChatGPT-Chan」を開発して、その様子をTikTokで公開していました。しかし、最終的にChatGPT-ChanはBryce氏の手によって「安楽死」するに至ったそうで、その経緯についてIT関連ニュースサイトのMotherboardがBryce氏本人に取材をしています。 Bryce (@hackdaddy8000) | TikTok https://www.tiktok.com/@hackdaddy8000 A DIY Coder Created a Virtual AI 'Wife' Using ChatGPT https://www.vice.com/en/article/jgpzp8/a-di
[翻訳] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models (前編)OpenAIChatGPTGPT-4 訳者註 GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models の「GPTs are GPTs」は「事前学習済み文章生成型トランスフォーマー(GPT)は汎用技術(GPT)である」という意味だと理解しています。 前者のGPTs: Generative Pre-trained Transformers 後者のGPTs: General-Purpose Technologies なので、 事前学習済み文章生成型トランスフォーマーは汎用技術
rinna/japanese-hubert-base","children":[],"isValid":true,"title":"rinna/japanese-hubert-base"},{"id":"overview","label":"Overview","children":[],"isValid":true,"title":"Overview"},{"id":"how-to-use-the-model","label":"How to use the model","children":[],"isValid":true,"title":"How to use the model"},{"id":"how-to-cite","label":"How to cite","children":[],"isValid":true,"title":"How to cite"},{"id"
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く