完全フリーで3GBのVRAMでも超高速に動く14B大規模言語モデルRWKVを試す｜shi3z
Transformerは分散できる代償として計算量が爆発的に多いという不利がある。 一度みんなが忘れていたリカレントニューラルネットワーク(RNN)もボケーっとしている場合ではなかった。 なんと、GPT3並の性能を持つ、しかも完全にオープンな大規模言語モデルが公開されていた。 そのなもRWKV(RuwaKuvと発音しろと書いてある。ルワクフ?) RWKVはRNNなのでGPUメモリをそれほど大量に必要としない。 3GBのVRAMでも動くという。 時間がない方はビデオをご覧ください 僕の失敗は、何も考えずにgit lfs installでディレクトリごとコピーしようとしたこと。 このディレクトリには過去のモデルデータが全部あるので、ひとつ30GBのモデルデータを何十個もダウンロードしようとしていて終わらなかったのだ。 モデルデータは一とつあれば十分なのでひとつだけにする。 次に、chatのリポ
文字起こしAI「Whisper」を誰でも簡単に使えるようにした超高精度文字起こしアプリ「writeout.ai」使い方まとめ、オープンソースでローカルでも動作OK
会議の議事録やムービーの作成など、文字起こしが必要な場面は多くありますが、手動での文字起こしは非常に面倒です。また、OpenAI製文字起こしAI「Whisper」を用いて文字起こしする方法もありますが、初期設定が難しいという問題も存在します。Whisperをメチャクチャ使いやすくした無料文字起こしサービス「writeout.ai」なら、超簡単かつ短時間で高精度な文字起こしを実現できるとのことなので、実際に使ってみました。 writeout.ai – Transcribe and translate any audio file https://writeout.ai/ 上記のリンクからwriteout.aiにアクセスすると、以下のような画面が表示されます。文字起こしを行うには「Transcribes for free」をクリック。 すると、GitHubアカウントでのサインインを求められます
「この波に乗らないと沈んでいくだけだと思っています」AIが使えない人材を待ち受けている“末路”とは | 文春オンライン
◆◆◆ ChatGPTとしのぎを削るライバルたち ――ChatGPTのほかにも似たようなサービスはあるんですか？ 深津貴之氏（以下、深津） ありますよ。ChatGPTはいわゆる「大規模言語モデル（LLM）」というジャンルのAIで、このジャンルに限ると、開発中のGoogleの「Apprentice Bard」やMetaの「LLaMA」、すでに運用されているMicrosoftの「Bing Chat」などが有名どころですかね。 Microsoftの「Bing Chat」使用画面 AmazonもHugging Face（編集部注：機械学習アプリケーションを作成するためのツールを開発しているアメリカの企業）と連携してこれから開発したい、みたいなノリです。Appleだけは沈黙を守っているという状況ですね。 ――それぞれのサービスで得意なことは変わってくるのでしょうか。 深津 LLMはネット中の文章を全
ChatGPTと同時公開、音声認識「Whisper」APIで現実味が増す「2次元嫁との会話」 - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報
あの日夢見たGateboxは実現するのだろうか（Gateboxのウェブサイトから） 3月1日にOpenAIが公開したChatGPTのAPI（GPT-3.5-Turbo）が世界中で話題になっています。日本国内でも続々と事業者が（レベルの差はあれ）このAPIを叩いて何ができるか模索しはじめていて、API公開からわずか1週間ですがLINE連携のサービス「AIチャットくん」には20万人が殺到しました。 開始3日で20万人登録サービスもーーChatGPTで激変するネットサービスたち（前半） メカニカル仏にエンジニアのレジュメ自動生成ーーChatGPTで激変するネットサービスたち（後半） 先日、メカニカル仏を作っている家入一真さんとチャットで「なんかスマホアプリ作ってた最初の頃と似てるよね」っていう話をしていたのですが、本当にそんな感じなんですよね。2010年代前半も新しいプラットフォームで何ができる
OpenAI、「ChatGPT」と「Whisper」のAPIを公開 料金体系、データの利用ポリシーは？
AI関連技術を開発する非営利組織OpenAIは2023年3月1日（米国時間）、対話に特化した言語モデル「ChatGPT」と汎用（はんよう）の音声認識モデル「Whisper」をAPIで利用できるようにしたと発表した。APIの公開に合わせて、利用規約を開発者ニーズにより良く対応できるように改訂したことも明らかにした。 ChatGPT APIは1000トークン当たり0.002ドルで提供 関連記事 ChatGPTとは何か そのできること／できないこと OpenAIがリリースした人との対話をターゲットとする大規模な言語モデル「ChatGPT」。その概要について見てみましょう。 サイバー犯罪者も「ChatGPTを使ってコーディング」をしている チェック・ポイント チェック・ポイント・ソフトウェア・テクノロジーズは脅威アクターがOpenAIのChatGPTを悪用して悪質なコードを生成していることを、実例
予算30万円台の深層学習用PCの買い方｜shi3z
深層学習をまじめにやるなら、どう考えても専用のPCが必要になる。 僕は現在、Memeplexというサービスを運営していて、これはさくらインターネットさんから大量のGPUを借りている。借りたGPUは、さくらインターネットの石狩データセンターで動いている。 さらに、ABCIは企画の段階から立ち会って、実際に仕事ではよく使っている。ABCIは5000以上のGPUを擁するGPUクラウド基盤で、その実態はスーパーコンピュータである。 ABCIを使えば、ほとんどの難しいタスクを恐ろしく安い料金で行うことができる。GoogleやAmazon AWSのようなサービスを展開することができない本邦においては、国家が設立し、民間利用可能なABCIは国民にとっての天叢雲剣あめのむらくものつるぎである。 それでもなお、手元には深層学習用のPCが必要だ。しかも一台では足りない。 ABCIがいかに安くても、PCほどの利
まさに「世界変革」──この2カ月で画像生成AIに何が起きたのか？
Stable Diffusion」がオープンソースとして公開されてから2カ月。画像生成AIは急速に進化し、カンブリア大爆発のような様相だ。激動の2カ月間に何があったのか。AI研究者でありAIプログラマーでもある清水亮氏に振り返ってもらい、これからAIがどう世界を変えていくのか、連載としてお伝えしていく。 2022年8月22日。日本時間にして午前4時ごろ、「世界変革」はついに実行された。 以前から噂のあった、「どんな絵も描ける」AIである「Stable Diffusion」がついにオープンソースとして公開されたのだ。 この日は、前日の深夜からStable DiffusionのコミュニティがあるDiscordサーバが、期待に胸を膨らませる人々で賑わっていた。 「日付が変わったぞ。まだか」という声が一定時間ごとに投稿され「もうすぐだ」と宥（なだ）める声と、「本当は公開されないのではないか」と訝（
ごくごく普通のノートパソコンにGPUボックスとRTX3060をつないで、お絵かきソフト(Stable Diffusion)を動かしてみました - 勝間和代が徹底的にマニアックな話をアップするブログ
最近よく、今話題のAIお絵かきソフト、Stable Diffusionで遊んでいるのですが、問題は、デスクトップパソコンしか強いGPUを積んでいないので、いちいち、デスクトップまで戻らないとできないことです。 でも仕事はだいたいノートパソコンの方でやっていますので、それだとちょっと仕事の合間に遊ぶということができません。 私のノートパソコンには、GTX 1650とかGTX 1660ぐらいの弱いGPUは載っているのですが、ちょっと絵を作らせると1枚1分ぐらいかかってしまうので、あまり試行錯誤かできないので、実用的ではないです。 デスクトップのRTX2060Superなら、だいたい512×512で１枚の絵を4秒くらいでかけますので、それらいのGPUがノートにもほしいなーーー、と思いました。 しかし、そのクラスのノートパソコンを買おうと思うと、それこそ30万円コースでとてつもなく、高いです。しか
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Satoshi Nakajima @NounsDAO 🇺🇦さんはTwitterを使っています: 「Elon Muskは「NvidiaのGPUが麻薬よりも入手が難しい」と発言しましたが、これについて説明します。理由は、AIブームです。AIの学習と推論の両方に、莫大な計算能力が必要で、需要が供給を大きく上回っているのです（続く）。」 / X
【ニュース・フラッシュ】GIGABYTE、VRAM 16GBのGeForce RTX 4060 Ti搭載カード
NVIDIA、9年間ガチホで耐えれば150万円が1億円に : 市況かぶ全力２階建
ハイエンドゲーミングPCで「Stable Diffusion」を動かすと凄い！ 高解像度画像を数秒で生成／簡単に導入できるGUIツールの使用方法も紹介【特集・集中企画】
「無料でも結構スゴい!! 文字起こしAIに録画したWeb会議のテキスト化をさせてみた！」――急遽テレワークを導入した中小企業の顛末記（118）【急遽テレワーク導入！の顛末記】