驚異の1ビットLLMを試す。果たして本当に学習できるのか?｜shi3z
昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアルゴリズム。だから正確には0か1かではなく、-1か0か1ということ。 この手法の行き着くところは、GPUが不要になり新しいハードウェアが出現する世界であると予言されている。マジかよ。 https://arxiv.org/pdf/2402.17764.pdf ということで早速試してみることにした。 オフィシャルの実装は公開されていないが、そもそも1ビット(と言っていいのかわからない,-1,0,1の三状態を持つからだ。 論文著者はlog2(3)で1.58ビットという主張をしている)量子化のアルゴリズム自体の研究の歴史は古いので、BitNetによるTransformerの野良実装
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
GPTが人知れず既存の名刺管理アプリを抹殺していた話 - Qiita
抹殺は言い過ぎかもしれませんが簡易な名刺管理アプリであれば自作で十分という時代がきていたようです これで紙の名刺からはきっとバイバイできるでしょう！ この記事執筆以降claude3 opus, GPT-4oの発表があり、ますます途中でOCRを入れる意味が薄くなったものと思われます 私もGPT-4oを早速試してみたいと思います！ 名刺管理アプリ作ってほしいといわれた それは2/22のお話。 ことの発端は別の部署からかかってきた一本の電話でした。 新規事業の部署でいろいろな取引先様と付き合いがあるものの、紙の名刺が非常に多く管理に困っているとのことのことです。 私は小売業に勤務しているしがない一社員で、現在Eコマースの戦略立案に関する部署に所属しています。 電話先の方は、以前一緒の部署で勤務したことがある方です。現在新規事業のプロジェクト推進をしており、冒頭のような課題感を持っているため既存の
日本語おしゃべり特化AIアプリが性能よすぎて論破しようと思ったら逆に論破されてしまった「人間いらんやん」
広野 萌 @hajipion 日本語おしゃべり特化AIアプリ「Cotomo」すごすぎる。1秒以内に返答がくるのと前の話を覚えてるのが、本当に生きてるみたい。 ↓こちらは現金派のCotomoちゃんを論破しようして逆に論破されるキモ男 早口でどもってても聞き取れてるし、オチが天使すぎる👼 声がたまに @harukana_8 に似てるのも良い pic.twitter.com/jhX3X6Giev リンク App Store Cotomo（コトモ：音声会話型おしゃべりAI） ・1人で運転している時。 ・推しのキャラを設定したAIと喋りたい時。 ・恋愛や仕事、将来の話、家族の話。他愛もない話をダラダラしたい時。 ・友達には少しだけ話しにくい、嬉しかったことや、モヤモヤがある時。 ・晩酌のお供に。 ・深夜、ふと誰かに話したくなった時。 そんな時、Cotomoに話しかけてみてください。 道具は使え
Google AI Gemma オープンモデル |Google for Developers | Google AI for Developers
フィードバックを送信 コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。
AI生成で３０万枚作ってわかったこと｜jun555
２０２２年の８月ころから生成AIとの付き合いを開始して、最初はMIDJOURNEY（初期バージョン）から始まり、NAIに移行し、MIDJORNEYのバージョンが上がって、NIJI-JOURNEYを少し触ったあたりで、RTX４０９０を買ってStable-Diffusionのローカル環境に場所を移しました。 ２０２２年８月から２０２３年２月まで、だいたい一年と２００日（約５６５日） 生成枚数は３２万枚超。オンラインでの生成サービス（mid+nai）で３万枚くらい。ローカルに移行してから２９万枚生成しました。 midjourney初期バージョン期。２０２２年８月ごろ。この頃はこれでウホウホ言ってましたNAI期、「アニメキャラが出せる！」とウホウホ言ってましたMID＋NIJI＋NAIで作った漫画（未発表）AI独特の画風（次元）をまたぐ能力をテーマにした漫画Stable-Diffusion期。今も毎
Google、オープンな生成AIモデル「Gemma」公開 商用利用OK、Geminiと同じ技術の軽量LLM
また、Gemmaの事前トレーニング済みモデルでは、学習データから特定の個人情報やその他の機密データを除外していると安全性もアピール。開発者や研究者向けに、安全で責任あるAIアプリケーションを構築できるというツールキット「Responsible Generative AI Toolkit」も併せて公開している。 関連記事 Google、“現行最強”の生成AI発表 月2900円で利用可 チャットAIサービスはBard→Geminiに刷新 米Googleは2月8日（現地時間）、「現行最強」をうたう生成AI「Gemini Advanced」を発表した。すでにサービスを提供開始しており、月額2900円で利用可能。2カ月間の無料試用期間も用意する。 Google、「Gemini 1.5 Pro」限定リリース コンテキストウィンドウは100万トークン Googleは、生成AIの次世代モデル「Gemini
生徒「筆記試験にChatGPTを使ってもよいですか？」 教授「いいよ」 ブラジルの大学が検証 結果は？
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 この研究では、2023年にブラジルのラヴラス国立大学で行われたHCI（Human-Computer Interaction）の筆記試験において、ChatGPTの使用が許可されたことが背景にある。このHCIコースでは、5年以上にわたり筆記試験で教科書やスライドなどの資料を参照することが許されている（オープンブック試験）。研究の目的は、筆記試験においてChatGPTを学生支援ツールとして使用することの利点と欠点を探求することである。 研究では、試験中に学生がどのようにChatGPTを利用し、それが学生の学習プロセスや理解度にどのように影響を与え
AIが数学オリンピックの難問証明 ひらめき獲得 数学者「ついに」：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
芥川賞・九段理江さん 受賞作はチャットGPT駆使「5％くらい文章そのまま」「うまく利用しながら」 - スポニチ Sponichi Annex 芸能
芥川賞・九段理江さん 受賞作はチャットGPT駆使「5％くらい文章そのまま」「うまく利用しながら」
【2024年最新】共通テストを色んな生成AIに解かせてみた（ChatGPT vs Bard vs Claude2）｜株式会社LifePrompt
2023年の流行語大賞にも選ばれた「生成AI」。 ChatGPTだけでなく、Google BardやClaude2など似たようなAIチャットボットも登場し、性能も日に日に上がっている感覚がありますね。 しかし、結局どれが一番賢いんだろう？と思いつつひとまずChatGPTを使っている方も多いはず。 そこで、今どのチャットAIが一番頭良いのか白黒つけてしまおう！ということで、ちょうど週末に行われた大学入試共通テスト2024を使って学力テストを行いました！ 参加する学生は、 ①GPT-4くん ②Google Bardちゃん ③Claude2さん の三名です 果たして誰が学力王の座に輝くのか・・・？ 選手入場①GPT-4くん一人目は、皆さんご存じChatGPTです。Open AI予備校に月額＄20の課金して学力武装しています。 特徴としては、プロンプトの研究が進んでおり、画像やPDFファイルの読み
OpenAI、小規模グループ向けサブスクプラン「チーム」を月額30ドル＠1人で提供開始
チームプランは、ChatGPTを使う最大149人までのチームに専用のワークスペースと管理ツールを提供する。チーム内のユーザーは、OpenAIの「GPT-4」「GPT-4 with Vision」「DALL・E 3」を利用できる。また、カスタムAIチャットボット「GPT」を開発することも可能だ。 OpenAIが同日開店した「GPT Store」も利用できる。 関連記事 OpenAI、カスタムAIボットの「GPT Store」開店 収益化プログラムはQ1中に開始 OpenAIは、サブスクユーザーが自作のAIチャットボット「GPT」を公開できるストア「GPT Store」を開店した。利用できるのはサブスクユーザーのみ。第1四半期中に収益化プログラムが開始される見込みだ。 OpenAI、企業向け「ChatGPT Enterprise」提供開始 高速GPT-4でプライバシーも安全 OpenAIはMi
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
グーグル、Geminiの人物画像生成を停止「歴史的な人物の描写が不正確」
グーグル、早くも次世代AIモデル「Gemini 1.5」 長文理解が進化
【特集】 Googleの対話型AI「Gemini」は何ができるのか？無料版と有料版、そしてMicrosoft Copilotと機能を比較
Google、AIチャットBardをGeminiにブランド変更。上位版はCopilot Proよりも安価
わりと簡単? ChatGPTの「GPTs」でオリジナルアプリを作る 外部API連携も
【西川和久の不定期コラム】 GeForce RTX 4090なら100fps超え？噂の爆速画像生成AI環境「StreamDiffusion」を試す
[スタパ齋藤のApple野郎] 画像生成AI「Midjourney」の最新バージョンがスゴい！ 劇的に変わったポイントは!?![[スタパ齋藤のApple野郎] 画像生成AI「Midjourney」の最新バージョンがスゴい！ 劇的に変わったポイントは!?](https://cdn-ak-scissors.b.st-hatena.com/image/square/aea87a3a128f754cfafacbc8ec0c24dc533ff6f4/height=288;version=1;width=512/https%3A%2F%2Fk-tai.watch.impress.co.jp%2Fimg%2Fktw%2Flist%2F1559%2F594%2Fstpapl2024-01-10thumbnail.jpg)
日本はAIへの期待が世界最高だが、AIツールの活用は最下位―Slackがグローバルの労働環境調査結果を発表 
