1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦
ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦 2023.08.19 Updated by Ryo Shimizu on August 19, 2023, 16:47 pm JST そろそろ業界の最深部でしか知られてなかった事実がニュースになって来始めているのでここで本当の問題を明らかにしておきたい。 AI開発に必須なのは、計算資源である。そしてこれは現在のところ、事実上NVIDIAが一社独占している。 NVIDIA以外の半導体がいくら「AIに特化しています」と能書きを垂れていてもごくわずかな例外を除いてはほとんど全部が誇大広告である。 たとえばApple Silliconは、「ニューラルエンジン」と称するモジュールを内蔵しているが、これを使ってAIの学習をすると、なんとCPUよりも遅い。信じられないかもしれないが、これが残酷な事実なのである
IoTデータの分析にChatGPTを活用、ソラコムが分析サービスを提供
IoTデータの分析にChatGPTを活用、ソラコムが分析サービスを提供 2023.07.12 Updated by Naohisa Iwamoto on July 12, 2023, 06:25 am JST ChatGPTに代表される大規模言語モデル（LLM）を使った生成AIの活用が進んでいる。企業利用ではチャットボットの高度化などでの利用が目立つが、ソラコムはIoTデータの分析や自然言語の表示にChatGPTを活用した分析サービス、「SORACOM Harvest Data Intelligence」のPublicBetaの提供を2023年7月6日に開始した。 ソラコムの年次カンファレンス「SORACOM Discovery 2023」で、同社代表取締役社長の玉川憲氏は、「ChatGPTなどの生成AIに着目している。これまでも社内でChatGPT Plusを全員に利用可能にしたり、技術
GPTシリーズの限界と非連続的な進歩について
GPTシリーズの限界と非連続的な進歩について 2023.02.28 Updated by Ryo Shimizu on February 28, 2023, 09:04 am JST 先日、秋葉原の3331で開催されたテクノエッジ主催イベントでは、StableDiffusionを開発したStability.AIのジェリー・チーさんと、THE GUILDの深津貴之さんと筆者の三人で鼎談した。 残念ながらイベントのアーカイブは残っておらず、80人の席は全て即完売。 改めて考えると、会場が小さすぎるしチケットが安すぎる。 まあそれはいいとして、懇親会ではTwitterやnoteでしか見たことがなかった生成AI業界のスターたちに挨拶できて非常に嬉しかった。 講演の感想をいただく中で、「Scaling Lawについての話が一番面白かった」と言われたので、昔もこの連載でとりあげた気がするが、再度この段
インチキAIに騙されないために
インチキAIに騙されないために 2023.01.11 Updated by yomoyomo on January 11, 2023, 12:20 pm JST プリンストン大学教授のアーヴィンド・ナラヤナン（Arvind Narayanan）を最初に認知したのは、当初はエドワード・W・フェルテンの個人ブログだった、コンピュータセキュリティやプライバシーなどを中心的に扱うFreedom to Tinkerへの寄稿者としてでした。本連載でも2014年の「ビッグデータの不都合な真実」という文章で、フェルテンとナラヤナンによるビッグデータの匿名化技術に関する論文を取り上げていますが、ナラヤナンをセキュリティやプライバシー分野の研究者だと思っていました。 しかし、彼はそれにとどまらず、大学の講義をオンラインで無償提供するCourseraでビットコインと暗号通貨技術の講座を持ち、書籍『仮想通貨の教科
AIから考える「面白い」のメカニズム
AIから考える「面白い」のメカニズム 2022.10.26 Updated by Ryo Shimizu on October 26, 2022, 08:09 am JST 言葉で指示した通りに絵を描いてくれるAIが話題になってからもうすぐ三ヶ月経つ。 今も毎日のように新しいニュースが飛び込んできて、追いかけるだけでも大変だ。 しかしふと立ち止まると、「一体全体なぜ、これほどの熱狂を産んでいるのか」という疑問が浮かんでくる。 「絵を描くAI」自体は今に始まったものではない。 数年前から、「顔を描くAI」や「家を描くAI」などはあったし、そうしたAIに対して「スケッチ風にする」とか「ゴッホ風にする」などの指示を加えるようなこともかつては行われて来た。スタイル転写と呼ばれる技術で、どんな写真でも「ゴッホ風」や「ピカソ風」などのスタイルにアレンジできる。 こうしたAIは、AIやCGの専門家にとっ
自己増殖する機械とAI
自己増殖する機械とAI 2022.05.14 Updated by Ryo Shimizu on May 14, 2022, 07:00 am JST コンピュータの初期の動作原理をまとめたとされる人物の一人、フォン・ノイマンは数々の伝説を持っていて、スタンリー・キューブリックの映画「博士の異常な愛情 または私は如何にして心配するのを止めて水爆を愛するようになったか」に登場する主人公「ドクター・ストレンジラブ」のモデルにもなっている。 フォン・ノイマンの晩年の研究テーマの一つが人工生命についてのものだった。 その当時、計算というかなり複雑な知的処理を行えるようになった機械はやがて自ら意志を持ち、生き物と同じように自らの複製を作ることができるだろうか。 機械が自己を複製することができるということを数学的に証明しようとしてノイマンが用いたのが、格子状に配置された細胞(セル)が、一つ一つは単純な
自由なソフトウェアと抗議と倫理の「（不）可能性」について
自由なソフトウェアと抗議と倫理の「（不）可能性」について 2022.05.10 Updated by yomoyomo on May 10, 2022, 18:15 pm JST 大変ごぶさたしております。実に約5年半ぶりになりますが、またこちらで書くことになりました。ブランクが長かったため、ここへの文章の書き方を自分でも忘れてしまったところがあるのですが、稲田豊史氏の「ウェブは最初に結論を書く、くどくど掘り下げて説明しない、とにかく簡潔に」という金言に逆らい、地味な話題についてくどくどと書いていこうと思います。 いや、結論だけは先に書いておきましょうか。銀の弾はない、それだけです。 2022年2月にロシアがウクライナへの侵攻を開始して早くも2カ月以上経ち、ロシア（のプーチン大統領）の甘い見通し、予想以上のウクライナの抵抗、多くの国のウクライナへの支援などと相まって、現状、ロシアが手こずっ
「データ駆動型社会」は必ずしもバラ色の未来を保証しない
「データ駆動型社会」は必ずしもバラ色の未来を保証しない "Data-driven society" does not necessarily guarantee a bright future 2022.04.22 Updated by Shigeru Takeda on April 22, 2022, 14:48 pm JST データ（data）はデータム（datum）の複数形で、ラテン語の dareまたはdonare（ダーレ＝与える：ドネーション（寄付）の語源でもある）を語源とするが、データムという単数系が利用されることはない。つまり、最初からある程度まとまった量（＝データ）が与えられている、と考えるのが普通だ。 データはデジタル化することで、コピーしても品質が劣化せず、瞬時に移動可能で、他のデータと組み合わせたりコンピュータで演算可能な状態になる。いうまでもなく現在脚光を浴びているの
6Gが実現する「高精度のデジタルツイン」「究極のコネクティビティ」「オートマティックなサービス・オーケストレーション」
6Gが実現する「高精度のデジタルツイン」「究極のコネクティビティ」「オートマティックなサービス・オーケストレーション」 a Vision of 5G-Advanced & the Future of 6G 2022.04.20 Updated by WirelessWire News編集部 on April 20, 2022, 10:45 am JST ※本稿は、柳橋 達也氏（ノキアソリューションズ＆ネットワークス合同会社 最高技術責任者。冒頭の写真）による寄稿です。 世界は5G時代に突入し、特に2022年は全世界で5Gへの接続が10億を突破する可能性がある。このような進化の中、アジア太平洋地域は、今後数年間で5G導入の主要市場になると予測されている。 日本での5G導入は、2020年春から本格展開を始めた。総務省によると、2021年9月末時点での携帯電話・PHS・BWA（Broadband
深層強化学習AI時代の”人間”の仕事
深層強化学習AI時代の"人間"の仕事 2022.01.21 Updated by Ryo Shimizu on January 21, 2022, 07:18 am JST 2022年は、AIはあまりニュースの話題にのぼらないだろうと思う。 なぜならば、もはやAIを用いることは当たり前になってきているからだ。 バズワードとしてのAIは2021年で終わった感がある。 一方で、AIの仕事は、うまくいけばいくほど地下に潜る性質がある。 すなわち、競争相手にどうやっているかを探られないように巧妙に隠す必要があるからだ。 次にニュースになるものがあるとすれば、AIがコンシューマ製品に搭載された時だが、たとえば「スマホにAI」は既に入っているのでニュース性がない。「ゲーム機にAI」が入っているのは当たり前であり、「テレビにAI」ももはや新鮮味がない。 アカデミズムの世界では、少し前までは、「ディープラ
IoT機器の製造から廃棄までをセキュアに、サイバートラストとパナソニックが開発連携
IoT機器の製造から廃棄までをセキュアに、サイバートラストとパナソニックが開発連携 2020.02.06 Updated by Naohisa Iwamoto on February 6, 2020, 06:25 am JST IoT機器は、製造して販売するだけではなく、その後も運用保守や最終的な廃棄や再利用まで、ライフサイクルを通じて機器や利用者、データなどの真正性を確保して利用する必要がある。こうしたIoT機器のセキュアなライフサイクル管理に向けて、サイバートラストとパナソニック セミコンダクターソリューションズ（以下、パナソニック）は開発連携の検討を行う。 両社は、開発連携の検討に合意し、覚書を締結した。この合意は、IoT機器の製造から廃棄までのライフサイクル全体にわたる安全性向上の実現を目指すもの。両社が持つ技術やサービスの機能を活用し、 IoT 機器が本物であることや利用者の本人
ARとAIが実現したらこうなる…のか?docomo OpenHouse2020から読み解くこと
ARとAIが実現したらこうなる…のか?docomo OpenHouse2020から読み解くこと 2020.01.25 Updated by Ryo Shimizu on January 25, 2020, 11:20 am JST みんなこの手の情報をどこから入手するんだろう? 僕はFacebookで友人がシェアしていたので、あわてて東京ビッグサイトに向かった。 いざ到着すると、ぜんぜん閑散としていて案内がない。 インフォメーションまでたどり着いて聞いてみると「青海展示場です」 最近このパターンが多すぎる。わかるようにしておいてくれ 仕方なく青海まで車を回す。 そしてようやくたどり着いた。 まずは「ドコモってこんな派手な自社イベントやる会社だったっけ?」 と少し引いてしまうほどの立派かつ豪華な会場に面食らった。 2ホールぶち抜きで一社単独イベントというのはなかなか見ない。 しかし見回ってい
ARが習慣化するために超えなければならないこと
ARが習慣化するために超えなければならないこと 2020.01.17 Updated by Ryo Shimizu on January 17, 2020, 07:00 am JST 米ラスベガスで開催されていたCES2020から帰国した。 今年のCESは焦点を絞り切ることが難しく、各社ともにメッセージが散逸した印象だった。 薄型テレビあり、折りたたみ端末あり、IoTありアイデア商品ありといういつもどおりのCESではあったが、これといって全体を通底する大きなテーマのようなものは感じられなかった。 ただ、ARグラスやVRグラスがやたらと展示されていたのが印象的だった。 AR、すなわち拡張現実感(Augmented Reality)と呼ばれる技術が、ようやく人々の手の中に入ってきつつある。 今年はAppleがARグラスに参入するという噂がまことしやかに囁かれている。 あるいは、2006年のiP
メルカリが海外でうまくいかない理由
メルカリが海外でうまくいかない理由 Why Mercari has tough time in overseas 2019.11.28 Updated by Mayumi Tanimoto on November 28, 2019, 14:07 pm JST 日本では大人気のメルカリですが、黒字転換する先行きが見えないようで、今後どうなるのかということが最近は話題になっていますね。 最近の赤字は、米国事業が伸び悩んでいること、決済サービスの「メルペイ」事業の投資が理由です。 メルカリは、以前展開していた英国での事業でも巨額の損失を出してうまくいきませんでしたが、アメリカの方もなかなか先行きが見えないようです。 https://jp.techcrunch.com/2018/12/18/mercari-uk/ ところで、どうしてメルカリは海外でなかなかうまくいかないのか、ということはあまり議論
スタートバーン、ホワイトペーパーを公開（1）
スタートバーン、ホワイトペーパーを公開（1） startbahn published “the” white paper 2019.11.29 Updated by Taihei Shii on November 29, 2019, 10:30 am JST スタートバーン株式会社は、「Art Blockchain Network（以下ABN）」の全貌を記したホワイトペーパーを公開しました。そもそもブロックチェーン技術を志向する人たちのコミュニティでは、ICO（Initial Coin Offering）と併せてホワイトペーパーを公開する習慣があります。しかし、ABNのホワイトペーパーはICOではなく技術的な理解を深めていただくことが中心であるため、IT業界で流通している“ホワイトペーパー”とは意味合いもクオリティも異なるものといえます。 ブロックチェーン界隈でのICOに紐付いたホワイトペ
誰もがAIを自由につくり、使える世界はどう実現するか?
誰もがAIを自由につくり、使える世界はどう実現するか? 2019.11.30 Updated by Ryo Shimizu on November 30, 2019, 11:17 am JST 過日、浜松町クレアタワーにて、日経BP総研主催によるAIイベント「GHELIA EXPO TOKYO2020」が開催された。筆者はこのイベントの共催企業ギリア株式会社の代表として関わった。 日経BP社の媒体にもイベントのレポートは掲載されるが、少し先になるのでまだ当日の興奮が冷めないうちに当事者として振り返っておこうと思う。 このイベントのテーマは「みんなのAI」である。当社は成立当初より「みんなのAI」を標榜しており、これは専門家だけでなくありとあらゆる人が、スマートフォンを使うようにAIを使う時代がやってくるというコンセプトだ。 30年前、「ビデオの録画予約さえできないうちの母親だっていつかはコ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
