1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙 2023.03.16 Updated by Ryo Shimizu on March 16, 2023, 08:00 am JST 3月14日の早朝、GPT-4が公開され、筆者は早速試した。 その後、開けて3月15日の早朝、APIも部分的に解放され、筆者はそれも試した。 その上で、先週書いた記事の内容についての確信が深まった。 やはり、GPT-4は期待を超えてはこなかった。 GPT-4は、ChatGPT Plusに入会すると誰でもすぐに使うことができる。APIだけは招待制だが、それも筆者と同じくらいのタイミングでアンロックされた方も少なくないのではないか。 100倍規模のパラメータがあっても、アプローチには限界があるのである。 また、ChatGPTが注目を集めたことで、これまで下火になっていた他の大規模言語モデル(
ある「パソコンの大先生」の死
ある「パソコンの大先生」の死 2022.07.28 Updated by yomoyomo on July 28, 2022, 20:35 pm JST 「これはなんだね？」 「南京錠です」と彼女は答えた。 「なんだって！」彼は激昂してそう叫ぶと、分かりきったことを訊ねた。「で、鍵はどこにあるんだ？」 （ガブリエル・ガルシア＝マルケス「愛の彼方の変わることなき死」） 6月のはじめに公開された前回から時間が空いてしまいました。前回の文章のテーマはWeb3でしたが、少し前にはそのWeb3を書名に掲げる書籍の内容が酷いと話題になり、ついには回収という事態となってしまいました。 が、今回のワタシの文章は、Web3やらメタバースやら、いまどきな話題とまったく関係のない、もっとスケールの小さい、個人的な、早い話がとてもしょぼい話題になります。一種の恥さらしとすら言って良いでしょう。 話は今月半ば、自室
Web3の「魂」は何なのか？
Web3の「魂」は何なのか？ 2022.06.01 Updated by yomoyomo on June 1, 2022, 18:11 pm JST 昨年末、イーロン・マスクがTwitterで「誰かWeb3見たことある？ 見つけられないんだけど」とボケたところ、当時TwitterのCEOを退任したばかりのジャック・ドーシーがすかさず、「aからzの間のどこかにあるよ」とボケ返し、これを契機に小競り合いが起きるという一幕がありました。 ジャック・ドーシーの言う「aからzの間のどこか」とは、暗号通貨などブロックチェーン方面への積極的な投資により、もはやWeb3エコシステムを丸抱えせんとする、大手ベンチャーキャピタルのa16zことAndreessen Horowitzにあてこすったイヤミです。ジャック・ドーシーの批判は、「Web3を所有するのはベンチャーキャピタルとその投資先の企業であってウェブ
ZOOMもUberもNetflixも、たった3万円で全てのシステム/アプリを作れるノーコードの衝撃
ZOOMもUberもNetflixも、たった3万円で全てのシステム/アプリを作れるノーコードの衝撃 2021.06.09 Updated by Ryo Shimizu on June 9, 2021, 14:40 pm JST プログラマーというのは長じるとプログラムを書かなくなるものである。 特に最近はWebサイトくらいの簡単なものでも、決まり事が多くて書くのが億劫になってしまった。 大学生が適当に書いたHTMLをネットにバラ撒き散らしていた時代と異なり、今はSSL対応が必須になり、そのための証明書の管理もしなければならないし、スマートフォンでもPCでもタブレットでも綺麗にコンテンツが見えなければならない。 そうなると、もはやそれが専業の人以外は、お手上げだ。というか、できるだけ触りたくない、というのが本音である。 ところで筆者が創設に関わった「全国小中学生プログラミング大会」も今年で第
アートがAIに果たす役割
アートがAIに果たす役割 2019.09.11 Updated by Ryo Shimizu on September 11, 2019, 12:51 pm JST 先週、オーストリア・リンツで開催されていた「アルス・エレクトロニカ」というイベントに参加してきた。 僕自身にとって、アートというのは比較的縁遠いものだったが、昨年参加した際、あまりに時間がなかったため一泊二日の強行軍で見て回ったときに現地に集まった人々との交流を経て、「なんともったいないことをしたんだろう」という後悔があったためだ。 初めてアルス・エレクトロニカに来たのは10年と少し前、当時週刊アスキーの編集長だったF岡氏の誘いがきっかけだった。 その頃の僕はアートというものがサイエンスやテクノロジーに果たす役割を理解できず、せっかくアルスを訪れても「中途半端なテクノロジーで中途半端な表現」ばかりが目につく、あるいは、難解すぎ
あまりに卑劣な「小学四年生なりすまし」事件に思う - WirelessWire News（ワイヤレスワイヤーニュース）
今回の衆議院解散選挙に関して 「どうして解散するんですか」 という疑問を小学四年生が呈するため、Webサイトを立ち上げた、と話題になりました。 それが上のスクリーンショットにあるようなサイトです ( URL)。 ところがこれが嘘だとすぐにバレてしまいました。 みればわかりますが、誰が見ても小学生が作れるようなサイトとはとても思えなかったからです。 しかも、 「why-kaisan.com 」というドメインまで取得し、 twitterにも自称「小学四年生」が登場して色々な人の疑問や質問に答える形式です。 主張したかったことの是非は本稿のテーマではないので良いとして、私が許せないと思ったのは、あまりに人を馬鹿にした、卑劣かつ杜撰な手法だったということです。 わざとらしい黒板、そして真ん中に表示されている数字ですが、これはいかにも「このサイトに賛同しています」という人たちのアクセスカウント
早すぎたHyperCardの上昇と下降、そしてモバイルから来たカードの群 - WirelessWire News（ワイヤレスワイヤーニュース）
先週は World Wide Web が誕生して25年というのが話題になりましたが、今回はその話ではなく、2年前に誕生25周年を迎えている HyperCard というソフトウェアについて書きたいと思います。 HyperCard は、初代 Macintosh の開発者の一人にして、かのドナルド・クヌースに「この世で書かれた最高のプログラム」と言わしめた MacPaint の作者であるビル・アトキンソンが作り上げたマルチメディアオーサリングソフトウェアです。 HyperCard は内蔵する HyperTalk というスクリプト言語を利用することで、カードを積み重ねる形で簡単にアプリケーション（スタックと呼ばれた）を作ることができました。名作アドベンチャーゲーム『MYSY』も最初は HyperCard を使って制作されたことが知られています。当初 Macintosh に標準添付されたこともあり、
プログラマー経営者として見たスティーブ・ジョブズ - WirelessWire News（ワイヤレスワイヤーニュース）
経営者として必要なスキルにはいくつかあります。 例えば弁護士の言うことだけを鵜呑みにせずに、きちんと契約書に書かれている文章を読み込み、それが法的にどういう意味を持つのか、裁判ではどのように判断されるのか、理解するのも重要な経営能力の一つです。 ただしこれは、実践を積まないと中々身に付くものではありません。 先日、ITジャーナリストの林信行さんと一緒に、Podcast、電脳空間カウボーイズの公開録音に行ってきました。 林さんといえば大のAppleウォッチャーであり、おそらく日本ではもちろん、世界でも最もApple史に詳しい人物、ということで、トークイベント自体は映画「スティーブ・ジョブズ」公開記念として行われました。 また、この映画の公開にあわせてか、1995年、どん底時代のスティーブ・ジョブズにインタビューを行った貴重な映像、「スティーブ・ジョブズ1995 〜失われたインタビュー〜」
会議時間を半減できる!?無言会議の効能 - WirelessWire News（ワイヤレスワイヤーニュース）
最近、新しい会議の方法を試しています。 それは「無言会議」というものです。 どういう会議かというと、全員がPCを持って会議室に入り、そこでひたすらキーボードで会議をするというものです。 この会議、集まる意味があるのか、という視点よりもまず、そもそもなぜ会議は音声で進行するのか、という興味から初めて見ました。 無言会議を開催するには、全員が入れるチャットソフトが必要です。 FacebookでもChatworkでも構いませんが、FacebookやChatworkは全メンバーが入っているとは限らないので、今回は社内で自作したチャットソフトを使って行いました。 そもそも、ブレインストーミングでは無言で思考する時間があります。 一定時間を決めて、その間は私語を一切禁止して付箋等にアイデアをどんどん書いていくのです。 最初に無言会議をやろうと思ったのは、付箋に書くべきアイデアや意見をキーボード
アップル、独自のコンテンツ配信ネットワーク（CDN）運用を開始 - WirelessWire News（ワイヤレスワイヤーニュース）
アップル（Apple）が自社でコンテンツ配信ネットワーク（Content Delivery Network、CDN）の構築を進めているとする話は以前から噂になっていたが、このCDNの運用が米国と欧州で開始されたという。 CDNはウェブコンテンツの配信に最適化されたネットワークで、サーバーを地理的に分散させることにより高速で効率的なコンテンツ配信を可能にするもの。アップルはこれまで、iTunesのコンテンツや最新OS・アプリのダウンロード配信などに、アカマイ（Akamai Technologies）やレベル3（Level 3）などのCDNを利用してきたが、今後はこれらの他社サービスと自社のCDNとを併用しながら、徐々に自社CDNにトラフィックを移行していくことになるとされている。 アップルが自社CDN構築を進めた理由については、新OSのアップデート時などに大容量のデータが集中的に発生するこ
日本でデスマーチが発生する理由とW杯コートジボアール戦のゴミ拾いの関係 - WirelessWire News（ワイヤレスワイヤーニュース）
先日のワールドカップの日本対コートジボアール戦で、日本のファンが、試合に負けたのにも関わらず、スタジアムのゴミを拾ったことが、様々な国のサッカーファンやメディアに驚かれました。 Japanese fans stayed behind after the game last night to clean their section of the stadium. Class act. pic.twitter.com/av1hzs4eXY— World Cup 2014 (@Brazil14WC) June 15, 2014 Japanese fans cleaning near the seats where they were sitting. Such an admirable civilisation. Massive respect. pic.twitter.com/leAYPuEK
「iOS 8」ではMACアドレスをつかったユーザー識別が不可能に - WirelessWire News（ワイヤレスワイヤーニュース）
アップル（Apple）から今秋リリース予定の最新モバイルOS「iOS 8」では、端末のMAC（Media Access Control）アドレスを利用してユーザーを識別する従来のやり方が使えなくなるという。ユーザーのプライバシー保護強化につながるいっぽう、一部のマーケティング企業などには従来のやり方を改める必要が生じるなどと複数の媒体が報じている。 この変更は、フレデリック・ジェイコブズ（Frederic Jacobs）氏というプログラマーが発見してTwitter上で報告したもの。同氏によれば、「iOS 8」では、端末がWi-Fiネットワークに接続しようとする際に使われるMACアドレスが、ハードウェアに紐付いた固有のものから、毎回ランダムに生成されるソフトウェアベースのものに変更されるという。 iOS 8 randomises the MAC address while scanning
ドワンゴと角川の経営統合はなぜ実現したか - WirelessWire News（ワイヤレスワイヤーニュース）
先日、ドワンゴと角川の経営統合のニュースが、かなり大きく取り扱われました。 私自身はドワンゴにも角川にも縁があるため、もともといずれこうなるだろうとは思っていましたが、川上会長がグループの会長になり、佐藤辰男さんが社長という、逆転人事にも見える厚遇には少し驚きました。 この動き自体は世間は大きく驚いたのかもしれませんが、私の立場からみると、歴史的にこの二つの会社はいわばもともと兄弟、または親戚のようなものでした。 川上さんもプログラマー経験のある経営者ですから、連載の主旨とはやや離れますが、なぜこの二つの会社の経営統合が実現に至ったか、当事者を身近に知る人間の目で振り返ってみたいと思います。 なお、以下、本来は敬称を付けて呼ぶべき間柄の方々もまじっておりますが、敬称は省略させていただきます。 もともと、角川書店は、1945年に国文学者の角川源義(げんよし)により創業されました。 その後
「なぜプログラミングは必要なのか」～プログラミングの2つの側面 - WirelessWire News（ワイヤレスワイヤーニュース）
さる12月2日、「なぜプログラミングは必要なのか？」と題したシンポジウムが開催された。先日、主催者のアスキー総研取締役兼主席研究員である遠藤諭氏にこのイベントを開催するにいたった思いを語っていただいたが、本稿では、当日の登壇者の発言を交えながら、「なぜプログラミングが必要なのか」について考えてみたい。 当日は、15名の登壇者が4つのセッションでそれぞれ異なる角度から「プログラミング」について語るというものだった。5時間の長丁場、飽きることなく興味深い議論が展開された。 檀上にいないサイレント・マジョリティのプログラマー達 なぜプログラマーはプログラマーになったのか。最初のセッション「プログラミングの重要性」に登壇したまつもとゆきひろ氏（Rubyアソシエーション理事長、アスキー総研主席研究員）は「コンピューターが教えた通りに動くのがかわいい、楽しいと感じた。ラジコンのように操作した通りに動く
ネット時代には「読み書き」を学ぶようにプログラミングを学ぶ必要がある - WirelessWire News（ワイヤレスワイヤーニュース）
12月2日、アキバホール（東京・秋葉原）にてシンポジウム「なぜプログラミングが必要なのか」が開催される。なぜ、今「なぜプログラミングが必要なのか」を問うのか、主催者である角川アスキー総合研究所取締役主席研究員の遠藤諭氏に聞いた。 「ソフトウェアが何をしているか」を知り、表現する力の源 ――なぜこのようなイベントをやろうと思われたのでしょうか。 遠藤氏：理由は２つあります。１つは、「誰もがプログラミングを学ぶべきだ」という議論がいま盛り上がってきていること。ネットやデジタルの時代に個人がどうやって生きていくか、企業や学問分野がこれからどうやっていくかを考えてみると、プログラミングは、"読み書き"に匹敵するベーシックなことだと思うのです。ところが、今の日本には、漫然とそれに対処しようとしない空気がまだある。時代は変わったのに、あたかも蒸気機関で世の中をまわそうとしているようにしか感じられないと
オリンピックなんだけど警備員雇うの忘れてたごめん - WirelessWire News（ワイヤレスワイヤーニュース）
オリンピックが全然盛り上がってないロンドンです。 開始まで二週間切りました。 が、ここはイギリスです。期待を裏切らない祭りが多数発生してございます。まるで夏休みの宿題が８月31日になっても終わらない小学生状態です。 祭り１：警備員雇うの忘れてました事件 オリンピックは世界中からろくでもない人々が集まってくるから警備を厳しくしなければいけない、というのがイギリス政府の前提です（最初から誰も信用しておりません） しかし、イギリス政府、勤労意欲のない自国の警察や軍隊じゃ警備員がたりないから、ということでG４なるマックの新機種のような名前の警備会社に警備員の採用と管理を外注しておりました。 ところが、オリンピック２週間前になり「ごめん。間に合わなかった。約束した人数雇ってないの知らなかったの。応募者は一杯いたんだけど、うーん、なんでかなあ、雇うの忘れてたのね。悪いけどオタクの軍隊でどうにかしてよ
ビジュアライゼーションは「情報を見つける」ための行為 - WirelessWire News（ワイヤレスワイヤーニュース）
きれいなだけでは役に立たない ──今のビジュアライゼーションの動きのなかで、増井さんが問題だと感じていることはありますか？ 増井：加工中心になってしまっていることですね。本来、ビジュアライゼーションというのは、何かを理解したり、検索したりするために使うはずなのに、「きれいだったらいい」という感じになってしまっています。インフォグラフィックスというのも、ポスターを頑張ってきれいに描くのとあまり違いはない。 そこに注力しても、ではこれは本当に便利なのだろうかというと、怪しいものが多い。そういう印象があります。本当に便利だったら見栄えが悪くても使われると思うんです。Googleのテキスト検索が典型的です。でも、いまのビジュアルの方向というのは、ともかくかっこよければいい、影をつけましたとか、光っていますとか、それでかっこよく見えるということの方が、便利さよりも重要になっています。 ──つまり、意
ビジュアライゼーションは「情報を見つける」ための行為 - WirelessWire News（ワイヤレスワイヤーニュース）
携帯電話向けの日本語予測変換機能「POBox」の開発者としても知られるユーザーインターフェース研究者の増井 俊之氏を講師に迎え、情報を見いだすためのビジュアライゼーションをテーマにしたセミナー「"想定外"を発見するためのビジュアライズ・テクニックの使い方（主催：日経BP社）」が開催される。2011年秋に出版された書籍「ビューティフル・ビジュアライゼーション」（オライリージャパン／オーム社）の監訳者でもある増井氏から見た、ビジュアライゼーションの現状と課題について、話を聞いた。 増井 俊之（ますい・としゆき） 慶應義塾大学 環境情報学部教授。1959年生まれ。ユーザーインターフェース研究。POBox、QuickML、本棚.org、Gyazoなどのシステムを開発。ソニーコンピュータサイエンス研究所、産業技術総合研究所、Apple Inc.など勤務を経て現在慶應義塾大学教授。著書に『インターフ
「グーグルに特許権侵害なし」の判定 - オラクル対グーグルのJava関連訴訟 - WirelessWire News（ワイヤレスワイヤーニュース）
現在オラクル（Oracle）が保有するJava技術関連の知的財産について、同社とグーグル（Google）とが争っている裁判で、2つの争点のうちにひとつである特許権の侵害に関する審理が米国時間23日に終了し、グーグルによる特許権の侵害は認められないとする判決が下された。 両社間のこの裁判では、先ごろ行われた著作権をめぐる前半の審理で、オラクルが提示した4件のケースのうち1件についてはグーグルによる著作権の侵害が陪審員によって認められたものの、残りの3件についてはオラクルの主張が退けられていた。グーグルによる著作権侵害が認められたのは、Android OSで使用されているAPIコード9行のみであることから、賠償金額は15万ドルから20万ドル以下とみられ、オラクルにとっては「おそらく裁判にかかった費用よりも少なくなるだろう」とAllThingsDは推定している。またBloombergでは、法律で
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
