1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
Web3の「魂」は何なのか？
Web3の「魂」は何なのか？ 2022.06.01 Updated by yomoyomo on June 1, 2022, 18:11 pm JST 昨年末、イーロン・マスクがTwitterで「誰かWeb3見たことある？ 見つけられないんだけど」とボケたところ、当時TwitterのCEOを退任したばかりのジャック・ドーシーがすかさず、「aからzの間のどこかにあるよ」とボケ返し、これを契機に小競り合いが起きるという一幕がありました。 ジャック・ドーシーの言う「aからzの間のどこか」とは、暗号通貨などブロックチェーン方面への積極的な投資により、もはやWeb3エコシステムを丸抱えせんとする、大手ベンチャーキャピタルのa16zことAndreessen Horowitzにあてこすったイヤミです。ジャック・ドーシーの批判は、「Web3を所有するのはベンチャーキャピタルとその投資先の企業であってウェブ
AIの想像力が人間を超えるとき。深層強化学習のブレイクスルー、D3RLの衝撃
AIの想像力が人間を超えるとき。深層強化学習のブレイクスルー、D3RLの衝撃 2020.10.08 Updated by Ryo Shimizu on October 8, 2020, 11:13 am JST 「最近のAIがすごい」と言われてからもう6年ほどが経過した。 なかでも人目を引いたのは、なんといっても2016年のAlphaGoだろう。最難関ゲームの一つと言われる囲碁において、人間のトップ棋士に対しAIが圧勝したのである。 これは「深層強化学習」というAIだが、実際のところ、「深層強化学習」を実用的に利用した例はまだ少ない。 多くのAIベンチャーやAIベンダーが扱う「AI」技術は、古典的な統計解析か、時折ニューラルネットを使っているくらいで、「深層学習」ではあっても「深層強化学習」とは完全に別物である。ラジオもコンピュータも同じ電気で動くものだが別物であるのと同じだ。 深層強化学
数式をアルゴリズムより見事に解くAI その可能性
数式をアルゴリズムより見事に解くAI その可能性 2019.10.10 Updated by Ryo Shimizu on October 10, 2019, 06:45 am JST PFNの岡野原さんのツイートで知ったのだが、数式をアルゴリズムで解くよりも正確に解くニューラルネットワークについての論文がOpen Reviewに公開されたそうだ。 微分、積分、微分方程式などのシンボリックな数学方程式はNNで驚くほどの精度で解ける。方程式を木表現経由のポーランド記法で表し、Transformerを使ったseq2seqで教師あり学習する。MathematicaやMatlabを超える求解率を達成できる他、有効な解を一つだけでなく多く列挙できるhttps://t.co/dQco5uihuE — Daisuke Okanohara (@hillbig) September 26, 2019 htt
ニューラルネットワークは21世紀のトランジスタである
ニューラルネットワークは21世紀のトランジスタである 2019.05.12 Updated by Ryo Shimizu on May 12, 2019, 18:10 pm JST 過日、スコットランドのグラスゴーで開催された世界規模のコンピュータ・ヒューマン・インタラクション学会、CHI2019に参加してきた。 そこで目にしたものは、もはや当然のように受け入れられているニューラルネットワークの数々である。 CHIという学会においては、ニューラルネットワークがなんら特別なものと認識されていない。 それどころか、そもそも「当然のように使う道具」として捉えられているのが非常に印象的だった。 例えば、東京大学の暦本純一研究室では、口腔内を超音波エコーでスキャンして、口腔の断面図からニューラルネットワークによって発音を推定し、スピーカーで再現することで無声状態でAmazon Alexaを起動するS
NVIDIA、過去に国立研究機関へのGeForce導入妨害の疑い
NVIDIA、過去に国立研究機関へのGeForce導入妨害の疑い Amazing, every word of what you just said was wrong. 2017.12.20 Updated by Ryo Shimizu on December 20, 2017, 06:24 am JST 昨日の記事に対し、NVIDIAからヒステリックといえるほどの対応が起きました。不思議です。明らかに意図的に動いているのに、公表されている事実を指摘しただけなのにこの反応は不可解ですね。 NVIDIA側からは、「個別に面談して誤解を晴らしたい」という連絡を頂きましたが、そもそもなぜ個別に面談する必要があるのでしょうか。筆者のもとにはNVIDIAからGeForceの供給を止められている、という代理店の話も聞こえてきます。水面下でコトを落ち着かせたいということなのでしょうか。 また、海外には
P2P技術が真の民主化を実現する
P2P技術が真の民主化を実現する P2P technology realizes real democratization 2017.04.03 Updated by Ryo Shimizu on April 3, 2017, 09:28 am JST ブロックチェーンを中心としたこの一連のムーブメントは、既視感があります。 筆者の友人でもあり、国家認定天才プログラマーの先輩でもある、金子勇による「Winny」です。 Winnyは、P2Pのファイル交換ソフトとして出現しました。しかしその設計は極めて野心的だった。暗号化したデータを分散して保持するという設計は、P2Pのクラウドストレージとしてもっと評価されてよかったはずで、2ちゃんねる発祥のため、それが違法なファイルを交換するソフトとしてアンダーグラウンドな使われ方に注目されてしまったのは残念なところです。 匿名性とプライバシー保護を優先す
情熱は最も貴重な財産である
情熱は最も貴重な財産である Enthusiasm is the most valuable asset 2017.02.16 Updated by Ryo Shimizu on February 16, 2017, 11:10 am JST とある企画を立てました。 ヒットする企画というのは立てた瞬間にわかるものです。これはイケる。素晴らしい。クライアントとも盛り上がり、さあやろうということなりました。 ところが企画が素晴らしくても実装が伴わなければうまくいくわけがありません。 しかしこの実装はなかなか手強そうだぞ、と思いました。 年末年始、どうせやることもなかったので会社に引きこもって試作を繰り返し、まあなんとか半分くらいのプロトタイプはできたので、色んな人に見せてみると「スゴイ」と好感触で、まあこれはいけるだろうなと自信を深めていたのでした。 ところが、まあPoCはできたものの、実際に
プログラマーは炎上プロジェクトをどう管理するか
プログラマーは炎上プロジェクトをどう管理するか How to eliminate the "Show Stopper" 2016.04.03 Updated by Ryo Shimizu on April 3, 2016, 07:23 am JST 新潟県南魚沼郡塩沢町に上越国際スキー場という施設があります。 取引先の親しい友人数人と私は、ある週末、そこでスノーボードを楽しんでいました。 平和な、平和すぎるほど平和な、日常のヒトコマでした。 午前中思い切り滑った後、ランチをとろうとロッジに立ち寄った時に、私の携帯電話が鳴りました。当時人気を博していたクラムシェル、いわゆる折りたたみ式の携帯電話で、スキー場など、電波がほとんど入らない場所ですからロッジに入るやいなや電話が鳴るというのは相当な異常事態です。おそらく朝からずっと呼び出しをかけていたのでしょう。 恐る恐る電話に出ると、すごい剣幕で
プログラマーだけがやっている効率的な仕事のやり方
プログラマーだけがやっている効率的な仕事のやり方 Only Programmers knows the way to optimize working 2015.08.26 Updated by Ryo Shimizu on August 26, 2015, 17:10 pm JST 先日上梓した拙書「最速の仕事術はプログラマーが知っている」がありがたいことに大変評判なようで、発売4日後に増刷が決まるなど売れ行きが好調のようです。 もともとこんな刺激的なタイトルの本を書いていいのか、という悩みもあったのですが、編集の方の強い熱意と最初のミーティングの段階で完璧に近いところまで揃えられた目次と企画書を見て、「これは時間を割いてでも書いてみたい」と思い、引き受けることにしました。 実際に世に出ても、「やっぱりこれは書きすぎなんじゃないか」「刺激が強すぎるんじゃないか」と危惧していたのですが、A
ついに目覚めた巨人 Microsoftの逆襲 - WirelessWire News
ついに目覚めた巨人 Microsoftの逆襲 The Empire Strikes Back 2015.05.07 Updated by Ryo Shimizu on May 7, 2015, 10:36 am JST 連休中にサンフランシスコで開催されたMicrosoftのイベント「Build 2015」から戻ってまいりました。 今回のBuildで強く感じたのは、「ついにマイクロソフトが逆襲を開始した」ということです。 これまでMicrosoftはパッとしない時代が続きました。 これまでのMicrosoftは愚鈍な牛のように見えました。 誰が求めているかいまいちわからないZUNEやWindows8という製品を発表し、Microsoftの生命線とも言えるOSのアップグレード需要を冷え込ませました。Windows8も、8.1も、誰も求めていない製品だったのです。 にも関わらず、昨年は過去最高
第三者機関の不在が生んだ日本の『プライバシー鎖国』（後編）
第三者機関の不在が生んだ日本の『プライバシー鎖国』（後編） テーマ7：自主規制と第三者機関 2015.03.27 Updated by 特集：プライバシーとパーソナルデータ編集部 on March 27, 2015, 12:30 pm JST 個人情報保護法改正により設置される第三者機関の設置で何が変わるのか、中央大学総合政策学部准教授の宮下紘氏にうかがいました。 海外からは「非常識」と見られている日本の対応例 ──第三者機関が日本でもようやく立ち上がるものの、まだ経験やリソースが足りない状態です。そうした「よちよち歩き」の第三者機関と向かい合う事業者は、第三者機関に過度に依存せず、自ら海外の事例をよく見たり、これまでの法律の議論を追いかけたり、プライバシー事件の判例を見たりと、当面の間は自らリテラシーを向上させていく必要がありそうです。 宮下：その通りですね。実は、これまでもそれをやらな
サラリーマンプログラマに向かない人の生きる道
サラリーマンプログラマに向かない人の生きる道 2015.03.31 Updated by Ryo Shimizu on March 31, 2015, 14:44 pm JST 元日立で現VA Linuxの社員プログラマーらしき人が日立を辞めた後の転職を猛烈に後悔していることが話題になりました。 「年功序列などで働きづらい」として転職した元日立社員、転職後「日立のほうが良かった」と後悔して話題に/Slashdot この騒動を受けた本人のブログエントリを拝見しましたが、個人的にはあまり同情できません。 騒動の内容と今後について 上記のエントリを読んでいただければ私の言いたいことはだいたい伝わると思います。 残念ながら、世の中には、どれだけそれが好きでも、また、それに関する才能があったとしても、会社員には向いていないタイプの人が居るのです。たぶん今回の騒動の主となる人は会社員としてプログラマを
ニュージーランド、ソフトウェアに対する特許権付与を禁止へ - 議会で法案成立 - WirelessWire News（ワイヤレスワイヤーニュース）
ニュージーランドの国会で、ソフトウェアを対象とする特許権の付与を禁じる法案が117対4で可決された。これにより、新たなソフトウェア・パテントは認められなくなるという。 この話題を採り上げたArs Technicaによると、知的所有権について定めたTRIPS協定では、技術の分野を問わず、また製品であれプロセスであれ、いかなる発明も特許権の対象とするよう定められているが、今回通過した法案の関連条項では、コンピュータープログラムは「発明」にあたらないと明記されているという。 ただし、特許権の対象となる発明に付随する手段としてコンピュータープログラムが使用されている場合は、そのプログラムも特許権の対象となり得るが、コンピュータープログラムそのものに対する特許権は認められなくなるという。 ニュージーランドのクレイグ・フォス（Craig Foss）商務大臣は今回の法案通過について、「本物のイノベーショ
プログラマー流ビジネスモデル構築 - WirelessWire News（ワイヤレスワイヤーニュース）
経営者たるもの、先ず第一に経営戦略の要諦をまとめなければなりません。 戦略的視点がない経営は場当たり的になり、それでは到底、事業の長期的な発展を望むことはできません。 それでも新米の経営者は、戦略をたてることが苦手です。 多くの場合、戦略と計画の区別もついていません。 今日は軽視されがちな経営戦略の立案法についてプログラマーの視点から見ていきましょう。 まず、経営をしようというときに最も重要なのは、ビジネスモデルです。ビジネスモデルは、変化の早いITの世界では3〜5年で一周すると言われています。IT企業の経営者ならば、常にビジネスモデルを変化させつつ、次の3年、次の5年に備えなくてはなりません。 ビジネスモデルとは、平たく言えば「どのように人様のお役に立ち、どのように価値を認めていただくか」ということ。短く言えば価値創造です。 なんらかの価値ある商品なりサービスなりを考案し、対価をいた
HTC株価、半年で6割下落 - 「製品自体に難あり」とするアナリストも - WirelessWire News（ワイヤレスワイヤーニュース）
先週、2割を超える大幅な業績予想の下方修正を発表したHTCの株価が、5日間連続で値下がりを続けてたという。 HTCは23日に、今四半期の売上が前四半期にくらべて約23%の減少となるとする予想を発表。これを受けて、同社の株価は24日、25日の両日、台北市場でストップ安となる6.9%の下落をそれぞれ記録。この結果、同社の株価は5日間で24％下落、また今年4月28日につけたピークの株価に比べて約6割も下落したという。 HTCではこの不振の原因として、売上の約半分を占める米国市場や同20%を占める欧州市場の景気の悪化、ならびにアップル（Apple）やサムスン（Samsung） などとの競合激化を挙げていた。 これに対し、シティグループ（Citigroup）の台北駐在の2人のアナリストは、HTCの業績低迷について「マクロ経済などよりも、他社に比べて見劣りがする同社の製品に依るところが大きい」との見方
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
