1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
なぜ、微積分は役に立つのか
なぜ、微積分は役に立つのか 2023.11.27 Updated by Atsushi SHIBATA on November 27, 2023, 14:58 pm JST 今回紹介する書籍：『はじめての物理数学』永野 裕之（SBクリエイティブ、2017） 朝起きてから寝るまで、我々は何種類もの「数」を見ます。 私自身、朝起きるとネットやニュースで降水確率、予想気温のように気象にかかわる数、為替、海外の株式市場の指数など、いろいろな種類の数をチェックします。しばらく前なら、コロナウイルスの感染者数や増加傾向を表す指数を毎日のように確認していました。 自分を取り巻く環境を知るために、私たちはいろいろな「数」を確認します。そして数を手がかりにして、行動を決めます。現代を生きる私たちにとって「数」は、世界を知るための「目」としての役割を持っています。 現代人が日常的に見るこの種の数は、たいてい計
深層強化学習AI時代の”人間”の仕事
深層強化学習AI時代の"人間"の仕事 2022.01.21 Updated by Ryo Shimizu on January 21, 2022, 07:18 am JST 2022年は、AIはあまりニュースの話題にのぼらないだろうと思う。 なぜならば、もはやAIを用いることは当たり前になってきているからだ。 バズワードとしてのAIは2021年で終わった感がある。 一方で、AIの仕事は、うまくいけばいくほど地下に潜る性質がある。 すなわち、競争相手にどうやっているかを探られないように巧妙に隠す必要があるからだ。 次にニュースになるものがあるとすれば、AIがコンシューマ製品に搭載された時だが、たとえば「スマホにAI」は既に入っているのでニュース性がない。「ゲーム機にAI」が入っているのは当たり前であり、「テレビにAI」ももはや新鮮味がない。 アカデミズムの世界では、少し前までは、「ディープラ
コンピュータを理解するためのたった一つのこと、そして情報学
コンピュータを理解するためのたった一つのこと、そして情報学 2019.10.28 Updated by Ryo Shimizu on October 28, 2019, 09:38 am JST toioの田中章愛さんが、8421キーボードという面白いものを作っていた(写真使用は田中さん本人の承諾を得ています)。 4つのボタンにそれぞれ、8と4と2と1が割り当てられた「だけ」のキーボードだ。 Arduinoを使うと自作のキーボードがこんなにかんたんに作れるのかということにも驚かされたし、なによりアイデアが良いと思った。 実際のところ、コンピュータとはなにか、ということを理解するためにこれほど素晴らしい教材があるだろうか。 教材としてはもちろん、アートとしても素晴らしい。 「コンピュータってなんだか分かりますか?」と今の時代に聞けば、バカにしているのか、と怒られそうだが、実際にはコンピュータ
ニューラルネットワークは21世紀のトランジスタである
ニューラルネットワークは21世紀のトランジスタである 2019.05.12 Updated by Ryo Shimizu on May 12, 2019, 18:10 pm JST 過日、スコットランドのグラスゴーで開催された世界規模のコンピュータ・ヒューマン・インタラクション学会、CHI2019に参加してきた。 そこで目にしたものは、もはや当然のように受け入れられているニューラルネットワークの数々である。 CHIという学会においては、ニューラルネットワークがなんら特別なものと認識されていない。 それどころか、そもそも「当然のように使う道具」として捉えられているのが非常に印象的だった。 例えば、東京大学の暦本純一研究室では、口腔内を超音波エコーでスキャンして、口腔の断面図からニューラルネットワークによって発音を推定し、スピーカーで再現することで無声状態でAmazon Alexaを起動するS
深層学習の今のところの限界「何ができて、何ができないか？」
深層学習の今のところの限界「何ができて、何ができないか？」 2018.01.08 Updated by Ryo Shimizu on January 8, 2018, 08:29 am JST あけましておめでとうございます。 先日、MIT Technology Reviewにこのような記事が掲載されていました。 深層学習の過大評価は危険、ウーバーAI研究所の前所長が指摘 この論文を発表したのはニューヨーク大学の心理学者のゲイリー・マーカス教授。心理学者ということで、我々情報工学の立場とはまた違う立場で深層学習にできることとできないことを分離しています。 筆者はこのニュースを見て最初は反発したのですが、原文を読んでみると現状のディープラーニングの課題についてよくまとまっているのではないかと思いましたので紹介します。原文はこちら ■ディープラーニングの限界 マーカス教授によると、ディープラー
イギリスがEU離脱した理由
イギリスがEU離脱した理由 Why UK left EU 2016.06.24 Updated by Mayumi Tanimoto on June 24, 2016, 13:38 pm JST イギリスのEU離脱を問う国民投票の結果、イギリスがEUを離脱することになりました。TwitterやメルマガでイギリスのEU離脱については書いてきましたが、残留予測の人が多かったにも関わらず、なぜイギリス有権者が離脱を選択したのかを疑問に思う方も多いでしょう。離脱の理由は、ヨーロッパを理解する上で、テック業界の方にも重要な事だと思いますので、以下まとめました そもそもEUってなによ？ ところでなぜイギリスが離脱したかを理解するには、そもそもEUとは何かを理解する必要があります。 EUというのは欧州連合（European Union）のことです。地域統合体と呼ばれる組織で、主権（自分で自分の国のことを
知性とは何か AlphaGoの初戦で感じたこと
知性とは何か AlphaGoの初戦で感じたこと Daisy, Daisy! Planted one day... AlphaGo sings a requiem for humanity 2016.03.10 Updated by Ryo Shimizu on March 10, 2016, 07:38 am JST AlphaGoが人類最強の棋士と目されるイ・セドル9段を初戦で下しました。 このことは、囲碁関係者に大きな衝撃を与えています。 反対にAI関係者にとっては、残念ながら想像通りの結果になったと言えます。 AI関係者は、Googleがあそこまで断言するということは当然勝算あってのことだと考える人が多かったように思えます。仮に今回負け越したとしても、善戦すれば、数ヶ月のうちにさらに棋力を増し、いずれは打ち負かすだろうというのが大方の予想でした。 AlphaGoが一度でも人類のトップ
嘘をつく、嘘をつかれる人工知能をつくる──人狼ゲームをする「人狼知能」をつくるわけ（前編）
嘘をつく、嘘をつかれる人工知能をつくる──人狼ゲームをする「人狼知能」をつくるわけ（前編） 2016.01.07 Updated by Katsue Nagakura on January 7, 2016, 12:14 pm JST ▼2015年8月には、人工知能が人狼ゲームを競う、第1回人狼知能大会が開催された。 人工知能が高度に発達すると、人との会話やコミュニケーションがよりスムーズになっていくだろう。だが、人は決まった会話だけをするわけではない。嘘もつくし、自分でも思ってもみなかったことを言うことさえある。そんな複雑な人間とのコミュニケーションができる人工知能は、どのようにして生み出されるのだろうか。 ところで、「人狼」というゲームをご存知だろうか？複数人が会話や議論から「村人の中に紛れ込んだ『人狼』を見つけ出す」というパーティゲームだ。人を騙したり、嘘を見抜いたりするといった心理的
労働流動性は日本経済の救世主
労働流動性は日本経済の救世主 Flexible labor market saves Japanese economy 2015.09.30 Updated by Mayumi Tanimoto on September 30, 2015, 08:17 am JST 日本の雇用問題を書くと必ずといっていいほどコラムが大人気になりますが、本日は今週イギリスで話題になった人材派遣会社のHaysがOxford Economicsと実施した The Hays Global Skills Index という調査をご紹介します。 この調査は、31カ国のマクロ経済データを元に、各国における人材とスキルの状況を定点観測したものですが、日本に関して大変興味深いデータが掲載されています。高度人材に関する言及も多く、通信やIT業界関係者も一読しておくべき内容です。 調査では、日本に関しては、人材と仕事のミスマッ
日本企業の顧客サービスは優れているようで実はそうでもない
日本企業の顧客サービスは優れているようで実はそうでもない Japanese customer services are not good enough 2015.09.24 Updated by Mayumi Tanimoto on September 24, 2015, 08:06 am JST 日本のテレビや雑誌では、「日本のここがすごい！」という番組が相変わらず流行っているようですが「デパートのお惣菜の盛りつけ方がすごい」とか「この台車を作った会社はすごい」とか「日本のトイレはすごい」というミミっちい自慢大会にあふれています。 なんとなくですけど「俺は左遷された脂っこいキモヲタ系だが八重歯だけはすごい」と自慢してしまう感じに似てる気がするんですけどね。 その日本自慢系に含まれるモノの一つに「日本企業の顧客サービスはすごい」がありますね。でもね、実際ほかの先進国に住んでみると、決して優
文系が弱体化すると国は貧しくなる
文系が弱体化すると国は貧しくなる Weak humanities, weak economy 2015.06.29 Updated by Mayumi Tanimoto on June 29, 2015, 02:33 am JST 商売というのは、技術力だけでは成り立ちません。その技術をまとめ上げて、市場に送り出す能力が必要です。 具体的には、顧客の望む製品を考え、うまく宣伝して顧客に気に入ってもらい、効率的に組織を回して最低限の資源（資金や労働）で製品を作り上げる、ということです。これをうまくやるには、実は、文系の学問が果たす役割が大きいのです。 例えば古今東西の文学や哲学を深く学ぶことで「人間は本質的には何を求めるか」がわかります。これは、商品企画にも必須ですし、宣伝にも必要です。同じオフィスの人達の気持ち、外部の業者の考えていること、販売店で一日中立ったまま接客している人など、文学や
バケツでウランと情報漏洩
バケツでウランと情報漏洩 Blackened and data leakage 2015.06.03 Updated by Mayumi Tanimoto on June 3, 2015, 06:59 am JST 日本年金機構のデータ漏洩の件が相変わらず炎上しております。続報によれば、ファイル共用サーバーに、年金加入者の個人情報をぶち込んで、外のネットワークに繋がっているマシンで作業していたとか、データを移すのに CD-Romに保存して暗号化やらマスキングはしてなかったとか、どうもこの組織はメールに添付されたウイルス入り添付ファイルをスキャンするソリューションを入れてなかったとか、格納した個人情報はパスワードで保護してなかったとか、ルール無視して運用するのが当たり前だったそうであります。 ［続報］日本年金機構、ファイル共有サーバーを5年以上前から運用 一般に基幹システムのデータを現場が簡
ディープラーニングはビジネスにどう使えるか?
ディープラーニングはビジネスにどう使えるか? What do you get from deep learning? 2015.05.20 Updated by Ryo Shimizu on May 20, 2015, 13:28 pm JST
美女と高級車、デザインという仕事 - WirelessWire News（ワイヤレスワイヤーニュース）
iPodとiPhoneのデザインで知られる、Appleで唯一、スティーブ・ジョブズ以外の誰も指示も受けない特権を持つ男、ジョナサン・アイブの伝記が出版されました。 非常に示唆に富む内容で、全ページ赤線を引きたくなるような傑作です。 林信行氏の手による序文も、序文の範囲を越えた力作になっており、本当にオススメです。個人ブログでも詳しく書きましたが。 そしてこの本を読むと、本書で度々言及されている「アップルデザイン」という本も読みたくなります。早速昨日購入し、今朝読んだところです。 この本も本当に面白いのでオススメです。 そして改めて「デザイン」という仕事について考えてしまいました。 昨日は、幕張メッセで開催された東京オートサロンに行ってきました。 東京オートサロンは、改造車のショウです。 アフターパーツメーカーやチューナーが一同に会し、さまざまなカスタムカーを展示しています。 私自身も改造車
ソーシャルメディアを支配するのはかわいい猫である - WirelessWire News（ワイヤレスワイヤーニュース）
ちゆ12歳を凌駕するかと思われた小学生が作ったサイトが仕込みだった件がバレて盛大に炎上しております。 舶来リア充祭りのハロウイーンも終わり、あとは年末のボーナスぐらいしか楽しみがないという連休の最中の娯楽として、本年を締めくくる盛大な花火を打ち上げて下さり、南極物語よりおもしれーじゃねーの、とお喜びの皆様が多いのではないでしょうか。 【顛末追記】小4『どうして解散するの？サイトつくったからおしえて』民主くん『天才少年現る！』→仕込みっぽすぎて炎上 ➡結果NPO運営でした 天才少年現る！とてもいい。皆さんもぜひ！RT @why_kaisan 民主くんはじめまして！中村です。小学4年生です。ぼくは解散総選挙する理由を知りたくて、こんなサイトを作りました。協力して欲しいです！ http://t.co/Fl7pzxaxmd #どうして解散するんですか— 民主くん (@minshu_kun) N
あまりに卑劣な「小学四年生なりすまし」事件に思う - WirelessWire News（ワイヤレスワイヤーニュース）
今回の衆議院解散選挙に関して 「どうして解散するんですか」 という疑問を小学四年生が呈するため、Webサイトを立ち上げた、と話題になりました。 それが上のスクリーンショットにあるようなサイトです ( URL)。 ところがこれが嘘だとすぐにバレてしまいました。 みればわかりますが、誰が見ても小学生が作れるようなサイトとはとても思えなかったからです。 しかも、 「why-kaisan.com 」というドメインまで取得し、 twitterにも自称「小学四年生」が登場して色々な人の疑問や質問に答える形式です。 主張したかったことの是非は本稿のテーマではないので良いとして、私が許せないと思ったのは、あまりに人を馬鹿にした、卑劣かつ杜撰な手法だったということです。 わざとらしい黒板、そして真ん中に表示されている数字ですが、これはいかにも「このサイトに賛同しています」という人たちのアクセスカウント
邪悪なものが勝利する世界において - WirelessWire News（ワイヤレスワイヤーニュース）
しかし、心を鎮めて考えれば、誰にでも分かることだが、私たちを傷つけ、損なう「邪悪なもの」のほとんどには、ひとかけらの教化的な要素も、懲戒的な要素もない。それらは、何の必然性もなく私たちを訪れ、まるで冗談のように、何の目的もなく、ただ私たちを傷つけ、損なうためだけに私たちを傷つけ、損なうのである。 少し前に知り合いの女性と久方ぶりに夕食をともにする機会がありました。食事の後に出向いたバーで彼女は、以前自身が体験したネット上の嫌がらせの話をしてくれました。 嫌がらせをしかけてきたのは同業の女性だったのですが、その人とは仕事上も私生活でもほとんど直接の接点はありません。そんな相手からどうして嫌がらせを受けないといけないのか。例えば、仕事でひどい目にあわせたとか、恋人を奪ったといった過去があるならともかく、面識自体ないような相手なのに。 理由があるとすれば、その女性にとっての晴れの場において、意
自動化は我々をバカにする？ ニコラス・カーの新刊が再び突く現代人の不安 - WirelessWire News（ワイヤレスワイヤーニュース）
今回は、前々回、前回と文章を紹介させてもらったニコラス・カーの出たばかりの新刊『The Glass Cage: Automation and Us』を取り上げたいと思います。 この本は、カーの前作『The Shallows』（邦訳『ネット・バカ インターネットがわたしたちの脳にしていること』）の続編というか対になる本と言えます。前作が、The Atlantic に掲載され大きな論議を呼んだ Is Google Making Us Stupid?（Googleは我々をバカにする？）を発展させた内容だったように、本作もやはり The Atlantic に掲載された The Great Forgetting（大いなる忘却）を起点としており、やはり前作と同じくぶちあげたテーゼを最新の脳科学や神経心理学などの研究データで裏づけしていく形の本になります。 前作は、インターネットは本を熟読し深い思索を行
日本でデスマーチが発生する理由とW杯コートジボアール戦のゴミ拾いの関係 - WirelessWire News（ワイヤレスワイヤーニュース）
先日のワールドカップの日本対コートジボアール戦で、日本のファンが、試合に負けたのにも関わらず、スタジアムのゴミを拾ったことが、様々な国のサッカーファンやメディアに驚かれました。 Japanese fans stayed behind after the game last night to clean their section of the stadium. Class act. pic.twitter.com/av1hzs4eXY— World Cup 2014 (@Brazil14WC) June 15, 2014 Japanese fans cleaning near the seats where they were sitting. Such an admirable civilisation. Massive respect. pic.twitter.com/leAYPuEK
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
