GPTシリーズの限界と非連続的な進歩について 2023.02.28 Updated by Ryo Shimizu on February 28, 2023, 09:04 am JST 先日、秋葉原の3331で開催されたテクノエッジ主催イベントでは、StableDiffusionを開発したStability.AIのジェリー・チーさんと、THE GUILDの深津貴之さんと筆者の三人で鼎談した。 残念ながらイベントのアーカイブは残っておらず、80人の席は全て即完売。 改めて考えると、会場が小さすぎるしチケットが安すぎる。 まあそれはいいとして、懇親会ではTwitterやnoteでしか見たことがなかった生成AI業界のスターたちに挨拶できて非常に嬉しかった。 講演の感想をいただく中で、「Scaling Lawについての話が一番面白かった」と言われたので、昔もこの連載でとりあげた気がするが、再度この段

Alpha Zeroが猛烈に三目並べを自己対戦したとき、ついにこの時代が来たと悟った 2018.02.04 Updated by Ryo Shimizu on February 4, 2018, 11:57 am JST AlphaGoを改良したAlpha Zeroが囲碁だけでなくチェスや将棋などを攻略できるようになった、という話を聞いても「今更？」とピンと来なかったまま日々が過ぎていきました。 しかし一昨日ふと気になって、会社に届いたばかりの深層学習PC、DK-1000で試運転がてら実装をいくつか見てみると、AlphaGoのときよりもずっとシンプルな実装になっていて心底驚きました。 試しに、リバーシ(オセロ)とTic-Tac-Toeを実行してみると、猛烈な勢いでAlpha Zeroは自己対戦を始め、どんどんスコアを上げていきます。 最終的にはTic-Tac-Toeを1000回くらい学習し

Wikipediaを学んでクイズに答えるFacebookのオープンソース人工知能DrQA 2017.07.28 Updated by Ryo Shimizu on July 28, 2017, 08:17 am JST Facebookが先月発表したDrQAというニューラルネットワークについて紹介したいと思います。 DrQAは一般的な質問に答えることを目的とした人工知能です。内部にRNNを持っていて、Wikipediaに書かれている全ての知識をまず学習し、次にさまざまなクイズ問題を学習します。誤解を恐れずに言えば、クイズ番組で優勝したときのIBMのワトソンがやったのと同じような処理を行うことを目指しています。 ところでクイズが得意な人と勉強が得意な人は違います。 実はクイズ番組で用いられる問題は、大部分が過去問題の使い回しが多いのです。 これは実はクイズを作るのが極めて難しいからです。 ク

もうすぐ絶滅するという開かれたウェブについて This is Not the End of the Open Web 2016.08.22 Updated by yomoyomo on August 22, 2016, 10:31 am JST すっかり旧聞に属しますが、Internet Archive が主催し、これからのウェブのあり方を議論するイベント Decentralized Web Summit が6月に開かれました。 このサミットには "Locking the Web Open" というサブタイトルが付いていますが、逆に言えば、主催者には現在のウェブはオープンではないという認識があるわけです。それにいたる流れを少し辿りたいと思います。 そもそも Open Web（オープンウェブ、開かれたウェブ）という言葉が特に言及されるようになったのは、2010年だったと記憶します。その背景の

モビルアイ、テスラとの取引解消へ - 「Model S」死亡事故が引き金に 2016.07.27 Updated by WirelessWire News編集部 on July 27, 2016, 10:44 am JST 車載カメラなどのセンサー類やデータ解析技術などを自動車メーカ各社に提供するモビルアイ（Mobileye）が、米テスラ（Tesla Motors）との取引関係を解消することになったという。5月に米国で発生したテスラ「Model S」の死亡事故に関わる両社の見解の相違が原因と伝えられている。 Reutersによると、テスラは現在、同社の「Model S」や「Model X」に搭載される安全運転支援機能「Autopilot」用として、モビルアイ製の「EyeQ3」というシステムを採用している。モビルアイは今回の発表のなかで、「EyeQ3」については今後もソフトウェアのアップデー

知性とは何か　AlphaGoの初戦で感じたこと Daisy, Daisy! Planted one day... AlphaGo sings a requiem for humanity 2016.03.10 Updated by Ryo Shimizu on March 10, 2016, 07:38 am JST AlphaGoが人類最強の棋士と目されるイ・セドル9段を初戦で下しました。 このことは、囲碁関係者に大きな衝撃を与えています。 反対にAI関係者にとっては、残念ながら想像通りの結果になったと言えます。 AI関係者は、Googleがあそこまで断言するということは当然勝算あってのことだと考える人が多かったように思えます。仮に今回負け越したとしても、善戦すれば、数ヶ月のうちにさらに棋力を増し、いずれは打ち負かすだろうというのが大方の予想でした。 AlphaGoが一度でも人類のトップ

ディープラーニングを小学生でも使えるようにしてみる Trial to make easy to use deep learned neural network 2015.06.30 Updated by Ryo Shimizu on June 30, 2015, 06:59 am JST この一ヶ月で、ディープラーニングが急激に使いやすくなってきています。 Google傘下のディープラーニング研究グループDeep Mindでインターンをしているスタンフォード大学の学生はこんな台詞をツイートしています。 「ディープラーニングに関して、新しくクールな論文が発表される速度は、それを読める速度より速い」 それこそ毎日のようにディープラーニングに関する何らかの新しい話題が出てきます。 それくらい、ディープラーニングは盛り上がっているのです。 「人工知能は人間を超えるか」を記した東京大学の松尾豊先生に

ショートカットキーはマウスより遅い 2015.03.22 Updated by Ryo Shimizu on March 22, 2015, 08:29 am JST CTRL+Xでカット、CTRL+Vでペースト。 ショートカットキーの使い方を覚えると、パソコンの達人になったような気分になりますよね。 しかし、実際にはショートカットキーを使用すると、マウスでメニューから「編集」「ペースト」を選ぶよりも平均2秒も遅いのです。 「そんなバカな」 と思いますよね。 しかし、これはTogことブルース・トグナッツィーニがAppleでMacintoshの開発を担当した際に行った膨大な実験の結果、解ったことなのだそうです。 これはTogのWebページでも詳しく紹介されています。 しかし2秒とはとても信じられません。 むしろ逆のようにさえ感じます。 しかしTogの主張によれば、我々ユーザはショートカットキ

個人情報やプライバシーに関心があればあるほど、こう問いかけられると、ハッとするのではないでしょうか。しかし今回のインタビューと解説を通じて、そんな問いを改めて突きつけられたというのが、率直な印象です。 当初は、このところ日本を含めて世界的に関心が高まる「分かりやすい同意」について、その現状と今後を明らかにすることを目的としていました。実際、佐藤氏（日本ヒューレット・パッカードCPO）による解説では、ご自身も策定に関わった、経済産業省「オンラインサービスにおける消費者のプライバシーに配慮した情報提供・説明のためのガイドライン」を取り上げています。 しかしながら、この解説を読み解いていけばいくほど、「これはゴールではなくスタートである」ということが、分かってきます。というのは、あくまでこのガイドラインは、「現状における消費者と事業者の解釈の相違」の是正をターゲットにしており、その是正がなされた