はてなブックマーク

「テクノ楽観主義者宣言」にみる先鋭化するテック大富豪のイキり、そしてテック業界の潮目の変化 2023.11.07 Updated by yomoyomo on November 7, 2023, 12:00 pm JST 前々回「先鋭化する大富豪の白人男性たち、警告する女性たち」、前回「テクノ楽観主義者からラッダイトまで」を書いた者として、今回はマーク・アンドリーセンの「テクノ楽観主義者宣言（The Techno-Optimist Manifesto）」（解説付き日本語訳）を取り上げるのが必然と思われます。まさに大富豪の白人男性の先鋭化とテクノ楽観主義者の現在を見るうえで必読と言える内容になっています。 しかし、この渾身のマニフェストに対する風当たりは強い、という印象があります。それについては後で取り上げますが、いろいろな意味で潮目の変化を感じずにはいられません。 著者のマーク・アンドリー

GPU禁輸措置で追い詰められる中国と大規模言語モデルの発展 2023.11.01 Updated by Ryo Shimizu on November 1, 2023, 09:15 am JST アメリカがGPUを重要物資として中国に対して禁輸措置を行うとの意向を受けて、中国国内ではA800 GPUの価格が一枚あたり50万人民元(約1000万円)に達するなどのパニックが起きたようだ。これは通常の価格の5倍にあたる。 A800は、そもそもアメリカ政府の意向を受けて中国市場向けにデチューンした(性能をわざと落とした)モデルで、世界的ベストセラーのA100の70%程度の性能とされている。 しかし中国国内ではAI開発が非常に活発であり、合法的に使えるA800を大量に確保したい中国側の事情と、軍事転用も可能な重要戦略物資を中国に売りたくないアメリカ政府の意向が真正面から対立する形となっている。 筆者

AIが普及しない理由 The reason AI would not be popular 2023.10.31 Updated by Mayumi Tanimoto on October 31, 2023, 12:00 pm JST AIが注目されるようになってしばらく経ちますが、話題のChat GPTでさえも一般の人には普及しているとはなかなかいえず、AIのツール自体が一般化するという状況にはなっていないようです。しかしAI自体は、実は様々なツールやシステムには既に組み込まれており、一般には見えない状態ではあっても明らかに様々な作業を効率化しています。 例えば、マイクロソフトの様々な製品にはAIが組み込まれていますし、日本ではあまり一般的ではないのですが 、英語圏の様々なウェブサイトや業務用ツールにはAIが搭載されており、入力や情報の分類、アウトプットの出し方などがかなり効率化されてい

生成AI以後 2023.09.21 Updated by Ryo Shimizu on September 21, 2023, 10:05 am JST 生成AIが「民主化」されたと言えるのは、昨年8月24日のStableDiffusionの公開を起点として良いだろう。 StableDiffusionは破格の性能のAIを、誰でも買える程度のコンピューティングパワーのコンピュータで、自由に改造して使うことができると言う意味で、真の民主化を達成した。 それから一年が経過して、昨年末にはChatGPTが注目を集め、現在では単に「AI」と言えば生成AIを指すようになった。 生成AIであるかそうでないかの違いは、その構造というよりも扱う情報量の違いでしかない。 AIが扱うデータは全て行列の集合の集合(またはその集合)、これをテンソルと呼ぶが、あるテンソルを入力したときに別のテンソルに変換するというも

Open Interpreterで開かれた未来像 RPAツールをAIで作る 2023.09.12 Updated by Ryo Shimizu on September 12, 2023, 11:25 am JST OpenInterpreter(オープンインタープリター)が話題だ。 これはChatGPTの「Code Interpreter」をローカルで動かすというもの。 しかも、GPT-3/GPT-4のAPI以外にも、Llama2やFalconなどのローカル動作のLLMのエンジンにも容易に切り替えることができる。 筆者も早速試してみたが、これが非常に面白い。ChatGPT出現時くらいのインパクトがある。 筆者は最近、平日はほぼ毎日「教養としてのAI講座 / デイリーAIニュース」という有料番組を配信している。 この中で先週とりあげたのがOpen Interpreterだったのだが、この反

先鋭化する大富豪の白人男性たち、警告する女性たち 2023.09.11 Updated by yomoyomo on September 11, 2023, 21:53 pm JST 「テックブロ（tech bro）」という言葉があります。IT業界で働く男性を指しますが、ケンブリッジ英英辞典によると、社交性に欠けるのに自身の能力を過信する米国の若い男性という含意もあるようです。 最近、この言葉が出てくる文章で気になったものがあるので、それらの紹介から始めたいと思います。 一つはダナ・ボイドの「メタバースは未だシカトさせていただきます」です。これはメタバースがテーマの新刊を送ってきた友人に対し、メタバースには一貫して興味がないと宣言する文章なのですが、彼女の拒否反応には理由があります。彼女は初期のバーチャルリアリティー（VR）の体験者であり、2014年にはVR体験の性差にフォーカスした「Oc

ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦 2023.08.19 Updated by Ryo Shimizu on August 19, 2023, 16:47 pm JST そろそろ業界の最深部でしか知られてなかった事実がニュースになって来始めているのでここで本当の問題を明らかにしておきたい。 AI開発に必須なのは、計算資源である。そしてこれは現在のところ、事実上NVIDIAが一社独占している。 NVIDIA以外の半導体がいくら「AIに特化しています」と能書きを垂れていてもごくわずかな例外を除いてはほとんど全部が誇大広告である。 たとえばApple Silliconは、「ニューラルエンジン」と称するモジュールを内蔵しているが、これを使ってAIの学習をすると、なんとCPUよりも遅い。信じられないかもしれないが、これが残酷な事実なのである

意外と良くなってきてしまった動画生成と音楽生成。第二回AIアートグランプリはどうなる!? 2023.08.13 Updated by Ryo Shimizu on August 13, 2023, 11:41 am JST ほんの一ヶ月前まで、動画生成は全然だめだった。 Gen2は高価だが狙ったものを出しにくい。何より動いてくれない。 ところがAnimateDiffという技術が公開された。これはとても激しく、それっぽく動く。 コツは必要だが、以前よりずっと綺麗に動いているのは間違いない。 筆者の運営するサイトMemeplexやreplicateで使うことができる 音楽生成も、「やはりAIに音楽みたいな人間の機微を読み取るようなものは無理か」と考えていた。 「専門家」である僕でさえ、つい一ヶ月ほど前はそうだったのだ。 新しいオーディオ生成モデルである「JEN-1」と「AudioLDM2」はそ

生成AIで執筆時間を大幅短縮。果たして「書く」とはどういうことか? 2023.07.30 Updated by Ryo Shimizu on July 30, 2023, 10:54 am JST 7月26日、幻冬社新書から「教養としての生成AI」が発売された。教養シリーズである。 3月ごろはほぼ毎日執筆依頼が来てAIの研究をする時間が削られるなど本末転倒なことが起きていた。ようやく今回の「教養としての生成AI」と、来月の「検索から生成へ」でひと段落する。他にも大量に来ていたが、時間が勿体無いので断った。 幻冬社は新聞広告を打つらしい。果たして、いまどき新聞広告で本は売れるのか?しかし僕は本のプロではないので、プロがそう思うんだからそこはお任せするとしよう。 お任せするといえば、この本も次の本も、ChatGPTがほとんど書いた。 従って、執筆時間は10時間ほどで、そのうち半分はChatGP

美しい友情の終わり 2023.07.19 Updated by yomoyomo on July 19, 2023, 05:59 am JST Everyone I know goes away in the end (Nine Inch Nails, "Hurt") 先月、アメリカ合衆国政府による国際的な情報監視網を告発したエドワード・スノーデンの最初の暴露から10年経ち、我々は何を学んだかを問うRegisterの記事を読み、しばし物思いにふけってしまいました。 この手の「○○○○から×年」は切り口次第なので、普段は特に興味を惹かれることはありませんが、この時は二つ個人的な事情がありました。ひとつは、もう少しでワタシは50歳になることで、つまり、この10年と言われると、それはワタシの40代にほぼ重なることになります。そして、エドワード・スノーデンの名前に、その少し前にたまたま読んでいたあ

頭の中に数学の地図を作ろう Make a mathematical map in your head 2023.07.03 Updated by Atsushi SHIBATA on July 3, 2023, 10:16 am JST 今回紹介する書籍：『数学と文化』赤 攝也（ちくま学芸文庫、2020） 抽象化の重要性 小学生の長男の勉強を見てやっていると、算数の教材に「□×4－3－5＝8」のような問題が出てきます。「穴あき算」「虫食い算」と呼ばれる計算です。この種の課題は、大人が見ると四角をｘ（エックス）に見立てた方程式に見えるので、数を移項して「ｘ＝」の式にすることで答えを出そうとします。 この「移項をすると符号が反転する」というのを、小学生くらいの子供に教えるのはとても大変なのですが、子供に理解してもらうには、計算を手順に分解して教えます。「最後に5を引いて8になったのだから、その

ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI 2023.06.19 Updated by yomoyomo on June 19, 2023, 16:16 pm JST 少し前に佐々木俊尚氏の「オープンなウェブ世界とジェネレーティブAIの終わりなき戦いが始まる」という記事を読みました。自分の電子書籍に『もうすぐ絶滅するという開かれたウェブについて』というタイトルをつけたワタシ的にも、オープンなウェブが生成AIに脅かされるという話は興味があるのですが、今年はじめに読んだ、Oughtでプロダクトデザイナーを務めるマギー・アップルトンの「拡大する暗い森と生成AI」を思い出しました。 昨今この分野は動きが速く、半年前の文章でも随分昔に思えたりするものですが、都合良いことに、4月にトロントで開催されたCausal Islandsカンファレンスでマギー・アップルトンが「拡

人工知能規制、資本主義批判、民主主義再考 2023.05.22 Updated by yomoyomo on May 22, 2023, 18:58 pm JST 先週、米上院の公聴会に召喚されたOpenAIのサム・アルトマンCEOが、「AIに規制は必要」と発言したことが話題になりました。ディープラーニング分野に多大な貢献をしたAI研究の第一人者であるジェフリー・ヒントンが、Googleを退社して「AIは人類の脅威になる」と警鐘を鳴らすのと合わせ、今のAIを巡る報道には不安をかきたてる浮足立った空気があります。 冷静に考えれば、AI開発を免許制にすべきという規制を求めるサム・アルトマンの発言は、オープンソースによるコモディティ化を牽制しながら、市場で優位性を確保したところで規制を求めるルールメイキング戦略の定石に沿ったもので、要は現状の優位性の定着が目的であり、驚くところはありません。 た

AIは監視資本主義とデジタル封建主義を完成させるか 2023.04.13 Updated by yomoyomo on April 13, 2023, 18:16 pm JST 先週、朝日新聞デジタルに掲載されたメレディス・ウィテカーのインタビュー記事「ChatGPT、何が問題か　元グーグル社員「非常に無責任で無謀」」が話題となりました。記事内容は、ChatGPTに代表される今話題のAIサービスの多くが、巨大な消費者市場から得られたデータ資源とそれを握るビッグテックへの権限の集中の結果生まれたもので、中立的でも民主的でもなく、倫理的な懸念があることを訴えるものです（今週になって、朝日新聞デジタルにほぼ同内容の「AI開発、中立的でも民主的でもない　元グーグル専門家」、「「チャットGPT、全世界が実験台」「データ集中と監視、強まる恐れ」　元グーグルの専門家が警告」という二つの記事が公開されてい

人類が生み出したLLM。だが、人類はその正体をちっとも理解できていない 2023.04.06 Updated by WirelessWire News編集部 on April 6, 2023, 07:01 am JST 昨今、ChatGPTを筆頭とする、いわゆるLLM（Large Language Model）の話題がかまびすしい。人類が生まれて初めて、人間以外で「人間らしく」会話できる機械（というかアプリケーション）を手にしたのだから、無理もない。 この2022年とか2023年という年は人類の歴史にとって永遠に記憶に残る年、いわばポスト○○みたいな○○に何かが入って節目となるような（「ポストコロナ」とか「ポスト冷戦」みたいな）数年になるだろう。○○の「前」の時代には永遠に戻らない、というような。 今のところ○○にどんな単語を入れればいいか、僕もまだ決めかねてはいるのだが、今日はLLMが人

自動執筆機械の憂鬱 2023.04.03 Updated by Ryo Shimizu on April 3, 2023, 08:11 am JST 桜の季節だ。 僕が一年で一番、好きな季節である。 この季節のために、僕は東京に住むことを選択したと言ってもいい。 桜の季節、別の言い方をすれば、花見の季節だ。 花見はいい。 下手すれば花なんかなくてもいい。 外で酒が飲める。 ・・・おもえば、それすらできないのがこの数年だった。 花見ができない間は、僕は毎年、近所の花屋で桜の木を買ってきて、家の中に飾って花見をしていた。 それくらいには、花見が好きである。 昨日も朝早くから代々木公園にでかけていって、場所取りをした。 午前六時の代々木公園は、場所取りの必要なんかないくらいに閑散としている。 だがそれがいい。 いつもの習慣が戻ってきているようだった。 レジャーシートを広げ、3coinsで買ってき

EUのAI規則案への批判 The criticism to EU's AI ACT 2023.04.03 Updated by Mayumi Tanimoto on April 3, 2023, 12:00 pm JST 前回、前々回と欧州連合（EU）の人工知能（AI）に関する規則案である「AI規則案」（AI Act）に関してご紹介しましたが、今回も続編です。 EUの「AI規則案」は前回までご紹介したように、非常に野心的な内容になっています。EUはグローバルに適用される規制を目指すと公言しており、アメリカと中国と真っ向から対決する姿勢です。しかし、この規制には問題点が多く、様々な批判が行われています。 最も重要な問題というのが、 AI が偏見を持ったアウトプットを行ってはならず ユーザーの不利益になってはならない という部分です。しかし、 何が偏見であり 何が不利益となるのか という点がは

欧州連合（EU）のAI規則案 EU's AI Act 2023.03.30 Updated by Mayumi Tanimoto on March 30, 2023, 12:00 pm JST 欧州連合（EU）の人工知能（AI）に関する規則案である「AI規則案」（AI Act）が議論になっています。 「AI規則案」は、基本的に、EU圏内に導入される、もしくは、「EU市民に影響を与える」「AIシステム」に対する規制で、政府にも民間にも適用されます。つまり、システムのアウトプットがEU圏内で使われるかどうかです。 あくまで、「EU圏内での導入」か「EU市民に影響を及ぼす」AIシステムであり、それがEU圏内で開発された製品か、海外のものかは問いません。「EU圏内のユーザーに影響を及ぼすかどうか」という点がポイントになるため、基本的にはGDPR（EU一般データ保護規則）の枠組みに似ているということ

米国の国家サイバーセキュリティ戦略とインフラとしてのオープンソース 2023.03.23 Updated by yomoyomo on March 23, 2023, 11:08 am JST 今回は、今月のはじめに米国のバイデン政権により発表された国家サイバーセキュリティ戦略（全文PDF、概要書）の話から始めたいと思います。 その冒頭で「サイバーセキュリティは、我々の経済の基本機能、重要インフラの運用、民主主義並びに民主的制度の強靭さ、データや通信のプライバシー、そして国家防衛に欠かせない」と宣言するバイデン政権は、国家サイバーセキュリティ戦略における5つの柱を掲げています。 重要なインフラの防衛 脅威アクターの妨害、解体 安全と回復力を推進する市場力形成 回復力のある未来への投資 共通の目標を達成する国際的パートナーシップの構築 注目すべきは、「重要なインフラの防衛」についての記述に顕

やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙 2023.03.16 Updated by Ryo Shimizu on March 16, 2023, 08:00 am JST 3月14日の早朝、GPT-4が公開され、筆者は早速試した。 その後、開けて3月15日の早朝、APIも部分的に解放され、筆者はそれも試した。 その上で、先週書いた記事の内容についての確信が深まった。 やはり、GPT-4は期待を超えてはこなかった。 GPT-4は、ChatGPT Plusに入会すると誰でもすぐに使うことができる。APIだけは招待制だが、それも筆者と同じくらいのタイミングでアンロックされた方も少なくないのではないか。 100倍規模のパラメータがあっても、アプローチには限界があるのである。 また、ChatGPTが注目を集めたことで、これまで下火になっていた他の大規模言語モデル(

GPTシリーズの限界と非連続的な進歩について 2023.02.28 Updated by Ryo Shimizu on February 28, 2023, 09:04 am JST 先日、秋葉原の3331で開催されたテクノエッジ主催イベントでは、StableDiffusionを開発したStability.AIのジェリー・チーさんと、THE GUILDの深津貴之さんと筆者の三人で鼎談した。 残念ながらイベントのアーカイブは残っておらず、80人の席は全て即完売。 改めて考えると、会場が小さすぎるしチケットが安すぎる。 まあそれはいいとして、懇親会ではTwitterやnoteでしか見たことがなかった生成AI業界のスターたちに挨拶できて非常に嬉しかった。 講演の感想をいただく中で、「Scaling Lawについての話が一番面白かった」と言われたので、昔もこの連載でとりあげた気がするが、再度この段