マイクロソフトは今年、800億ドル（約12兆1200億円）を人工知能（ＡＩ）に投じ、業界リーダーの地位を確保する意気込みだ。そのマイクロソフトが最近、「ChatGPT（チャットＧＰＴ）」のような生成ＡＩを使う労働者の間で批判的思考能力が低下しているとの調査論文を発表した。なぜマイクロソフトなのか、という疑問が生じる。単に純粋な意味での科学的探求だという解釈はあり得るかもしれない。しかしマイクロソフトは恐らく、ＡＩが特定の職業を不要なものにする波乱を先回りし、それでもＡＩはビジネスに有益だと証明したかったのではないだろうか。大手ハイテク企業がＡＩモデルの規模拡大を競う現在、マイクロソフトの姿勢は業界のビジネスモデルと社会的影響の両方において、配慮のあるアプローチとして新鮮にさえ思われる。 この論文がまとめたカーネギー・メロン大学との共同研究では、319人の頭脳労働者を対象にＡＩの利用方法を調

当ウェブサイトでは、お客様のウェブ体験向上のためクッキーを使用します。また、広告と分析の用途でサードパーティークッキーにも情報を提供しています。詳細は プライバシーポリシー をご参照ください。

監訳　キヤノングローバル戦略研究所　研究主幹　杉山大志　　　　訳　木村史子 本稿はマーク・P・ミルズ　https://www.city-journal.org/article/the-longshoremens-strike-and-the-great-inversion City Journal 2024.10.8 を許可を得て邦訳したものである。 国際港湾労組のストライキがすぐに和解に至ったことは、私たちは大逆転への一歩を目撃していることを示すものだ。熟練工や準熟練工が、ほとんどの大卒者よりも高い平均賃金を得る、という未来が訪れつつある。そして大卒者は――理系（STEM）分野における学位取得者はわずか10％しかいないが――大卒者になることで、かえって将来の所得が減るという問題を抱えることになる。(もちろん、そもそも大学教育は、単に収入を最大化するためだけのものではないはずだが）。 港湾

コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕

どうも昨年末にあちこちで多重共線性についての議論がなされていたようなんですが、些事にかまけていた僕はすっかりそのウェーブに乗り損ねてしまっていたのでした。そこで、今年最初の記事では遅ればせながらそのウェーブに乗る形で、また今までに学んだり調べてきたりしてきたことの備忘録も兼ねて、多重共線性についてまとめてみようと思います。 多重共線性とは 「予測」が目的なら多重共線性があっても問題ではない 「説明」が目的なら多重共線性に対処する必要があるケース「も」ある 実務における多重共線性への対処法 最後に 多重共線性とは このブログの読者の皆様なら多重共線性が何であるかはご存知かと思いますが、一応簡単な例だけ挙げておきます。ここではサンプルデータとしてBoston Housingを使います*1。 オールドタイプなコーディングで恐縮ですが、Rで適当に前処理した上で線形回帰するとこんな感じになります。

Alejandro Ballesta RosenSolutions Architect, Google ※この投稿は米国時間 2024 年 12 月 4 日に、Google Cloud blog に投稿されたものの抄訳です。 あらゆる業界の企業が、業務をリアルタイムで明確に把握するために AI に目を向けています。多忙な工場、混雑した店舗、活気のある飲食店の厨房などにおいて、業務環境をモニタリングできる機能があれば、企業はより先を見越した対応が可能になり、最終的には業務効率の向上につなげることができます。 Gemini 1.5 Pro は、長いコンテキスト ウィンドウとマルチモーダル機能を備えており、在庫管理から安全性評価に至るまで、さまざまな作業を自動化することで業務効率を向上させることができます。デベロッパーにとっての強力なユースケースの一つとして、多忙な飲食店に向けた AI を活用し

2025年は本当に「AIエージェント」の年になるのか？…直近の調査から見えてくる“働くAI”の「意外な事実」 「Siri」「Alexa」との違い 本来、広い意味でのAIエージェントにはアップルの音声アシスタント「Siri」やアマゾンの「Alexa」など、従来のスマホや先端的な家電製品に搭載されてきた音声アシスタントなども含まれる。 また自動運転車やヒューマノイド（人型ロボット）なども、自らに搭載されたAIによって、ある程度自律的に仕事をするという点では、AIエージェントの一種と見ることもできる。 しかし最近IT業界で話題に上っているAIエージェントは、むしろOpenAIのGPT-4oやグーグルのGeminiなどLLM（大規模言語モデル）をベースとする次世代版「働くAI」のことだ。 たとえば米グーグルが昨年12月に発表した「Mariner」や、米アンソロピックが昨年9月にリリースした「Cla

2024年はChatGPTなどチャットAIのマルチモーダル化が進み、自律型AIエージェントも脚光を浴びました。2025年はどう進化し、社会に何をもたらすのか？　本稿では最新動向を踏まえ、8つの予測を紹介します。 連載目次 2024年も＠ITのDeep Insiderフォーラム【AI・データサイエンスの学びをここから】をご愛読くださった皆さま、ありがとうございました。年末年始恒例の「来年のAI動向」の予測を、今年もお届けします。 昨年は「より高性能な生成AIが続々と登場」と予測しましたが、OpenAI（ChatGPT）の推論モデル「o1」やGoogle「Gemini 2.0」など、多数の新モデルが登場して話題になりました。RAG（検索拡張生成）の普及からAIエージェントの流行までトレンドも移り変わり、「AI界隈（かいわい）は激動の1年だった」と言えますよね。 さて、2025年はどうなるのでし

はじめに 2024年のAI界隈では「RAG」が一巡し、その可能性と限界が明確になってきました。最も顕著な点は「RAGは魔法の杖ではない」という認識の広がりではないでしょうか？ RAGは確かに、既存の文書やデータを活用したAIの応答精度向上に貢献してきました。しかし、単純な質問応答を超えた複雑なタスクの実行や、動的な状況への適応には限界があることも明らかになっています。この限界を超えるための次のステップとして注目を集めているのが「AIエージェント」です。 OpenAIのCEOであるサム・アルトマンが「次のブレークスルーはエージェントだ」と発言していたり Anthropic社員がこのようなスピーチをしたりしています。 AIエージェントとは AIエージェントは、特定のタスクや目的のために設計された自律的なAIシステムです。たとえば、会議の参加者の予定を自動で調整して最適な時間を設定するAIアシス

AIがコードを書いてくれる画期的なツール、GitHub Copilotをご存知ですか？ 私は2024年1月から使い始めましたが、驚くほど便利です。GitHub Copilotは、自然言語による指示やコードの一部を入力するだけで、目的のコードを生成してくれます。そして、エディタ上で、すぐに反映できるので、開発をとてもスムーズに行うことができます。 私は、GitHub Copilotのおかげで、小規模ながらも個人のOSS(オープンソースソフトウェア)開発にチャレンジすることができました。効率よく開発ができたのは言うまでもありませんが、Copilotが提案するコードから多くのことを学びました。そして、何より、楽しくコーディングでき、モノづくりに集中することができました！ このブログでは、GitHub Copilotが初めてという方のために使い方の基本や便利な使い方を図解と例を交えながら丁寧に説明

いまさら聞けない！LLMを最適化する鍵、Scaling Law（スケーリング則）徹底解説【学習ソースあり】 AI技術の最前線を行く大規模モデルの開発では、「スケーリング則」がキーワードになっています。しかし、この法則を理解し活用するには、誤解を避け、正確な知識を身につけることが不可欠です。そこで、この記事ではスケーリング則の基本から応用、よくある誤解、そして計算方法に至るまで、一貫した解説を行います。 スケーリング則とは何か？スケーリング則は、大規模な機械学習モデルにおいて、モデルのサイズ、データ量、計算リソースの増加が性能にどのように影響するかを定量的に示します。 基本概念：モデルのサイズやデータ量が増えるほど性能が向上するが、その向上率は徐々に鈍化します。 性能向上の限界：無限のリソース投入が無限の性能向上を意味するわけではない。 スケーリング則の誤解を解くスケーリング則には、多くの誤

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに この記事では、巷で「この技術によりGPUが不要になるかもしれない、NVIDIAなどの半導体関係の株価が...」と話題になっている、BitNet b1.58についての論文を丁寧に解説します。このMicrosoftが先日発表したBitNet b1.58はそのエネルギー効率の凄まじさから2024年初めの大きな技術改革となるかもしれません！！ 筆者の見解 関する論文解説に入る前に、この技術に関する私の個人的な意見を述べたいと思います。 1bitの技術を用いることで達成されたその驚異的なエネルギー効率の高さは、既存の大規模言語モデル（L

はじめに BitNet、最近話題になっていますね。 そもそも量子化って何？という方もいると思うので、この記事は DeepLearning の量子化から入り、その上で BitNet の触りについて見ていこうと思います。色々とわかってないことがあり、誤読してそうなところはそう書いてるのでご了承ください。 図を作るのは面倒だったので、様々な偉大な先人様方の図やスライドを引用させていただきます。 量子化 DeepLearning における量子化 DeepLearning の学習・推論は基本 float32 で行います。これを int8 や Nbit に離散化することを量子化といいます。 計算に使う値は、モデルの重み、アクティベーション（ReLUとか通した後）、重みの勾配等があります。 学習時については一旦置いておいて、この記事では推論における量子化について焦点をあてます。推論時に量子化の対象となる

X (Twitter)を眺めていたら、面白そうな論文が流れてきました。それがこちらです。 実際に流れてきたのはこちらの紹介記事なんですが、その要約を読んだ限りでもなかなかに興味深い現象であるように思われます。 ということで、何番煎じかもはや分かりませんがこのブログでも備忘録的に取り上げてみようと思います。が、ただそれだけでは面白くないので、この論文を読んで僕が個人的に考えた「現実のヒトの脳との関連性」についても論じてみることにします。 論文の概要 LLMの"Super Weights"の役割 "Super Weights"はデータ入力をせずとも特定できる "Super Weights"がLLMの量子化に果たす意義 現実のヒトの脳との比較 マクロに見れば「似ている」 知覚・認知機能に絞って見れば「異なる」 コメントなど 論文の概要 基本的には冒頭にリンクしたまとめ記事でも紹介されている通りで