株式会社サイバーエージェント（本社：東京都渋谷区、代表取締役：藤田晋、東証プライム市場：証券コード4751）は、独自の日本語LLM（Large Language Model、大規模言語モデル）を開発したことをお知らせいたします。 本モデルはすでに130億パラメータまでの開発が完了しており、当社が提供する「極予測AI」「極予測TD」「極予測LP」などAIを活用した広告クリエイティブ制作領域のサービスにおいて活用を始めています。 近年、OpenAI社が開発した「ChatGPT」※1 を始めとする生成AI・LLMが世界的に注目を集めており、あらゆる業界において急速に活用が進んでいます。 一方、既存のLLMのほとんどは英語を中心に学習されており、現状では日本語および日本文化に強いLLMは少ない状況です。 このような背景のもと、このたび当社では日本語に特化した独自の大規模モデルを開発いたしました。当
LLMs The History of Chatbots ELIZA (1966) 初期の人工知能プログラムのひとつ。 ルールベースの簡単なパターンマッチングで返答していた。 心理療法士の会話を模したELIZA(DOCTOR)が有名。 PARRY (1972) PARRYは偏執病的統合失調症患者をシミュレートしようとしたもの。 ELIZA(DOCTOR)と通信し話題となった。 Jabberwacky (1982, 1988, 1997) ユーモラスな人間同士の自然な会話をシミュレートすることを目的としていた。 ユーザーとの会話の大規模なデータベースを構築し、言語と文脈を学習することができた。 プロジェクト自体は1982年から開始されていたが、当初は学習機能は有していなかった。 ローブナー賞を2005年(George)、2006年(Joan)に受賞している。 ローブナー賞(Loebner P
2021/10/22追記：最新版は下記記事になります！こちらもご一読くださいませ。 tech-blog.abeja.asia どうも、Tech Blog編集長(自称)の緒方(@conta_)です。 よくエンジニアの方にご質問いただく ABEJAってよく聞くけど、実際どんなことやってるのかよくわからない という点をクリアにするために、事業内容と技術視点でのABEJAの取り組みを紹介したいと思います。 ABEJAに興味のある方や、未来の一緒に働くメンバーに読んでいただけると嬉しいです！ 割とAIコンサルの会社と思われているらしいので、ちゃんとプロダクト作ってますよ！ということを伝えていきたい ABEJAの事業紹介 ABEJAは2012年から約7年間、機械学習・ネットワークやIoTデバイスを活用したプロダクトの研究・開発・運用を行っています。 様々な産業・業種へ機械学習の適用・運用を培ってきたナ
by WishItWas1984 全くプレイしたことがないゲームのプレイムービーを見た時に、頭の中で「自分がそのゲームをプレイするところ」を想像して、なんとなくプレイした気分になったことがある人もいるはず。それと同じように、AIに名作アクションゲーム「パックマン」のゲームプレイを視覚的に学習させることで、既存のゲームエンジンやコードを用意することなく、AIによるシミュレーションだけでパックマンを生成するという試みを、NVIDIAの研究チームが発表しました。 GameGAN https://nv-tlabs.github.io/gameGAN/ PAC-MAN Recreated with AI by NVIDIA Researchers | NVIDIA Blog https://blogs.nvidia.com/blog/2020/05/22/gamegan-research-pacma
Go で祝日判定をする github.com/soh335/shukujitsu を書きました - Nature Engineering Blog
こんにちは北原です。 Natureのバックエンドはおおよそ Go で書かれています。3月にリリースしたNatureスマート電気も同じく Go で実装されています。 energy.nature.global Natureスマート電気を作るにあたって、いわゆる営業日の計算をする必要があり*1、当時小さく、メンテナンスを自分でしていける Go のライブラリがなかったので github.com/soh335/shukujitsu というものを作りました。 github.com インターフェイスとしては与えられた日付が祝日かどうかを判定するもののみを提供しており非常にシンプルな作りになっています。 if shukujitsu.IsShukujitsu(time.Now()) { fmt.Println("shukujitsu!") } こちらは内閣府から提供されている csv データをもとに作成され
現在公開中のWindows 10プレビュー版Build 20161（Dev Channel）では、WSL2（Windows Subsystem for Linux 2）からNVIDIA GPUが利用できるようになった。 とはいえ、現状のWSL2自体にはグラフィックス描画機能はなく（XをWindows 10側に入れれば、WSL2側からGUIアプリケーションを起動できる）、GPUを使ってLinuxでゲームとはいかないのだが、GPUを計算に利用することができる。 マイクロソフトは、将来的にWSL2でのGUIアプリケーションのサポートを計画しており、これはその前段階になるものだ。どのような形でのサポートになるのかは不明だが、少なくとも、これでWSL2側からWindowsが管理しているGPUへのアクセスが可能になる。 特にメリットがあるのがDockerを使った開発やAI関連のコンテナーの利用である。
今回の対談で岸田首相は、日本にできるだけ多くのGPUの提供するよう要請し、フアン氏が応じたという。 対談後に首相官邸で行われた囲み取材の写真を各社が公開しており、革ジャン姿のフアン氏を確認できるが、「対談中も革ジャンだったのだろうか」と一部ネットユーザーの間で話題になっていた。 フアン氏は公に出る際、ほとんど黒の革ジャンを着ており、トレードマークになっている。ただ、11月21日に米サンフランシスコで行われた日米連携意見交換会では、スーツ姿で西村康稔経済産業大臣などと対面していた。このため、日本での首相会談はスーツを着るのか革ジャンなのかが一部で注目されていた。 関連記事 NVIDIAのファンCEOがCOMPUTEXで披露した生成AI関連製品まとめ NVIDIAは「COMPUTEX 2023」で、多数の生成AI関連製品を発表した。大容量AIスパコン「DGX GH200」やゲームキャラに命を吹
西川善司の3DGE：NVIDIAが投入する20 TFLOPS級の新GPU「A100」とはいったいどのようなGPUなのか？
西川善司の3DGE：NVIDIAが投入する20 TFLOPS級の新GPU「A100」とはいったいどのようなGPUなのか？ ライター：西川善司 カリフォルニア州の自宅で撮影したビデオで基調講演を行ったJensen Huang氏 去る2020年5月14日，NVIDIAは，同社CEOのJensen Huang氏によるオンライン基調講演で，新しい「Ampere」アーキテクチャ採用の新GPU「A100」を発表した。 Ampereとは，電流量の単位である「アンペア」の語源となったフランスの物理学者アンドレ＝マリ・アンペール（André-Marie Ampère）にちなんだ開発コードネームだ。NVIDIAは近年，新しいGPUアーキテクチャの開発コードネームに，歴史に名を残した科学者の名を採用している。GeForce RTX 20シリーズの「Turing」や，その前世代の「Volta」も同様だ。 SXM4
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 ドイツの研究機関CISPA Helmholtz Center for Information Securityに所属する研究者らが発表した論文「Prompt Stealing Attacks Against Text-to-Image Generation Models」は、テキストから画像を生成するモデルで生成した画像からテキストプロンプトを盗用する攻撃を提案した研究報告である。 Stable Diffusion、DALL-E 2、Midjourneyなどのテキストから画像を生成するモデルの登場以来、プロのアーティストに頼るのではなく、プロンプトと呼
サイバーエージェント（東京都渋谷区）は5月11日、独自の日本語LLM（Large Language Model、大規模言語モデル）を発表した。すでに130億パラメータまで開発が完了し、広告の制作などに活用を始めているという。 サイバーエージェントは「既存のLLMのほとんどは英語を中心に学習されており、現状では日本語および日本文化に強いLLMは少ない状況」と指摘。日本語に特化したLLMで「従来よりも自然な日本語の文章生成が可能になる」としている。 さらに「国内最大級のLLM開発」を目指し、米NVIDIAのAI開発に特化したスーパーコンピュータ「DGX H100」を国内で初めて導入したことも明らかにした。社内のAI研究開発組織「AI Lab」とプロダクト開発チームが研究開発を進め、今後は産学連携などの取り組みを通して「国内における事前言語処理技術の発展に貢献していく」としている。 大規模言語モ
進化が進む一方で、いろんな戦いも表面化していきそう。 OpenAIのChatGPTには、記事の執筆も（一応）頼めるし、｢クールなガチョウの子守唄を書いて｣なんて頼むこともできます。MidjourneyやStable Diffusion、DALL-E 2などなどの画像AIには、そんなガチョウの絵を描いてもらうこともできます。 でも、そこには倫理的な問題があります。AIがガチョウの絵本を描いてくれたとしても、絵本作家みたいな労力をまったくかけてないのに、普通にその本を売ってもいいんでしょうか？ その場合、著作権はどこに帰属すべきでしょうか？ AIを学習させるのに使われた絵本の著作権はどうなるんでしょうか？ とはいえ、技術は急速に進化していても、今のところ生成系AIだけで売り物にしていいようなものをコンスタントに作れるかっていうと、それはまだです。でも、それを乗り越えるのがまだまだ先なのかもうす
『NVLink Bridgeで複数GPUを繋いだら、それらが1GPUとして扱えるようになるんでしょ？』という誤解をされているお客様をしばしばお見受けいたします。こちらの記事では、それが誤解であること、また、SLIやUnified Memoryといった関連する情報についても整理して解説いたします。間違った期待を抱いて失敗しないように、正しい理解を深めていきましょう。 GPUのメモリ空間は他デバイスから隔絶されています GPU上には演算するためのプロセッサと、データを一時的に置いておくためのメモリ(VRAM)が搭載されています。GPUのメモリを、CUDAで書かれたプログラムから利用するには、cudaMallocでメモリ領域を確保し、cudaMemcpyを使ってホスト(CPU側)のメモリとデータの送受信を行い、GPU上で演算kernelとする関数（以下、GPU-Kernel）を呼び出し、最後にc
プラットフォームに搭載する「GB200 Grace Blackwell Superchip」は、新GPU「B200」（2080億個のトランジスタを搭載し、現行の「H100」と比較して、AI向けの作業で5倍の処理能力を発揮するGPU）を2基と1基のGrace CPUを組み合わせたもの。 NVIDIAによると、1兆8000億パラメータのAIモデルをトレーニングするには、Hopper GPUでは8000個のGPUで15メガワットの電力が必要だったが、新スーパーチップであれば2000個で可能で、消費電力は4メガワットで済むという。 NVIDIAはGB200を、水冷ラックスケールシステム「NVL72」などで提供する。これは第5世代NVLinkで接続された72個のBlackwel GPUと36個のGrace CPUを含む36個のGrace Blackwellスーパーチップを搭載する。 Blackwel
自社における日本語LLMの開発について発表したのは、株式会社サイバーエージェントの石上亮介氏。Weights & Biasesのユーザーカンファレンス「W＆Bカンファレンス」で、開発において得た知見や課題、Weights & Biasesの活用法について話しました。 登壇者の自己紹介とアジェンダの紹介 石上亮介氏：それではサイバーエージェントの石上から、「CyberAgentにおける日本語LLMの開発」というタイトルで発表いたします。 あらためまして自己紹介ですが、私は石上と申します。現在は、サイバーエージェントの基盤モデルプロジェクトのリードを担当しています。 基盤モデルというのは、大規模なAIでさまざまなタスクがこなせるという、いわゆるすごいAIなんですね。今日は特にLLMですね。大規模言語モデルについて、どういう取り組みをしているかをお話しいたします。 サイバーエージェントのLLMの
ソフトバンクは10月31日、「国内最大級」（同社）の生成AI開発用計算基盤の稼働を始めたと発表した。新設したAI子会社「SB Intuitions」とともに活用し、2024年内に3500億パラメーターの国産LLMの構築を目指す。大学や研究機関、企業などに提供する計画もあるという。 計算基盤は、AI向けスーパーコンピュータ「NVIDIA DGX SuperPOD」と、AIソフトウェアスイート「NVIDIA AI Enterprise」、NVIDIAのネットワーキングで構成された大規模クラスタで、「国内最大級の計算基盤」という。伊藤忠テクノソリューションズの協力を得て構築を進めた。 「ソフトバンクが日本語のデータセットを活用した高品質な国産LLMを開発することで、日本の商習慣や文化に適した生成AIサービスの提供を実現する」としている。 まずソフトバンクとSB Intuitionsで段階的に利用
CPU・GPU・TPUをワンチップで担う「Tachyum Prodigy」のCPUスペックが明らかに、最大クロック周波数5.7GHz・128コア・TDP 950Wのモンスタースペック
半導体企業のTachyumが、CPU・GPU・TPUの機能を単一のアーキテクチャに統合したチップ「Prodigy」を発表しました。ProdigyのCPUスペックは最大128コア、動作周波数は5.7GHz、16チャネルDDR5メモリ、TDPは950Wとなっており、テクノロジーメディアのWccftechは「非常識なスペック」と評しています。 Tachyum's Prodigy CPU Specs Unveiled: 5nm Universal Processors With Up To 128 Cores, 5.7 GHz Clocks, 16-Channel DDR5-7200 Memory Support & 950W TDP https://wccftech.com/tachyums-prodigy-cpu-specs-unveiled-5nm-universal-processors-
【米国株】ダウは上昇もNASDAQは下落。警戒感が高い相場に。NIOが販売台数増加と投資基準引き上げで大幅上昇。 - ウミノマトリクス
米国株市場の状況の振り返りと私見をまとめていきたいと思います。 昨晩の市場は雇用統計や今後控えている経済指標の結果待ちということもあり冴えない展開で警戒感が非常に強く思えました。 【米国株】ダウは上昇もNASDAQは下落。警戒感が高い相場に。NIOが販売台数増加と投資基準引き上げで大幅上昇。 *1 毎日レバナスとレバFANGに積立しグロース株中心に投資をしているサラリーマン投資家のうみひろ（@uminoxhiro)です。 ブログを読みに来てくださってありがとうございます。 昨晩の米国株市場の振り返りを今日も行っていきます。 今日も成績に左右されないで元気にいくわよ そうだね！では、まずは結論からまとめていきます。 【今日の結論】チェックポイント チェックポイント ダウは好調も、NASDAQ、S&P500は僅かですがマイナスとなっています。 小型株のラッセルは強く上昇しています。 私のポート
Microsoftは2019年から社内で独自のAIチップ「Athena」を開発しておりOpenAIの大規模言語モデルで既にテスト中
Microsoftは2019年頃からChatGPTやGPT-4のような大規模言語モデル(LLM)のトレーニングに使用できるAIチップの開発に取り組んでいると、The Informationが報じています。報道によると、MicrosoftとOpenAIの一部の従業員は開発中のAIチップを用いてLLMのパフォーマンスを既にテストしているそうです。 Microsoft Readies AI Chip as Machine Learning Costs Surge — The Information https://www.theinformation.com/articles/microsoft-readies-ai-chip-as-machine-learning-costs-surge Microsoft Building Its Own AI Chip on TSMC's 5nm Proc
サイバーエージェントの生成AI開発を支える機械学習基盤 | CyberAgent Developers Blog
この記事は CyberAgent Developers Advent Calendar 2023 12日目の記事です。 はじめに CIU (CyberAgent group Infrastructure Unit) の西北（@nishi_network）です。 普段はプライベートクラウド (Cycloud) や機械学習基盤の運用、それに伴う開発業務に従事しています。 今回は、サイバーエージェントの生成AI開発を支える裏側にフォーカスを当て、機械学習基盤の設計や運用、また最新のNVIDIA H100 機械学習基盤構築プロジェクトの裏側について紹介していきます。 サイバーエージェントの機械学習基盤 サイバーエージェントでは、社内向けにAI用途向け機械学習基盤をパブリッククラウド環境だけではなくオンプレミス環境でも運用しています。これらは全社組織であるCIUが運用しており、データセンターの運用か
【米国株】2022年は全面高でスタート！ダウとS＆P500は最高値更新！テスラは13％上昇、アップルは300兆円企業へ！ - ウミノマトリクス
米国株市場の状況の振り返りと私見をまとめていきたいと思います。 米国株市場は全面高で、ダウとS＆P500は最高値更新しています。 *1 毎日レバナスとレバFANGに積立しグロース株中心に投資をしているサラリーマン投資家のうみひろ（@uminoxhiro)です。現在個別株で一番比率が高い銘柄はパランティア【PLTR】です。 ブログを読みに来てくださってありがとうございます。 昨晩の米国株市場の振り返りを今日も行っていきます。 今回の記事も成績に左右されないで元気にいくわよ そうだね！では、まずは結論からまとめていきます。 【今日の結論】チェックポイント チェックポイント【結論】 【主要指数】ダウとS＆P500は最高値を更新して2022年をスタートしています。オミクロン株の感染者数は増えているものの重症者リスクが低いという市場の判断もありリスクオンとなっています。アップルが大幅上昇し300兆円
NVIDIA製を“28倍”効率化 生成AI時代のゲームチェンジャー「サンバノバ」の正体：「サンバノバ」の正体【前編】（1/2 ページ） 2022年末のChatGPTの“衝撃”以降、さまざまな企業が生成AIの開発に注力している。ソフトバンクも、英アーム社をはじめ海外企業と協働しながら、開発を進めている。 それを支える企業の一つが、米シリコンバレーに拠点を置くSambaNova Systems（サンバノバシステムズ）だ。サンバノバでは、AIに強いプロセッサーを開発しており、市場の大部分を占めるNVIDIA製のチップに代わるものとして期待が集まっている。 特にサンバノバの最新製品「SN40L」は、NVIDIA製の「DGX H100」と比較して28倍低いTCO（総保有コスト、Total Cost of Ownership）を実現し、企業にとって低コスト化を実現するものとしている。 生成AI時代を迎
衝撃の｢NVIDIA、通信業界に“再参入”｣。KDDIとSBが採用表明した“ソフトウェア化する5G基地局”とは
MWC Los Angels 2019の一番最初の公式イベントになったNVIDIA基調講演でフアン氏は｢EGX｣と呼ばれる新しいサーバー製品群を発表した。 従来、NVIDIAがディープラーニング（深層学習）の学習処理をするデータセンター向けに｢DGX｣と名付けたGPUサーバーを販売してきた。現在IT業界では、｢エッジコンピューティング｣（※）という新しい手法が注目を集めている。EGXはそうしたエッジコンピューティング用のサーバーとして販売されることになる。 ※エッジコンピューティング：エッジ（スマートフォンなど実際の利用者）に近いところに、クラウドとエッジの間を補うサーバーなどを設置する分散型コンピューティングの手法のこと NVIDIAの強みは、AIプログラムの開発手法として注目を集めるディープラーニングの学習用のプロセッサーとして、同社が販売するGPUが市場シェアほぼ100%に近い状態に
【米国株投資】米国株は全面高！ショートカバーなどで中小型株も満遍なく上がるも、ディズニーは決算ミスし下がってしまう。 - ウミノマトリクス
昨晩の米国株市場の状況の振り返りと私見をまとめていきたいと思います。 【米国株投資】米国株は全面高！中小型株も満遍なく上がるも、ディズニーは決算ミスし下がってしまう。 レバナスとレバFANG中心に投資をしているサラリーマン投資家のうみひろ（@uminoxhiro)です。昨日は全面高で大幅に反発しています。 今日も張り切っていくわよ！ そうだね！では、まずは結論からまとめていきます。 チェックポイント チェックポイント 3指数とも大幅な上昇で全面高の日となりました。数日下げていたNASDAQも勢いを戻しています。 アメリカ小売売上高が発表されており、4月も個人消費が引き続き好調さを見せています。 金利に関しては若干の下げでしたが今日はほぼ影響なかったと言えます。また恐怖指数も大幅に下落しています。 バリュー株よりグロース株のほうが今日は伸びています。 セクターで言えば、仮想通貨銘柄・ARK系
【米国株】全面安！ダウは2％の下げ。コロナの再拡大の懸念で大きく売られる展開。ワクチン銘柄が上昇。インドのHDFC銀行は決算で予想下回り大幅下落。 - ウミノマトリクス
米国株市場の状況の振り返りと私見をまとめていきたいと思います。 バリュー株を中心に売られ全面安となっています。デルタ株によるコロナの再拡大が世界経済の重しになっています。 *1 毎日レバナスとレバFANGに積立しグロース株中心に投資をしているサラリーマン投資家のうみひろ（@uminoxhiro)です。 ブログを読みに来てくださってありがとうございます。 昨晩の米国株市場の振り返りを今日も行っていきます。 今日も成績に左右されないで元気にいくわよ そうだね！では、まずは結論からまとめていきます。 【今日の結論】チェックポイント チェックポイント【結論】 【主要指数】3指数とも下落。最高値圏で推移していたため警戒感もありました。そんな中新型コロナのデルタ株の感染拡大が世界的な景気悪化となるとの不安から株価は非常に重かったです。 【VIX】投資家の不安心理を示すVIX指数は22.5％も上がってい
【米国株】ダウ、S&P500が5日連続の最高値更新！弱い中国株、アフガンもお構いなし。 テスラが自動運転の調査で大幅下落。 - ウミノマトリクス
米国株市場の状況の振り返りと私見をまとめていきたいと思います。 寄り付きはパニック売も予想され軟調でしたが終わってみればダウ、S&P500は5日連続の最高値更新に終わっています。 ダウ、S&P500が5日連続の最高値更新！ 弱い中国株、アフガンもお構いなし。 テスラが自動運転の調査で大幅下落。 *1 毎日レバナスとレバFANGに積立しグロース株中心に投資をしているサラリーマン投資家のうみひろ（@uminoxhiro)です。 ブログを読みに来てくださってありがとうございます。 昨晩の米国株市場の振り返りを今日も行っていきます。 今日も成績に左右されないで元気にいくわよ そうだね！では、まずは結論からまとめていきます。 【今日の結論】チェックポイント チェックポイント【結論】 【主要指数】ダウ、S&P500は5日連続の続伸となり最高値を更新し続けています。NASDAQは軟調なもののアメリカ市場
現地時間2020年7月21日、NVIDIAとフロリダ大学が官民パートナーシップを締結して7000万ドル(約75億円)の投資を行い、2021年初頭までに世界最速となる700ペタFLOPSのAIスーパーコンピューターを共同開発すると発表しました。 University of Florida, NVIDIA to Build Fastest AI Supercomputer in Academia | The Official NVIDIA Blog https://blogs.nvidia.com/blog/2020/07/21/university-of-florida-nvidia-ai-supercomputer/ UF Announces $70 Million Artificial Intelligence Partnership with NVIDIA - News - Unive
この記事でやること この記事ではcolab上で生成したweightsを用いて、Jetsonで走らせるところまでやります。 YOLOのオリジナルモデルの作成方法については過去の記事を参考にしてください。 https://qiita.com/tayutayufk/items/4e5e35822edc5fda60ca https://qiita.com/tayutayufk/items/4dba4087e6f06fec338b Jetson Nanoの用意 前提としてJetsonにはJetCardをインストールしておいてください。 最初にOpenCVのダウンロードから行っていきます。 https://qiita.com/usk81/items/98e54e2463e9d8a11415 このサイトを参考に導入してください。 自分は/home/"ユーザーネーム"/Lib/以下にクローン＆ビルドしまし
半導体メーカーであり人工知能(AI)技術の開発も行うNVIDIAが、人間の声と聞き間違うレベルで自然に発話可能なAIを開発中であることを、音声処理関連の技術カンファレンスであるINTERSPEECH 2021で発表しました。 NVIDIA Shares Speech Synthesis Research at Interspeech | NVIDIA Blog https://blogs.nvidia.com/blog/2021/08/31/conversational-ai-research-speech-synthesis-interspeech/ 合成音声は、自動案内サービスの音声や昔のカーナビの案内では機械的だったのが、スマートフォンやスマートスピーカーに搭載されたバーチャルアシスタントではかなり人間らしく洗練されたものに進化しました。 それでも、依然として実際の人間による会話の音
【ニューヨーク=弓真名】米国でアナログレコードの人気が沸騰している。2022年の販売枚数は4100万枚と1987年以来初めてCDを上回った。ストリーミングサービスが主流となるなかで、懐かしさや雰囲気を追求する若者のあいだでアナログとデジタルを組み合わせた音楽鑑賞のスタイルが確立されつつある。全米レコード協会（RIAA）が9日に公表した資料によると、22年のレコードの販売枚数は前年比3%増の41
米Metaは5月18日（現地時間）、FacebookやInstagram、メタバースにおけるAI体験強化に向けた「次世代インフラ」について発表した。 AIトレーニング高速化のためのチップ「MTIA」 MTIA（Meta Training and Inference Accelerator）は、AIによるレコメンデーションシステムを強化し、ユーザーのフィード上に表示する最適なコンテンツをより迅速に見つけられるように設計された第1世代のカスタムチップ。ASIC（特定用途向け集積回路）で、複数のタスクを並行して実行するようにプログラムできる。2025年リリースの予定だ。 動画処理向けチップ「MSVP」 Meta Scalable Video Processor（MSVP）は、VOD（ビデオオンデマンド）やライブストリーミングの処理ニーズに合わせて設計したASIC。 多様な端末上のFacebook
NVIDIAが｢Grace｣というCPUを発表した。2020年NVIDIAとソフトバンクが合意した、｢ソフトバンクが持つArm社の株式をNVIDIAに売却する｣というスキームの効果が早くも出てきた形だ。 Graceは、Armが設計する次世代のNeoverse（ネオバース）というCPUのIPデザイン（半導体の設計図）を採用し、次世代Neoverseコアを複数内蔵するCPUになる。 このArmアーキテクチャのCPU製品が発表されたこと自体は既定路線であり、何も驚くべき事ではない。 そもそもNVIDIAは、Arm CPUを既に10年以上前から販売している。具体的には、同社がスマートフォンやタブレット向けにかつて販売していた｢Tegra｣、そして現在自動車向けに販売している｢DRIVE｣シリーズは、ArmベースのCPUを内蔵している。 だから、｢データセンター向けにArm CPUを投入する｣という
AIの学習には、非常に多くのコンピューティング・パワーとエネルギーが必要となる。そのため、この処理にはNVIDIA のDGX-1のような機械学習用サーバーが用いられる。だが、今回ノースウェスタン大学の研究者らが『Nature Electronics』誌に発表した研究において紹介されているナノ電子デバイスは、現在の技術の100倍少ないエネルギーで、大量のデータを解析し、解析のためにデータをクラウドに転送することなく、リアルタイムで人工知能（AI）タスクを実行することを可能にするという。 ノースウェスタン大学の研究者らが開発したナノ電子デバイスは、多くの機械学習システムのバックボーンである分類（大量のデータを分析し、重要なビットにラベルを付けること）のタスクを実行するように設計されている。 「今日、ほとんどのセンサーはデータを収集し、それをクラウドに送信し、そこでエネルギー消費の激しいサーバー
【米国株投資】市場は軟調。インフレ警戒で全体的には下げ。AT&Tがディスカバリーと新会社設立も引けにかけて下がっていく - ウミノマトリクス
昨晩の米国株市場の状況の振り返りと私見をまとめていきたいと思います。 【米国株投資】市場は軟調。インフレ警戒で全体的には下げ。AT&Tがディスカバリーと新会社設立も引けにかけて下がっていく レバナスとレバFANG中心に投資をしているサラリーマン投資家のうみひろ（@uminoxhiro)です。全体的に軟調な動きとなっています。 今日も張り切っていくわよ！ そうだね！では、まずは結論からまとめていきます。 チェックポイント チェックポイント 全体的には軟調で、3指数とも若干の下げで終わっています。 一部小型株の調子の良かった銘柄も有りラッセルは少しだけ上がっています。 私のポートフォリオは金曜日の上げがあり上昇しています。（うれしい） ニューヨーク連銀製造業景況指数が発表されましたが相場には影響はあまりなかったと思われます。4月よりも低下していたものの景気は拡大傾向にあります。 エネルギーと航
【米国株】市場は全面高でNASDAQも6日ぶりに反発！メルクがコロナ治療薬の申請でセンチメント改善。モデルナなどワクチン銘柄は大幅下落。 - ウミノマトリクス
米国株市場の状況の振り返りと私見をまとめていきたいと思います。 米国株市場は10月の初日は大反発となり全面高となっています。 *1 毎日レバナスとレバFANGに積立しグロース株中心に投資をしているサラリーマン投資家のうみひろ（@uminoxhiro)です。現在個別株で一番比率が高い銘柄はパランティア【PLTR】です。 ブログを読みに来てくださってありがとうございます。 昨晩の米国株市場の振り返りを今日も行っていきます。 今回の記事も成績に左右されないで元気にいくわよ そうだね！では、まずは結論からまとめていきます。 【今日の結論】チェックポイント チェックポイント【結論】 【主要指数】主要銘柄は軒並み上昇し、全面高となっています。9月の下旬からの下落にかけての反発だと見られています。さらにメルクがコロナの治療薬の緊急使用を申請したこと市場のセンチメントを押し上げています。（他のワクチン銘柄
インターン参加記 ～GPUクラスタ管理者への道～ - NTT Communications Engineers' Blog
はじめに こんにちは！イノベーションセンターテクノロジー部門 GPU-K8s Projectに二週間、インターン参加させていただいた石本直也と申します。 大学院では、WebAssemblyに関するObservabilityについて研究をしています。 今回の職場体験型インターンシップでは「モダンなICTインフラを支える技術の検証・開発（クラウド, コンテナ or データ基盤領域）」をテーマとして以下のことに取り組みました。 GPU ServerのWorker Nodeとしての設定(cuda,containerd,NVIDIA Container Toolkit) K8sクラスタへのGPU Worker Node追加 Ansibleでのセッティングの自動化 参考：職場体験型インターンシップとは？ ドコモが仕掛ける数多くの事業の中から厳選したポストにて、実務を体験していただきます。 業務体験を通
はじめに 学習用AIチップをTSMC 7nmで開発するには、100億円必要だよね。とお話したのが2017年頃 TensorFlow XLAの可能性, Deep Learning Acceleration 勉強会(2017.09.03 TensorFlow XLA とハードウェア, 2017年9月30日(土)のChainer Meetup #6 ざっと、6年前。この頃はまだ 7nm でチップが出てきてない時です。 その後、AI Cloud学習用スタートアップが何社立ち上がります。AI Cloud学習用スタットアップでは、7nmではなく、16nmで最初のチップ(Graphcore、Cerebras)を開発していきます。その後、チップが出来上がり、システムとして組み上げ、量産し、販売するまでに200-300億円ぐらい必要になることがわかりました。 TSMC 7nmを使って、NVIDIAのA100
【米国株】3指数とも下落！特にハイテク、小型は大きく売られる。消費者物価指数が上昇し、金利が大幅上昇！EVのリビアンがIPOしフォードやGMの時価総額を超える！ - ウミノマトリクス
米国株市場の状況の振り返りと私見をまとめていきたいと思います。 3指数とも下落しており、金利の急上昇もあり特に小型株、ハイテク株を中心に売られています。 *1 毎日レバナスとレバFANGに積立しグロース株中心に投資をしているサラリーマン投資家のうみひろ（@uminoxhiro)です。現在個別株で一番比率が高い銘柄はパランティア【PLTR】です。 ブログを読みに来てくださってありがとうございます。 昨晩の米国株市場の振り返りを今日も行っていきます。 今回の記事も成績に左右されないで元気にいくわよ そうだね！では、まずは結論からまとめていきます。 【今日の結論】チェックポイント チェックポイント【結論】 【主要指数】3指数とも下落しています。消費者物価指数が予想よりもあがっていることで、金利が急上昇しました。その影響もあり小型株やハイテクが売られる結果となっています。 【小型株】小型株で構成さ
あけましておめでとうございます。今回は2024年のUbuntuと題して「今後のUbuntuはどのように変化していくか」を中心にした、Ubuntuに関わるある種の未来予測（与太話ともいう）をお届けします。 Ubuntu 24.04 LTS まず2024年のUbuntuに訪れる変化としては、“Noble Numbat”、Ubuntu 24.04 LTSです。現時点ではまだ「どのような姿になるのか」という部分は見えきっていないものの、デスクトップ周りの更新が行われ、そして新インストーラーやツール、新しいソフトウェアセンターを搭載した最初のLTSリリースとなります。既存のリリースの延長線上にある「この2年間の集大成」という位置づけとなるでしょう。 新インストーラーや各種ツールはFlutterをベースとしたものでの「作り直し」が進められています。またカーネル側でもRustの活躍の空間が広がると
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
サイバーエージェント、独自の日本語LLM（大規模言語モデル）を開発 ―自然な日本語の文章生成を実現―
歴代チャットボットと最近のLLMのまとめ - Qiita
ABEJAの技術スタックを公開します (2019年11月版) - ABEJA Tech Blog
NVIDIAのAIが5万本のプレイ動画を見ただけで「パックマン」をゲームエンジンなしに再現
NVIDIA、1EFLOPSの性能で生成AI/LLM処理を加速する「DGX GH200」
Windows 10のWSL2からGPUが使えるようになった (1/2)
“いつも革ジャン”NVIDIAのCEO、岸田首相との面会も革ジャンだった 取材で確認
画像生成AIの「高品質なプロンプト」を0.01秒で盗むサイバー攻撃 ドイツの研究機関が発表
“和製GPT”競争勃発か サイバーエージェント、独自の日本語LLM発表 「活用を始めている」
ChatGPTやらMidjourney…生成系AIって今年どうなる？
NVLink BridgeでGPUを繋いでも1GPUにはなりません | HPCシステムズ Tech Blog
NVIDIA、GPUプラットフォーム「Blackwell」発表 「兆パラメータ規模のAIモデル実現」
サイバーエージェントが手がける日本語LLM開発 MLエンジニアが語る「Weights & Biases」の活用
ソフトバンク、3500億パラメーターの国産LLM構築へ 「国内最大級」生成AI計算基盤、稼働スタート
NVIDIA製を“28倍”効率化 生成AI時代のゲームチェンジャー「サンバノバ」の正体
【笠原一輝のユビキタス情報局】 AMDのInstinct MI300が「NVIDIA DGXキラー」になる可能性
700ペタFLOPSのAIスーパーコンピュータをNVIDIAとフロリダ大学が共同開発すると発表
Jetson NanoでオリジナルYOLOを動かす - Qiita
まるで本物の人間のように表現力豊かに発話できるAIをNVIDIAが開発中
米国でレコード人気、CDの販売枚数上回る 35年ぶり - 日本経済新聞
Meta、AI強化に向けた自社開発のAIチップ、スパコン、データセンター、生成AIアシスタントを発表
AI時代の覇者NVIDIAの新Arm CPUが単なる｢インテル対抗｣ではない理由
新たな超高率機械学習トランジスタがAIのエネルギー消費量を99％削減する | TEXAL
LLMで勝負するには、1000億円必要か？ - Vengineerの戯言
新春特別企画・2024年のUbuntu | gihyo.jp