Cloud Run（フルマネージド）でリクエスト外に処理をすると200倍遅くなる - orangain flavor
はじめに Cloud Runはサーバーレスなコンテナ実行基盤です。この記事ではフルマネージド版のCloud Runのみを対象とし、フルマネージド版のCloud Runを指して、単にCloud Runと表記します。 Cloud Runの料金プランの特徴として、リクエストの実行中のみ課金対象になるという点が挙げられます。しかし、リクエストのたびにコンテナの起動と終了を繰り返すわけではなく、起動したコンテナはある程度使い回されます。リクエストが無い間は、コンテナが起動していても課金されないというわけです。 課金対象の時間 (https://cloud.google.com/run/pricing?hl=ja より引用) だからと言って無料で使い放題というわけではなく、コンテナランタイムの契約として、リクエスト中しかCPUが使えないと明記されています You should only expect
AppleとNvidiaの関係、終焉へ
AppleとNvidiaの関係、終焉へ2019.11.26 12:3078,657 Alex Cranz - Gizmodo US ［原文］ （ 塚本直樹 ） すっかりAMD派なAppleです Nvidia（エヌビディア）とApple（アップル）の長期的な関係の名残も、まもなく消え去ります。Nvidiaは今週月曜日にCUDAプラットフォームの次期アップデートのリリースノートを公開し、｢CUDAアプリケーションを開発・実行するためのCUDA 10.2（ツールキットとNVIDIAドライバ）は、macOSをサポートする最後のリリースです｣と明かしました。 つまり、将来のCUDAはApple製品をサポートせず、これによりハッキントッシュのコミュニティを含む多くのプロフェッショナルな業界が影響を受けることになります。 CUDAはライバル製品にない強さCUDAとは、プログラムがNvidiaのハードウェ
地方拠点の一つ、九州支社に所属しています。サーバ・ストレージを中心としたSI業務に携わってましたが、現在は技術探索・深堀業務を中心に対応しています。 2018年に難病を患ったことにより、定期的に入退院を繰り返しつつ、2023年には男性更年期障害の発症をきっかけに、トランスジェンダーとしての道を歩み始めてます。 【IIJ 2022 TECHアドベントカレンダー 12/8（木）の記事です】 Whisperの追加学習に挑む2022年の冬 2022年アドベントカレンダー企画だそうです。 いかがお過ごしでしょうか。 私はもう興味を引くものに没頭するしか楽しみがないもんで、PCに向かってぼんやり面白いネタはないかなーと探す日々です。 最近はすっかりディープラーニングにズブズブで、とうとう数式かくのが面倒なあまり手書き入力のためのペンタブレットを買いました。てへ。 今回は9月から10月にかけてStabl
GPUを用いた並列演算に利用されるプログラミング言語といえば、機械学習の研究などに利用されるPythonが一般的ですが、JavaScriptによるウェブアプリでもGPUを用いたい場合があるはず。オープンソースのJavaScriptライブラリ「GPU.js」を使うと、スクリプトを実行するコンピューターのGPUを利用して並列処理を行うことで、多次元の演算などを高速に行うことができます。 GPU.js - GPU accelerated JavaScript https://gpu.rocks 今回GPU.jsを動かすシステムは以下。CPUはIntel Core i5-4570、GPUはAMD Radeon RX480、OSはUbuntu 20.04、ウィンドウシステムはWaylandを使用しています。 カーネルバージョンは5.4.0-42 ロードしているドライバーはこんな感じ。Linuxに標準
エンジニアの又川（@n_matagawa）です。 皆さんは AI 対応 PC の性能指標に使われる「TOPS」という単位をご存知でしょうか？最近では Microsoft が発表した Copilot+ PC の性能要件である「40 TOPS」が話題になりましたね。 これから PC を買う方はその PC が 40 TOPS を超えているのか気になると思います。 そこで、この記事では「TOPS」の定義と、具体的な計算方法を解説したいと思います。 スーパーコンピュータの性能を測る指標として、「TFLOPS（テラフロップス）」というものがあります。「TFLOPS」は「Tera FLoating-point OPerations per Second」の略で、1秒間に何兆回の浮動小数点演算（加算・乗算のみ対象）ができるかを表すものです(*1)。 スーパーコンピュータや PC、スマホを始めとしたコンピュ
新連載「西川善司のバビンチョなテクノコラム」第1回。Appleの新プロセッサ「M3」はいかなるものぞ？ | テクノエッジ TechnoEdge
テクニカルジャーナリスト。東京工芸大学特別講師。monoAI Technology顧問。IT技術、半導体技術、映像技術、ゲーム開発技術などを専門に取材を続ける。スポーツカー愛好家。 こんにちは。西川善司です。 昔、Oh! MZとかOh! Xというソフトバンクが出していたパソコン雑誌で、技術的な記事プログラムとか音楽作ったりしていた、プログラマー崩れの著述家です。 現在は、2台の大きさのだいぶ違うスポーツカーを乗り回したり、渓流ルアー釣りを楽しんだり、色んなゲームをプレイしたり、国内外の電機メーカー、半導体企業を取材したりしています。 自分は他媒体では、頂いた「1テーマ」に沿った技術コラムを書かせてもらっていますが、テクノエッジさんでは、そのメディア名を曲解して「技術の端っこ」をテーマにしたコラムを書かせていただきたいと思います。 「技術」には普段、自分が請け負うことの多い「電気的な先端技術
高速なPython互換言語の「Mojo」、そのままGPUで実行可能に。「MAX GPUs」発表。ModCon '23
高速なPython互換言語の「Mojo」、そのままGPUで実行可能に。「MAX GPUs」発表。ModCon '23 高速なPython互換言語「Mojo」の開発元であるModular社は、同社として初のイベント「ModCon '23」を12月4日にサンフランシスコで開催しました。 基調講演で、高速なPython互換言語の「Mojo」を含むAI処理を高速に実行するプラットフォーム「MAX」（Modular Accelerated Xecution (MAX) Platform）がNVIDIAのGPU対応となり、さらに高速な処理が可能となる「MAX GPUs」が発表されました。
プリファード・ネットワークス（PFN、東京・千代田）は16日、生成人工知能（AI）の基盤となる大規模言語モデル（LLM）の開発に着手したと発表した。西川徹最高経営責任者（CEO）が同日開かれたICT（情報通信技術）分野の総合展示会「Interop Tokyo 2023」で表明した。米テック企業の汎用的なLLMとは一線を画し、より専門的な領域で活用する言語モデルをめざす。西川氏は「既存のモデルを
《日経Robotics》ラズパイ4の新GPUをハックしてディープラーニング推論を高速化、ベンチャーIdeinはなぜ開発できた？
IoT向けの安価な小型コンピュータとして注目を集める「Raspberry Pi（ラズパイ）」の全シリーズに、GPUが標準搭載されていることをご存じだろうか。 元は教育用途として始まった同デバイスだが、ユーザーが3次元グラフィックスに触れられるよう、米Broadcom社製のメインチップにGPUコア「VideoCore」が搭載されているのである。 IoTやAI技術を手掛ける日本のベンチャー、Idein（イデイン）は、このラズパイ1～3のGPUをディープラーニング（深層学習）推論のアクセラレータとして使えるようにしたことで知られる1）。このラズパイのGPUは米NVIDIA社のGPGPUと異なり、グラフィックス以外の汎用演算を行うための開発環境やツールがチップ開発元から提供されている訳ではない。 本誌が2019年3月号で解説したように、Ideinは当時、公開されている命令セットアーキテクチャ（IS
LittleJSは高速WebGLレンダリングシステムを備えた軽量の2DJavaScriptゲームエンジンです。他ライブラリに依存せずに動作してくれます。 軽量、シンプルで、様々なゲーム開発に使えるライブラリを目指しているそうです。超高速レンダリング、物理演算、パーティクル、サウンドエフェクト、キーボード/マウス/ゲームパッドの入力処理、アップデート/レンダリングループ、デバッグツールなど、ほとんどのゲームに必要なものをすべて備えているとの事。 Steamのようなプラットフォームで配布するために、electronを使ってWindowsの実行ファイルとしてビルドすることも可能だそうです。ライセンスはMIT。 LittleJS
ASUS、NVMe M.2 SSDを搭載できるGeForce RTX 4060 Tiを開発。グラボにM.2スロットがある変態カード | ニッチなPCゲーマーの環境構築Z
ASUSは、NVMe M.2 SSDを搭載可能なGeForce RTX 4060 Tiを開発しました。何を言っているかわからないと思いますが、文字通りの意味です。 いったいどういうことかと申しますと、グラボにM.2スロットがあり、そこにNVMe M.2 SSDを搭載することができます。 GeForce RTX 4060 TiグラボにM.2スロットが GeForce RTX 4060 TiはPCIe 4.0 x8接続ですが、多くの場合はマザーボードの一番上のPCIe 4.0 x16スロットにグラボを取り付けるでしょう。すると8レーン分が無駄になります。 しかし、ASUSが開発したM.2スロット搭載GeForce RTX 4060 Tiを使用すれば、余ったレーンをNVMe M.2 SSDへと割り当てることができます。まごうことなき変態カードではありますが、実に合理的と言わざるを得ません。 熱の
AMD製CPUにデータを盗み取られる脆弱性「Zenbleed」が存在することが判明、仮想マシンやコンテナも関係なくデータ窃取可能
AMD製CPUに攻撃者がデータを読み取れる脆弱(ぜいじゃく)性「Zenbleed(CVE-2023-20593)」が存在することが明らかになりました。影響を受けるCPUは「Zen2アーキテクチャ」を採用したモデルで、攻撃者は1コア当たり毎秒30kbのデータを取得可能とされています。 Zenbleed https://lock.cmpxchg8b.com/zenbleed.html CVE - CVE-2023-20593 https://cve.mitre.org/cgi-bin/cvename.cgi?name=CVE-2023-20593 Cross-Process Information Leak https://www.amd.com/en/resources/product-security/bulletin/amd-sb-7008.html Zenbleedを発見したのはGoo
「ストリートファイターV」は、今やモバイルPCのCPU内蔵GPUでプレイできるようになってしまった：ゲームプレイと実況配信ライブにも挑戦（1/5 ページ） 2020年3月から始まった「ストリートファイターV（以下、スト5）が快適にプレイできる自作PCをなるべくコスト安で作る」（以下、5万円台スト5PC）という企画だが、コロナ禍と半導体不足、そして仮想通貨マイニングの過熱でGPUの価格が高騰したことにより、5万円台でゲームが快適にプレイできるPCの自作はかなり困難になってしまった。 安さだけを追求するのは、昨今の円安問題もあったりして、なかなか取り組みが難しくなってきた。そこで、今回は、がらりと趣を変えて、「小さなノートPCでスト5がプレイできるのか」を探求することにした。 しかも、CPU内蔵GPUでスト5がプレイできるのかを検証する！ あえてCPU内蔵GPUでどれだけスト5を楽しめるのかを
GitHub - IndieVisualLab/UnityGraphicsProgrammingSeries: 書籍「Unity Graphics Programming」シリーズのPDFコレクション
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
AMDがXilinxを買収か？ 複数の米国メディアが報道
AMDがFPGA大手Xilinxの買収に向けて協議を進めていると、Wall Street Journal(WSJ)をはじめとする複数の米国メディアが報じている。 これらの報道によると、買収額は300億ドルを超す見込みだとのことで、10月12日週にも両社の間で合意が取れ、正式発表される可能性があるという。ただし、かつて両社は買収交渉を行ったものの行き詰まりを迎え、最近になってようやく協議を再開したといういきさつがあり、この話自体が破談になる可能性もあるという。 ちなみにAMDの競合であるIntelは2015年、Xilinxの競合でFPGA業界2位のAlteraを買収。FPGAをいち早く自社ポートフォリオに組み入れている。一方のAMDは、その間、Intelがプロセスの微細化で躓いているのをしり目にTSMCの先端プロセスを活用することでCPU市場での存在感を増してきており、今回のXilinx買収
Google、NVIDIA、Qualcomm、インテルらが、RISC-V用オープンソース開発を加速させる組織「RISC-V Software Ecosystem」（RISE）プロジェクトを立ち上げ
Google、NVIDIA、Qualcomm、インテルらが、RISC-V用オープンソース開発を加速させる組織「RISC-V Software Ecosystem」（RISE）プロジェクトを立ち上げ RISC-V（リスクファイブ）プロセッサ対応のオープンソース開発を加速させる組織「RISC-V Software Ecosystem」（RISE）プロジェクトが、Linux Foundation Europeをホストとし、Google、NVIDIA、Qualcomm、インテルを始めとする13社がボードメンバーとなってスタートしました。 もともとRISC-Vはカリフォルニア大学バークレイ校のコンピュータサイエンス科が開始した、新しいプロセッサ命令セットを開発するためのプロジェクトです。創立メンバーにはRISCプロセッサの基礎を築いた計算機科学者のデイビッド・パターソン博士らがおり、当初は教育に使う
NVIDIAはハッカーグループの攻撃によって機密情報を盗み出されたことを2022年3月1日に発表しており、盗み出したデータを人質に仮想通貨での身代金支払いやマイニング性能制限の撤廃などを要求されていることが報じられています。新たに、盗まれたデータの中にNVIDIAのコード署名証明書が含まれていたことが判明し、証明書を悪用してNVIDIA製ドライバーになりすましたマルウェアの存在も複数報告されています。 Malware now using NVIDIA's stolen code signing certificates https://www.bleepingcomputer.com/news/security/malware-now-using-nvidias-stolen-code-signing-certificates/ NVIDIAは2022年3月1日に「私たちは脅威アクターが従
Steven J. Vaughan-Nichols （Special to ZDNET.com） 翻訳校正： 村上雅章 野崎裕子 2021-01-09 08:30 Linus Torvalds氏は、Linuxのビルドに使用する高性能コンピューターのプロセッサーとして、Intelベースのものを15年にわたって使用してきた。その同氏がここに来てマシンを乗り換え、「AMD Ryzen Threadripper 3970X」ベースの「フランケンボックス」を使用し、世界で最も重要度の高いOSであるLinuxをビルドするようになった。乗り換えから数カ月がたった今でも同氏は満足しており、Real World Technologiesのフォーラムに「このところAMDを使っており、とてもハッピーだ」と記している。 Torvalds氏は同フォーラムで、AMDのプロセッサーから得られるコストあたりのパワーが優れ
M1 Mac miniを買って1ヶ月。M1XやM2を待てるなら待ったほうがいい | INFORNOGRAPHY
画像出典 Apple M1 Mac miniを購入して丸1ヶ月経つので、この1ヶ月M1 Mac miniを使い倒した所感を書いておきたいと思う（主に残念に感じた点）。 購入したM1 Mac miniはRAM 16GB・SSD 512GB。 以前までの環境はMac mini 2018（Core i7 8700B・RAM 32GB・SSD 512GB）+Blackmagic eGPU（Radeon Pro 580 VRAM 8GB）。 モニターはBenQ EW3280Uを主に使用。 2021年3月29日追記その後、トラブルに耐えかねてIntel Macへと環境を戻しました。 2021年3月29日M1 MacからIntel Macに戻った理由 M1 Mac miniを丸1ヶ月使った感想 Mac mini 2018+eGPUからの移行ではそれほど速くなった印象がなく、むしろグラフィックスパフォーマ
イギリスのスタートアップ「Spectral Compute」社がCUDAのプログラムを全く変更することなくAMD製GPUで実行できるようにコンパイルするツールキット「SCALE」を開発したと発表しました。 SCALE GPGPU Programming Language https://scale-lang.com/ Announcing the SCALE BETA https://scale-lang.com/posts/2024-07-12-release-announcement Spectral ComputeのCEOであるマイケル・ソンダーガード氏は「一度コードを記述すればあらゆるハードウェアプラットフォームでビルド・実行できるべき」「CPUでは長年実現されてきたのに、なぜGPUでは実現できないのか？」とSCALEの開発に至った経緯を説明。 SCALEはNVIDIAのCUDAツ
ついにグラフィックボードの価格が下落に転じる
アメリカとドイツのIT系ニュースサイトが「グラフィックボードの価格が下落に転じた」と報じました。NVIDIAとAMDが生産しているほぼ全てのグラフィックボードの価格が5～10％下落しており、転売屋も売りを控えたためかオークションサイトでの取引数も減少しています。 GPU Prices Drop Along With Crypto | Tom's Hardware https://www.tomshardware.com/news/gpu-prices-plummet-along-with-crypto News des 22./23. Januar 2022 | 3DCenter.org https://www.3dcenter.org/news/news-des-2223-januar-2022 At long last, Nvidia and AMD GPU street prices
携帯大手のソフトバンクとアメリカの半導体大手エヌビディアは、AIの膨大なデータの処理に携帯電話の基地局を活用しようと、新たな業界団体を設立することを正式に発表しました。団体にはアメリカのAWSや韓国のサムスン電子など11社が参加し、世界標準化を目指します。 ソフトバンクとエヌビディアは、26日、スペイン・バルセロナで開幕したモバイル関連の展示会で、新たな業界団体「AIーRANアライアンス」の設立を発表しました。 AIの運用に必要となる膨大なデータの処理を、大規模なデータセンターを介さずに携帯電話の基地局で分散化させる技術の実用化を目指します。 団体には通信大手のエリクソンやノキアのほか、アメリカのマイクロソフトとAWS＝アマゾンウェブサービス、それに韓国のサムスン電子など世界の合わせて11の企業や団体が参加し、技術の世界標準化を目指すねらいがあります。 この技術を使うことで、スマートフォン
GMOインターネットグループは6月21日、グループ社員を対象に、米NVIDIA製のGPU「NVIDIA H100」や「NVIDIA L4」搭載サーバを無償で貸し出す新制度を始めると発表した。7月3日から開始する。AIを活用した新サービスの研究開発や実験を促進するという。 サーバはグループ社員に短期間貸し出す。具体的な期間や、利用を許可する用途など、制度の詳細は「現在詰めている最中」（同社）という。 従業員が画像生成AIに触れる機会を増やすとして、GPU「GeForce RTX 4090」「GeForce RTX 3080Ti」を搭載したノートPCを無償で貸し出す制度も開始する。こちらはまず短期間の貸し出しから始め、社員の様子を見つつ長期貸し出しも検討する。 GMOグループは3月にChatGPTの業務活用を開始。AIによる業務改善のアイデアを募るコンテストを開催するなど、AIの活用に注力して
LinuxのマシンにHDMI接続したディスプレイで映像を楽しもうとしたことがある人の中には、AMD独自の画面同期技術「FreeSync」が機能せず閉口した経験がある人もいるはず。オープンソースの環境でHDMIを使用する上でしばしば発生する問題にはHDMI業界の閉鎖体質が関係していると、Linux関連のニュースサイトPhoronixが指摘しています。 HDMI Forum Closing Public Specification Access Is Hurting Open-Source GPU Drivers - Phoronix https://www.phoronix.com/scan.php?page=news_item&px=HDMI-Closed-Spec-Hurts-Open Phoronixの創設者であるマイケル・ララベル氏によると、オープンソースのGPUドライバーがHDMI
【国内認定第1号!】NVIDIAの新しいAI認定制度「Jetson AI Specialist」認証を取得してみた！「Jetson Nano 2GB開発者キット」実機レビュー 2 - ロボスタ ロボスタ - ロボット情報WEBマガジン
前回は新発売のAIコンピュータボード「NVIDIA JETSON NANO 2GB 開発者キット」（以下、Jetson Nano 2GB）の特徴とレビューを解説しました。今回は「Jetson Nano 2GB」を使って、いま話題になっているNVIDIAのAI認定制度「Jetson AI Specialist」の認定を実際に申請してみて、取得にチャレンジしようと思います。 結果から言いますと、「Jetson Nano 2GB」を使った「マスク判定と検温のAI」のプロジェクトを作成して申請し、「Jetson AI Specialist」の【国内認定第１号】として無事に取得することができました！！それほどハードルは高くないので、申請から認定までの流れをお届けしますので、皆さんも挑戦してみてください！ 「Jetson AI Certification」の概要 まずは「Jetson AI Certi
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GPU性能がアップするWindows 10の新機能が使えるGeForceドライバが公開
PFNの国産スパコンが消費電力性能で世界一に
OpenAI Whisper に追加学習をさせる試み | IIJ Engineers Blog
JavaScriptでGPUを簡単に扱えるライブラリ「GPU.js」レビュー、並列処理で多次元の演算が爆速に
約3年ぶりメインPC新調。スリムなAMDマシン「MINISFORUM」を導入した【藤本健のDigital Audio Laboratory】
「TOPS」を計算してみよう 〜 AI対応PCの性能指標
NVIDIA、GPUで打鍵音や環境騒音を除去する「RTX Voice」 ～DiscordやZoom、OBSなど各種アプリで利用可
プリファード、大規模言語モデル開発 24年商用化目指す - 日本経済新聞
NVIDIA、59ドルの2GBメモリ版「Jetson Nano」を発表
GeForce RTX 3080/3070にもマイニング性能制限版が登場
GPUパススルーも簡単にできる仮想化プラットフォーム「Proxmox VE」【イニシャルB】
適当なスケッチをAIで実写風に変換するツール。GeForce RTX対応で無料
高速WebGLレンダリングシステムを備えた軽量の2DJavaScriptゲームエンジン・「LittleJS」
【やじうまPC Watch】 PS5やXbox Series XのCPUは、PC向けよりかなり経済的な設計
「ストリートファイターV」は、今やモバイルPCのCPU内蔵GPUでプレイできるようになってしまった
【特集】 驚異の1,000円で買える12コア「Xeon E5-2650 v4」と最新GeForceでゲームがどこまで動くのか？
【特集】 CPUやGPUの発熱や電力をカットする方法
【西川和久の不定期コラム】 Stable Diffusion高速化技術続々登場！TensorRT、SSD-1B、LCMなどを試してみる
この10年のIntel CPU進化の歴史をベンチマークとともに振り返る ～コアの増加や内蔵GPUの強化、ストレージ/ネットワークの高速化が加速[Sponsored]
![この10年のIntel CPU進化の歴史をベンチマークとともに振り返る ～コアの増加や内蔵GPUの強化、ストレージ/ネットワークの高速化が加速[Sponsored]](https://cdn-ak-scissors.b.st-hatena.com/image/square/1545e220ad07df3d7020bcf06f64834bec84c168/height=288;version=1;width=512/https%3A%2F%2Fpc.watch.impress.co.jp%2Fimg%2Fpcw%2Flist%2F1262%2F523%2F4004board.jpg)
NVIDIAから署名付き証明書データが流出しNVIDIA製ドライバーになりすましたマルウェアが複数登場
"Linuxの父"トーバルズ氏が評価するAMD、そしてインテル
【Ubuntu日和】 【第15回】おっとIntelのdGPUはUbuntu用のドライバがリリースされているだと……よっしゃNVIDIAもAMDもまとめてDeskMeet X300で動作させるぞ！(NVIDIAとAMD編)
Intel CPU製造能力強化でAMDシェア拡大に歯止め
CUDAのコードを全く変更せずにAMD製GPU向けにコンパイルできるツールキット「SCALE」が登場
ソフトバンクと米エヌビディア 新団体設立を正式発表 | NHK
GMO、社員に「NVIDIA H100」搭載サーバ無償貸し出し RTXノートPCも AI活用を促進
HDMI業界の閉鎖体質がオープンソースのGPUドライバーに悪影響を及ぼしているとの指摘