章立て はじめに Docker・Container型仮想化とは Docker一強時代終焉の兆し Container技術関連史 様々なContainer Runtime おわりに 1. はじめに Containerを使うならDocker、という常識が崩れつつある。軽量な仮想環境であるContainerは、開発からリリース後もすでに欠かせないツールであるため、エンジニアは避けて通れない。Container実行ツール（Container Runtime）として挙げられるのがほぼDocker一択であり、それで十分と思われていたのだが、Dockerの脆弱性や消費リソースなどの問題、Kubernetes（K8s）の登場による影響、containerdやcri-o等の他のContainer Runtimeの登場により状況が劇的に変化している。本記事では、これからContainerを利用したい人や再度情報
歴史・年表でみるAWS全サービス一覧 －アナウンス日、General Availability(GA)、AWSサービス概要のまとめ－ - NRIネットコムBlog
小西秀和です。 Amazon Web Services(AWS)に関する情報や魅力を様々な観点から記事にしてみていますが、技術史が好きなこともあって今回はAWSサービスの発表の歴史を年表でまとめました。 AWSからもWhat's Newとして公式アナウンスは発表されていますが、アナウンス日、GA日(一般提供開始日)、サービス名、サービス概要といった情報に圧縮して時系列でAWSサービス一覧を一枚もので確認できる記事が今まで欲しかったので自分で作成してみることにしました。 AWS全サービスの歴史年表の作成方法 AWS全サービスの歴史年表の対象となるAWSサービスは次の手順で選定しました。 AWSサービス・製品一覧「Cloud Products(英語版)」にあるサービスのうち「～ on AWS」といったサードパーティー製品がメインとなるサービスを除いたリストを作成 AWSサービス・製品一覧に記載
Infrastructure from Code (IfC) ツールまとめ - maybe daily dev notes
昨今Infrastructure from Code (IfC)という概念をよく耳にします。先日もAWSのGregor Hohpeが関連する記事を書いていました。 architectelevator.com この記事では、Infrastructure from Codeとはなにか簡単に紹介し、具体的にどのようなツールがあるか網羅的にまとめます。 Infrastructure from Codeとはなにか Infrastructure from Code (IfC) とは、その名の通り、Infrastructure as Code (IaC) に関連する概念です。IaCとの根本的な違いは、IaCは開発者がインフラを明示的に意識して構成を記述するのに対し、IfCでは開発者がインフラをできるだけ意識しないよう抽象化を試みていることです。これにより、差別化に繋がらない重労働ができる限り排除された高
ニューラルネットワークのトレーニングや実行にはGPUが使われることが多く、クラウドサービスのGPUの需要はAIの普及に伴い高まりつつあります。そんなクラウドGPUの構成や価格を、AI関連のニュース＆コミュニティサイト・The Full Stackが公開しました。 Cloud GPUs - The Full Stack https://fullstackdeeplearning.com/cloud-gpus/ 表はクラウドサーバーとサーバーレスの2種類に分かれています。ピックアップされたサービスはAmazon Web Service(AWS)やMicrosoft Azure、Cudo Compute、Google Cloud Platform(GCP)、AWS Lambdaなど。Hugging Faceなど一部サービスの記載はありません。 クラウドサーバーの表がこんな感じ。最左列にサービス名
M1 Maxより速いディープラーニングに最適なノートPC｢Tensorbook｣2022.04.16 22:0046,111 大野恭希 AWSのlambdaにPythonのlambdaにLambda Labsに...世の中Lambda（ラムダ）だらけですね。 LambdaがRazerと共同開発したディープラーニング向けノートPC｢Tensorbook（テンサーブック）｣が発表されています。価格は3499ドル（約44万円）から。 構成は、駆け出しPythonエンジニア初学者でも分かる｢これなら大丈夫だろうGPU｣GeForce RTX 3080（VRAM16GB）と、Core i7 11800、メモリは64GB。GPU性能はアップルのM1 Maxより最大4倍近く速く、Google Colabを用いた学習モデルの構築と近くすれば最大10倍の差が出ているといいます。ま、RTX3080なんだからそ
GitHub - modelcontextprotocol/servers: Model Context Protocol Servers
Official integrations are maintained by companies building production ready MCP servers for their platforms. 21st.dev Magic - Create crafted UI components inspired by the best 21st.dev design engineers. 2slides - An MCP server that provides tools to convert content into slides/PPT/presentation or generate slides/PPT/presentation with user intention. ActionKit by Paragon - Connect to 130+ SaaS inte
サーバレスGPUにModalがいいぞ！
GPUを使いたいこと、あると思います。 ただしご家庭に強いGPUはないこともあるでしょうし、かといってGPU搭載したインスタンスを立て続けているととてつもないお金がかかります。 そんなあなたにサーバレスGPU、使った秒数分だけ課金が発生するので、いきなりすごい金額がかかることにはならず手軽にGPUを使ったプログラミングが始められます。 私は今の所ModalとRunPodを試したのですが、ModalのDXが良すぎるため今回イントロ記事を書く筆を取りました。 始めにざっくりいいところを述べると 一つのファイルで完結する。 RunPodとの比較だと「RunPodではDockerのイメージを自前でビルドしてどこかしらのregistryにpush、都度タグを付け替えてRunPodの方にも反映」みたいなのが必要だったがModalでは全部要らない ローカルパッケージをちょろっとした関数で送れたり、テキス
MINISFORUM BD795i SEレビュー：約7万円で買えるRyzen 9 7945HX内蔵マザボを検証 | ちもろぐ
もっぱらミニPCで有名な中華メーカー「MINISFORUM」が、マニアックな自作PC向けに「BD795i SE」なるマザーボードを販売しています。 自作PCパーツでも非常に珍しい、オンボード型マザボです。しかも搭載CPUは「Ryzen 9 7945HX」で、1世代前のZen4コアをたっぷり16コア32スレッドも搭載します。 マザーボード自体も意外とパワフル。DrMOSをぜいたくに使用した高性能VRM、Realtek 2.5G LANポート、USB Type-C（DP Alt Mode対応）など。ミドルクラス相当のMini-ITXマザボに匹敵します。 MINISFORUM BD795i SE MINISFORUM / フォーム : Mini ITX / CPU : Ryzen 9 7945HX / フェーズ数 : 6 (DrMOS) / M.2 : 2スロット / LAN : 2.5 GbE
はじめての自然言語処理 Fusion-In-Decoder でクイズに答えるモデルを作る | オブジェクトの広場
今回は Fusion-In-Decoder を使ってクイズに答えるモデルを作ります。以前から Wikipedia 等の外部情報を参照できるテキスト生成モデルを試してみたいと思っていました。Fusion-In-Decoder の発表は 2020 年なので少し前のモデルですが、T5 ベースで手軽に試せるサイズ感ですので、日本語で試してみましょう。 1. はじめに 今回紹介する Fusion-In-Decoder（以下、FiD ）1 は Meta AI (当時は Facebook AI Research) が発表した Open Domain question Answering タスクを解くテキスト生成モデルです。 じつは、以前から外部情報を参照できるテキスト生成モデルを試してみたくて2、 Google の RETRO3 の論文を読んでたんです。 なのですが、外部情報のサイズ感が 1000 B
Kaggle Competitions Grandmaster になるまでの 6年半を振り返る - かえるのプログラミングブログ
はじめに Kaggle遍歴 バックグラウンド Kaggle との出会い 思い出深いコンペたち Kaggle の取り組み方 Kaggle で得られたもの 今後 おわりに はじめに こんにちは、kaerururu です。 Kaggle を始めて約6年半、目標だった Competitions Grandmaster になることができました。 一つの節目として、振り返り記事を書いてみようと思います。 www.kaggle.com Kaggle遍歴 略表 日付 Event 2018/08/07 初サブ (Titanic) 2018/12/19 初メダル (銅) 2019/02/14 Expert 2019/04/10 初金メダル 2019/06/29 Master 2024/12/20 Grandmaster 金メダルを獲得したコンペ コンペ 分野 チーム 成績 メダル PetFinder.my A
週刊Railsウォッチ: SorbetのRuby AOTコンパイラが公開、「Compiler Explorer」にRubyが追加、Ractorで非同期通信ほか（20210823後編）｜TechRacho by BPS株式会社
週刊Railsウォッチについて 各記事冒頭には🔗でパーマリンクを置いてあります: 社内やTwitterでの議論などにどうぞ 「つっつきボイス」はRailsウォッチ公開前ドラフトを（鍋のように）社内有志でつっついたときの会話の再構成です👄 お気づきの点がありましたら@hachi8833までメンションをいただければ確認・対応いたします🙏 TechRachoではRubyやRailsなどの最新情報記事を平日に公開しています。TechRacho記事をいち早くお読みになりたい方はTwitterにて@techrachoのフォローをお願いします。また、タグやカテゴリごとにRSSフィードを購読することもできます（例:週刊Railsウォッチタグ） 🔗Ruby 🔗 SorbetのRuby AOTコンパイラ（Ruby Weeklyより） 元記事: Sorbet Compiler: An experime
We’re starting to see the very early stages of a tech stack emerge in generative artificial intelligence (AI). Hundreds of new startups are rushing into the market to develop foundation models, build AI-native apps, and stand up infrastructure/tooling. Many hot technology trends get over-hyped far before the market catches up. But the generative AI boom has been accompanied by real gains in real m
Amazon Bedrock now provides access to Meta’s Llama 2 Chat 13B model | Amazon Web Services
AWS News Blog Amazon Bedrock now provides access to Meta’s Llama 2 Chat 13B model Update: November 29, 2023 — Today, we’re adding the Llama 2 70B model in Amazon Bedrock, in addition to the already available Llama 2 13B model. As its name implies, the Llama 2 70B model has been trained on larger datasets than the Llama 2 13B model. If you’re wondering when to use which model, consider using Llama
間借りでGPU 自書の宣伝を兼ねて流行りのAIツールが試せるAIスタジオなるサイトを作成しようと画策しております。 1番必要なのは GPU であり、これが無料で使えればいいのですがそういうわけにもいきません。 ただせいぜい1～3日くらいしか使わないので、数日間GPU環境をレンタルできるサイトを探しましたので紹介します。（勝手に"間借りGPU"と名付けます） もちろん完全に網羅しているわけではないことはご了承下さい。（できれば更新します） また次の分類も私が勝手に付けたものですので、よそで使うと恥をかくのでご注意下さい。 デモサイト系 最初にデモサイト一体型のサービスを紹介します。 これらは主にオープンソースAIのデモのためにGPUが利用できるもので、便利ではあるのですが、Pythonで試行錯誤しながら使いたいという方は不向きになります。 ①HuggingFace Spaces Spaces
Annotated history of modern AI and deep neural networks
For a while, DanNet enjoyed a monopoly. From 2011 to 2012 it won every contest it entered, winning four of them in a row (15 May 2011, 6 Aug 2011, 1 Mar 2012, 10 Sep 2012).[GPUCNN5] In particular, at IJCNN 2011 in Silicon Valley, DanNet blew away the competition and achieved the first superhuman visual pattern recognition[DAN1] in an international contest. DanNet was also the first deep CNN to win
2026年1月、科学界に一つの衝撃が走った。ニューメキシコ州アルバカーキにあるサンディア国立研究所（Sandia National Laboratories）の物理学者チームが、人工知能（AI）を「実験パートナー」として雇用し、長年物理学者たちを悩ませてきた超難問をわずか5時間で解決したのだ。 その課題とは、「LED（発光ダイオード）の光をレーザーのように自在に操る」というものだ。 学術誌『Nature Communications』に掲載されたこの成果は、単なるAIによる自動化の成功例ではない。AIが人間には思いつかなかった「新しい物理法則」を発見し、それを人間に数式として教えてくれたという点で、科学的発見のプロセスそのものを根底から覆すパラダイムシフトなのだ。 インコヒーレントな光を飼いならす難問 レーザーとLEDの決定的な違い 現代のテクノロジーは「光」に依存している。高速インターネ
こんにちは、Sirene（シレーヌ）です。 今回はファインチューニングフレームワークの比較についてのブログ翻訳です！ 元記事 大規模言語モデル（LLM）は、研究ワークフローから実運用まであらゆる領域を変革しつつあります。その中で、どのファインチューニングフレームワークを選ぶかは、性能、リソース効率、実験のしやすさに大きな違いをもたらします。前回の記事では、ファインチューニングが汎用的な知識を持つモデルと、特定用途で求められる要件とのギャップを埋め、高精度・整合性・ドメイン特化性を実現することを解説しました。 本記事では、Axolotl、Unsloth、Torchtune という3つの代表的なツールキットを比較します。それぞれが、単一GPUでの高速化やメモリ節約（Unsloth）、柔軟な構成対応（Axolotl）、PyTorchとの緊密な統合（Torchtune）といった独自の強みを持ってい
This post is an exploration of the supply and demand of GPUs, particularly Nvidia H100s. This post went mega viral. It was on the frontpage of HN, techmeme, many email newsletters, got tweets from Andrej Karpathy and others, comments from Mustafa (who will have $1B of GPUs online soon) from Inflection and Emad from Stability, and various asset managers and AI founders reached out. If you haven’t r
クラウドサービス市場に変化の兆しがあります。長年、IaaS（Infrastructure as a Service）市場のトップを走ってきたAmazon Web Services（AWS）のシェアが低下しています。AWSと共に“メガクラウド”の一つに挙げられるMicrosoftやGoogleのクラウドサービスのシェアも伸びていますが、勢力を増しているのはそうした大手だけではありません。 クラウド市場に現れた「ネオクラウド」とは 調査会社Synergy Research Groupが公表した、2025年第3四半期（2025年7～9月）の世界のクラウドインフラサービス市場（IaaS、PaaS〈Platform as a Service〉、ホステッドプライベートクラウドを含む）の調査結果によると、AWSは首位を維持しつつも、そのシェアは徐々に低下しています。その一方で目立っているのが、「ネオクラ
初めての投稿ですがよろしくお願いします、ハンです。 私は福岡の株式会社Fusicの機械学習チームで勤めている者です。機械学習やAWS運用など、困っていることがありましたら気軽にお声かけてください。 この記事では、Lambda LabsのGPU Cloud Serviceを使ってみたレビュー・感想などを書いてみたいと思います。 要約 Lambda Labs、お値段だけを考えると良い！ モニタリングなど、提供するサービスが少ないので、自分なりの工夫が必要 使用可能なインスタンス・ストレージの制約があり、Persistanceストレージ連動ができなかったのはすごく残念 なぜLambda Labs？：お値段！ 皆さんはクラウドサービスを利用する際、何を一番の選択基準にするのでしょうか？ 使用したいGPUの種類や数・求められるセキュリティ・サポート機能など、さまざまな判断基準があると思いますが、以下
NVIDIA、DGX Spark および DGX Station パーソナル AI コンピューターを発表 NVIDIA Grace Blackwell を搭載したデスクトップ スーパーコンピューターにより、開発者、研究者、データ サイエンティストの手元にアクセラレーテッド AI を提供。このシステムは、ASUS、Dell Technologies、HP、Lenovo などの主要なコンピューターメーカーから提供。 【プレス リリース】カリフォルニア州サンノゼ — GTC — 2025 年 3 月 18 日ー NVIDIA は本日、NVIDIA Grace Blackwell プラットフォームを搭載した DGX™ パーソナル AI スーパーコンピューターを発表しました。 DGX Spark — 旧 Project DIGITS — と DGX Station™ は、Blackwell Ultr
LoRA: Low-Rank Adaptation of Large Language Models is a novel technique introduced by Microsoft researchers to deal with the problem of fine-tuning large-language models. Powerful models with billions of parameters, such as GPT-3, are prohibitively expensive to fine-tune in order to adapt them to particular tasks or domains. LoRA proposes to freeze pre-trained model weights and inject trainable la
The time-sharing computers of the 1970s meant operators could submit a job and get the results at some point in the future. Under the guise of "serverless", everything old is new again. AWS Lambda reinvented the idea of submitting work to a supercomputer only to receive the results later on, asynchronously. I liked that approach so much that in 2016 I wrote a prototype to unlock the idea of functi
グラフィックボードに付いている標準小型ファンは動作音がうるさいです。 特に、消費電力が高いハイエンドモデルになるほど、高負荷時の動作音が目立ちます。その中でも「セミファンレス」仕様のグラボはファンレスの切り替わりがシームレスでなく、急に音が鳴り始めるタイプが多いです。 今回の記事でファンを交換する「Gainward RTX 5090」もセミファンレス挙動が下手なタイプでした。ファンの回り始めが「ガラガラ･･･（うがい声）」と絶妙に癇に障ってくるので、Noctua製ケースファンに換装して静音化を図ります。 （公開：2026/3/4 | 更新：2026/3/4） この記事の目次 Toggle グラボの標準ファン交換「デシュラウドMOD」 グラフィックボードの標準ファンを交換するには、ごく一部の例外（SapphireやXFX等）を除き、基本的にグラボ本体の分解を伴います。 グラボを分解する グラ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Docker一強の終焉にあたり、押さえるべきContainer事情
AWS・Azure・Cudoなどが提供するクラウドGPUが1時間あたり何ドルで利用できてどういう構成なのかの一覧表
M1 Maxより速いディープラーニングに最適なノートPC｢Tensorbook｣
Who Owns the Generative AI Platform? | Andreessen Horowitz
クラウドGPUまとめ（個人向け） Lambda Labsなど - Qiita
米研究所のAI研究員が「LED制御」の革新的定理を5時間で発見した | XenoSpectrum
ファインチューニングフレームワークの比較｜Sirene（シレーヌ）
Nvidia H100 GPUs: Supply and Demand
AWSの支配が揺らぎ、“新興勢”が躍進――クラウドは「専門性で選ぶ」時代？
コスパ良いGPU Cloudを使いたい：Lambda Labs
NVIDIA、DGX Spark および DGX Station パーソナル AI コンピューターを発表
Using LoRA for Efficient Stable Diffusion Fine-Tuning
GitHub Actions as a time-sharing supercomputer
グラボの標準ファンを交換して静音化：RTX 5090のデシュラウドMODを紹介 | ちもろぐ