米Appleは9月7日（米国時間、以下同）、iOS搭載スマートフォンの新モデル「iPhone 14」を発表した。新たに衛星通信を活用した緊急通報機能を搭載する。価格は11万9800円から。16日に発売する。サイズの大きい「iPhone 14 Plus」も10月7日に発売するが、「13」まで提供していた「mini」は販売しない。「Plus」の名がつくのは「iPhone 8 Plus」以来。 両モデルとも独自のアンテナを内部に搭載し、衛星との通信が可能。基地局の電波が届かない場所でも、通報したい内容を選択式で回答することで、外部に救助を求められるという。「探す」機能と連携し、自身の居場所を他の人に知らせることも可能としている。 衛星通信機能は米国とカナダで11月から提供を開始。リリースから2年間は無料で、中国で買ったモデル以外であれば利用可能という。ただしグアムとアメリカ領サモアでは使えず、ア
Intel MacBook Proが遅くなってきたら内部清掃が効く - ninjinkun's diary
仕事でMacBook Pro (Intel 16-inch, 2019)を使っているのだが、この数ヶ月やたら遅くなってきて困っていた。試しにHotを入れて監視してみたところ、ビデオ会議中にサーマルスロットリングが働いてCPUのクロックが40%くらいまで下がっていたので、これは何か対策しないといけないと思い始めた。M1マシンに変えられればベストだが、購入した同僚が環境構築にハマりまくっていたのを見ているので、買い替えは躊躇する。このマシンも購入直後は問題なく使えていたはずなので、何かしらの変化があったのだろうと思い、内部の冷却に問題があることを疑い始めた。 早速どのご家庭にもある星形ドライバー1.2mmを引っ張り出し、裏蓋を外す。案の定埃が溜まっていたのでエアダスターで吹き飛ばしたところ、MBPは完全に復活した。今は快適な使い心地で、サーマルスロットリングも滅多に効かなくなった。 サーマルス
クラウドサービスのインスタンスは用途に応じて「汎用」「メモリ特化」「GPU特化」といった具合で、さまざまなカスタマイズが可能。しかし、あまりにも選択肢が多すぎて比較検討が難しいのも事実です。そんなインスタンスの価格やスペック比較を簡単に行えるウェブサービス「EC2Instances.info」をVantageが公開しているので、実際に使ってみました。 Amazon EC2 Instance Comparison https://instances.vantage.sh/ EC2Instances.infoはAmazon EC2とAmazon RDSのインスタンスを比較検討できるサービス。さっそくアクセスしてみると、EC2インスタンスの名称やメモリ、仮想CPU(vCPU)数、ストレージ、ネットワーク性能、利用料金が表示されました。デフォルトでは利用可能なすべてのインスタンスが表示されている状
無価値だった検索と今無価値に思える作画AI。その先にある行動の生成 2022.10.29 Updated by Ryo Shimizu on October 29, 2022, 07:51 am JST 過日、幕張メッセで開催された「AI・人工知能EXPO」内のブースでコネクトームデザイン社の佐藤社長と対談する機会があった。 その時、佐藤社長から出された問いが、「検索から生成、そして創造とはどういうことか?」という最近の筆者の提言に対するシンプルな疑問だった。 人前で話をするというのは面白いもので、こういう問いかけを受けると、その場でそれまで自分が思いもしなかったような答えが出てくる。 知性が単独では存在意義を持たず、複数の知性が考えをぶつけあって思想が育つ、まさにその瞬間に出くわした。なかなか久々の感覚である。 かつて、検索は無価値だった。 いまだに「検索」にお金を払う人はいない。 検索
(最新SSD IOはPCIe x4でした。ご指摘ありがとうございます。） はじめに どの処理で律速しているか調べる 各処理の速度改善方法 データ読み込み速度の改善 データ前処理速度の改善 GPU処理速度の改善 コンピューティングについての他記事 はじめに Kaggle Advent Calendar 2022 8日目です。 突然ですが、あなたはDNN学習時にどの処理で学習速度が律速しているか把握してますか？ DNN学習には図に示すように大きく3つの要素があります： （SSDからの）データ読み込み （CPUによる）データ前処理 （GPUによる）DNN計算 学習時のデータの流れとしては SSDからデータが読み込まれ、CPUに送られる(SATA or PCIe) CPUにてaugmentationや正規化などの前処理が行われ、GPUにデータが送られる(PCIe x16) GPUにてDNNの計算・
Docker is Updating and Extending Our Product Subscriptions | Docker
Editor’s Note: Be sure to check out the Pricing page for the latest Docker Desktop packages and features! Docker is used by millions of developers to build, share, and run any app, anywhere, and 55% of professional developers use Docker every day at work. In these work environments, the increase in outside attacks on software supply chains is accelerating developer demand for Docker’s trusted cont
Raspberry Pi財団が2023年9月28日に新製品「Raspberry Pi® 5」を発表、工事設計認証の取得・表示手順完了次第、スイッチサイエンスウェブショップでも販売予定
Raspberry Pi財団が2023年9月28日に新製品「Raspberry Pi® 5」を発表、工事設計認証の取得・表示手順完了次第、スイッチサイエンスウェブショップでも販売予定 Raspberry Pi財団は2023年9月28日、人気の主力製品シングルボードコンピュータRaspberry Pi® 新製品シングルボードコンピュータ「Raspberry Pi® 5」を発表しました。 「Raspberry Pi® 5」は2023年9月28日現在、工事設計認証（いわゆる技適）未取得のため、株式会社スイッチサイエンス（本社：東京都新宿区、代表取締役：金本茂）では、工事設計認証の取得及び表示などの対応が実施された後の販売開始を予定しています。 「Raspberry Pi® 5」は、「Raspberry Pi® 4」と比べてCPU性能は2～3倍、GPU性能も向上、Raspberry Pi®独自開発
テキストから画像を生成できるオープンソースのStable Diffusionアプリ「Diffusers for Mac」がGPU/Neural Engine選択に対応し、Apple Silicon Macでは生成速度が最大2倍に。
テキストから画像を生成できるオープンソースのMac用Stable Diffusionクライアント「Diffusers」がGPU/Neural Engine選択に対応し、Apple Silicon Macでは生成速度が最大2倍になっています。詳細は以下から。 DiffusersはiPhone用カメラアプリ「Camera+」などを開発するPedro Cuencaさんがオープンソースで開発していたStable Diffusionアプリで、現在はCuencaさんが学習済みの機械学習モデルやデータセットなどを公開/共有するHugging Face HubのMLエンジニアになられたことで、Hugging Faceの公式Macクライアントとなっていますが、このDiffusersのバージョン1.1アップデートがリリースされています。 Generate images up to twice as fast!
こちらの記事は、Jonathan Saring 氏により2018年 6月に公開された『 11 JavaScript Animation Libraries For 2019 』の和訳です。 本記事は原著者から許可を得た上で記事を公開しています。 何かいいJavaScriptのアニメーションライブラリがないかとWebを眺めていても、「おすすめ」されているはずの多くライブラリが、実は長い間メンテナンスされていませんでした。 そこで私は調査を重ね、あなたのアプリにも使える11の優れたライブラリ、そして今はほとんどメンテナンスされていないものの、非常に便利ないくつかのライブラリをまとめてみました。 アドバイス: JSコンポーネントを個別にパッケージ、公開するのにはBitを使いましょう。異なるプロジェクトやアプリケーション間で共有したりすることができ、チーム内でより迅速にアプリケーションを構築するこ
社内用語集を気軽に質問できるSlackBotを作ってみた (RAGの応用アプリ) - ABEJA Tech Blog
こんにちは！株式会社 ABEJA で ABEJA Platform 開発を行っている坂井（GitHub : @Yagami360）です。 LangChain を使用すれば、RAG [Retrieval Augment Generation] を使用した LLM アプリケーションを簡単に作成できるので便利ですよね。 今回 LangChain での RAG を使用して、LLM が学習に使用していない特定ドメインでの用語を応答する Slack ボットをさくっと作ってみたので共有します。 本コード一式は、以下の GitHub レポジトリに保管しています。 github.com 使い方 コード解説 アーキテクチャ RAG の仕組み ヒューマンインザループによる継続的品質改善 まとめ We Are Hiring! 使い方 事前準備として｛用語集スプレッドシートの作成・Slack アプリの初期設定・各種
画像生成AI「Stable Diffusion」でイラストの要素を読み取ってオリジナルの要素を引き継いだイラストをサクッと生成可能にする「Tagger for Automatic1111’s Web UI」の使い方まとめ
画像生成AI「Stable Diffusion」では、文章(プロンプト)を入力することで自由に画像を生成できます。しかし、自分好みの画像を生成するにはプロンプトにこだわる必要があり、慣れるまでは「好みの画像をサクッと生成」とはいきません。「Tagger for Automatic1111's Web UI」を使えば参考画像の要素を読み取ってDanbooruのタグを導き出し、「参考画像に似た画像」を生成可能なプロンプトを一発で作成できるとのことなので、実際に使ってみました。 GitHub - toriato/stable-diffusion-webui-wd14-tagger: Tagger for Automatic1111's Web UI https://github.com/toriato/stable-diffusion-webui-wd14-tagger Tagger for A
Microsoft ResearchのAI研究チームは6月20日（現地時間）、わずか13億パラメーターと従来のものよりもサイズが小さいにも関わらず「GPT-3.5（1750億パラメーター）」を上回る成績を収めたTransformerベースの大規模言語モデル「phi-1」を発表した。このモデルは間もなく「Hugging Face」で公開される予定だといいう。 ベンチマークでGPT-3.5を凌駕 「Textbooks Are All You Need」と題された研究論文によると、このモデルは8台のA100（NVIDIAの高性能GPU）でわずか4日間かけて訓練され、インターネット上から取得した60億トークンの「教科書品質」データセットと、GPT-3.5で生成した10億トークンの微調整用「練習問題」データセットが使用された。 サイズが小さいにもかかわらず、phi-1はLLMの性能を測定するためのベ
はじめに 自宅PC編 会社サーバ編 感想等 執筆者：佐藤友昭 ※ 「ディスアグリゲーテッドコンピューティングとは何か?」連載記事一覧はこちら はじめに 作業ログや検討メモ、参照した定型論文や書籍、ネット上の記事、視聴した講演やウェビナーのメモ等、日常を記録する情報は日々増えていく。これらの情報はできれば後に役立てたいと思うが、筆者の場合、なかなか上手くいかない。自分の外部記憶を紐解いてみると、記録したことすら忘れてしまっている項目が大半である。本稿では、ローカルLLMとRAGを用いて自分の外部記憶にいろいろと質問できるようにする方法を入門的に紹介する。決してベストプラクティス的な内容ではない。 自宅PC編 まずは、普段自宅で使用しているLinux PCを実験台として使えそうか試してみてから会社のサーバに適用してみることにする。 第一の要件は、ローカル環境で動作することである。情報の性質によ
Intel N100搭載でLED電球並に省電力な超小型ファンレスPC「ASUS ExpertCenter PN42」検証 - エルミタージュ秋葉原
エルミタ的速攻撮って出しレビュー Vol.1323 Intel N100搭載でLED電球並に省電力な超小型ファンレスPC「ASUS ExpertCenter PN42」検証 2023.08.14 更新 文：編集部 池西 樹/撮影：松枝 清顕 先日IntelからNUC事業の譲渡がアナウンスされるなど超小型デスクトップPCを得意としているASUSTeK Computer Inc.（ASUS/本社：台湾）から、Alder Lake-Nを搭載する最新モデル「ASUS ExpertCenter PN42」の発売が開始された。TDPわずか6WのIntel Processor N100を採用することで、約130mmの小型筐体ながらファンレス駆動を実現したという、省電力・静音志向の注目作を早速チェックしていこう。 Efficient Coreのみで構成されるAlder Lake-N 本題に入る前にまずは「
タブレット買う時に考えること
経験したことからの感想と独断と偏見多めの見解 AndroidスマホGalaxy Note9、Windows PC、iPad Pro12.9、Fire HD 10を所持 記号は良い★★★★★＞＞＞＞☆☆☆☆☆悪い ①タブレットでスマホゲームをしたい★★★★★iPad・・・対応してないことはほぼなく殆どのゲームがおそらく快適にプレイできる。OS保証期間もAndroidより長く、数年経ってもスペックも最新ゲーム対応してることが多い。 ★★★★☆Androidタブレット・・・対応してないことはほぼないが快適さではゲームによっては高スペックタブレットでもiPadに若干劣る可能性。 ★★☆☆☆Fireタブレット・・・低スペックでもできるゲームならプレイできるかもしれないが恐らくスペックが苦しい。 ★☆☆☆☆Windowsタブレット・・・対応してない可能性が高い。エミュレータで可能かもしれないが快適では
こんにちは。Turing株式会社の機械学習チームでインターンをしている九州大学修士1年の岩政(@colum2131)です。 Turingは完全自動運転EVの開発をするスタートアップです。 自動運転技術において、カメラやセンサ情報は正確な制御をする上で不可欠な要素である一方、自然言語やマルチモーダルな処理が必要となる状況もしばしば存在します。特に完全自動運転車においては、音声認識によってドライバーの音声命令を認識し、リアルタイムで適切な制御を行うことや、複雑な交通状況の背景にあるコンテクストを理解させるといった要求が出てきます。そのために、「基盤モデル」と呼ばれるような、自然言語処理を含む大規模モデルの学習が必要になってくると、私たちは考えています。 そこで本記事では、言語モデルの発展の流れとTuringが目指す基盤モデルの開発について紹介します！ 1. 言語モデルとは？ 近年の言語処理モデ
理化学研究所は10月5日、3月27日に稼働を始めた国産超伝導量子コンピュータ初号機の愛称を「叡」（えい、英語表記は“A”）に決めたと発表した。理研では4月7日から5月31日にかけて愛称を公募しており、全部で3781件の応募があったという。 叡に決めた理由について理研は「『叡』は聡明さを表し、量子コンピュータの情報処理における卓越性・先進性を表す」と説明。また英語表記については「アルファベット順の最初の文字である“A”とすることで、当該機が理研量子コンピュータ研究センター（RQC）にとっての、また国産量子コンピュータ初号機として日本にとっての、量子コンピュータ実機開発の第一歩であることも表現している」と解説した。 今後、「叡」のイメージに合うようなロゴマークも作成する予定。 理研は3月27日、叡を使った「量子計算クラウドサービス」の提供を開始している。非商用利用であれば、クラウド経由で64量
Photoshopには、RAWファイル現像プラグイン「Camera Raw」が付属しています。2021年3月にリリースされた「Camera Raw13.2」には、カメラで撮影した画像の解像度を2倍にする機能「スーパー解像度」が追加されているので、実際に使ってみました。 新機能「スーパー解像度」の活用方法 https://blog.adobe.com/jp/publish/2021/03/10/cc-photo-from-the-acr-team-super-resolution.html ◆「スーパー解像度」の使い方 実際に「スーパー解像度」を使って、画像の解像度を2倍にしてみます。まずは、Camera Rawで編集したい画像のRAWファイルを読み込みます。なお、「スーパー解像度」は記事作成時点では、最大で長辺6万5000ピクセル、あるいは総画素数500メガピクセルまでの画像に対応していま
ThreeDPoseTrackerとは まずは下記の動画をご覧ください。画像をクリックすると別タブでYoutubeが開きます。 ThreeDPoseTracker v0.1.0 Introduction movie 他にもこの辺を見て頂くとわかりやすいかもしれません。 USBカメラだけでできる モーションキャプチャを作ってみた - Motion capture with USB Cam only - 【NT京都2020】 https://youtu.be/L0ieoaOD6Po ThreeDPoseTrackerは、USBカメラや踊ってみた等の動画だけでモーションキャプチャーができるWindows10用アプリケーションです。ノートPCであれば内蔵のカメラを使えば追加の機材は必要ありません。ですが、ちょっと（かなり）強めのグラフィック環境が必要です。具体的にはGTX1050以上は欲しいです。
Asahi Linux開発者のVTuberが「AppleのM1 GPUをLinuxで動作させるためのドライバー開発」について語る
Apple独自開発のSoCであるM1チップを搭載したMacでの動作を目指すLinuxディストリビューション・Asahi Linuxの開発に携わる開発者兼VTuberの朝日リナ氏が、M1 GPUのドライバー開発についてAsahi Linux公式ブログで解説しています。 Tales of the M1 GPU - Asahi Linux https://asahilinux.org/2022/11/tales-of-the-m1-gpu/ リナ氏によれば、近年のGPUはほぼすべて、以下のようなメインコンポーネントで構成されているとのこと。 ・ユーザー定義のプログラムを実行して三角形(頂点データ)とピクセル(フラグメントデータ)を処理する「シェーダーコア」 ・三角形を画面上のピクセルに変換する「ラスタライズユニット」「テクスチャサンプラー」「レンダー出力ユニット」、およびシェーダーと一緒に動作す
Unity、ゲームの最適化に関する電子書籍を無料公開。「モバイル」「コンソール/PC」向け2冊で、ボトルネックの特定方法やメモリ・GPU最適化などを解説
Unity Technologiesがゲームの最適化について解説する電子書籍を無料で公開 メモリやGPU管理、ボトルネック特定の方法などを解説したPDF資料 モバイル向けとコンソール/PC向けの2冊があり、各デバイス向け解説も Unity Technologiesは2023年12月6日、Unityにおけるゲームの最適化を解説する2冊の電子書籍を公開しました。 公開されたのは、モバイル向け開発ガイド『OPTIMIZE YOUR MOBILE GAME PERFORMANCE』と、コンソール/PC向け開発ガイド『OPTIMIZE YOUR GAME PERFORMANCE FOR CONSOLES AND PC』です。 各ガイドには、ボトルネックの特定方法やメモリ管理、プログラミングやアセット管理など、さまざまなカテゴリーにおける最適化が解説されています。また、各ガイドそれぞれに、対象デバイス
動機 TensorFlowの登場をきっかけに 機械学習によるアイドル顔識別 という取り組みをしていて、3年以上かけてコツコツとアイドルの自撮りを収集してラベルをつけてデータセットを作ってきたけど、 アイドルヲタクはもう辞めてしまって 現場にも全然行かなくなり、卒業・脱退の情報を追いながらラベルを更新していく作業を続ける情熱はすっかり薄れてしまった。 もうアイドル顔識別プロジェクトは終了にしよう、と思った。 しかし折角今まで集めたデータを捨ててしまうのは勿体無い。せめて最後に何か活用できないものか。 と考えて、「画像生成」に再び取り組んでみることにした。 過去に試したことはあったけど、それほど上手くはいっていない。 TensorFlowによるDCGANでアイドルの顔画像生成 TensorFlowによるDCGANでアイドルの顔画像生成 その後の実験など この記事を書いたのが2016年。 この後
初のAppleシリコン「M1」を搭載したMac製品の性能は高く評価され、売れ行きも好調と見られています。このAppleシリコンの基盤であるARMアーキテクチャにAppleがいつ頃から取り組み始めたのか、そしてM1 Macの性能がなぜ優れているのかについて、Appleの元エンジニアがツイートしています。 AppleはISA設計のためにARMと提携した 元Appleのカーネルエンジニアであるシャック・ロン氏がTwitterで、M1チップについて語っています。 会話のきっかけとなったのは「M1が高性能なのはARMとはまったく無関係だ。優れているのはキャッシュだ」という投稿です。ロン氏はこの投稿に異論を唱えるとともに、その理由を説明しています。 「この前提は間違っている。ARM64はAppleの命令セットアーキテクチャ（ISA）であり、Appleのマイクロアーキテクチャプランを実現するものだ。Ap
開発者向けの主要プラットフォームであり続けるために LinuxのGUIアプリへの対応が必要？ Microsoftは、WSL2（Windows Subsystem for Linux 2）でLinux GUIアプリケーションに対応することを計画している。以下の動画は昨年9月に開催されたXDC 2020のセッションのものだ。 上のWSLGのデモビデオより。GIMPや裏のウィンドウのタイトルバーはLinux GUIアプリケーションのもので、Windows 10とは明らかに違う。ただ、GIMPなどのアイコンがタスクバーに表示されていることから、Windowsのデスクトップのウィンドウになっていることがわかる この改良はかなり大きなものと言える。以前紹介したWSL2のGPUコンピューティングへの対応も（「Windows 10のWSL2からGPUが使えるようになった」）、WSL2内でGPUによる描画（
絵心がない線画を“いい感じの作品”に変える画像生成AI「Sketch-to-Image」 Googleなどが開発
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Google ResearchとイスラエルのTel Aviv Universityに所属する研究者らが発表した論文「Sketch-Guided Text-to-Image Diffusion Models」は、落書きのようにざっと描いた絵を入力テキストに従って詳細な画像を生成する深層学習モデルを提案した研究報告だ。手描きのスケッチを任意のテキストプロンプトによるスタイル制御で、自然な高精細画像に変換する。 大規模なテキストから画像への拡散モデルは、与えられたテキストプロンプトに従った前例のない品質の多様な画像の合成を可能にし、コンテンツの作成と編集のための刺激的なツールとなってきた。 しか
こんにちは！株式会社 ABEJA で ABEJA Platform 開発を行っている坂井（@Yagami360）です。世間では ChatGPT などの大規模言語モデル（LLM）による対話型 AI が盛り上がってますね。クオリティーも凄いし AI 業界以外でも盛り上がってると嬉しいですよね。この数年で一段と AI の社会実装が業界以外の人にも目に見える形で進んできたなあと実感しております。 自分は普段業務では ABEJA Platform という AI プロダクトやその周辺プロダクトのバックエンド開発とフロントエンド開発をやっているのですが、AI 業界所属していながら ChatGPT などの LLM 全然追いかけれていない状態になっちゃてて自責の念にかられているので、このブログ執筆という良い機会に ChatGPT の仕組みについて調べてみました。 本記事の対象読者としては、以下のようになりま
Don't Use Kubernetes, Yet
Early-stage startups shouldn't run on Kubernetes yet. But eventually, growth-stage and large companies should be running on Kubernetes in some form. Kubernetes Maximalism doesn't mean one-size-fits-all. Infrastructure should progressively grow with your workloads and team. How can you choose the right technology now so that you can maximize growth and minimize pain later when you inevitably outgro
Appleの製品名には色々なバリエーションがあるが、どうも最近整合性が取れていない感がある。Appleが製品につけてきたネーミングルールの歴史や顛末を振り返ってみよう。 2022年3月に発売されたMac Studio 今年（2022年）3月、世界最小のモンスターマシン、Mac Studioが発売された。コンパクトなボディに超強力なコンピューティングパワーを詰め込み、多くのスタジオにおいて強力なツールとなるであろうことは疑いない（まあ、拡張性への需要はさっぱり理解していただけていないようなのだが）。 「M1 MAX」と「M1 ULTRA」 さて、そのMac Studioだが、20コアCPU「M1 ULTRA」プロセッサを搭載したことが話題となった。M1プロセッサシリーズはこれで「M1」「M1 Pro」「M1 MAX」「M1 ULTRA」と4つのモデルが登場したことになる。M1アーキテクチャが
CyberAgentが日本語LLMを公開していたので、とりあえず動かしてみました。 サイバーエージェント、最大68億パラメータの日本語LLM（大規模言語モデル）を一般公開 ―オープンなデータで学習した商用利用可能なモデルを提供― | 株式会社サイバーエージェント モデルは次のように6サイズ提供されています。 ※ Rinna社も同時に新しいモデルを出したので試しています。 Rinnaの新しい3Bモデルを試してみる - きしだのHatena open-calm-small(160M) まずはopen-calm-small。160Mパラメータです。 このあたりは動作確認用なので、内容は気にしない。 GPUメモリは1.3GBくらいの消費です。 open-calm-medium(400M) 次にopen-calm-medium。400Mパラメータです。 このへんも細かいことは気にしないけど、なんかま
「朝からサーバーからえぐいほど警告が来ていると思ったら室温がやばい」→その原因が判明したが非常にシンプルかつ深刻な事態だった
くわ @kuwamain ちなみに去年あった同じような事件とは違うサーバーです x.com/kuwamain/statu… x.com/kuwamain/statu… テスト運用していたGPUサーバー(ほかにも10台ぐらい)が全部90度になっていた 落ちてなかったのが奇跡... x.com/kuwamain/statu… 2024-05-08 09:20:32 くわ @kuwamain 今日のシステム障害の流れ 空調が死ぬ(ダイキンのエアコンって60日で切れるの？) ↓ 室温が上がりサーバー機が次々にオーバーヒートして停止 ↓ 9割以上の実機が死に冗長化が保てなくなりシステム停止 ↓ 全落ち☆ 簡単に言うと「我が名はアシタカ。節電のためにエアコンを止めた！」が発生した模様 2023-08-16 17:14:24
PFNのML/DL基盤を支えるKubernetesにおける自動化 / DevOpsDays Tokyo 2021
Preferred Networks（PFN）は深層学習などの最先端の技術を最短路で実用化することで、これまで解決が困難であった現実世界の課題解決を目指しています。コンピュータビジョン、自然言語処理、音声認識、ロボティクス、コンパイラ、分散処理、専用ハードウェア、バイオインフォマティクス、ケモインフォマティクスといった幅広い分野で研究開発を行っており、それを支えているのが Kubernetes を用いて構築しているオンプレミス/ベアメタルの GPU クラスタです。 本セッションでは、PFN が Kubernetes を用いてクラスタを運用するなかでどのような障害が起きるのかを紹介し、また障害対応をどのように自動化しているのかを具体的に使用/開発したソフトウェアを含めてご紹介します。また Kubernetes クラスタの管理、アップグレードの自動化にも取り組んでおり、それを実現する Clus
Stable DiffusionのリモートデスクトップとGPUボックスの使い勝手の違い - 勝間和代が徹底的にマニアックな話をアップするブログ
この記事を書いたところ、たくさんの方から「リモートデスクトップを使えばいいしゃん」とツッコミを受けたので、比較してみました katsumakazuyo.hatenablog.com 結論から言いますと私の14インチのノートパソコンだと画面が、NMKDのGUIの画面が小さすぎてちょっといろいろ工夫が必要でした。デフォルトだと、こんな感じ。 リモートデスクトップの画面が当たり前ですが、通常のノートより一回り小さくて、さらにその内周にNMKDがはいるので、フォントの文字が極小サイズになってしまいます。 デスクトップ側の画面を175％とかにしたら、ギリいける感じでしたので、たぶん、そういった工夫が必要みたいです。 あと、Promptに文字を入れるのも、日本語モードになっていると、キーボード入力受け付けないみたいです。これ、気をつけないと。 あと、超当たり前ですが、できあがったファイルもリモート側に
GPUメモリが小さくてもパラメーター数が大きい言語モデルをトレーニング可能になる手法「QLoRA」が登場、一体どんな手法なのか？
GPT-1は1億1700万個のパラメーターを持つ言語モデルで、GPT-2では15億、GPT-3では1750億とパラメーター数が増加するにつれて言語モデルの性能が上がってきています。しかしパラメーター数が増加するにつれてトレーニングに必要なデータの数やトレーニング中に使用するメモリの量も増加し、トレーニングのコストが大きく増加してしまいます。そんな中、メモリの消費量を激減させつつ少ないデータでトレーニングできる手法「QLoRA」が登場しました。 [2305.14314] QLoRA: Efficient Finetuning of Quantized LLMs https://arxiv.org/abs/2305.14314 artidoro/qlora: QLoRA: Efficient Finetuning of Quantized LLMs https://github.com/art
わずか4GBの実行ファイル1つで大規模言語モデルによるAIを超お手軽に配布・実行できる仕組み「llamafile」をWindowsとLinuxで簡単に実行してみる方法
「llamafile」は大規模言語モデルのモデルやウェイトの情報が1つの実行ファイルにまとまった形式のファイルです。Linux・macOS・Windows・FreeBSD・NetBSD・OpenBSDという6つのOS上でインストール不要で大規模言語モデルを動作させることが可能とのことなので、実際にWindowsおよびLinuxディストリビューションの1つであるDebian上で動かしてみました。 Mozilla-Ocho/llamafile: Distribute and run LLMs with a single file. https://github.com/Mozilla-Ocho/llamafile#readme Introducing llamafile - Mozilla Hacks - the Web developer blog https://hacks.mozilla
「プレイステーション 5」が正式に発表。2020年の年末商戦期に発売へ 編集部：YamaChan ソニー・インタラクティブエンタテインメント（以下，SIE）は本日（2019年10月8日），同社の次世代ゲーム機の名称が「プレイステーション 5」（以下，PS5）になることを発表した。PS5は，2020年の年末商戦期に発売する予定とのこと。 PS5は，超高速のアクセスが可能なカスタムSSDを搭載し，ゲームのロード時間は格段に速くなるそうだ。ゲームにおいては最大で8K解像度の出力に対応し，PlayStation 4タイトルとの互換性も予定されているとのこと。PlayStation VRも利用できるそうだ。 また物理メディアも引き続き採用される。PS5で使用される規格はUltra HD Blu-rayで，ゲームディスクとしての容量は最大100GBになるという。 コントローラには，従来の振動技術に代わ
by Expanscape 近年では軽量かつ高性能なノートPCの普及によって外出先や移動中でもPC作業がしやすくなっていますが、オフィスや自宅でマルチディスプレイを使っている人にとっては、1つの画面しかないノートPCでの作業はやりにくいもの。そこでイギリスのExpanscapeという企業が、4Kディスプレイを4枚搭載した驚異の7画面ノートPC「Aurora 7」を発表しました。 Expanscape | The story of the Aurora 7 https://expanscape.com/the-aurora-7-prototype/the-story-of-the-aurora-7/ This Obscene 7-Screen Laptop Only Has 1-Hour Battery Life https://gizmodo.com/its-no-surprise-thi
AWS re:Invent 2020の会期中に発表された新サービス/アップデートのまとめです。 今年も、後から出来るだけ素早く簡単に振り返ることができるようにまとめました！ 凡例 (無印) 新サービス (Update) 既存サービスのアップデート (APN) パートナー制度に関連したリリース/アップデート 12/1 (火) 今年の開幕は「Amazon EC2 Mac instances」でした。 Amazon EC2 Mac instances macOS用のAmazon Elastic Compute Cloud （EC2） Macインスタンス EC2 Macインスタンスを使用すると、iPhone、iPad、Mac、Apple Watch、Apple TV、Safari用のアプリ開発者は、macOS環境を数分でプロビジョニングしてアクセスし、必要に応じて容量を動的に拡張し、AWSの従量課
「Mistral」「Llama 2」「Vicuna」などオープンソースの大規模言語モデルを簡単にローカルで動作させることが可能なアプリ「Ollama」の公式Dockerイメージが登場したので、早速使い勝手を試してみました。 Ollama is now available as an official Docker image · Ollama Blog https://ollama.ai/blog/ollama-is-now-available-as-an-official-docker-image Ollamaで動作可能な大規模言語モデルの代表例は下記の通り。リストの全体についてはOllamaの公式サイトで確認することができます。 モデルパラメーターサイズDownloadMistral7B4.1GBollama run mistralLlama 27B3.8GBollama run ll
Intelの新型CPU「Core i9-10900K，Core i7-10700，Core i5-10600K」レビュー。Comet Lake-Sのゲーム性能はRyzen 3000を超えたのか？
Comet Lake-Sのゲーム性能はRyzen 3000を超えたのか？ Core i9-10900K Core i7-10700 Core i5-10600K Text by 米田 聡 2020年5月20日，Intelが「世界最強のゲーム用CPU」と謳うデスクトップPC向けの第10世代Coreプロセッサ（開発コードネーム：Comet Lake-S）が発売となった。上位モデルであるCore i9シリーズでは，Intel製のデスクトップPC向けCPUとしては初めて，10コア20スレッドに対応。それに加えて，CPUの発熱状況に応じて最大クロックを引き上げる機能「Thermal Velocity Boost」の実装により，最大クロックも5.3GHzに達するという強烈な仕様が特徴だ（関連記事）。 Core i9-10900K メーカー：Intel 実勢価格：7万2000円前後（税込，※2020年5
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「iPhone 14」発表 衛星通信に対応、11万9800円から 「Plus」も復活
AWSのEC2やRDSの価格＆スペックを簡単に比較できる「EC2Instances.info」を使ってみた
無価値だった検索と今無価値に思える作画AI。その先にある行動の生成
学習が何で律速してるか、把握してますか？ - arutema47's blog
2019年注目のJavaScriptアニメーションライブラリ11選 - Qiita
マイクロソフト、軽量かつ高性能な大規模言語モデル「phi-1」を発表
ローカルLLMとRAGで自分の外部記憶を強化しよう - VA Linux エンジニアブログ
実践！大規模言語モデル / 1000億パラメータ越えモデルを動かすには？
国産量子コンピュータ初号機、愛称は「叡」に 英語表記は“A” 理研が発表
画像の解像度を「2倍」にするPhotoshopの新機能「スーパー解像度」の使い方＆仕組みはこんな感じ
USBカメラモーションキャプチャーThreeDPoseTrackerの説明 - Qiita
【特集】 自作GeForce NOW？ゲーミングPCを複数人で共有、ゲームサーバーにする「EASY-GPU-PV」と「Parsec」
顔画像生成のためのデータセットを作る - すぎゃーんメモ
元Appleエンジニアが語る〜M1 Mac開発は10年前から始まった - iPhone Mania
LinuxのGUIアプリケーションに対応するWSL2 (1/2)
ChatGPT の仕組みを理解する（前編） - ABEJA Tech Blog
Apple製品のネーミング、それで本当に良いのか？ - 雑な命名の歴史とその顛末を振り返る
CyberAgentの日本語言語モデルを試してみる - きしだのHatena
「プレイステーション 5」が正式に発表。2020年の年末商戦期に発売へ
4Kディスプレイを4枚搭載した驚異の7画面ノートPC「Aurora 7」のプロトタイプが公開される
AWS re:Invent 2020で発表された新サービス/アップデートまとめ - Qiita
さまざまなチャットAIを簡単にローカル環境で動かせるアプリ「Ollama」の公式Dockerイメージが登場