BitNetから始める量子化入門
はじめに BitNet、最近話題になっていますね。 そもそも量子化って何？という方もいると思うので、この記事は DeepLearning の量子化から入り、その上で BitNet の触りについて見ていこうと思います。色々とわかってないことがあり、誤読してそうなところはそう書いてるのでご了承ください。 図を作るのは面倒だったので、様々な偉大な先人様方の図やスライドを引用させていただきます。 量子化 DeepLearning における量子化 DeepLearning の学習・推論は基本 float32 で行います。これを int8 や Nbit に離散化することを量子化といいます。 計算に使う値は、モデルの重み、アクティベーション（ReLUとか通した後）、重みの勾配等があります。 学習時については一旦置いておいて、この記事では推論における量子化について焦点をあてます。推論時に量子化の対象となる
東京リージョンでAMD製CPU搭載の最新インスタンスファミリーが利用可能になりました(C7a、M7a、R7a) | DevelopersIO
東京リージョンでAMD製CPU搭載の最新インスタンスファミリーが利用可能になりました(C7a、M7a、R7a) 2月27日、東京リージョンで 「C7a」CPU最適化インスタンスがリリース、 第 4 世代 AMD EPYC プロセッサを搭載した EC2インスタンスファミリー「C7a」「M7a」「R7a」が利用可能になりました。 今回「C7a」と、先月末から利用可能となっていた「R7a」インスタンスの起動と、 同世代のIntel製CPU搭載したEC2インスタンスとのコスト比較を試みる機会がありましたので、紹介させていただきます。 Amazon EC2 C7a and R7a instances are now available in additional regions アジアパシフィック (東京) リージョンで Amazon EC2 M7a および R7a インスタンスの提供を開始 EC2
Googleが決済アプリの「Google Pay」を2024年後半に廃止すると発表
Googleのオンライン決済sサービス「Google Pay」のアプリ版が、アメリカで2024年後半に廃止されることが明らかになりました。アプリが廃止される理由は、機能の大部分がGoogle Walletアプリに取って代わられたためです。 Simplifying our payment apps in the U.S. https://blog.google/products/google-pay/payment-apps-update/ Google is sunsetting the Google Pay app in the US later this year | TechCrunch https://techcrunch.com/2024/02/23/google-is-sunsetting-the-google-pay-app-in-the-us-later-this-year
30代になったらファッションから降りてる男のほうがいい
20代まではファッションに気を使っている男のほうが優秀な人が多い。ファッションを通じて友人や異性、社会とも繋がることが出来るからだ。 アイデンティティの確率にも有用に働くだろう。しかし、30代以降になったらファッションを通じてアイデンティティを保っているような男は碌でもない奴が多い。 もちろん例外はいるがあくまで傾向の話である。コンサル、外銀、JTC、士業、医師、学者、起業家、投資家、デザイナー、アーティスト等私が今まで出会った数々の 男性を見てきた結論が30代になったらファッションから降りてる男のほうがいいである。 ライフステージと共にファッションの価値は相対的に低下し、相手に不快感を与えない最低限の衣服を身につければいいという考えに至るのが私の考える優秀な男のあり方だ。ハイブランドやヴィンテージ古着に執着してるような男はさらに碌でもない奴が多い。そして相手を雑に扱う割に夜はネコだから困
Magika: AI powered fast and efficient file type identification
The latest news from Google on open source releases, major projects, events, and student outreach programs. Today we are open-sourcing Magika, Google’s AI-powered file-type identification system, to help others accurately detect binary and textual file types. Under the hood, Magika employs a custom, highly optimized deep-learning model, enabling precise file identification within milliseconds, eve
3万アカウントの凍結を見届けた 趣味としてのTwitter(X)スパム報告 | N-Styles
趣味にはさまざまなものがある。 私はゲーム好きが高じて株主総会のレポートを毎年書いたり、映画館でペンライトを振って歓声をあげる応援上映にのめりこんで同じ映画を何十回も観たりしている。 最近、新たにTwitter(Xともいう)におけるスパム報告が趣味に加わった。 [2024年2月20日現在 31000件ほど凍結確認済み] こちらは、記録に残している凍結済みアカウントのリストだ。2023年9月下旬から記録をあつめて、半年ほどで3万アカウントに達した。 他に、未凍結のスパムリストが5000件ほどある。 Twitter(現在はXと呼ばれる)のスパムといえば、バズったツイートに他のツイートをコピーしたり、自動生成したような文章でリプライを投げる青バッジ付きの「インプレゾンビ」が大活躍中だが、検索で拾いにくい上に凍結が容易ではないという理由で対象にしていない。 対象のスパム 現在は以下の4つを対象とし
炎上する話ではあるが、ヤクザをやめて5年以上真面目に働いているのに離脱させてからのフォローがないのは酷すぎる
草下シンヤ/作家･編集者 @kusakashinya ヤクザをやめて5年以上真面目に働いているのに、警察とは関係ない銀行などの独自データベースではねられて、さまざまな契約ができないケースが多すぎる。「自分のやってきたことだから、それも受け止めてやっていくしかない！」と言うしかないんだけど、警察もヤクザを離脱させるだけさせておいて、その後のフォローがないっていうのは酷すぎる。「どこにも居場所がないなら、またグレるしかないよ…」と犯罪の道に戻った人がどれだけいることか。面接するとか、書類を提出するとか、なんでもいいけど、警察がお墨付きを与えることで反社データベースからの情報抹消などをしないと、いつまでも表社会には戻れない。離脱促進と社会復帰支援は同時に行わないと意味がない 草下シンヤ/作家･編集者 @kusakashinya この話題は毎回炎上するし、意図が伝わないのは仕方ないと思っているよ。
Optimizing SQLite for servers
SQLite is often misconceived as a "toy database", only good for mobile applications and embedded systems because it's default configuration is optimized for embedded use cases, so most people trying it will encounter poor performances and the dreaded SQLITE_BUSY error. But what if I told you that by tuning a
AWS、高速起動にこだわった軽量なJavaScriptランタイム「LLRT」（Low Latency Runtime）をオープンソースで公開。AWS Lambdaでの利用にフォーカス
AWS、高速起動にこだわった軽量なJavaScriptランタイム「LLRT」（Low Latency Runtime）をオープンソースで公開。AWS Lambdaでの利用にフォーカス Amazon Web Services（AWS）は、実験的な実装としてサーバレス環境のAWS Lambdaで使うことにフォーカスした軽量なJavaScriptランタイム「LLRT」（Low Latency Runtime）をオープンソースで公開しました。 LLRTはRustで開発され、JavaScriptエンジンにはQuickJSを採用しています。 LLRTの最大の特徴は、現在のJavaScriptランタイムにおいて性能向上のために搭載されているJITコンパイラをあえて搭載せず、よりシンプルで軽量なランタイムとして実装することで高速に起動することにこだわっている点です。 これにより（Node.jsやDenoや
「イラストや製図に使えない」──とあるEIZO製モニターの仕様で物議 メーカーに聞いた
「イラストや製図等に使えない」──とあるEIZO製液晶モニターを購入したユーザーのポストがX上で拡散している。というのも、PC上で正方形を描画しても、モニター上には縦が短くなった四角として表示されてしまうからだ。 該当のモデルは「FlexScan EV2360」という22.5インチのモニター。小型サイズながらアスペクト比16:10、WUXGA（1920×1200ピクセル）のIPSパネルを採用しているのが特徴。しかし、仕様表には画素ピッチが0.254×0.248mm（横×縦）とあり、液晶パネルを構成する「画素」の形が1:1の正方形ではなく、縦が短くなっている。これが表示の違いを生んでいる。 X上では、この投稿に対し「そのへん心配しないで済むために選ぶブランドがEIZOだと思ってた」「ピクセルの縦横比が長方形な液晶パネルなんてものが存在してて、まさかEIZOというブランドが製造販売してるなんて
LLVM/Clang Can Work Fine As A GCC Replacement For Linux Distributions - Phoronix
LLVM/Clang Can Work Fine As A GCC Replacement For Linux Distributions Written by Michael Larabel in LLVM on 5 February 2024 at 06:57 AM EST. 43 Comments While the performance of LLVM/Clang is on-par with GCC these days on both x86_64 and AArch64 and the C/C++ support is very robust compared to many years ago, most Linux distributions continue using the GCC compiler and GNU toolchain by default. Op
Zennで記事投稿キャンペーンを開催します！ | What's New in Zenn
この度、Zennで初めて記事投稿キャンペーンを開催します！ キャンペーン期間中にテーマに沿った記事を投稿していただいた方の中から、厳正な審査のもと合計3名様にZennよりプレゼントを差し上げます。 テーマは「Google Cloud」です！Google Cloudにまつわる投稿を広く募集します。また、Google Cloudでは、2024年3月7日(木)にイベント「Generative AI Summit Tokyo '24」を開催予定です。本ページ後半にご案内がありますのでそちらもご覧ください。 本キャンペーンの位置づけについては、記事投稿キャンペーンの開催とマネタイズ施策についてをご覧ください。 初の記事投稿キャンペーンですので、皆さま奮ってご参加ください！ キャンペーン詳細 主催: Zenn（クラスメソッド株式会社） 開催期間: 2024 年 2 月 1 日（木）～ 2 月 29 日
｢ストロング系｣毎日10缶飲んでた私に起きた異変
コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕
M:Nスレッドによる軽量な並行処理への挑戦 | gihyo.jp
STORES株式会社でRubyインタプリタ開発をしている笹田です。お正月に新年早々おでんを腐らせてしまったので、今年は作ったらさっさと食べることを目標にしたいと思います。 この記事では、主に私が開発している、Ruby 3.3で導入されたM:Nスレッドについて紹介します。 M:Nスレッドはスレッドの性能向上のために導入されました。M個（大きな数）のRubyスレッドをN個（十分小さい数）のネイティブスレッドだけで実行するというモデルで、スレッド管理のオーバヘッドを抑えられる方法として知られており、ほかにもGo言語などで利用されています。今後、大量のネットワーク接続を処理するといったことをRubyで記述することを検討したい場面が出てくるしれません。そのようなときにRubyでスイスイとプログラムが書ければいいなと思っており、その一貫です。最終的には、Ractorを用いた軽量な並列・並行アプリケーシ
BigQueryでクエリ一撃で29万円溶かしたけど助かった人の顔
SolanaのPublic DataをBigQueryで取得したかった# えー、お笑いを一席. ブロックチェーンSolanaのデータがGoogle Cloud BigQueryで使えるようになったというニュースをたまたまネット推薦記事でみかけた1. おや, 面白そうだ. ちょっとやってみようかな… BigQueryはさわるのが１年以上つかってないかも, どうやるんだっけ… とりあえずカラムとかサンプルでちょっとデータをみたいよな, こんな感じだっけか？ とりあえず動かしてみよう, ポチッとな. … 5秒でレスポンスが帰ってくる. おー、速い. えーっと, あれ課金データ309TB？！ いちげきひっさつ、ハサンギロチン2. BigQueryでクエリ一撃5 秒で29万円溶かした人の顔# 話題の画像生成AI, DALL･Eをつかって BigQueryでお金溶かした人の顔を表現してもらった3. あ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
大規模言語モデルを作る、拡張する
リンカを変えてgo buildを 速く出来るか
『Goサブ会』によるチームを超えた知見展開、あるいは hatena.go に対する期待 #hatenago
はてなのサービスを支えるGo / hatena.go #1 maku693
Mozilla lays off 60 people, wants to build AI into Firefox