昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアルゴリズム。だから正確には0か1かではなく、-1か0か1ということ。 この手法の行き着くところは、GPUが不要になり新しいハードウェアが出現する世界であると予言されている。マジかよ。 https://arxiv.org/pdf/2402.17764.pdf ということで早速試してみることにした。 オフィシャルの実装は公開されていないが、そもそも1ビット(と言っていいのかわからない,-1,0,1の三状態を持つからだ。 論文著者はlog2(3)で1.58ビットという主張をしている)量子化のアルゴリズム自体の研究の歴史は古いので、BitNetによるTransformerの野良実装

【写真】その他の写真を見る 大谷は「いつも温かい応援をいただきありがとうございます。シーズンも近づいておりますが本日は皆さまに結婚いたしました事をご報告させていただきます」と伝えた。 続けて「新たなチームと新たな環境でのスタートとなりますが2人（1匹も）で力を合わせ支え合い、そしてファンの皆さまと共に歩んでいけたらと思っております」とし、「まだまだ未熟な点も多々あるかと思いますが温かく見守っていただければ幸いです」と呼びかけた。 「お相手は日本人女性です。明日の囲み取材で対応をさせていただきますので今後も両親族を含め無許可での取材等はお控えいただきますよう宜しくお願い申し上げます」と呼びかけた。 併せて、英文でも報告した。 大谷は1994年7月5日生まれ。投手（右投左打）。2012年にドラフト1位で北海道日本ハムファイターズに入団。投手と打者の二刀流選手として注目を浴びる。13年5月、ヤク

さすがにタブーすぎてできないのかな