「1ビットLLM(大規模言語モデル)」として2024年春に話題となった「BitNet」によって、AI(人工知能)のエネルギー効率は1桁改善する――。BitNetを開発した米Microsoft(マイクロソフト)の研究部門、Microsoft Research Asia(MSR Asia)のリドン・ジョウ所長は、日経クロステックの取材に対してそう力説した。 BitNetは、大規模言語モデル(LLM)のパラメーターを-1、0、1というわずか3種類(1.58ビット)のパラメーターで構成する技術で、MSR Asiaの研究者らが2024年2月に論文速報サイト「arXiv(アーカイブ)」に公開した論文「The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits」で明らかにした。 従来の16ビットのパラメーターで構成するTransfo

