CUDAの代替技術を開発することは、決して簡単なことではない。 ModularのChris Lattner氏が率いる120人の開発チームは、CUDAだけでなくAIソフトウェアスタック全体をゼロから置き換えることを目指し、3年間にわたり取り組んできた。 Lattner氏は米国EE Timesの取材に応じ「そのためには何が必要だろうか。実際、CUDAの代替技術の開発は非常に難しく、何年もかかる。われわれはこの3年間、プログラミング言語やグラフコンパイラ、大規模言語モデル(LLM)の最適化などに取り組み、それを全て整理して、大規模実装や試験、検証などを行ってきた」と述べている。 既存のAIソフトウェアスタックの問題の原因は、それが突然出現して、現在も非常に速く変化しているという事実にある。新しいユースケースやモデルに対応するために、すぐさまレイヤーが追加されるのだ。現在、CUDAの上には、One
