Meta、コード生成や解釈に特化した大規模言語モデル「Code Llama」公開

Metaは、コードもしくは自然言語によるプロンプトから、コードの生成およびコードに関する自然言語の説明を生成できる大規模言語モデル「Code Llama」を公開しました。 Code Llamaは、先月（2023年7月）にMetaが発表した大規模言語モデル「Llama 2」をベースに、コードに特化したデータセットでさらに訓練したバージョンだと説明されています。 対応するプログラミング言語はPython、C++、Java、PHP、JavaScript、Typescript、C#、Bashなどを始めとする主要な言語。 GPUで処理できるサイズやPython特化のモデルも Code Llamaは3つのサイズ、7B、13B、34Bが提供されています。 7Bモデルは1つのGPUで処理できる一方で、34Bモデルは最善の結果を返し、より良いコーディング支援を可能にする能力があります。 一方、7Bおよび13

[funya-r]

“Metaは、コードもしくは自然言語によるプロンプトから、コードの生成およびコードに関する自然言語の説明を生成できる大規模言語モデル「Code Llama」を公開しました。”

[misshiki]

“Metaは、コードもしくは自然言語によるプロンプトから、コードの生成およびコードに関する自然言語の説明を生成できる大規模言語モデル「Code Llama」を公開しました。”

[stealthinu]

Code Llama。Llama2をコーディングに特化したデータセットで学習させたもので34BモデルだとGPT-4に匹敵する性能と言ってたはず。今後の開発用PCはDLやってなくてもGPUのメモリが重要になってきそう。

[jniino]

中の人です。タイポご指摘ありがとうございます。修正しました。

[diveintounlimit]

タイトル以外が“Llma”になっとる