Code Llama の概要｜npaka

以下の記事が面白かったので、かるくまとめました。 ・Introducing Code Llama, a state-of-the-art large language model for coding 1. はじめに「Code Llama」は、コードと自然言語の両方からコードとコードに関する自然言語を生成できる最先端のLLMです。研究および商用利用が可能で、無料で利用できます。 「Code Llama」は「Llama 2」ベースで、次の3つのモデルを提供します。 ・Code Llama : 基本的なコード生成モデル。 ・Code Llama - Python : Pythonに特化したコード生成モデル。 ・Code Llama - Instruct : 自然言語の指示を理解できるようにファインチューニングしたモデル。 ベンチマークテストではコードタスクにおいて、公的に入手可能な最先端のLL

[misshiki]

公式発表ページを日本語でまとめ直し。ありがたい。

[kiririmode]

Llama 2ベースのプログラミング用ai

[canadie]

100kトークンはすごいな。Codexは8kトークンくらいだっけ。gpt-3相当の性能しかないとしても多少の長さのコードは俯瞰できる長さがある

[deejayroka]

“コード固有のデータセットで「Llama 2」を追加学習し、同じデータセットからより多くのデータを長時間サンプリングすることによって作成”

[endo_5501]

“Python、C++、Java、PHP、Typescript (Javascript)、C#、Bash など、現在使用されている一般的な言語の多くをサポートしています。” ShellGPTにはこれ使ったほうが良いかもだな