はじめに こんにちは、KDDIアジャイル開発センターのはしもと（仮名）です。 エンドレス水出しコーヒーの時期になりましたね。 今回は、Ollama を使って日本語に特化した大規模言語モデル Llama-3-ELYZA-JP-8B を動かす方法をご紹介します。 このモデルは、日本語の処理能力が高く、比較的軽量なので、ローカル環境での実行に適しています。さあその性能は如何ほどに！！！！？？？？はやくAIは俺から仕事を奪え。 Llama-3-ELYZA-JP-8Bとは Llama-3-ELYZA-JP-8Bは、ELYZA社が開発した日本語に特化した大規模言語モデルです。Meta社の「Llama 3」シリーズをベースに、日本語での追加学習を行っています。80億パラメータという比較的小さなモデルサイズながら、「GPT-3.5 Turbo」や「Claude 3 Haiku」、「Gemini 1.0 P

KDDIアジャイル開発センターのはしもと（仮名）です、突然の出来事でした。 お昼ごはんを食べながらSNSをパトロールしていたところ、 へ？ 待ってました Azure OpenAI Service が国内リージョンに上陸しました！！！！！！！ 何が嬉しいか 思いつく範囲で、次のような点が挙げられます。 レイテンシーの改善 データセンターが利用者に近い地理的位置にあると、データの送受信にかかる時間が短縮されます。 これにより、Azure OpenAI Service を利用するアプリケーションやサービスのパフォーマンスが向上することが期待できます。 データのプライバシー管理とコンプライアンス準拠 データが日本国内で処理および保存されるため、日本国の法規制や、各企業のセキュリティポリシーに則ったシステム構築の実現可能性が高まります。 企業が自社内で持っているデータを活用するには、データの所在地は