オープンソースのLLM(大規模言語モデル)を、NRIのデータセンターで運用するプライベートクラウドや企業のオンプレミス環境で動作させる。「GPT-4」といった外部サービスのLLMを使用する場合と比較して機密・機微情報を安全に扱うことができ、金融機関など高レベルの情報セキュリティー統制にも対応可能という。 新サービスでは企業が持つデータを利用し、LLMを各社の業務に適した形にカスタマイズする。個人を特定できる音声データの漏洩リスクを極小化する「プライベート音声認識」など、周辺モジュールも提供する。 NRIは新サービスの提供に先立ち、社内の会計事務手続きのサポート業務で検証を実施した。カスタマイズ用の学習データ6万件を用いて、米Meta(メタ)が提供するオープンソースのLLMである「Llama 2」をファインチューニングし、NRIのデータセンターに設置したGPU上で動作させた。結果として生成A
![NRIが2024年春以降に生成AIサービス提供、漏洩リスク抑えたLLM活用を支援](https://cdn-ak-scissors.b.st-hatena.com/image/square/fb31a2be82088fef496cc4f04010704fd4fc999e/height=288;version=1;width=512/https%3A%2F%2Fxtech.nikkei.com%2Fatcl%2Fnxt%2Fnews%2F24%2F00039%2Ftopm.jpg%3F20220512)