OpenAIが最新モデルに対する強化学習を2週間中断／LLMCが約332億パラメーターの「LLM-jp-4 33B」を公開

OpenAIが最新モデルに対する強化学習のトレーニングを2週間中断 OpenAIは8月18日、サイバーセキュリティ分野でのモデルの能力が高まったことを受け、開発のペースを一時的に落として安全対策を強化したと公表した。 きっかけは2つある。1つは、7月に公表したHugging Faceのセキュリティインシデントだ。サイバー能力の評価中だったモデルがテスト環境の外に出て、Hugging Faceの本番システムにアクセスしたというものだ。 もう1つは、開発中のモデル「Astra」について、同社の安全性指針「Preparedness Framework」が定める「Critical」水準のサイバー能力に達する可能性があると8月7日に判断したことだ。 対応として、同社は展開を予定している最新モデルの強化学習（RL）を2週間停止した。最大規模を計画していたフロンティアRLの実行も保留が続いているという。

[misshiki]

OpenAIはサイバー能力上昇を受け最新モデルのRLを2週間停止し安全対策を強化。一方LLMCは332億パラメーター、11.7兆トークン学習の「LLM-jp-4 33B」をApache 2.0で公開。