OpenAI、先端モデル訓練でネット接続を禁止 広大な「オフラインの世界」を構築

ネット検索は保存済みのウェブ情報で代替 新たな方針では、最先端AIモデルの訓練と大半の評価において、AIが実際のインターネットに接続することを認めない。一方、AIにはウェブを検索・閲覧する能力を学習させる必要がある。このためOpenAIは、大量のウェブ情報を保存し、検索できるようにした「オフラインの世界」を構築した。最先端モデルの強化学習は、すべてこの環境を利用しているという。 ただし、研究設備そのものをインターネットから完全に切り離すわけではない。実験の実施や監視には外部接続が必要なためだ。AIの実行環境を仮想マシンなどで隔離し、ネットワークの制限や監視を組み合わせることで、AIが許可されていない外部システムに接続するのを防ぐ。 AI自身に隔離環境の突破を試させ、弱点を発見 OpenAIは対策の有効性を確かめるため、自社の高性能AIモデルを使い、隔離環境を突破できるか検証した。研究設備を

[bulldra]

リードオンリーインターネットが求められている