米商務省国立標準技術研究所(NIST)のAI安全研究所は8月29日(現地時間)、米Anthropicおよび米OpenAIの両社とAIの安全性に関する研究、テスト、評価に関する正式な協力を可能にする契約を結んだと発表した。 これにより、AI安全研究所は両社の主要な新モデルを一般公開前に利用できるようになる。三者が協力して安全リスクを評価することで、潜在的な問題を軽減できるようになるとしている。 米連邦政府はかねて、大手AI企業に対し、安全対策に関する自主的な約束を取り付けるべく取り組んできた。 米国土安全保障省(DHS)は4月、Artificial Intelligence Safety and Security Board(AIの安全性およびセキュリティに関する諮問委員会、AISSB)を設立し、OpenAIのサム・アルトマンCEOなど、AIに携わる22人を委員に招致した。 アルトマン氏は今