GoogleはGoogle I/O 2023の中でGPT-4の競合となる大規模言語モデル「PaLM 2」を発表しました。同時にPaLM 2のテクニカルレポートも公開されましたが、トレーニングデータの収集元やトレーニングにおけるハードウェアの設定など重要な情報については公開されませんでした。 PaLM 2 Technical Report(PDF) https://ai.google/static/documents/palm2techreport.pdf PaLM 2でどんなことが可能になるのかについては下記の記事で詳しく記載してあります。 Googleが大規模言語モデル「PaLM 2」を発表、すでに25のGoogleサービスに導入済み - GIGAZINE PaLM 2のテクニカルレポートは全部で92ページに及んでいますが、その中でトレーニングに用いたデータについて説明しているのは半ペー