グーグルの新AIモデル「PaLM2」、どれほどパフォーマンスが改善されたのか？ GPT4との比較 | AMP[アンプ] - ビジネスインスピレーションメディア

ChatGPTに対抗して、グーグルが新たなAIモデル「PaLM2」をリリースした。このモデルは、前モデルとなる「PaLM」よりも約5倍のテキストデータ（トークン）を学習に使用しつつも、そのサイズ（パラメータ数）は小さくなっており、より効率化されたモデルとしてテック界隈では話題となっている。 パラメータ数は、PaLMが5400億であることが明らかになっているが、PaLM2のパラメータ数は公開されていない。一方、CNBCは5月16日、独自に入手したグーグル社内文書の情報として、PaLM2のパラメータ数は3400億と伝えている。また同文書には、PaLM2のトークン数は3兆6000億であると記載されていたという。PaLMの学習トークン数は、7800億だった。 モデルの小型化により、競合モデルに比べ速く、コスト効率が高くなったPaLM2。実際、どの領域でパフォーマンス改善が見られるのか気になるところ

[misshiki]

“PaLM、GPT4とのパフォーマンス比較がなされている。結果は全体的に、PaLM2が前モデルであるPaLMのスコアを大きく上回るだけでなく、GPT4に匹敵するスコアを獲得、大幅に推論能力が改善”

[T-norf]

うーむ、リンク先のcnbcと学習データのサイズ（トークン数）の値が違って、全般的に信憑性に疑問。私もbard(PaLM2)はかなり賢くなった気がするけど、ハルシネーション（堂々とは嘘をつく）はGPT-4より多い気がする

[gabill]

Nintendo64がPlayStationに負けた理由を尋ねたところ、価格差、ソフトラインナップ、広報展開を揚げた。ただ価格差については64が発売当初64,800円だったと主張していて(実際は2万5千円)、正確性にはまだ難があるかもしれない。