グーグルとアルファベットのCEOスンダー・ピチャイ(Christoph Soeder/picture alliance via Getty Images) 7年前と7カ月前、グーグルはTransformer(トランスフォーマー)アーキテクチャを世に送り出した。これはOpenAIのChatGPTなど、生成AIアプリケーションの中心にある技術だ。 そして今、グーグルは新たに「Titans(タイタン)」と呼ばれるアーキテクチャを公開した。これはトランスフォーマーを直接進化させたもので、人間のように考えるAIに一歩近づくとされている。 トランスフォーマーアーキテクチャには長期記憶が存在しないため、人間の思考において本質的に重要な、長期間にわたって情報を保持し活用する能力が制限されている。一方、タイタンは短期記憶に加えてニューラル長期記憶と「驚き」に基づく学習システムを導入している。それらは、予想外

