Metaの「LLaMA」データセットを複製し構築、商業利用可能なオープンソース大規模言語モデル「RedPajama」とは - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報

Image credit: Together オープンソース AI にラクダ科の動物名をつけ続ける風習は、もう終わったのだろうか。 分散型クラウドとオープンソースモデルの構築に注力するカリフォルニア州メンローパークの企業 Together は17日、RedPajama（そう、Llama Llama Red Pajamaに名前が似ている）を発表した。 「多くの点で、AI は Linux の瞬間を迎えている」と同社はブログ投稿で述べ、Together の共同創業者でスタンフォード大学准教授であり、SambaNova、Snorkel.ai,、Factory の共同創業者の Chris Re 氏が書いた1月の投稿にリンクしている。 RedPajama は、Together、Ontocord.ai、ETH DS3Lab、Stanford CRFM、Hazy Research、MILA Québec

[misshiki]

“オープンソース AI にラクダ科の動物名をつけ続ける風習は、もう終わったのだろうか。”

[T-norf]

オープンソースの巨大LLMの本命ぽいプロジェクト。Metaはこのままクローズドで競争してもOpenAIに追いつけないって判断して、現時点のデータセットをオープンにした可能性もあり、学習プロセスは難関なのかも。