フォロー
完全なオープンソースの大規模言語モデルを開発「RedPajama」
レッド・パジャマ（RedPajama）は、完全にオープンソース化された大規模言語モデル（large language model: LLM）を開発するプロジェクトで、その第1段階として1兆2,000億以上のトークンを含むLLaMAトレーニングデータセットが公開されました。OpenAIのGPT-4をはじめとする大規模言語モデルの多くが「クローズドな商用モデル」、あるいは部分的にしかオープンではありません。完全にオープンソース化して疑念を排除し、安全性を高めた大規模言語モデルを開発します。言わば AIにおけるLinuxを開発する（AI’s Linux Moment）とも言えます。
