LLaMA
AI训练模型
LLaMA

Facebook推出的大语言模型

最近,FacebookResearch 开源了他们最新的大规模语言模型 LLaMA,包含从 7B 到 65B 的参数范围,训练使用多达 14,000 亿 tokens 语料。

其中,LLaMA-13B 在大部分基准测评上超过了 GPT3(175B),与目前最强的语言模型 Chinchilla-70B 和 PaLM-540B 相比,LLaMA-65B 也具有竞争力。

因此,LLaMA 可能是目前公开模型权重中效果最好的语言模型。

相关导航

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注