大模型之家讯 当地时间4月18日晚间,Meta终于正式发布全新一代开源模型Llama3。
作为一款备受瞩目的大型模型,Llama3的发布立刻在全球范围内引起了广泛的关注和讨论。Llama3目前已经登陆其官方网站和知名平台Hugging Face,成为了人工智能领域的一大焦点。值得一提的是,尽管商业使用受到一定条件的限制(月活跃用户不得超过7亿),但基本上仍然可以算作是免费商用。
大模型了解到,这次发布的Llama3涵盖了两个版本,即8B和70B,为各种广泛应用提供了强大的支持。按照Meta的说法,Llama 3 8B和Llama 3 70B是目前同体量下,性能最好的开源模型。Llama 3 8B在某些测试集上性能比llama 2 70B还要强。这些版本提供了预训练和指令调优版本,可直接在Meta AI中体验。Meta AI是一个智能助手,改变了人们与人工智能交互的方式,扩展了任务完成、创造和连接的可能性。开发代理和其他人工智能应用程序的开发者将受益于Llama 3的8B和70B版本,这些版本为他们提供了所需的灵活性和性能。
Llama 3的性能令人印象深刻,特别是在语言理解、上下文理解以及诸如翻译和对话生成等复杂任务方面。其具有强大的可扩展性和性能,可以轻松处理多步任务。通过精心优化的后训练过程,大大降低了虚假拒绝率,提高了响应对齐度,并增加了模型答案的多样性。此外,Llama 3还显著提高了推理、代码生成和指令跟踪等能力。
同时,Llama3的性能也经受起了时间的考验,得到了广泛的认可。在一系列评测中,无论是在学科知识理解、一般问题、代码能力、数学能力还是其他领域,Llama3都表现出色。甚至在与其他领先模型的比较中,Llama3也取得了巨大成功,凸显了其在开源模型中的卓越地位。
Meta官方宣称,Llama 3模型的发布将数据扩展到了新的高度。它是在最近宣布的两个定制的24K GPU集群上进行训练的,使用了超过15T令牌的数据,这个训练数据集比Llama 2使用的大7倍,其中包括4倍的代码。
随着Llama 3的发布,相应的《负责任使用指南》也得到了更新,提供了与LLM负责任开发相关的最全面信息。更新的系统方法包括更新的信任和安全工具,其中包括优化后的Llama Guard 2,以支持MLCommons发布的新公布的分类法,将其覆盖范围扩展到更全面的安全类别,包括代码防护和网络安全评估。
此外,Llama3发布团队还进行了一项有趣的测试,评估了模型在一系列关键用例中的表现。为了防止过拟合,测试团队在建模过程中对类别和提示进行了人工评估,其结果证明了Llama3的强大性能和多样化应用的潜力。
然而,尽管Llama3在各方面都表现出色,但也存在一些挑战。例如,知识库时间和上下文长度等方面仍有待提高,虽然使其容量加倍,但其上下文长度仅支持到8K,同时在面对一些特定的难题时,Llama3仍然有进一步优化的空间。
众所周知,国内外有大量的大模型都源自开源大模型,尤其是建立在Llama上而来,因此Llama3的发布,对于大模型创企而言同样意义重大。这一开源之举不仅为开发者和研究人员提供了更多的技术选择和资源支持,而且为人工智能技术的全球推广和普及贡献了巨大的力量。
Llama3的开源意味着创新的可能性被无限放大,不再受限于少数专业机构或大企业的封闭研发,而是让更多的人能够参与到人工智能技术的创造和应用中来。这对于促进人工智能技术的全球共享和发展,推动行业技术进步和创新都具有重要的意义。
部分云计算企业也宣布将在第一时间为客户提供该模型,例如,亚马逊云科技表示将为客户提供了该模型,客户可以通过Amazon SageMaker Jumpstart来发现和部署Llama 3模型,并运行推理。
在大模型之家看来,Llama3的发布标志着开源模型迈向新的里程碑,为人工智能领域带来了巨大的推动力。其强大的性能和全面的应用支持使其成为开发者和研究人员的首选,为人工智能的未来奠定了坚实的基础。
原创文章,作者:志斌,如若转载,请注明出处:http://www.damoai.com.cn/archives/4820