悟空AI工具箱，提供ChatGLM、VisualGLM、Stable Diffusion、Langchain-ChatGLM，Chatgpt一键安装服务

Llama2

4.8（386）

本地部署

悟空AI工具箱新成员：Llama2。Llama2是Meta AI正式发布的最新一代开源大模型。通过悟空AI工具箱，可以快速一键部署Llama2。

产品信息

## 本次悟空AI工具箱将迎来新的AI工具Llama2
![](https://www.5kcrm.com/center/public/uploads/20230728/b674ef141c9cf6d0819fd147d31ce55e.png)

##开源大模型重塑AI市场格局
GPT强大的表达能力和优秀的性能，使得其在大模型领域广受好评。近日，Meta开源了性能更强的Llama2，也提供了更加宽松的商用许可。Llama是最近几个月一系列开源模型的基础模型。包括著名的vicuna系列、LongChat系列等都是基于该模型微调得到。Llama的开源促进了大模型在开源界繁荣发展。而刚刚，微软官方宣布Azure上架Llama2模型！意味着Llama2正式发布！

Meta 副总裁、人工智能部门负责人杨立昆（Yann LeCun）表示，Llama2将改变大语言模型市场的格局。随着Llama2免费开源商用，支持者越来越多，开源力量可能重新塑造AI市场的格局。

此版本包括模型权重和用于预训练和微调的Llama语言模型的起始代码，参数范围从70亿到700亿。Meta同时表示，将与微软云服务Azure合作，向全球开发者首发基于Llama2模型的云服务。高通计划从2024年开始在旗舰智能手机和PC上提供基于 Llama2的AI实现，使开发人员能够利用骁龙平台的AI功能引入新的生成式AI应用。Llama21比Llama1多40%的训练数据，性能更加强大，但是依然完全免费可商用！

##LLaMA2和Chatgpt旗鼓相当
根据官方的介绍，Meta和Microsoft准备将Llama2引入到Azure公有云以及Windows本地上。目前已经在AzureAI上开放了Llama2系列的6个模型供大家使用。
Llama2模型的参数范围从70亿到700亿不等，在超过2万亿tokens数据集上训练。官方对齐微调的结果称为Llama2-Chat系列，专门针对场景优化。
Llama2-Chat模型在微软测试的大多数基准测试中胜过开源聊天模型，并在人工评估中在实用性和安全性方面与一些流行的闭源模型如ChatGPT和PaLM相当。
Llama2具体的模型信息如下：

|   | 参数  |  上下文长度 | GQA  | 训练tokens  | 学习率  |
| ------------ | ------------ | ------------ | ------------ | ------------ | ------------ |
| Llama2-7B  |  7B | 4k  |   x|  2万亿 |3.0x10-4   |
| Llama2-13B  |13B   |  4K |  x |  2万亿 | 3.0x10-4  |
| Llama2-700B  | 70B  |   4K| √  |   2万亿| 1.5x10-4  |

##Llama2的训练信息
所有模型都使用全局批量大小为4M tokens进行训练。更大的700亿参数模型使用Grouped-Query Attention（GQA）来提高推理可扩展性。
Llama2的训练时间为2023年1月至2023年7月。且是一个纯文本模型，仅接受文本输入和文本的输出。
预训练过程中，Meta估计使用了总计33万GPU小时的计算，硬件类型为A100-80GB（功耗为350-400W）。
Llama2模型架构
Llama2是一种优化的自回归语言变换器。微调版本使用监督微调（SFT）和人工反馈强化学习（RLHF）来对齐人类对实用性和安全性的偏好。
## **Llama2训练数据**
Llama2是在来自公开可用来源的2万亿tokens数据上进行的预训练。微调数据包括公开可用的指令数据集，以及超过100万个新的人工注释示例。预训练和微调数据集均不包含Meta用户数据。
预训练数据的截止日期为2022年9月，但某些微调数据更近，最新的可达到2023年7月。
Llama2的评估结果

####  官方给出了详细信息：
![](https://www.5kcrm.com/center/public/uploads/20230727/b53fd8c95ff9c6d43caa5a2fb19ae003.jpg)
可以看到，Llama2在各方面都超过第一代很多。尤其是数学、文本理解等方面。代码方面的得分也不错。

###下载Llama2一键部署安装包
点击下方按钮，跳转到百度云盘，输入对应的提取码，即可以下载悟空一键部署安装包，由于一键部署安装包较大，下载需要一定时间，请耐心等待下载。
30秒内即可完成安装，快速成为AI达人！

快来点击下载吧！！！

点击下载一键安装包[http://pan.baidu.com/s/1l68tBgYcyesboPgW7r2Xew?pwd=3xjq ](http://pan.baidu.com/s/1l68tBgYcyesboPgW7r2Xew?pwd=3xjq )
提取码：3xjq

###一键运行
下载完成后，点击文件中的run.bat直接一键运行

运行完成后，即完成本地化Llama2安装，您可以直接进行使用。
![](https://www.5kcrm.com/center/public/uploads/20230728/826c1bfd9ff4dd08e8fb7af6d84db61a.png)

1条评论