侧边栏壁纸
博主头像
噗呲先生 - 差生工具多

行动起来,活在当下

  • 累计撰写 573 篇文章
  • 累计创建 80 个标签
  • 累计收到 174 条评论

目 录CONTENT

文章目录

🦙Code Llama:开源大语言模型

噗呲先生
2024-02-28 / 0 评论 / 3 点赞 / 336 阅读 / 0 字 / 正在检测是否收录...

介绍

Code Llama是基于Llama 2的一系列大型代码语言模型,具有最先进的性能,填充能力,支持大型输入上下文,以及对编程任务的零指导跟随能力。

提供多种版本

  • 基础模型(Code Llama)
  • Python专业版(Code Llama - Python)
  • 指导模型(Code Llama - Instruct)

模型参数量

分别为7B、13B和34B。

  • 所有模型都在16k令牌序列上进行训练,并在最多100k令牌的输入上显示出改进。用户可以通过Meta网站下载模型权重和tokenizers,然后在conda环境中使用PyTorch / CUDA进行设置和推理。

image-1709115768082

地址

3

评论区