AI 领域再添一员"猛将",Meta 发布全新大型语言模型LLaMA

人工智能
Meta 正在开发多种参数(7B、13B、33B 和 65B)的 LLaMA。其中,LLaMA 65B 和 LLaMA 33B 在 1.4 万亿个 tokens 上训练,而最小的模型 LLaMA 7B 也经过了 1 万亿个 tokens 的训练。

ChatGTP走红以来,围绕ChatGTP开发出来的AI应用层出不穷;让人们感受到了人工智能的强大!

近日,Facebook 母公司Meta 发布了人工智能大型语言模型(Large Language Model Meta AI)简称LLaMA。


扎克伯格在社交媒体上称:”由 FAIR 团队研发的LLaMA模型是目前世界上水平最高的大型语言模型, 目标是帮助研究人员推进他们在人工智能领域的工作!“。

与其他大型模型一样,Meta LLaMA 的工作原理是将一系列单词作为“输入”并预测下一个单词以递归生成文本。

据介绍,Meta 正在开发多种参数(7B、13B、33B 和 65B)的 LLaMA。其中,LLaMA 65B 和 LLaMA 33B 在 1.4 万亿个 tokens 上训练,而最小的模型 LLaMA 7B 也经过了 1 万亿个 tokens 的训练。

另外LLaMA 模型接受了 20 种语言训练,包括拉丁语和西里尔字母语言,所需的计算能力远低于之前推出的大模型。

FAIR团队表示,LLaMA 目前尚未被应用在 Meta 的任何产品之中。

与”DeepMind“ 和 ”OpenAI“ 不同的是,LLaMA将会公开训练代码;

Meta 还计划将这项技术优先开放给 AI 研究人员,如果想使用 LLaMA 可以提交申请,审核通过就可以使用。

责任编辑:武晓燕 来源: 今日头条
相关推荐

2023-02-25 16:14:36

AIMeta语言模型

2024-01-29 00:54:26

Rspack语言开发

2021-09-29 10:10:09

LinuxCutefishOS发行版

2023-08-01 17:52:45

2023-02-28 14:57:02

MetaAI

2021-05-13 09:01:37

思科收购Sedona Syst

2021-03-02 17:47:59

腾讯云AI

2017-08-21 16:12:21

AI海云数据

2023-09-11 13:28:00

AI模型

2021-06-02 16:29:29

华为MatePad Pro鸿蒙系统

2010-08-05 15:44:18

Visual Stud

2023-08-09 10:08:00

模型AI

2009-08-26 11:10:42

AndroidPerl

2023-06-07 11:19:12

2022-09-01 15:14:15

AI模型

2024-02-29 11:56:25

模型数据

2016-05-27 15:48:41

京东JMR

2024-01-17 13:32:46

AI代码代码生成工具

2023-05-25 16:24:13

点赞
收藏

51CTO技术栈公众号