Meta计划7月发布Llama 3，能力接近GPT-4，最高1400亿参数 meta2023年商业计划 meta发布2023一季报
admin
2024-02-29 11:20:16
0次
当地时间周三，科技媒体The Information援引知情人士报道，Meta计划在今年7月份发布Llama 3大模型。
Llama 3肩负的使命巨大。
报道称，Meta希望Llama 3能够比肩OpenAI的GPT-4，后者已经成为一个强大的多模态模型，不仅能够处理更长的文本，还支持图像输入。
但Meta的一位员工透露，由于研究人员尚未开始对模型进行微调，因此公司尚未决定Llama 3是否是多模态的。微调是开发人员为现有模型提供额外数据的过程，以便大模型学习新信息或处理任务。
Meta员工还说，Llama 3最高可能拥有超过1400亿个参数，相比之下，去年7月发布的Llama 2的参数最高为700亿。
据此前报道称，GPT-4模型参数规模约为1.8万亿，Llama 3不到这一数字的十分之一。
另外，在推出Llama 3之前，Meta还在尝试克服Llama 2中发现的一个问题——无法处理任何有争议的问题。
由于开发人员在Llama 2中增加了安全护栏，它会拒绝回答一系列被认为有争议的问题。
据Meta员工称，这些护栏使得Llama 2在公司高层领导以及模型研究人员眼中显得“过于安全”，研究人员计划放松Llama 3在这一方面的限制，以便它更多地与用户互动，提供背景信息，而不仅仅是拒绝回答。
人们对Llama 3的期待与日俱增，但Meta仍面临着旷日持久的人才竞争。
两名知情人士称，负责Llama 2和Llama 3安全工作的研究员Louis Martin已于本月离开公司。其中一位知情人士称，强化学习负责人Kevin Stone也在本月离职。
相关内容
热门资讯
AI做攻略、“双向奔赴”……国...
本文转自：人民网人民网记者 许维娜今年国庆假期，AI（人工智能）成了不少年轻人的“旅行搭子”。行前做...
合肥的这个“梗”， 翻篇了
社交平台的评论区，曾长期流传一句专属于合肥的黑色幽默。有人问合肥哪里好玩，本地网友半开玩笑地回复：合...
7万+旅游中高层都在的群，今天...
做旅游这行，资源卡位、渠道互通、项目落地——往往就差一个“对的机会”。我们的行业社群已聚集70,00...
一场帐篷音乐节，如何让井研从“...
帐篷音乐节现场封面新闻记者 周洪攀10月的研溪湿地，晚风里裹着柑橘的清甜与民谣的回响。夜幕降临，10...
白鹤翩翩落星愿，上海迪士尼度假...
10月9日，世界候鸟日前夕，上海迪士尼度假区星愿公园的湖风里多了一分白鹤的灵动。三座白鹤雕塑正式揭幕...
成都锦江边赏初秋枫叶飘飘
目前，成都锦江边国华街枫叶树红了。近年来，国华街附近的几条街都栽种了红枫树，是城区较集中看枫叶的点位...
GBTA：商务旅行正在复苏，但...
亚太正在成为全球商务旅行增长的重要引擎。在经历疫情后的快速反弹之后，全球商务旅行正在进入一个新的增长...
从景区焕新到节赛引流 邹城双节...
齐鲁网·闪电新闻10月9日讯 中秋、国庆“双节”假期，邹城市文化和旅游局提前谋划、周密部署，立足自身...
江山如此多娇 且看石楼今朝
金秋十月，黄河岸畔秋意盎然，丰收盛会喜迎国庆。本次石楼国庆文旅活动以“江山如此多娇，且看石楼今朝”为...
海南国庆假期接待游客475.4...
2026年国庆假期，海南接待游客475.40万人次，较2025年增长13.1%，较2024年增长15...