400 128 6709

行业新闻

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

发布时间:2024-04-19点击次数:

Llama 3来了!

就在刚刚,Meta官网上新,官宣了Llama 3 80亿和700亿参数版本。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

并且推出即为开源SOTA:

Meta官方数据显示,Llama 3 8B和70B版本在各自参数规模上超越一众对手。

8B模型在MMLU、GPQA、HumanEval等多项基准上均胜过Gemma 7B和Mistral 7B Instruct。

而70B模型则超越了闭源的当红炸子鸡Claude 3 Sonnet,和谷歌的Gemini Pro 1.5打得有来有回。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

Huggingface链接一出,开源社区再次沸腾。

眼尖的盲生们还第一时间发现了华点:

Meta更藏了一手4000亿参数+的Llama 3版本,不逊于Claude 3超大杯Opus的那种!

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

AI写作助手创企HyperWriteAI的CEO见此已忍不住感慨:

我们正在步入一个新世界,一个gpt-4级别的模型开源并且可以自由访问的世界。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

英伟达科学家Jim Fan则认为,还在训练中的Llama 3 400B将成为开源大模型的分水岭,改变很多学界研究和初创公司的发展方式。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

全面取得SOTA,但8k窗口

更多技术细节,Meta在博客文章中给出。

架构层面,Llama 3选择了经典的仅解码(decoder-only)式Transformer架构,采用包含128K token词汇表的分词器。

训练数据上看,Llama 3的训练数据规模达到了15T tokens,全部来自于公开信息,其中5%为非英文数据,涵盖30多种语言。

Llama 3的数据量比Llama 2的训练数据多7倍,其中代码比Llama 2多4倍。

此外,为了提高 Llama 3 模型的推理效率,Meta AI还采用了分组查询注意力 (GQA)机制,在8192个tokens的序列上训练模型,并使用掩码确保自注意力不会跨越文档边界。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

结果,无论是8B还是70B版本,Llama 3相较于近似规模的上一代Llama 2,都取得了重大飞跃。

在迄今为止的8B和70B参数规模的模型中,Llama 3都成为了新的SOTA模型。

在语言(MMLU)、知识(GPQA)、编程(HumanEval)、数学(GSM-8K、MATH)等能力上,Llama 3几乎全面领先于同等规模的其他模型。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

除了这些常规的数据集,Meta AI还评估了Llama 3在现实场景中的性能,并为此研发了一套高质量的测试数据集。

这个测试集包含了1800条数据,涵盖代码、推理、写作、总结等12 个关键用例,并针对开发团队保密。

结果,Llama 3不仅大幅超越Llama 2,也战胜了Claude 3 Sonnet、Mistral Medium和GPT-3.5这些知名模型。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

而在AGIEval、BIG-Bench、ARC-Challenge这些更高阶、更困难的数据集上,Llama 3的表现同样可圈可点。

8B版本在这些任务上超越了Mistral和Gemma,70B版本则战胜了Gemini Pro和MoE架构的Mixtral,分别斩获相应规模的SOTA。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

不过美中不足的是,Llama 3的上下文窗口只有8k,这与现在动辄几十上百万窗口的大模型相比,仿佛还停留在上一代(手动狗头)。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

但也不必过度担忧,Matt Shumer就对此持乐观态度,他表示相信在开源社区的努力下,窗口长度很快就会扩展上去。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

Llama迎来官方网页版

目前,Llama 3两种参数量的基础和Instruct版本都已上线Hugging Face可供下载。

此外,微软Azure、谷歌云、亚马逊AWS、英伟达NIM等云服务平台也将陆续上线Llama 3。

同时,Meta还表示Llama 3会得到英特尔、英伟达、AMD、高通等多家厂商提供的硬件平台支持。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

值得一提的是,此次与基础模型一同发布的,还有基于Llama 3的官方Web版本,名字就叫Meta AI。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

目前该平台有对话和绘画两大功能,只用对话的话无需注册登录、即开即用,使用绘画功能则需要先登录账号。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

不过,目前该平台还不支持中文,也暂未上线文本上传等功能。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

代码方面,该平台也能够运行一些简单的Python程序,但似乎只能输出文本,涉及到绘图这样的任务就无法运行了。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

总的来看,这个网页版本还比较初级,但也不妨期待一波后面的更新。

One More Thing

一个小插曲是,其实在Meta官宣前几个小时,微软的Azure市场已经偷跑了Llama 3 8B Instruct版本的消息。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

开源模型机器学习在线平台Replicate上的Llama 3价格表也被网友们第一时间扒拉了出来。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来

但很快,这些“小道消息”就都被404了。

好在乌龙完了,官方也没拖着,关心开源大模型的小伙伴们,可以造作起来了(doge)。

Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来


Remover Remover

几秒钟去除图中不需要的元素

Remover 304 查看详情 Remover

参考链接:
[1]https://ai.meta.com/blog/meta-llama-3/。
[2]https://about.fb.com/news/2025/04/meta-ai-assistant-built-with-llama-3/。
[3]https://huggingface.co/meta-llama/Meta-Llama-3-70B。

以上就是Llama3突然来袭!开源社区再次沸腾:GPT4级模型自由访问时代到来的详细内容,更多请关注其它相关文章!


# python  # python程序  # hugging face  # gemini  # meta  # 亚马逊  # 陕西营销推广厂家  # 转投  # 永州项目推广网站  # 业务营销推广策略有哪些  # 抖音优化seo报价  # 珠宝营销推广方式怎么写  # 昇昊网站建设  # 网站优化链接是什么意思  # 河北seo优化营销推广  # 网站外链优化例子怎么写  # 快手刷粉丝推广网站  # 剑指  # 大杯  # 第一时间  # 但也  # 微软  # 的是  # 来袭  # 开源  # h  # opus  # llama  # claude 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 酒店业将如何受益于人工智能的改变?  首个算网生态体!中国移动元宇宙产业联盟正式成立  工信部信通院发布《2025大模型和AIGC产业图谱》 360智脑覆盖全产业链  海柔创新携手SAP,以机器人技术助力全球客户升级数智化竞争力  厂商陆续公布AI进展 完美世界游戏展示复合应用AI in GamePlay  消息称 Meta Quest 将推 VR 游戏订阅:每月 7.99 美元,任选两款  “技术+实践+生态”三箭齐发,京东方抢占物联网高地  美图设计室2.0新增哪些功能  揭秘AI数字人语录:抖音AI小和尚、老者语录能赚钱吗?  机构研选 | 虚拟电厂是电力物联网升级版 智能电网望迎来高速发展  “世界上最像人的机器人”接入 Stable Diffusion ,现场完成作画  微软更新服务协议,以防止通过AI服务进行逆向工程和数据抓取  “踩油门,也要会踩刹车” 互联网企业高管谈人工智能发展  微软新出热乎论文:Transformer扩展到10亿token  科技有狠活|时光修复师 :用AI让昨日重现  人工智能快速发展 打开就业新空间  全面拥抱大模型浪潮,ISC 2025打造全球首场AI数字安全峰会  微软 Copilot 团队主管呼吁用户与 AI 交流时应使用恰当的礼貌用语  华为4G5G通信物联网收费标准公布,多年研发成果,十年花费近万亿  谷歌推出 AI 反洗钱工具,可将金融机构内部风险预警准确率提高2至4倍  OpenAI宣布在伦敦设立海外分部,要招揽“世界级人才”  一家 380 亿美元的数据巨头,要掀起企业「AI 化」革命  边喷火边跳踢踏舞,机器狗最新技能爆火全网!网友直呼真·热狗  AI和ML推动联网设备的增长  英国前首相:AI可能被用来制造“生物恐怖武器”  鸿蒙生态带来了哪些新的流量可能性,包括AI、服务分发和原生智能等方面?  美图发布国内首个“懂美学的”AI视觉大模型MiracleVision  昇腾AI & 讯飞星火:深度联手,共话国产大模型“大未来”  AI大举入侵内容行业,哪些上市*及动漫公司进行了布局?  普林斯顿Infinigen矩阵开启!AI造物主100%创造大自然,逼真到炸裂  MiracleVision视觉大模型功能介绍  如何用AI重塑你的工作流(一)  让AI助手带您轻松愉快地享受写作之旅  华为将于 7 月发布面向 AI 大模型的新款存储产品  长宁这家企业在世界人工智能大会上荣获“蓝鼎奖”  世界上第一个完全由人工智能驱动的图像编辑器!  高通发布长期产品计划,为工业和企业物联网产品提供全新组合方案  2025世界人工智能大会成功召开  研究预测HPC支持的人工智能增长迅速  图灵奖得主Hinton:我已经老了,如何控制比人类更聪明的AI交给你们了  美图秀秀发布七款 AI 工具:修图一样修视频、打造电影级上镜脸  探展WAIC | 第四范式“式说”聚焦toB大模型,布局生成式AI重构企业软件  优化系统韧性:故障恢复与监控在RabbitMQ中的应用  泗洪:畅通城市“血管” ,管下机器人来帮忙  鹅厂机器狗抢起真狗「饭碗」!会撒欢儿做游戏,遛人也贼6  PS AI修图免费平替来了!Stability AI又放大招,核弹级更新一键扩图  煤电“三改联动”需多措联动  Xreal AR 眼镜用投屏盒子 Beam 发布:分体式设计,到手 699 元  Spotify计划推出AI驱动的音乐播放器功能  马斯克WAIC2025演讲全文:AI将对人类文明产生深远影响 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司