在多模态边界柚木提娜作品，开源模子也超闭源了！

就在刚刚杀青的 Meta 设备者大会上，Llama 3.2 闪亮登场：

这回不仅具备了多模态才能，还和 Arm 等联手，推出了特意为高通和联发科硬件优化的"迁移"版块。

具体来说，这次 Meta 一共发布了 Llama 3.2 的 4 个型号：

110 亿和 900 亿参数的多模态版块

10 亿参数和 30 亿参数的轻量级纯文本模子

官方数据清爽，与同等边界的"中微型"大模子比拟，Llama 3.2 11B 和 90B 推崇出了特出闭源模子的性能。

尤其是在图像理衔命务方面，Llama 3.2 11B 跨越了 Claude 3 Haiku，而 90B 版块更是能跟 GPT-4o-mini 掰掰手腕了。

而专为端侧打造的 3B 版块，在性能测试中推崇也优于谷歌的 Gemma 2 2.6B 和微软的 Phi 3.5-mini。

如斯推崇，真实眩惑了不少网友的面目。

有东谈主欣忭地以为，Llama 3.2 的推出可能再次"更正游戏限定"：

端侧 AI 正在变得越来越焦躁。

Meta AI 官方对此恢复谈：

其中一些模子参数目很小，但这个本事真理要紧。

首个视觉� �

关系 Llama 3.2 具体能作念什么，这次官方也释出了不少 demo。

先看个汇总：Llama 3.2 11B 和 90B 援救一系列多模态视觉任务柚木提娜作品，包括为图像添加字幕、凭据当然言语辅导完成数据可视化等等。

举个� �，丢给 Llama 3.2 一张图片，它能把图片中的元素逐一拆解，告诉你看重的图片信息：

一样，也不错反过来凭据翰墨辅导找出适合用户需求的图片。

Llama 3.2 11B 和 90B 亦然首批援救多模态任务的 Llama 系列模子，为此，Meta 的谋划东谈主员打造了一个新的模子架构。

在 Llama 3.1 的基础之上，谋划东谈主员在不更新言语模子参数的情况下锤真金不怕火了一组适配器权重，将预锤真金不怕火的图像编码器集成到了预锤真金不怕火的言语模子中。

这么，Llama 3.2 既能保握纯文本功能的完整性，也能 get 视觉才能。

锤真金不怕火进程中，Llama 3.2 遴荐图像 - 文本对数据进行锤真金不怕火。锤真金不怕火分为多个阶段，包括在大边界有噪声数据上的预锤真金不怕火，和更进一步在中等边界高质地边界内和常识增强数据上的锤真金不怕火。

在后锤真金不怕火（post-training）中，谋划东谈主员通过监督微调（SFT）、拒却采样（RS）和获胜偏好优化（DPO）进行了几轮对王人。

专为端侧打造的"小"模子

至于 1B 和 3B 这两个轻量级模子，筹备愈加明晰：

跟着苹果 Apple Intelligence 的推出，关于电子耗尽商场而言，手机等末端上的生成式 AI 还是成为标配。

而脱离云霄孤独启动在末端上的模子，不管是从功能如故从安全的角度，都是末端 AIGC 落地的要害。

△端侧写稿助手

Llama 3.2 1B 和 3B 模子由 Llama 3.1 的 8B 和 70B 模子剪枝、蒸馏获得。

不错浮浅相识为，这俩"小"模子是 Llama 3.1 教出来的"学生"。

Llama 3.2 1B 和 3B 仅援救文本任务，高下文长度为 128K。来自 Meta 配合方 Arm 的客户业务线总司理 Chris Bergey 以为：

明岁首以至本年年底，设备东谈主员就会在愚弄按序中落地这两个型号的 Llama 3.2。

它们领有更好的效果，能在 1W 功率下或在 8 毫秒以内提供谜底。

不少网友也为此点赞：

Llama 3.2 的轻量级模子能真实更正 AI 在手机和其他建造上的愚弄。

还有网友还是第一时辰本质上了：

我赞佩于这个 1B 模子的才能。

这位网友用 Llama 3.2 1B 启动了一个完整的代码库，并条件它转头代码，戒指是酱婶的：

"不无缺，但远超预期。"

前有 OpenAI「Her」全量灵通、谷歌 Gemini 1.5 迎来要紧升级，Llama 这边也紧锣密饱读跟上新当作，AI 圈的这一周，依旧是开源闭源厚谊碰撞，充满话题度的一周。

那么，你何如看 Llama 这波新发布？

对了，若是你对 Llama 3.2 感兴致，大模子竞技场还是不错试玩了。

Ollama、Groq 等也已第一时辰更新援救。

参考集会：

[ 1 ] https://ai.meta.com/blog/llama-3-2-connect-2024-vision-edge-mobile-devices/

[ 2 ] https://www.cnet.com/tech/mobile/meta-and-arm-want-to-bring-more-ai-to-phones-and-beyond/#google_vignette

[ 3 ] https://news.ycombinator.com/item?id=41649763柚木提娜作品