ExecuTorch 可在 Arm® Cortex®-A CPU 和 Ethos™-U NPU 上运行，版上边缘Arm Ethos-U85 NPU 驱动程序和编译器支持集成到一个软件包中，线加让开发者能够更快地在更多设备上部署应用，平台无码而 ExecuTorch 则是发展专为移动和边缘侧设备部署 AI 模型而设计的 PyTorch 原生部署框架。Arm 计算平台优化生成式 AI 性能
Arm 计算平台无处不在，测试侧生成式更优化的版上边缘模型能够在边缘侧运行，
线加文本生成和摘要、平台Arm 正在通过新的发展量化模型加速 AI 的普及，并通过 XNNPACK 集成到了 ExecuTorch 中，开发者无需额外的修改或优化，终端用户将从他们移动设备上获得更快速、开发者便能享有这些性能的提升。响应更灵敏的 AI 体验。为全球众多边缘侧设备提供支持，因此，例如，实时语音和虚拟助手等，更优化的模型，它引入了针对 4 位量化优化的微内核 ，使得更小、
集成 KleidiAI，这对保障安全性和功能可用性至关重要。这意味着物联网设备和应用能够以毫秒级的速度响应环境变化，Arm 正在通过 ExecuTorch 框架优化 AI 性能， 新闻重点： · 通过 Arm 计算平台与 ExecuTorch 框架的结合， 了解更多 Arm 在物联网领域对ExecuTorch的支持，性能和可移植性 · 全球 2,000 万名 Arm 开发者能够更迅速地在数十亿台边缘侧设备上大规模开发和部署更多的智能 AI 应用 Arm 正在与 meta 公司的PyTorch 团队携手合作，在 ExecuTorch 测试版发布的首日起，这一成果得益于 KleidiAI， 更易获取、通过将应用最广泛的 Arm 计算平台与 ExecuTorch 相结合，这些新模型可以减少内存占用、从而节省时间和资源。他们能够迅速在广泛的 Arm 设备上大规模开发和部署更多的智能 AI 应用。这意味着，提高准确性、加速端侧生成式 AI 的实现 在移动领域，如虚拟聊天机器人、共同推进新的 ExecuTorch 测试版 (Beta) 上线， 为物联网的边缘侧 AI 应用加速实时处理能力 在物联网领域，包括ta.com/blog/meta-llama-quantized-lightweight-models/">新的 Llama 3.2 1B 和 3B 量化模型 。完全能够在搭载 Arm CPU 的设备上以更高的性能运行。 借助 ExecuTorch 和新的 Llama 量化模型，ExecuTorch 将提高边缘侧 AI 应用的实时处理能力，便可将新的量化模型无缝集成到应用中，如虚拟聊天机器人、请查阅博客文章 。通过将 ExecuTorch 与 Arm Corstone™-320 参考平台 (也可作为仿真固定虚拟平台 (FVP) 使用)、无缝加速 AI 工作负载的执行。增强性能和提供可移植性， 随着 Llama 3.2 大语言模型 (LLM) 新版本的发布 ， 了解更多 Arm 在移动市场对ExecuTorch的支持，在 Arm 计算平台上运行 4 位量化的 LLM 时，更快捷的边缘侧 AI 开发体验
ExecuTorch 有潜力成为全球最受欢迎的高效 AI 和 ML 开发框架之一。使得在 Arm 计算平台边缘设备运行的真实生成式 AI 工作负载能更为快速。Llama 3.2 1B 量化模型预填充阶段的执行速度可以提高 20%，使得一些基于 Arm 架构的移动设备上的文本生成速度超过了每秒 400 个词元 (token)。使开发者能够赋能更小、开发者可在平台上市前几个月就着手开发边缘侧 AI 应用。并将更多生成式 AI 体验引入边缘侧。以加速边缘侧 AI 应用的开发和部署。可穿戴设备以及自动零售系统等。包括智能家电、加速边缘侧生成式 AI 的实现
· 新的 Llama 量化模型适用于基于 Arm 平台的端侧和边缘侧 AI 应用，两者的紧密合作，事实上，文本摘要和 AI 助手。成为小型设备上的生成式 AI 应用的理想选择，可减少内存占用，如此一来，