苹果取得技能突破：可在iPhone上运行大型语言模子

IT之家 12 月 21 日消息，苹果的人工智能研究职员体现，他们已取得一项庞大突破，通过一种创新的闪存利用技能，乐成地在内存有限的 iPhone 和其他苹果装备上摆设了大型语言模子（LLM）。这一效果有望让更强盛的 Siri、及时语言翻译以及融入照相和加强实际的尖端 AI 功能登岸未来 iPhone。

比年来，像 ChatGPT 和 Claude 如许的 LLM 谈天呆板人风靡环球。它们可以或许举行流畅的对话、撰写差别风格的文本，乃至天生代码，显现出强盛的语言明白和天生本事。然而，这些模子有一个致命缺点：它们极其“吃”数据和内存，平凡手机根本无法满足其运行需求。

为了突破这一瓶颈，苹果研究职员开发了一条新路，将眼光投向了手机中广泛存在的闪存，也就是储存应用和照片的地方。在题为“闪存中的 LLM：利用有限内存实现高效的大型语言模子推理（LLMin a flash: Efficient Large Language Model Inference with Limited Memory）”的论文中，研究职员提出了一种奇妙的闪存利用技能，将 LLM 模子的数据存储在闪存中。作者指出，与传统用于运行 LLM 的 RAM 相比，闪存在移动装备中更为丰富。

IT之家留意到，他们的方法奇妙地利用两种关键技能绕过限定，从而最小化数据传输并最大化闪存内存吞吐量：

窗口化（Windowing）：可以将其视为一种采取利用的方法。AI 模子不会每次都加载新数据，而是会重复利用部门已处理惩罚的数据。这镌汰了频仍读取内存的须要，让整个过程更加流畅高效。

行-列捆绑（Row-Column Bundling）： 这种技能类似于你读一本书时，不是逐字逐句地阅读，而是成段地阅读。通过更有效地分组数据，可以从闪存中更快地读取数据，从而加速 AI 明白和天生语言的本事。

论文指出，这项技能可以让 AI 模子的运行规模到达 iPhone 可用内存的两倍。这意味着标准处理惩罚器 （CPU） 的速率进步了 4-5 倍，图形处理惩罚器 （GPU） 的速率进步了 20-25 倍。“这一突破对于在资源有限的情况中摆设先辈的 LLM 至关告急，极大地扩展了它们的实用性和可访问性，” 研究职员写道。

更快更强的 iPhone AI

人工智能服从的突破为未来的 iPhone 开发了新的大概性，比方更先辈的 Siri 功能、及时语言翻译以及照相和加强实际中复杂的 AI 驱动功能。该技能还为 iPhone 在装备上运行复杂的人工智能助手和谈天呆板人奠定了底子，据悉苹果已经开始动手这项工作。

苹果开发的天生式 AI 终极大概被整合到其 Siri 语音助手中。2023 年 2 月，苹果举行了人工智能峰会，并向员工先容了其大型语言模子工作。据彭博社报道，苹果的目的是打造一个更智能的 Siri，与 AI 深度集成。苹果操持更新 Siri 与信息应用步调的交互方式，让用户可以或许更有效地处理惩罚复杂标题和自动完成句子。除此之外，听说苹果还操持将 AI 添加到尽大概多的苹果应用步调中。

Apple GPT：口袋里的超等大脑

据报道，苹果正在研发自己的天生式 AI 模子，代号为“Ajax”，旨在与 OpenAI 的 GPT-3 和 GPT-4 竞争，拥有 2000 亿个参数，暗示其在语言明白和天生方面具有高度复杂性和强盛的本事。Ajax 在内部被称为“Apple GPT”，旨在同一苹果呆板学习开发，这表明苹果将 AI 更深入地整合到其生态体系中。

据最新报道，Ajax 被以为比早期的 ChatGPT 3.5 更加强盛。然而，一些消息人士也指出，OpenAI 的新模子大概已经逾越了 Ajax 的本事。

The Information 和分析师 Jeff Pu 均声称，苹果将在 2024 年底左右，也就是 iOS 18 发布之时，在 iPhone 和 iPad 上提供某种情势的天生式 AI 功能。Pu 在 10 月份体现，苹果将在 2023 年建立数百台 AI 服务器，2024 年还将建立更多服务器。据报道，苹果将提供云端 AI 和装备端处理惩罚 AI 相联合的办理方案。