苹果研究人员的人工智能突破可以在iPhone上实现生成式人工智能

据报道，苹果公司的研究人员在iPhone和iPad等内存有限的移动设备上部署大型语言模型(LLM)方面取得了重大进展。

据报道，这一突破将使苹果设备能够在设备上运行强大的人工智能助手和聊天机器人，而无需依赖云服务器。

苹果在人工智能领域一直落后于其他科技巨头，尽管这是意料之中的。该公司长期以来一直有一种专注于完美地做事而不是快速做事的心态。

为了能够在设备上而不是在云端运行人工智能助手和聊天机器人，苹果研究人员设计了一种使用闪存(与存储应用程序和照片的内存类型相同)的方法，在移动设备上运行法学硕士(通过MacRumors)。

在题为“LLMinaflash:EfficientLargeLanguageModelInferencewithLimitedMemory”的研究论文中，作者描述了两种主要技术，即窗口化和行列捆绑。

窗口化：这种技术重用了LLM已经处理过的一些数据，而不是每次都加载新数据。这减少了从闪存获取数据的频率和数量，使过程更快、更流畅。

行列捆绑：该技术将数据更紧凑地分组，以便更快地从闪存读取数据。这加快了法学硕士理解和生成语言的能力。

作者写道：“这一突破对于在资源有限的环境中部署高级法学硕士尤其重要，从而扩大了其适用性和可访问性。”

这可以为iPhone在设备上运行复杂的人工智能助手和聊天机器人铺平道路，而无需互联网连接或云服务器，从而确保隐私和安全。

苹果首席执行官蒂姆·库克已经证实，这家总部位于库比蒂诺的公司正在人工智能技术上“投入大量资金”，并且它将成为该公司未来一些产品的组成部分。他还提到，苹果将以“负责任”的方式使用生成式人工智能，以符合公司的价值观和原则。

过去的传言表明苹果正在开发自己的聊天机器人，有些人将其称为AppleGPT。苹果员工目前正在使用生成式人工智能进行内部测试。另一种传言称，将于明年发布的iOS18可能会给Siri带来生成式AI功能。