苹果公司正在采用一种新方法来训练其人工智能模型--这种方法避免了从 iPhone 或 Mac 上收集或复制用户内容。
根据最近的一篇博客文章，该公司计划继续依靠合成数据（用于模仿用户行为的构建数据）和差异化隐私来改进电子邮件摘要等功能，但不会获取个人电子邮件或信息。
对于选择加入苹果设备分析计划的用户，该公司的人工智能模型将把合成的类似电子邮件的信息与设备本地存储的真实用户内容的小样本进行比较。然后，设备会识别出哪条合成信息与其用户样本最为匹配，并将所选匹配信息反馈给苹果公司。实际的用户数据不会离开设备，苹果公司称它只会收到汇总信息。
这项技术将使苹果公司能够在不收集真实用户内容的情况下，改进其用于较长格式文本生成任务的模型。这是该公司长期使用的差别隐私技术的延伸，它将随机数据引入更广泛的数据集中，以帮助保护个人身份。自 2016 年以来，苹果公司一直使用这种方法来了解使用模式，以符合公司的保护政策。
苹果公司已经利用差异化隐私来改进 Genmoji 等功能，收集有关哪些提示最受欢迎的总体趋势，而不会将任何提示与特定用户或设备联系起来。在即将发布的版本中，苹果计划将类似的方法应用于其他苹果智能功能，包括图像游乐场、图像魔棒、记忆创建和写作工具。
对于 Genmoji，该公司会对参与的设备进行匿名调查，以确定是否有人看到了特定的提示片段。每台设备都会响应一个噪声信号--一些响应反映了实际使用情况，而另一些则是随机的。该公司表示，这种方法可以确保只有广泛使用的术语才会被苹果公司看到，而且不会追溯到用户或设备的任何单个回复。
虽然上述方法在处理简短提示时效果不错，但苹果需要一种新方法来处理更复杂的任务，如总结电子邮件。为此，苹果公司生成了数千封样本邮件，并根据语言、语气和主题将这些合成邮件转换成数字表示或 “嵌入”。然后，参与的用户设备会将嵌入与本地存储的样本进行比较。同样，只有选定的匹配内容才会被共享，而不是内容本身。
苹果公司会从参与设备中收集最常被选中的合成嵌入词，并用它们来完善训练数据。随着时间的推移，这一过程会让系统生成更相关、更逼真的合成电子邮件，帮助 Apple 改进其人工智能输出的摘要和文本生成，同时不会明显损害用户隐私。
苹果正在 iOS 18.5、iPadOS 18.5 和 macOS 15.5 测试版中推出该系统。根据彭博社记者马克-古尔曼（Mark Gurman）的报道，苹果正试图通过这种方式解决人工智能开发过程中遇到的挑战，这些问题包括功能推出的延迟和 Siri 团队领导层变动带来的影响。
苹果的做法是否会在实践中产生更有用的人工智能成果还有待观察，但这标志着苹果在平衡用户隐私和模型性能方面做出了明确的公开努力。
下一条： 没有了
