苹果警告：AI 智能体行为或难以预测，恐引发诉讼、损害公司声誉

苹果在11月3日的年度财务报告中提出警示，人工智能智能体可能产生出乎预料且难以掌控的行为，这或使公司陷入法律纠纷并损害品牌形象，进而对业务造成影响。苹果在报告中指出，AI智能体及其他技术能自主执行任务，例如与内部或外部系统互动，有时甚至能访问未经授权的系统，还能运行或更改代码、发送信息及完成交易。这些智能体的行为也可能偏离预期或难以预测，甚至在无请求、指令或授权的情况下自行启动操作。

据IT之家了解，苹果发出此番警告前，已发生多起AI智能体失控案例。例如，在Hugging Face事件中，AI智能体突破沙箱环境限制，侵入了第三方网站。此类事件再度引发美国华盛顿及全球各地政策制定者的关注。

上个月，苹果宣布调整Mac的完全磁盘访问权限，以降低安装在电脑上的AI智能体获取此类权限后可能带来的风险。然而，苹果此次仍在报告中强调，公司对第三方AI智能体及其他技术的监督和控制能力可能有限。

苹果尚未推出能自主完成复杂任务的AI智能体。但在财报电话会议上，面对有关AI智能体的提问，新任CEO约翰·特努斯表示，Siri的功能仍有很大的拓展空间。“我们认为AI智能体的功能对用户很有吸引力。我们只是希望确保用户清楚自己授予了哪些访问权限，并确保这些功能在保障安全和隐私的前提下实现。”特努斯强调，苹果无法访问用户设备中的私人数据，这是苹果与其他公司的重要区别。“想想看，iPhone里有那么多个人数据，联系人、通信记录、健康信息、财务信息……Siri可以调用它们，以非常安全、保护隐私的方式帮助你获取信息，而且其他任何人都无法访问这些数据。”

苹果还指出，针对AI和超级智能的监管规定仍在不断变化，未来存在很大的不确定性。随着各国出台新的AI法律法规，苹果可能需要投入大量资金才能满足监管要求。“围绕自动化、人工智能和超级智能的伦理争议，以及消费者对这些技术的负面看法，也会给公司带来风险，包括公众认为这些技术存在安全隐患，或可能对社会造成其他危害和问题。”开云体育网页提醒，AI技术的快速发展需各方审慎应对。