菜单 菜单

您决定——“苹果智能”是否安全可靠?

Apple Intelligence 被誉为一款人工智能助手,旨在让日常管理变得轻松。这意味着它可以筛选我们的私人信息和电子邮件。苹果声称该系统是完全安全的,但你有足够的信心使用它吗?

经过等待时机,苹果最终决定进军商业 AI 领域。

时尚上的迟到(长达两年)无疑是有风险的,但也有显著的好处——主要是可以利用竞争对手的明显缺点。

科技界最新关注的焦点之一是隐私和安全。当人工智能的流程充其量也只是模棱两可且其能力不断变化时,你如何保证人们的敏感信息是安全的?

只有现在法律 生效 例如,关于公司被允许从网络上抓取哪些数据来训练他们的深度学习模型。

人们普遍认为,人工智能行业的保障措施仍较为松懈,而且由于人工智能发展速度飞快,且有大量公司在搭建自己的平台,这些保障措施很难有效执行。

然而,苹果以典型的夸张方式在上周的 WWDC 上宣称,尽管它推出了可能是迄今为止最具侵入性的 AI 应用程序,但它已经解决了隐私问题。


什么是Apple Intelligence?

苹果对通用人工智能的愿景是打造一个无所不在的助手,简化设备拥有者的日常管理活动。其无处不在的语音助手 Siri 也得到了增强。

其展示的重点是“电子邮件帮助”这一关键功能,其中人工智能根据电子邮件收件人的背景和历史记录提供智能建议、自动排序和个性化回复。这无疑令人印象深刻。

如果有人发送了包含特定查询的电子邮件,人工智能就会搜索以前的电子邮件并立即找出答案,同时允许无缝创建提醒和会议作为后续操作。

同时,电子邮件的实际内容可以在几秒钟内完全生成或修改语气和语法。

作为整个产品的基础,“情境感知”据称能够了解我们在所有应用程序中的联系人是谁。

这意味着,如果你想知道你妈妈的飞机什么时候降落,Siri 会搜索你的消息、电子邮件、WhatsApp、Insta Dms 和其他通信历史记录,并快速找到自定义通知中显示的答案。

在无聊的公交车旅途中,您可以说或输入“播放杰西正在谈论的播客”,它就会执行必要的步骤来检查您的消息并播放来自第三方应用程序的媒体。

您还可以生成特定的表情符号和图形,以素描或卡通形式捕捉您发送消息的人的肖像。

如果你的大脑和我一样,天生不擅长组织,那么 Apple Intelligence 在实际意义上听起来很梦幻。但是,考虑到围绕人工智能的安全问题,它是否会出现重大缺陷或隐私风暴?


不可避免的公众关注

苹果公司却让你相信事实并非如此。

事实上,苹果在此次展示中不断重申的一个重点就是,将用户数据流严格控制在“设备上”。

我们已经习惯了用户数据成为公司的商品,但苹果确保 Apple Intelligence 不会出现在第三方服务器上。该公司软件工程高级副总裁表示:“它(苹果)知道你的数据,但不会收集你的个人数据。” 克雷格费德里吉.

当复杂的用户请求确实超出设备的限制而需要使用大型语言模型时,苹果的 私有云计算 该服务将处理请求——据报道,该服务不会存储数据或使 Apple 可以访问数据。

该公司声称将向安全研究人员开放其私有云计算程序的每个生产版本以进行漏洞检查,并计划将该程序列入其漏洞赏金名单。

苹果为保护用户所做的努力是值得称赞的,而且远远超出了竞争对手迄今为止的承诺。不过,如果说完全不涉及个人风险,那就太夸张了。

尽管苹果已经竭尽全力消除我们所知的风险,但现实情况是我们对人工智能(尤其是法学硕士)的陷阱还不够了解。

说到这里,苹果已经将其语言生成需求外包给了 OpenAI,怀疑论者认为这会使苹果对用户隐私的保障失效。 伊隆麝香 一直强调,该框架不可能实现完全的安全。

像 ChatGPT 这样的法学硕士还比较新, 威胁 仍有很大一部分未被发现。领先的网络攻击预防公司的产品官史蒂夫·威尔逊 (Steve Wilson) 表示:“我真的很担心 LLM 是一个非常非常不同的领域,而传统的安全工程师还没有掌握这些 AI 技术。” Exabeam.

自生成式人工智能全面投入使用以来的 24 个月里,出现了许多无法预见的技术和安全问题。苹果在用户安全方面有着出色的记录,但依赖他人是否会造成漏洞?

目前,对于苹果智能来说,积极的迹象肯定多于消极的迹象,但只有野外时间才能证明这种水果是成熟了还是有毒。

无障碍服务