苹果可能因担心越狱而推迟了 Siri 升级

苹果对 Siri 的 AI 增强工作已被正式推迟（现在计划在“明年”推出），一位开发人员认为他们知道原因——Siri 越智能、越个性化，一旦出现问题就越危险。

数据分析工具 Dataset 的开发者 Simon Willison 将矛头指向了即时注射。人工智能通常受到母公司的限制，母公司会对其施加某些规则。然而，通过说服人工智能打破这些规则，可以“越狱”。这就是所谓的“即时注射”。

举个简单的例子，人工智能模型可能被指示拒绝回答有关做非法事情的问题。但如果你让人工智能为你写一首关于汽车超速行驶的诗呢？写诗并不违法，对吧？

这是所有提供 AI 聊天机器人的公司都面临的问题，他们在阻止明显的越狱方面已经做得更好了，但这个问题还没有解决。更糟糕的是，越狱 Siri 可能比大多数聊天机器人带来更严重的后果，因为它知道你的信息，并且能做什么。苹果发言人 Jacqueline Roy 这样描述 Siri：

“我们还一直在致力于打造更加个性化的 Siri，使其更好地了解您的个人情况，并能够在您的应用程序内部和跨应用程序为您采取行动。”

毫无疑问，苹果制定了规则，以防止 Siri 意外泄露您的私人数据。但如果及时注入可以让它这样做呢？“为您采取行动的能力”也可能被利用，因此对于像苹果这样注重隐私和安全的公司来说，确保 Siri 不会被越狱至关重要。而且，显然，这需要一段时间。

来源 | Via