【苹果新反幻觉指令让智能回复更可靠】

8月7日，苹果公司为其最新的macOS 15.1测试版引入了革命性更新——“反幻觉”指令，这一举措将重新定义邮件自动回复的准确性和可靠性。智能回复是苹果邮件应用的一项创新功能，它利用苹果自研的智能技术，通过分析邮件内容自动生成可能的回复选项。然而，由于生成式AI普遍存在的问题——“幻觉”，即系统可能生成不真实的信息。

为了防止智能回复功能产生误导性信息，苹果在系统内部设置了明确的指令，即“不要编造事实，不要产生幻觉”。这些指令规定智能回复功能仅提取邮件中明确提出的问题，并提供相应的回答选项。这一策略有助于减少AI在生成回复时的错误。

尽管苹果公司对人工智能（AI）有明确的要求，即不允许AI编造或生成虚假的信息，但一些行业专家认为，要完全解决AI在生成信息时可能出现的“幻觉”问题，即AI生成的信息与现实不符或是错误的情况，仍然是一个很大的挑战。