施奈尔警告称，可信赖的 AI 难以实现，因为 AI 系统同样面临普通软件的全部供应链攻击风险。
可信赖的 AI 很难实现。普通软件面临的所有供应链攻击，AI 系统同样难以幸免。原文 (en)
Trustworthy AI is hard. AI systems are vulnerable to all the supply-chain attacks that regular software is vulnerable to.
Bruce Schneier 近期的其他言论
Schneier指出自己早就提出AI可以发现并利用法律体系的漏洞，并引用了德国的新案例作为佐证。
在2021年的一篇文章和我2022年的书《A Hacker’s Mind》中，我都谈到了AI发现法律体系中的漏洞和利用方式，也就是对法律体系的“黑客攻击”。原文 (en)
In both a 2021 essay and my 2022 book, A Hacker’s Mind, I talk about AIs finding vulnerabilities and exploits—hacking—the legal system.
Schneier警告称，AI式的法律漏洞利用必将到来，立法者需要强化立法流程，甚至自己也要借助先进AI。
在这样的世界里，立法者需要大幅强化立法流程，例如自己也利用先进的AI。目前仍处于早期阶段，但这肯定是即将到来的趋势。原文 (en)
In such a world, lawmakers would need to significantly harden the process of legislation, for example by leveraging advanced AI themselves. Still in its early stages, but definitely something that’s coming.
Schneier指出AI驱动的漏洞发现正以惊人的速度找出关键软件漏洞，今年有望使历史漏洞总量增加约26%，并称这一情况令人震惊。
有史以来记录在案的“关键”软件安全漏洞中，有3%是在上个月被发现的。照这个速度，仅今年就将再发现约10万个漏洞，使历史漏洞总数增加约26%。你意识到这有多疯狂吗？原文 (en)
3% of ‘critical’ software security bugs, in all of recorded history, have been found in the last month. This is on pace to find another ~100,000 bugs this year alone, adding ~26% more vulnerabilities to the all time total Do you realize how fucking insane that is?
施奈尔认为 AI 只是竞选活动可用的一种工具，既可用于善意也可用于恶意，并质疑为何只禁止 AI 而不禁止其他工具。
如果你想做好事，AI 会帮上忙；如果你想做坏事，AI 同样会帮上忙。原文 (en)
If you want to do good things, AI will help. If you want to do evil things, AI will help as well,
Schneier 认为这起售后车机事件的真正意义在于普通人借助 AI 就能逆向分析不安全的物联网软件，并预计今后会出现更多类似案例。
这很有意思，因为它暴露了这款物联网软件中的各种不安全之处。但我认为真正的重点在于，一个普通人借助 AI 就能完成这样的逆向工程。预计未来会有更多类似的报道。原文 (en)
It’s interesting because it exposes all the insecurities in this piece of IoT software. But I think the real story is that a random person was able to do this reverse-engineering with the help of AI. Expect a lot more stories like this in the future.