在近期的采访中，特朗普在得克萨斯州达拉斯被问及是否担心人工智能会导致人类灭绝时表示并不担心，但强调如果美国无法在人工智能领域取得领先，就会处于不利地位，并称美国目前大约领先中国一年。同时，曾在OpenAI和Anthropic工作的研究者考克森发出警告，指出自我改进型超级人工智能在未来十年内可能对人类构成生存威胁，风险估计超过10%。这使得公众再度关注一个引发激烈讨论的话题：当人工智能的发展速度超越人类的管理能力时，我们该如何选择，继续加速还是适时减速？

此论辩的核心并不在于“AI会在十年内摧毁人类”这一极端看法的准确性，而是美国科技与政治界日益显现的分歧。一方面，研究人员不断发出警告，认为前沿AI可能超出人类的控制能力；另一方面，美国政府和科技行业则将人工智能视为未来国家竞争力的重要技术。特朗普的表态颇具代表性，他未直接回应AI失控的风险，而是将话题转向竞争，强调更担心的是美国会不会输掉这场技术竞赛。这表明，AI的安全问题已不仅是技术伦理的讨论，而与国家竞争、产业政策和国家安全紧密相连。

考克森的警告引起注意，原因在于他曾在这两个重要的AI公司工作，对前沿模型的研发有所了解。他担心的并非普通聊天机器人的失误，而是自我改进的超级人工智能一旦出现，可能迅速超越现有技术的界限。传统技术的风险通常有比较明确的物理限制，比如核武器的制造需要特定材料和组织，而高度智能化的系统却不受限制。一旦模型能够自主编写代码、复制其能力、寻找漏洞并持续优化，其影响力将超出传统技术的范围。 qy球友会官网

然而，这并不代表“AI必然会消灭人类”。目前关于超级AI导致人类灭绝的概率并没有准确的数据来支持，10%只是一个风险评估而非实验结果。但面对潜在不可逆的风险，我们不能因为数据难以精确衡量而忽视风险的存在。在涉及核安全的问题上，人类并不会要求科学家提供准确的概率，而是应该制定安全机制。对于新技术，越强大的能力越应提前进行安全验证。然而，实际中，AI产业往往难以自然产生这种自我约束。

科技公司投入巨资训练模型，通常目标是提高模型的智能、速度和自主性。一旦竞争对手推出性能更强的系统，其他企业很难停下脚步。资本追求增长，市场需求产品，国家追求技术优势，每个参与者都有继续推进的理由，却少有人愿意单方面减速。这造成了一种典型的“竞赛困境”：大家都知道潜在的失控风险，但又担心主动减速会导致被他人超越。

特朗普提到的“美国领先中国一年”恰恰体现了这种逻辑。在他看来，AI的首要任务是维持国家竞争力。如果美国限制自身的AI发展，而其他国家持续进步，美国可能会失去技术、经济甚至军事优势。因此，安全问题被重新解读为竞争问题：不再是“我们应当发展到何种程度”，而是“我们必须确保他国无法超越我们”。这种思维一旦主导，技术治理将陷入困境。 qy球友会官网

因为AI的特点使其不同于传统产业。AI的应用已经渗透到金融、医疗、教育等多个领域，模型能力的提升既可以提高生产效率，也可能带来攻击能力。更强大的AI既能帮助人类解决复杂问题，也可能降低网络攻击和信息操纵的门槛。真正需要警惕的，可能不是某一天突然出现“机器统治人类”的极端情况，而是风险逐渐侵入现实系统。

模型可能出现严重错误，导致决策失误；自动化系统被不法分子利用，可能加剧网络攻击；AI生成的虚假内容，可能侵蚀社会的信息基础。当越来越多的关键决策交给高度自动化的系统时，人类的判断能力和责任也可能逐渐模糊。这些风险并不需要超级AI的出现才能发生。

因此，美国科技界如今重新审视AI安全，实际上是在探讨一个根本性的问题：技术发展的速度应由什么决定？如果仅由市场和国家竞争决定，安全永远将排在“领先”之后；如果完全出于风险考虑停止发展，则可能错失巨大的技术和经济机遇。真正成熟的选择，不是简单支持还是反对AI，而是使安全能力与模型能力相匹配。 qy球友会官网