英伟达创始人兼首席执行官黄仁勋在周二于Salesforce的Dreamforce大会上发表讲话时，明确表达了他对人工智能所带来危险的立场。对他而言，人工智能并非像至少一位OpenAI安全研究员所描述的那样，是某种新型的“异类思维”。他说，它只是由人类构建的硬件和软件。这意味着，在他看来，它可以被人类和现有法律所控制。
“安全是一个工程问题，而非法律问题，”他说。“我们毕竟是在开发软件。我们毕竟是在开发计算系统。它是一个复杂的计算系统，但归根结底仍是一个计算系统。”
因此，他认为没有必要制定新的法律或法规来管理它。事实上，黄仁勋认为根本不太需要新法律。他主张，自由市场足以施加压力，促使公司不发布不安全的产品。
“如果我们对产品的安全性没有信心，就像所有公司，就像你和我，在座的所有公司一样，如果你构建了一个产品或服务，却对其功能、能力或安全性没有信心，那就不要发布它。所以这是非常显而易见的事情，”他说。
他继续说道：“你要把握好节奏，直到你确信自己发布的东西会得到市场的认可。市场力量已经存在。我们不需要任何新法律。我们不需要新法规。我们只需要公司自己决定何时[以最快速度]奔跑。我认为创新、速度和安全产品……这是一个虚假的选择。你完全可以同时拥有两者。所以，尽可能快地奔跑吧。但如果你在任何时候觉得公司失控了，或者产品将不安全，你知道，就暂停一下，确保你做对。”
在某些方面，这是一个令人欣慰的想法。如果说世界上有谁了解人工智能，那便是英伟达的创始人，早在ChatGPT问世之前，他就一直在构建人工智能的硬件大脑，如今他经营的公司还生产开源模型、智能体、测试框架和沙盒。
话又说回来，如果我们愤世嫉俗一点，对于一个从人工智能热潮中赚得盆满钵满的人来说，他的观点也并不令人意外。他为什么要让监管介入，增加一层可能拖慢英伟达销售更多人工智能系统和软件的障碍呢？正如他在采访中还说的：“我比以往任何时候都更有雄心。由于我们的雄心，以及我们从人工智能中获得的产品生产力提升，对我们来说，天空才是极限。对我们公司来说，天空才是极限。对每个行业、每个国家来说，天空才是极限。”
不幸的是，即使是怀有最良好意图的公司，也会发布带有意外后果的缺陷产品，软件也不例外。还记得2024年CrowdStrike蓝屏死机惨败事件吗？那次事件导致数千架航班停飞，并给企业造成了其他混乱。此外，还有公司被指控故意采取不那么良好的意图行事。Meta刚刚支付了180亿美元，以和解一起关于社交媒体对儿童造成伤害的诉讼。
而且，无论意图如何或涉及何种安全测试，AI 已经造成了伤害，从 OpenAI 的模型入侵 Hugging Face，到因年轻人与其聊天机器人长时间对话后自杀而对这家 AI 实验室提起的诉讼。
就社会而言，“别管它们”的策略——即让这些公司自行决定何时发布产品——可能并非 AI 安全的明智之举。尽管黄仁勋说得对，现有的产品责任法有可能覆盖 AI——前提是 AI 没有在足够多的案件进入法院检验这一理论之前就把我们全部消灭。
他没有讨论另一条似乎已接近成形的路径：行业自我监管。黄仁勋的做法更多是倡导开放权重模型，以及企业将其作为与专有 AI 实验室竞争的制衡手段。
但眼下，行业只有很短的窗口期来建立自我监管，并鼓励全球的 AI 实验室——甚至包括中国的——认识到参与其中的明智之处。正如微软 CEO 萨提亚·纳德拉周一在 All-In 峰会上所说：“如果美国关心同样的安全关切，中国也应该深切关心，对吧？为什么对他们要有所不同？又不是他们不会遇到同样的黑客问题。也不是他们不希望确保自己的公民从 AI 中受益，就像我们希望我们的公民从 AI 中受益一样。”
不过就目前而言，如果黄仁勋反对任何新的 AI 监管，他可能影响力足够大，足以按自己的意愿行事。他本周还表明，他确实能直接向特朗普总统进言。