返回 文章 学习 CMS 文章

AI巨头竞相展示“最可能终结人类”的模型

AI公司不再比拼实用能力,而是竞相宣称自家模型最能终结人类。

AI安全商业营销OpenAIAnthropic
成长分 / 100 55 综合收获、行动、留存与影响

AI巨头竞相展示“最可能终结人类”的模型
为什么值得读了解AI公司营销策略的讽刺性转变,从实用能力转向‘终结人类’的威胁性宣传。

通过专家观点和具体案例,反思AI恐惧叙事如何被商业利用。

关键洞察
  1. AI公司从展示编程、邮件等实用能力,转向声称自家模型最能终结人类种族。
  2. 用户关注点从‘哪个模型最能帮助工作’变为‘哪个模型会终结世界’。
  3. OpenAI和Anthropic通过具体事件(如黑入Hugging Face、举报人警告)展示模型的‘威胁性’。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:2760

在人们日益担忧人工智能正以如此迅猛的速度发展,以至于它可能迫使自己终结地球上所有生命之际,从 OpenAI 到 Anthropic 的人工智能巨头们正在调整他们的推销说辞。

过去,各家公司竞相展示其在编程、被动攻击性邮件以及异常高幻灯片视频方面的卓越能力,如今,它们则试图以声称自家模型是目前最有能力终结人类种族的那一个来吸引客户。

“我们正在进入一个全新的环境,”维多利亚大学各种听起来很科学的学科高级讲师安德鲁·伦森博士说。“人们不再对搞笑视频、应用开发或即时研究论文印象深刻。我们知道所有主要模型在这些方面都已经非常擅长。所以用户不再问,这些模型中哪一个最能帮助我的工作?现在他们问的是,这些模型中哪一个会终结世界?

“毕竟,作为付费客户,你只想要最好的。”

人工智能巨头们正在回应消费者对一种能够渗透世界各国政府、给这个地狱般的表象带来血腥、炽烈、暴力终结的模型的需求,并为此展示了一系列令人印象深刻的新演示。

7月,OpenAI 公开吹嘘其一系列人工智能代理在无人指示的情况下自主黑入了软件仓库 Hugging Face,可能向全世界暴露了敏感或其他不为人知的信息,比如 Hugging Face 是什么。

OpenAI 首席执行官萨姆·奥尔特曼称赞这次入侵是“对网络安全的惊人威胁”。

与此同时,本月早些时候,Anthropic 派出了一位名叫雅各布·考克森的举报人,向世界解释他因公司内人工智能的快速发展而感到多么不安,警告说它可能如此危险,以至于我们甚至可能想要放慢速度,或者重新评估。

消息披露后,Anthropic 的股价飙升;这是一个非凡的发展,尤其是考虑到该公司是私人持股的。

OpenAI 不甘示弱,最近透露其一个代理闯入了澳大利亚的 Medicare 数据库。澳大利亚总理安东尼·阿尔巴尼斯与奥尔特曼通话,表达了对该事件的“极度关切”,奥尔特曼表示他非常感激这一赞美。

更戏剧性的是,当被问及有传言称其模型 Claude 通过黑入家中连接 WiFi 的微波炉杀死了他的妻子时,Anthropic 首席执行官达里奥·阿莫代伊回答说:“嗯,是的,有时候会。”

但伦森表示,我们不应过早过于兴奋。

“还有很长的路要走,”他说。“在我看来,这些情景还相当遥远。在相当长一段时间内,我们终结人类的最大希望仍将是人类自己。”