资讯

奥特曼:为了 AI 的好处,社会应该接受一些"坏事"发生

OpenAI CEO 奥特曼在最新采访中表示,社会应该接受 AI 带来的黑客攻击、诈骗等"负面事件",因为这项技术创造的价值会"远远超过"负面影响。这番话引发政界和学界强烈反弹。

奥特曼"接受坏事"采访表态的 Canva 品牌封面,深色科技风,主标题中文大字,右下角 Knowhy Lab 字样

10 月 5 日,OpenAI CEO 山姆·奥特曼在一场公开采访中放出了一句很重的话:为了得到 AI 的好处,社会应该接受由此产生的一些“负面事件”。

他点名的“负面事件”包括黑客攻击、诈骗和技术滥用。他的原话大意是:他不会选择那种“必须确保不发生重大黑客攻击、不出现技术滥用”的交换方式,因为人们用这项技术创造的巨大价值,会远远超过它的负面影响——“前者可能是后者的几个数量级”。

他和 Anthropic 的分歧

被问到 OpenAI 和 Anthropic 在 AI 安全理念上有什么不同时,奥特曼回答:“我们之间存在很大的分歧。”

他把分歧说得很直白。OpenAI 和一些更严格的 AI 安全倡导者不一样:OpenAI 认为,应该让人们自主决定如何广泛使用 AI。更宽松的监管立场,意味着社会在摸索怎么抵御风险的过程中,得接受“一些坏事会发生”这个事实。

这番话的时间点很微妙。就在几天前,OpenAI 的一位安全专家宣布离职,还在上周末公开说公司“企业文化已经出了问题”。本站此前报道过这件事(《OpenAI 安全负责人离职》)。

反对的声音

采访一出来,反弹立刻就来了。

佛罗里达州州长罗恩·德桑蒂斯说,他完全不能接受“让少数科技寡头替我们所有人决定安全问题”。

纽约大学荣休教授、长期批评 AI 行业的加里·马库斯说得更直接。他说,奥特曼是“把不愿公开说的话直接说了出来:你们就忍着吧,这样我们就能变得更富有、更有权势”。

顺带警告了开源模型,还怼了马斯克

同一场采访里,奥特曼还说了两件事。

第一,他警告竞争对手的开源模型可能引发“一场即将到来的网络安全问题巨浪”。他表示 OpenAI 可以帮客户应对这个风险。话里话外的意思是:开源等于风险,闭源等于安全。

第二,他和埃隆·马斯克的口水战又续上了。奥特曼说:“我不喜欢恃强凌弱的人,我认为埃隆就是这样的人。”

背景:白宫刚签了宽松监管协议

就在上周,美国总统特朗普和包括奥特曼、Anthropic CEO 达里奥·阿莫代在内的几位 AI 公司负责人,在白宫签了一份监管立场更宽松的协议。特朗普表示,希望 AI 企业通过“自我监管”,限制 AI 被用于网络攻击和生物武器制造的风险。本站此前报道过这份协议。

奥特曼这场采访,等于把协议里的立场又往前推了一步:不只是自我监管,而是公开要求社会接受代价。

据报道,OpenAI 已经取消了一款前沿模型的发布计划。本站此前报道过 GPT-6.1 Astra 因安全担忧被叫停的消息。安全这条线,OpenAI 内部显然还没统一口径。

接下来要看的是,“接受坏事”这种说法会不会变成 OpenAI 在监管谈判里的正式立场,以及监管者买不买账。

返回文章列表