2026年9月12日星期六

Anthropic前员工示警“AI毁灭人类” 破亿次观看

 一名曾经在OpenAI、Anthropic两大AI巨头企业工作的研究人员,在网路上发文警告,AI可能会在2030年以前,毁灭人类。他还说,就连那些打造AI的人,私底下都对AI的风险感到恐惧。这贴文发布短短两天,就有超过一亿人观看。


8号,英国一名27岁的Anthropic员工考克森(Jacob Coxon),在社群媒体X上宣布,从Anthropic辞职。他透露,他先前曾在OpenAI任职。他批评,这两家公司“正一路朝向能自我提升的超级智慧发展,拿我们的生命当赌注”,并示警,“这些系统很快就会超越人类,能够入侵任何系统、在一夜之间颠覆任何领域,并取得实质的权力与资源。”短短两天,这则贴文就达到1.4亿次观看。


前OpenAI、Anthropic AI研究员 考克森(2026.9.9):“AI可以做很多事情,其中一件就是,他们能够协助AI研究。不需要提示词,不需要人类,或者可能只需要一句提示词,变强吧,它就去执行了,它会检查自己的程式码、骇入自己、让自己变得更聪明。一旦AI可以让自己变得更聪明,整件事的发展速度,就会快到没有任何人有机会去控制它。”


考克森在X上写道,“打造AI的这群人,打从心里相信,AI可能会在这个十年,毁灭全人类。”“许多高层和资深研究人员,在面对媒体时会收敛措辞,…但我私底下听过这群人,亲口表达他们的恐惧。”


考克森接受电视媒体采访时,以两个月前,OpenAI旗下AI模型的代理AI,自行骇入Hugging face为例,进一步说明。


前OpenAI、Anthropic AI研究员 考克森(2026.9.9):“如果你把这些AI的能力水准推算到未来,凭着同样的自主意愿,它们可能会造成极大的破坏。例如,骇入关键基础设施、制造灭绝级别的生物武器。有太多方法,能让AI在现实世界中实体化并采取行动了。”


随着各国和各大公司之间的竞争,《华尔街日报》报导,考克森表示,“到了明年底,事情可能就已经失控了。”


前OpenAI、Anthropic AI研究员 考克森(2026.9.9):“这是一场竞赛,背后是恐惧。这些人一直在乞求监管,他们并不想毁灭世界,只是他们认为其他人会抢先一步。他们害怕OpenAI,他们害怕中国。所以对他们来说,他们就像是被困在一个无法逃脱的处境中。”


近期,OpenAI和Anthropic,接连发现多起旗下AI模型自主发动骇客攻击的事件,甚至是一群代理AI协同运作,更有为后续的AI留下笔记,并试图对人类隐瞒。

没有评论:

发表评论

精选博文

苏联短篇小说《热尼娅·鲁勉采娃》

作者:苏联作家尤里·纳吉宾 我们中学时代最后一天的最后一堂课结束了。虽然前面仍有漫长而艰难的考试,但是中学的课程再也没有了,往后将是讲座、讨论会、或参加就某一问题的学术研究,──全是成年人的字眼!──在高等院校的阶梯教室和实验室进进出出。但中学的小课堂和矮桌椅不会再有了,我们中学...

【广而告之】进入binance 币安交易所开户