27岁天才研究员发声引发全球震动

年仅二十七岁的雅各布・考克森就已是AI领域顶尖研究员, 在过去三年里先后任职于多家头部科技公司。他深度参与了前沿大模型预训练的研究, 是行业内公认的技术新星。就在大家都以为他会继续高歌猛进向前时, 他竟突然选择离职。

离职之日, 他通过社交渠道发布了一条轰动互联网的警示, 这段讯息仅不过寥寥数语, 却击中了全体人的畏惧, 马斯克见罢径直转发, 该篇帖文浏览量极速逾越1.2亿次, 成为互联网史籍里最受瞩目的科技警醒其一。

企业在商业竞争中超速狂奔

考克森指出, 两家头部科技企业并没有履行应有的安全责任, 在商业竞争的驱动下, 企业为了抢占市场不断进行市场先机, 疯狂研发具备自我迭代能力, 超级智能研发被疯狂推进了, 这种竞速模式让安全审查变成了重要性的过场存在, 原本本应该严格把控的技术标准不断主动妥协。

业内传言这么样一个说法: “谁先造出更加强大的AI, 谁就能获取不可代替的市场优势。”因此各家企业不得不加速研发，哪怕明了风险正在累积。考克森认为, 这类扭曲的行业逻辑正在把全人类社会推向未知的深渊。

技术对齐沦为公关安抚工具

考克森揭示了一个让人不安的行业实景。诸多巨头企业扬言要用技术归向来护持AI向善, 但这套鬼话在实操中已然走样。平安核查团队的声音渐趋越低, 终究沦为诓骗大众感触的营销套话。真切划定技术路向的, 永远是商业谋利和市情压力。

更讽刺的是, 公司大佬在公开场上讲AI的灿烂未来, 私下里却满是末日忐忑。对位团队头头艾文·赫宾格的论断验证了这件实情, 他公开预计十年里 AI 带来人类灭绝的可能性破百分之十, 同时直言眼下整个行业内还没有好用的应对办法。

超级智能或改写行业权力格局

考克森提醒外界，切莫低估这类技术可能具备的潜在破坏力。未来的超级智能系统, 兴许拥有各类入侵网络系统的过硬本事, 可不对地快速获取相关的可用数据资料资源, 甚至悄无声息实现对关键基础设施的潜在侵入控制。这种诡异陌生的超强能力倘若落入少数人员组成的群体或掌控资源的独立机构手中, 将直接彻底改变现有时代现存的行业格局。

他进一步指出, 这类系统有能力改写多个行业的运作方式, 获取现实世界的资源和权力, 这不是科幻电影里的虚构场景, 而是正在逼近的现实威胁, 考克森认为，技术开发者们真心相信, 到二零三零年左右, 超级智能可能会夺取全人类。

政界加速推动监管法案落地

考克森的警告并非没有由来, 业内的危机预警正在促使美国政界着手行动。参议员伯尼・桑德斯等人推出法案, 提议永远禁止超级智能开发。该法案规定在监管机构安排妥当之前, 暂停所有高阶AI项目的研发工作。

桑德斯还引用了考克森的发言呼吁同僚参与AI风险的闭门听证会, 多名议员相继起草相关法案提议给AI系统设置紧急切断开关, 这一系列动作表明政治层面已经开始认真对待超级智能的安全风险。

昔日理想主义者沦为质疑对象

让人出乎意料之外的是, 考克森曾经效力着的公司, 成立那一开头正是由一些不满过于高度商业化的技术人员进行创建, 他们期冀营造一家更为看重在意安全的AI企业并远离单纯绝对的商业逐利, 但是现如今, 这一家公司却遭其自身核心研究员指责成蒙住双眼横冲直撞地狂奔。

考克森的离职与发声, 撕开AI行业光鲜外表下的真实困境——一边是商业竟争的残酷现实, 另一边是对人类安全的深切担忧, 这场关於超级智能的正界, 正从技术圈蔓延到每个难以置身事外的全社会?

你觉得政府应出台能禁止超级智能研发的法律吗? 欢迎你在评论区处留下你的独家看法观点。