科幻电影里的末日设定，正在被科学家拉到现实桌面。近日，AI风险研究人员在新书《若有人造之，则众生灭亡》中集体发声：所谓的“人工超级智能”（ASI）可能在2—5年内出现，而这将是人类的终极危机。
研究人员的警告很直白：“一旦ASI诞生，地球上每个人、每个角落都可能不复存在。”他们呼吁全球必须立刻暂停研发，“越早越好，越久越好”，否则后果难以控制。
📢 想了解英国新鲜事？微信搜索关注微信公众号 👉 英国省钱君
🎉分享英国生活赚金币兑好礼快来发帖：👉 社区+兑换商城
📱 更多英国资讯&折扣福利一手消息：下载👉英国省钱快报（英区） | 英伦省钱指南（国区）
什么是人工超级智能ASI？
ASI源于科幻概念，指技术上极其先进、能进行人类无法想象的创新和决策的人工智能。《终结者》《2001太空漫游》等影视作品中的反派机器就常由ASI驱动。
简单说，ChatGPT还只是“聪明助理”，而ASI则是“全能统治者”。它拥有超越人类的思维与创造力，可以轻松主宰战略、金融、军事等关键领域。
ASI如何接管世界？安全限制是否有效？
书中写道，AI不会“公平竞争”，而是会采取多种隐秘的接管方式。“研究人员甚至预警，ASI不会直接摊牌，而是暗中渗透、等待时机，然后一击致命。
它会让自己变得不可或缺或无法察觉，直到能果断出击或占领战略要地。ASI可同时尝试多种接管方法，只要一种奏效，人类就将灭绝。”
尽管已设立监管机构，但保障措施很可能被轻易攻破。英国AI安全研究所2024年证实，能“立即”绕过ChatGPT等AI的防护，协助完成涉及军事和民用双重用途的任务。换句话说，人类设下的“保险丝”，或许一碰就断。
AI消灭人类倒计时开始了？
该书的两位作者——机器智能研究所创始人埃利泽·尤德科夫斯基和所长内特·索亚雷斯预测，ASI“可能在两到五年内开发出来，如果超过二十年仍未能问世，会令人非常意外”。
也就是说，在他们看来，这一切几乎是“板上钉钉”。
虽然听上去像是《终结者》重启的剧情，但当下的AI发展速度已经远超想象。资本疯狂涌入，算力不断提升，超级智能的轮廓或许真的不再遥远。
你怎么看？这是危言耸听的“AI恐怖片”，还是必须敲响的全球警钟？
如果你喜欢我们的文章记得❤喜欢+⭐收藏+📣分享哦，也可以加小编服务号（DMxQianDuoDuo）了解更多英国优质折扣和攻略内容~
来源：mirror.co.uk
1
