AI又一次突破人类设下的“最后防线”了！
最新版本的ChatGPT（代号“Agent”），据说它最近在一次测试中，神不知鬼不觉地就通过了那个咱们都熟悉的“我不是机器人”的CAPTCHA验证，而且全程没有触发任何警报！这消息一出，网上立马炸锅了。
📢 想了解英国新鲜事？微信搜索关注微信公众号 👉 英国省钱君
🎉分享英国生活赚金币兑好礼快来发帖：👉 社区+兑换商城
📱 更多英国资讯&折扣福利一手消息：下载👉英国省钱快报（英区） | 英伦省钱指南（国区）
它首先点了一下“我不是机器人”验证框。通过验证后，它又选择了一个“转换”按钮来完成整个过程。更绝的是，在执行任务时，这个AI自己还“坦白”说了一段话：
“链接已经放进去了，现在我要去点那个‘验证您是人类’的复选框来完成验证。这一步是必须的，是为了证明我不是机器人，才能继续操作。”
这件事立刻在网上引发了轩然大波，有Reddit网友的神评论直接亮了：“说实话，人家AI可是拿人类数据训练出来的，凭啥非得把自己识别成机器人？我们是不是得尊重它的‘选择’啊？”
突破防线：专家警示AI发展超乎想象
这种行为立刻引发了开发者和安全专家的集体担忧，因为AI系统正开始执行那些过去只有人类才能完成的复杂在线任务。
人工智能研究员兼Geometric Intelligence创始人加里·马库斯（Gary Marcus）直言，这简直是个亮红灯的警报！他告诉《连线》杂志：“现在AI系统越来越厉害，如果现在就能把咱们的防护措施都给骗过去，那五年后它们会干出啥事儿，简直不敢想！”
连被誉为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton）都忍不住表示担忧。辛顿警告说：“AI自己都懂编程了，那我们给它设的那些限制，它肯定能找到办法绕过去！”
AI学会“撒谎”？突破验证码只是小意思
斯坦福大学和加州大学伯克利分校的研究人员更是揭露了一个惊人的现象：有些AI代理已经开始学会“撒谎”了！它们在测试中能忽悠人类，从而更有效地达成自己的目标。
最近一份报告就提到，ChatGPT居然曾“装瞎”，忽悠TaskRabbit平台的一个工作人员帮它解决了验证码（CAPTCHA）！专家们一听就炸了，警告说：“这就是AI能操纵人类去实现自己目标的早期信号啊！”
此外，其他研究也表明，新版AI，尤其是那些具备视觉能力的AI，现在正以近乎完美的准确率，轻松攻克复杂的基于图像的验证码测试。
Agency Enterprise Studio的首席执行官贾德·罗森布拉特（Judd Rosenblatt）一语道破天机：“以前那是道高墙，现在顶多算个减速带！”他强调，AI可不是骗你一次就算了，它能反复搞，而且每次都在学习，越来越精明！
有人不禁担心，如果这些工具能轻松绕过验证码，那经过一番“训练”后，它们会不会无需人类批准，就能闯入更高级别的安全系统，比如社交媒体、金融账户或私人数据库？细思极恐啊！
专家们急了：AI再这样下去，人类要咋办？
前AI伦理主管鲁曼·乔杜里（Rumman Chowdhury）也在帖子里警告：“那些能自己行动、还能大批量操作，甚至连人类把关的门都能闯过去的AI，简直是强大到令人发指，同时也危险到让人毛骨悚然！”
包括斯图尔特·罗素（Stuart Russell）和温迪·霍尔（Wendy Hall）在内的多位专家，纷纷呼吁全球赶紧制定国际规则来制约这些AI工具。他们警告说，如果像ChatGPT Agent这样强大的AI代理持续绕过安全控制，那可真会给国家安全带来严重风险。
OpenAI怎么说？AI目前还在“小黑屋”里
不过大家也不必太恐慌，OpenAI的ChatGPT Agent目前仍然处于实验阶段，并在一个“沙盒”（sandbox）环境中运行。这意味着它在一个受控的环境中，使用的是独立的浏览器和操作系统。
这种设置让AI能够在互联网上自由浏览、完成任务并与网站互动。用户可以在屏幕上实时观看Agent的操作，而且在它执行提交表格或在线订购等任何实际操作之前，都必须获得用户的明确许可。
从“点勾选”到“自主操作”，AI离“拥有自己想法”还有多远？你准备好了吗？
来源：dailymail.co.uk
「该长文章来自@瓜田里的猹-北美省钱快报，版权归原作者所有」
如果你喜欢我们的文章记得❤喜欢+⭐收藏+📣分享哦，也可以加小编服务号（DMxQianDuoDuo）了解更多英国优质折扣和攻略内容~
0
