输入指令，AI就能生成女性被枪杀、虐待的暴力视频——这不是科幻电影，而是正在谷歌AI平台上真实发生的丑闻。近20万次观看的背后，是技术伦理防线的全面失守。
📢 想了解英国新鲜事？微信搜索关注微信公众号 👉 英国省钱君
🎉分享英国生活赚金币兑好礼快来发帖：👉 社区+兑换商城
📱 更多英国资讯&折扣福利一手消息：下载👉英国省钱快报（英区） | 英伦省钱指南（国区）
AI暴力视频产业链浮出水面
一个名为"WomanShotA.I"的YouTube账号被曝光使用谷歌Veo 3人工智能生成器，制作并传播了大量女性遭受酷刑和谋杀的血腥视频。这些视频标题直白得令人发指："被捕女孩头部中弹"、"日本女学生胸部中弹"，自6月以来已获得近20万次观看。直到科技媒体404 Media发出警报，该账号才被平台下架。
专家怒斥：谷歌安全防护形同虚设
"我内心深处立刻燃起了一股怒火，"达勒姆大学法学教授克莱尔·麦克格林痛斥，"这正是如果不在推出产品前投入足够安全保障，就必然会发生的事情。"她指出，尽管谷歌声称禁止血腥暴力内容，但这些视频却能轻易生成并传播，证明其防护措施根本不够。
更令人担忧的是，这些内容在青少年群体中广泛流传。儿童网络危害政策智库研究员亚历山德拉·迪亚克警告："对于儿童和青少年来说，接触这些材料可能产生持久影响，包括心理健康受损。"
暴力内容规模化，家长防线崩溃
数据显示，自6月以来，英国互联网监察基金会已在某聊天机器人网站发现17起AI生成的儿童性虐待材料。用户可以与AI模拟与低至7岁儿童的"令人发指"的性场景。保护女性在线中心主任奥尔加·尤拉什教授指出："这些视频极大地助长了性别歧视和厌女症文化。在这种环境里，女性被视为可以随意侵犯的对象。"
政府回应与法律困境
英国政府发言人表示，《网络安全法案》已于今年3月生效，要求社交媒体和AI平台保护用户免受非法内容侵害。该法案还将拥有、创建或分发生成儿童性虐待材料的AI工具定为非法。然而，法律的执行速度显然跟不上技术滥用的步伐。
讽刺的是，就在上个月，人工智能巨头英伟达刚刚宣布向英国AI领域投资20亿英镑，被称为英美间"有史以来最大规模的科技协议"。首相凯尔·斯塔默爵士也曾誓言让英国成为AI"超级大国"。但在技术狂飙突进的同时，伦理护栏的建设明显滞后。
当AI技术成为暴力温床，我们该如何守住底线？科技公司是否应该为工具滥用承担更多责任？欢迎在评论区分享你的观点！
如果你喜欢我们的文章记得❤喜欢+⭐收藏+📣分享哦，也可以加小编服务号（DMxQianDuoDuo）了解更多英国优质折扣和攻略内容~
来源：independent.co.uk
3
