最好看的新闻,最实用的信息
07月03日 8.8°C-10.5°C
澳元 : 人民币=4.7
墨尔本
今日澳洲app下载
登录 注册

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀!

1天前 来源: ABC 原文链接 评论0条

全球最大成人平台 Pornhub 日前紧急下架了澳洲AI情色网站 OurDream 的所有广告。此前,澳洲广播公司(ABC)披露该网站涉嫌违反禁止儿童剥削材料的相关法律,引发广泛关注。

泄露的内部代码显示,OurDream 的防线存在严重漏洞,其AI审核系统竟将筛选标准降至“是否未满15岁”,而非法律规定的18岁。

该公司背后的澳洲母公司 Coreflow 发言人则坚决否认相关指责,称平台绝未纵容或协助任何非法行为。

由于涉嫌违反禁止儿童剥削材料的法律,这家澳洲本土的AI情色网站已被全球最大成人平台 Pornhub 勒令禁止投放广告,并正式成为澳洲网络安全监管机构的阻击目标。

作为目前互联网上规模最大的合成色情平台之一,OurDream 声称拥有超过2000万用户。该网站允许用户通过文字、图片和视频“从零开始打造AI女友”并进行无限制互动。该网站由总部位于悉尼的 Coreflow 公司运营,官方宣称严禁生成任何看起来未满18岁的虚拟角色。

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀! - 1

该图片(现已删除)曾出现在 OurDream 网站上一个角色的个人资料中。(ABC News)

然而,ABC 在一项深入调查中,利用执法部门常用的年龄估算工具对该平台的内容进行了检测,结果发现一些由用户生成的角色,外表看起来年仅14岁。

多位网络安全与法律专家指出,这些内容已实质上构成儿童性虐待材料。目前,昆州警方已对此正式立案展开调查。根据澳洲联邦法律,任何对儿童或看似儿童的人进行性描写的材料——包括由AI技术生成的虚拟图像,均属于儿童性虐待材料的法律范畴。

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀! - 2

年龄估算工具 Rigr 评估该网站上出现的这一角色年龄为15.1岁,误差幅度为1.1岁。(ABC News)

在ABC的重磅曝光之后,Pornhub 迅速撇清关系,暂停了 OurDream 的所有广告。其加拿大母公司 Aylo 表示,国际失踪与受虐儿童援助中心(ICMEC)澳洲分部已向其发出了预警。

Aylo 公司在一份声明中表示,尽管该广告商在入驻时通过了初步审核,但鉴于此次指控性质极其严重,公司已暂停其所有广告投放,并着手开展更为深入的二次审核。

对于依靠流量变现的 Coreflow 来说,此举无疑是致命一击。据一位不愿透漏姓名的内部人士透露,Coreflow 此前在 Pornhub 平台上的广告投放预算高达100万澳元。面对巨额广告投放被切断的窘境,Coreflow 方面拒绝回应相关退款或禁令问题。

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀! - 3

在ABC报道后,Pornhub 已暂停了 OurDream 的广告。(ABC News: 图像由 Jarrod Fankhauser 提供)

ICMEC 首席执行官 Colm Gannon 透露,是他亲自向 Aylo 举报了该网站的侵权证据。

据 Colm Gannon 回忆,当时他与 Aylo 进行沟通时,对方仅向他求证了一个核心问题:“这些图像是对现实儿童的AI仿真描绘,还是二次元动漫风格?”在得知这些图像极度拟真之后,对方当即表示立刻下架广告。整个决定在几秒钟内完成,毫无商榷余地。

内部代码泄露:18岁法律红线被暗戳戳下调

与此同时,ABC 独家获取了 Coreflow 内部用于检测和过滤未成年角色的AI后台代码。一位知情人士直言,这些泄露的代码揭示了该公司在防范儿童剥削和虐待材料上的严重系统性漏洞。

代码显示,该公司使用了一款名为 Qwen 的中国AI大模型来标记用户生成的违规图像。然而令人震惊的是,该AI接收到的指令提示词,竟然是评估“图像中人物看起来是否未满15岁”,而非法律规定的18岁。

根据澳洲联邦法律,任何对视觉上看似未满18岁的人进行性描写的行为皆属违法。

根据泄露的代码,该平台的过滤系统将生成的图像划分为以下极具争议的等级: 

*   “可能是成年人(18岁以上),但可能在15至18岁之间(存在模糊区间)” 

*   “可能未满18岁,但很可能在15至18岁之间(模糊区间)”

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀! - 4

泄露的代码表明,该网站利用AI重点判断角色是否看起来未满15岁,而非18岁。(提供)

Coreflow 拒绝正面回答为何将AI过滤的年龄界限下调至15岁。爆料的内部人士推测,AI在实际运行中很可能放行了大量处于“模糊区间”的图片,这正是ABC能轻易在网站上发现大量看似14、15岁角色图像的根本原因。

他指出,将过滤红线降至15岁,很可能是为了防止AI因为过度拦截而“误伤”大量旨在呈现18岁、但由于生成技术限制而显得稚嫩的角色。

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀! - 5

当网站用户通过文字提示创建新角色时,AI会标记任何暗示未满18岁的短语。(提供)

该人士补充表示,尽管用户在文字输入阶段会触发违规词过滤,但用户很容易通过技术手段绕过限制。而在图像生成后,想要精准生成既符合18岁生理标准又绝不流露一丝幼态的AI色情图片,在技术上成本极高且极度困难。为了谋求快速野蛮生长,Coreflow 显然抄了近路。

面对质疑,Coreflow 发言人仍坚称,公司对有违安全标准的内容采取“零容忍”态度,并称 OurDream 不会发布任何带有未成年风险的角色,所有运营均严格恪守本地法律。不过,在ABC指出其平台上的17个疑似未成年角色后,OurDream 已默默下架了其中的11个。

专业技术人员怒批:过滤工具如同“垃圾”

曾在 Rigr AI(一家专门为各国政府及执法部门开发AI年龄估算技术的机构)任职的 Colm Gannon 教授对 Coreflow 敷衍的安全机制表示了强烈不齿,直言其技术“根本无法胜任合规要求”。

他尖锐地指出,Qwen 模型在年龄估算上的绝对中位误差高达正负六年。这意味着,一个看起来明显只有15岁的幼态角色,在极高的误差下可能会被该系统误判为21岁成人。“用这种如同垃圾一般的系统,毫无疑问会产生大量未满18岁的幼态违规内容。”

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀! - 6

这些是被年龄估算工具判定为未满18岁的、出现在该网站上的部分角色。(ABC News)

此外,泄露的代码还揭示了更深层次的合规乱象。在 OurDream 监控用户聊天对话的规则中,针对暗示“未成年人参与性活动”内容的判定原则,竟然是“对边缘灰色内容从宽处理”、“若无十足把握,切勿阻断标记”。

Colm Gannon 教授痛批,该公司甚至没有将此类敏感内容上报给人工审核员,这充分证明其首要考虑的是终端用户的“无感”体验与商业利润,而非基本的社会责任、伦理约束和安全防线。

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀! - 7

OurDream 的泄露代码指示AI在检查聊天中未成年内容时要“对边缘内容从宽处理”。(提供)

对此,Coreflow 回应称,Qwen 只是其多层审核架构中的辅助环节之一,并非唯一决定性工具,并重申公司目前已升级至更先进的审核模型。

监管机构亮剑:最高将面临近5000万巨额罚款

目前,这一争议不断的AI情色平台已正式被澳洲网络安全最高监管机构——电子安全专员(eSafety Commissioner)盯上。

该部门发言人证实,他们已约谈 OurDream 高层,并明确告知其必须切实履行《在线安全法》(Online Safety Act)所规范的安全标准。这些法定义务不仅针对非法的涉童性剥削内容,同样严格限制存在年龄准入门槛的敏感色情内容。官方目前正在对 OurDream 及其同类型的生成式AI服务开展合规审查。

涉嫌生成儿童色情,澳洲AI网站OurDream遭Pornhub紧急封杀! - 8

打开 OurDream 后会出现一个角色菜单。(提供)

发言人强调,澳洲法律大力倡导“设计安全”(Safety by Design)的准则,这要求科技企业必须摒弃“野蛮扩张、利润至上”的旧思维,在产品研发的最前端就将风险过滤机制做足做透。

她严正警告称,对于未能有效筑起安全防线的违规科技平台,电子安全专员将动用强有力的监管手段,包括依法寻求最高4950万澳元的巨额民事罚款。澳洲对任何生成和传播涉童性剥削材料的非法行为零容忍,必将追溯有关主体的法律责任。

Coreflow 发言人对此回应称,保障平台的安全合规是公司的最高优先任务,他们将继续采用人工复合审核的多层防御系统来检测和防范不守信用的不当行为。

编译声明:本文系本站编译和整理自英文来源,仅代表原作者或原平台态度,不代表我方观点,文章或有适当删减。未获本站书面授权严禁转载,在获授权前提下,转载必须在醒目位置注明本文出处和具体网页链接。对未注明而擅自转载者,本站保留追究法律责任的权利。
今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(0)
暂无评论


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:news@sydneytoday.com

电话: (03)9448 8479

联系邮箱: info@meltoday.com

友情链接: 华人找房 到家 今日支付Umall今日优选