斯坦福大学互联网观察站的一份新报告发现，人工智能(AI)产生的儿童色情内容可能会淹没已经淹没的在线儿童性虐待材料报告系统。
由国家失踪和受虐儿童中心(NCMEC)运营的网络热线，处理并与相关执法部门分享儿童性虐待材料的报告，以进行进一步调查。
报告称，开源的生成式人工智能模型可以通过重新训练来生成这些材料，“可能会给CyberTipline和下游执法部门带来数百万张新图像”。
报告称:“由于人工智能生成(儿童性虐待材料)而报告的100万张独特图像，以NCMEC目前的技术和程序是无法管理的。”
“由于个人有能力使用人工智能模型来创建[儿童性虐待材料]，人们担心有关此类内容的报道——可能与儿童的真实照片难以区分——可能会转移执法部门对需要救助的实际儿童的注意力，”它补充说。
报告系统已经存在一些限制。根据周一的报告，在美国，只有大约5%到8%的向CyberTipline举报的人被逮捕。
法律要求在线平台向“网络热线”举报儿童性虐待材料，但这些平台往往没有完成报告中的关键部分。
NCMEC还在努力实施技术改进和维持员工，这些员工经常被行业信任和安全团队挖走。
报告指出，这个由国会于上世纪80年代建立的非营利组织，近年来被法院认定为政府实体，也受到了法律上的限制。
第四修正案对无证搜查的限制现在限制了NCMEC查看平台之前没有查看过的文件的能力，阻止了它审查文件，并导致执法部门浪费时间调查不可行的报告。
该报告建议科技公司投资儿童安全人员，并实施NCMEC的报告API，以帮助确保更有效的提示。它还建议国会增加NCMEC的预算，这样它就可以提供有竞争力的工资，并投资于技术基础设施。
