一场灾难正在暗网论坛、即时通讯应用和世界各地的学校里酝酿:生成式人工智能正被用来制作儿童的色情图片和视频，每天可能有数千张。“也许全国数以百万计的孩子在某种程度上受到了这项技术的影响，”我本周报道说，“他们要么直接成为受害者，要么知道其他学生也成为了受害者。”
昨天，非营利组织民主与技术中心(Center for Democracy and Technology)发布了一系列记录这场危机的最新报告，发现15%的高中生报告说，他们听说过一张人工智能生成的图像，其中描绘了与他们学校有关的人以露露或亲密的方式进行性行为。此前，联合国区域间犯罪和司法研究所的一个小组共同撰写的一份报告发现，接受调查的全球执法人员中有50%遇到过人工智能生成的儿童性虐待材料(CSAM)。
生成式人工智能破坏了检测和摧毁CSAM的主要方式。在这项技术被广泛使用之前，大多数CSAM都是由循环内容组成的，这意味着任何与已知的滥用图像数据库相匹配的内容都可以被标记和删除。但生成式人工智能允许轻松快速地生成新的滥用图像，绕过已知案例列表。与此同时，根据CDT的报告，学校没有充分更新他们的性骚扰政策，也没有对学生和家长进行教育。
尽管这个问题非常具有挑战性和令人不安，但与我交谈过的专家都对可能会有解决方案抱有希望。其中一人告诉我，“我确实看到了”避免世界末日的“机会之窗”。“但我们必须在错过之前抓住它。”
高中正在成为露骨的深度色情作品的粪坑
文/马特奥·黄
多年来，生成式人工智能已经被用来召唤各种各样的现实——令人眼花缭乱的绘画和令人吃惊的动画世界和人，真实的和想象的。这种力量带来了巨大的阴暗面，许多专家现在才开始应对:人工智能正被用来制作未经同意的儿童色情图像和视频。不仅仅是少数几个案例，也许全国数百万的孩子都在某种程度上受到了这项技术的影响，他们要么直接成为受害者，要么知道其他学生已经成为受害者。
昨天，倡导数字权利和隐私的非营利组织民主与技术中心(Center for Democracy and Technology)发布了一份报告，指出美国学校中未经同意的亲密图像(NCII)的流行程度令人担忧。该中心的民意调查发现，在过去的一学年，15%的高中生报告说听说过“深度假”——或人工智能生成的图像——以露点或亲密的方式描绘了与他们学校有关的人。该报告的合著者之一、CDT公民技术公平主管伊丽莎白·莱尔德(Elizabeth Laird)告诉我，生成型人工智能工具“增加了学生成为受害者和肇事者的可能性”。换句话说，不管人工智能在其他方面有什么好处——简化死记死背的任务，发现新药，取代人类艺术，吸引数千亿美元的投资——技术让侵犯儿童变得更加容易。
接下来要读什么?
周三，OpenAI宣布了又一轮引人注目的离职:首席技术官、首席研究官和一名研究副总裁都离开了这家点燃了生成型人工智能热潮的初创公司。不久之后，几家新闻媒体报道称，OpenAI正在放弃其非营利起源，成为一家估值可能达到1500亿美元的营利性公司。
这些变化可能会让一些人感到惊讶，因为OpenAI的使命是打造“造福全人类”的人工智能。但在长期观察人士看来，这只是一个结局，其中包括正在写一本关于OpenAI的书的科技调查记者凯伦·郝(Karen Hao)。凯伦在《大西洋月刊》的一篇文章中写道:“昨天宣布的所有变化只是向公众展示了公司内部长期以来发生的事情。”(《大西洋月刊》最近与OpenAI建立了企业合作关系。)
几个月前，正如卡伦和我的同事查理·沃泽尔当时所报道的那样，OpenAI的内部派系担心，首席执行官萨姆·奥特曼(Sam Altman)正在引导公司走向利润，背离使命，试图将他赶下公司。“当然，钱赢了，奥特曼最终名列前茅，”凯伦昨天写道。从那以后，几位联合创始人离开或正在休假。卡伦指出，在周三的离职之后，“奥特曼的权力巩固即将完成。”
注:
本周早些时候，许多北卡罗来纳州人看到了一则人工智能生成的政治广告，攻击共和党候选人马克·罗宾逊(Mark Robinson)。就在几个小时前，内森·e·桑德斯(Nathan E. Sanders)和布鲁斯·施奈尔(Bruce Schneier)在《大西洋月刊》(The Atlantic)的一篇文章中指出了这种可能性，他们写道，人工智能生成的竞选广告即将到来，混乱可能随之而来。他们写道:“上个月，联邦选举委员会宣布，它甚至不会尝试制定新的规则，禁止利用人工智能通过深度伪造的音频或视频在竞选广告中冒充候选人。”尽管人工智能在政治广告中有许多合法的潜在用途，也有许多州法律对其进行监管，但由于缺乏联邦行动，人工智能破坏总统选举的大门大开。
— Matteo
本文来自作者[绿灵]投稿，不代表fekmm号立场，如若转载，请注明出处：https://m.fekmm.cn/wiki/202508-2272.html
评论列表（4条）
我是fekmm号的签约作者“绿灵”！
希望本篇文章《人工智能助长儿童性虐待危机的隐患与对策》能对你有所帮助！
本站[fekmm号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：一场灾难正在暗网论坛、即时通讯应用和世界各地的学校里酝酿:生成式人工智能正被用来制作儿童的色情图片和视频，每天可能有数千张。“也许全国数以百万计...