4月15日，日本警方逮捕了3男1女四名嫌疑人，他们涉嫌在互联网拍卖网站上出售使用生成式AI软件制作的淫秽图片，并获利超1000万日元（约51万人民币）。

　　这些图像均为虚构的成年女性，据警察厅称，这是日本首次发现利用生成式人工智能制作的淫秽物品贩卖案件。

　　这四名嫌疑人分别是零售业工作人员水谷智浩（44 岁）、公司职员堤内线岁）、办公室职员菅沼贵司（53 岁）和兼职工樱井七海（28岁）。

　　据警视厅介绍，他们于去年10月利用开源AI模型，通过网上大量图片训练了一款免费的生成式人工智能软件，然后通过向AI输入“张开双腿”“裸体”等指令，生成”虚构“的女性不雅图像，并将这些图像打印成海报，在互联网拍卖网站上多次出售。

　　这些海报以“AI 美女”等为标题，每张售价数千日元，据说嫌疑犯水谷在大约一年的时间内已获利超过 1000 万日元（约合人民币51万元）。

　　虽然这些图像看起来和真人照片非常相似，但警方仍根据皮肤质感、光泽度以及标注为”AI图像“等特点的分析，认定这些海报是由AI制作完成的。

　　在警方的询问下，水谷智浩和菅沼贵司承认了自己的行为，嫌疑犯水谷说：“我开始卖海报是因为我发现它们的利润率很高”，而菅沼则说：“我想把卖海报作为我的生意之一，所以我自学了怎么来制作这样的海报。”

　　其中，唯一否认自己涉嫌犯罪的嫌疑人樱井七海表示，自己从未想过销售海报是违法的，制作的过程是陌生人教的，自己只是按步骤操作，几乎不具备相关知识。

　　当警方公布调查画面时，这位戴着口罩的女性嫌疑人，仅露出的眉眼间便透露出精致与清秀，搭配高挑苗条的身材，被日本网友调侃宛如时尚杂志走出的明星。

　　在日本网络社会化媒体上，她的形象瞬间点燃讨论热潮，「X」平台上相关话题热度居高不下。

　　网友们纷纷留言惊叹：「这颜值完全不输娱乐圈顶流偶像」，更有人惋惜道：「明明拥有能轻松叩开演艺圈大门的外貌，为何偏要触碰法律红线？美得让人连责备都难以说出口」。甚至有网友调侃：「如今日本警方的嫌犯阵容，颜值都快赶上选美大赛了」。

　　随着讨论不断发酵，舆论风向愈发离谱。不少网友开始将她的犯罪行为抛诸脑后，转而认真探讨起她的「未来发展」，纷纷建议其在服刑结束后转型成为艺人或模特，甚至断言：「她的人气必将碾压众多现役偶像」。这场对犯罪者的「偶像化」狂欢，将严肃的法律事件异化为娱乐谈资。

　　事实上，这并非孤例。近年来，日本社会多次上演类似闹剧，因高颜值而被「宽容」的女性犯罪者屡见不鲜，甚至催生出「罪犯美少女」的亚文化现象。年轻一代过度关注外貌，将颜值作为评判人格与价值的首要标准，让犯罪者的恶行在「美丽滤镜」下被淡化，这种「罪犯偶像化」的趋势，折射出社会价值观的严重扭曲。

　　更令人深思的是，该名女嫌疑人在面对警方调查时，以「不知行为违法」为由拒绝承认部分指控。这样的态度非但没有引发公众对法律意识淡薄的反思，反而激起更多的同情与关注。当外貌成为逃避道德谴责的「挡箭牌」，当法律威严在畸形审美前节节败退，这场全民狂欢背后，暴露出的是日本社会亟待重塑的价值观念与法律认知，这场由外貌引发的全民热议，撕开了日本社会审美文化的畸形一角。

　　日本刑法第175条明确规定，公开贩卖或展示淫秽物品一定要进行必要的遮挡处理。本案中生成的图片因未作遮挡处理且内容过于露骨，因而被警方认定为违法。

　　警方表示，对生成式AI恶意利用的行为，今后将持续加强打击力度。日本政府对此案也表示高度关注，目前已向国会提交专项法案，旨在完善AI领域的法律监管体系。

　　与此同时，关于怎么样来规范使用生成式人工智能创建的儿童色情图片也在网上引起争议。

　　日本《儿童色情制品禁止法》禁止制作或提供18岁以下儿童的图片，但针对“深度伪造”图片，日本司法部表示，如果确认照片中描绘的儿童或用于制作图片的其他图像是真实的，那么他们可能受到《儿童色情制品禁止法》的监管。

　　鸟取县《青少年健康发展条例》于本月1日起部分修改并生效，该条例将利用人工智能技术拍摄居住在该县的18岁以下儿童，并将其制作成淫秽图像或视频的行为定义为“儿童色情”，并禁止制作或向他人提供此类图像。

　　尽管这些图像是人为生成的，并不涉及真正的儿童受害者，但政府指出，它们鼓励对儿童的性剥削，并决定严厉打击。

　　金泽大学法学院教授长濑隆志是网络言论问题方面的专家，他在谈到这次打击行动时表示：“新技术在提供便利的同时，也存在被滥用的风险。生成式AI也不例外。”

　　他表示，关于何为“淫秽”的问题长期以来一直与宪法保障的相关，从理论上讲，生成人工智能完全有可能会被发现创造出淫秽内容，如何界定淫秽始终是法律实践中的难题，需要平衡与技术监管的关系。

　　报告还指出，以保护现实儿童为目的制定的《儿童色情制品禁止法》难以适用于利用生成性人工智能制作的儿童色情图片，并呼吁加快讨论怎么样来规范此类图片。

　　“有人指出，儿童色情制品的认定前提是真实存在的儿童，因此不适用于人工智能创造的虚构儿童，而这恰恰是现行法律的一个问题。

　　如果我们费力地去判断图像中描绘的儿童是否真实存在，可能没办法帮助真正受害的儿童，所以我认为有必要对那些乍看之下像是真实的儿童图像进行某种规制。

　　我认为我们应该尊重迄今为止讨论的内容，例如，同时也要根据时代的变化，探讨法律规制和自我约束。”

　　此前，就有国外大学生通过用AI生成裸照在Reddit上进行贩卖，大赚一笔。

　　上面这张图片中的美女名叫Claudia，她有着乌黑的长发、蓝绿色的眼睛，白皙的皮肤，精致的五官以及甜美的笑容，灰色的吊带上衣还露出了恰到好处的胸部。

　　在社会化媒体上她更新自己的心情和美照，总是吸引着不少人的关注，然而，只要你跟她私聊，她就会卖你裸照。

　　但实际上，Claudia并不存在，其社交媒体上的所有照片都是用ai生成的，但大部分人根本分辨不出（可能他们也根本不在乎）。

　　Claudia是两位计算机科学专业的学生的杰作，他们本想把这个帐户当作一个玩笑，看看是不是真的有的人觉得这是真人。

　　然而当他们在Reddit上看见了一名男子贴出真实女性的性感照片并赚了500美元的消息后，他们开始卖起了Claudia的裸照，直到有其他Reddit用户揭发了这个帐户。

　　账户的管理者，也就是那两名大学生在接受「滚石」杂志采访时表示，“你可以说整个帐户只是一个测试，看看你能不能用AI图片愚弄他人。”他们拒绝透露自己的真实姓名。

　　“你可以把它比作vtubers，他们创造自己的角色并以完全不同的身份演出。我们真的没想到它会有这么大的反响。如果人们认为它是真实的并想在我的Reddit之外做些事情，那是他们自己的事。”

　　不少 Reddit 用户 在得知自己遭到网络钓鱼后，十分伤心：“感觉有点被骗了，她看上去那么美好” 。

　　今年1月，日本警方因其涉嫌通过AI生成并非法售卖带有淫秽内容的《新世纪福音战士》与《游戏王》等热门动漫角色海报而逮捕了两名男子，他们涉嫌违反了日本著作权法。

　　跟文章开篇的案例差不多，他们也是通过AI生成引发争议的女性角色海报，并在在线拍卖网站上出售这些海报。

　　据警方介绍，生成式AI被用来将该人物的外表性感化，其中一名嫌疑人A来自横滨，他在2023年5月至2024年3月期间通过销售这些海报赚取了大约1000万日元（时年约46万元）；

　　另一名嫌疑人B来自滋贺，被指控于2024年1月至3月期间贩卖了明日香等共计4张该片角色的复制海报。

　　并于同年4月9日在其家用电脑中持有用于制作海报的图像数据。他在2023年7月至2024年4月间获利约570万日元（时年约26万元）。

　　不管因为啥，《新世纪福音战士》都能被碰瓷的话，更不用想那些小的虚拟角色会遭受怎样的无妄之灾。

　　B站小有名气的虚拟主播“小丸Official”就遭遇了这样的事情，有人拿着其已申请版权了的虚拟主播角色小丸用AI跑涩图。

　　可能听完上面这些案例后，已经适当打开了大家的接受阈值，但如果说小丸是一个萝莉形象的角色，却被人去跑R18G这种大概率引人不适的小众种类涩图呢？

　　起因是有粉丝逛网站时，猛地发现有人用AI生成了小丸穿幼稚园服的角色形象，被改成了涩图。

　　虽然小丸之前跟粉丝明确过不能用AI搞二创，但毕竟图发在海外，也没直接怼在自己脸上，就打算先观望不吭声。

　　后来，小丸的朋友私底下告诉她，自己已经被这个AI作者恶心很久了，也是气得不行。

　　小丸这时便对朋友说，要是有办法找到这人，自己就可以用版权告他——毕竟这个虚拟形象是申请过版权的。

　　意想不到的事情发生了，朋友把私聊记录转发到粉丝大群，本意可能是想让大家帮忙声讨，想要震慑这位藏在暗处的AI使用者。

　　结果却适得其反，这人非但没害怕，反而更来劲了，一口气做了100多张涩图，打包成付费图包卖钱，标价两位数。

　　最离谱的是，图包里加了好多猎奇标签，什么多人触手怀孕全往上贴，可小丸明显是小女孩的形象，真是让人看得人头皮发麻。

　　可能你会觉得小丸Official”的皮套形象和《碧蓝航线》的“如月”很相似，在这里，我们且不论是否存在碰瓷或抄袭的问题。

　　但特意用这些tag来吸引人的眼球，多少都让xp没有特别猎奇古怪的人感到生理不适。这难道不能反映出很严重的问题吗？

　　如果说上面这些案例，都是人的贪念与欲望作祟，那么下面这则消息无疑证实了某些ai软件就是在这些灰色地带疯狂试探。

　　如果没有平台的规范，就极有可能助长了人们肆无忌惮的表达自己的欲望，那无疑是将潘多拉的魔盒交到了人们自己手里。

　　两个月前，马斯克发布了其旗下人工智能公司xAI开发的人工智能模型Grok 3，可在大家都在“正道上”卷技术、卷功能的时候，老马剑走偏锋，试图在写作能力上，让Grok一骑绝尘，走出自己的风采。

　　其颜色程度堪称爆表，无数老司机都会发出感叹，甚至一个没啥信息量、纯点评的内容，也会因为带了Grok+尺度的关键词轻松吸引万人围观。

　　其实大家之前就已经预料到了对于Grok 3在安全对齐这事上，马斯克可能会出现自己的想法，但谁也没想到，他的想法会是绝对自由。

　　不过，后来由网友反馈，现在Grok审查已经变得严格起来，甚至带有某种主题的聊天，它都会普遍拒绝用户的请求。

　　有人认为，这样的一个问题其实和游戏或动漫中的暴力情节是否会对现实造成影响有“异曲同工之妙”，但我认为两者有相似但更有不同。

　　之前美国德州和俄亥俄州发生的两起大规模枪击事件被川普将原因归结到了游戏上，当时还引发了多家游戏公司股票出现下跌的状况。

　　游戏自出生起就和暴力挂钩时至今日暴力元素也依然是主流，要说游戏暴力真的会影响人吗？

　　答案是肯定会，但是程度微乎其微，更多的玩家都有一种逆向键盘侠的特质，网络常用语亲戚横飞，现实用语：您好，谢谢，请让一让可以吗。

　　但这些事有一个前提——在游戏中，当人们面对屏幕，他们清楚知道这些恶行只是程序之间在相互作用，不会对现实中的任何人产生困扰，所以人们因此肆无忌惮为娱乐而“暴力”，但如果把游戏中的恶行付诸于现实中的行动，那不仅是对真实的生活的不重视，更是对游戏的极大侮辱。

　　用ai跑色图和游戏或动漫中的暴力情节的相同点在于，他们都是假的，都被认为是制作出来的。

　　但不同点在于，游戏多是大家自嗨，且大多数游戏的主题并非宣扬暴力，而ai、色图、、牟利这其中牵涉到的则是一些黑色产业链，是可能会潜在的犯罪方式，是会被一些人“以真乱假”，助长犯罪气焰。

　　因为确实有的人觉得“反正也遇不到真人，就算不是AI生成的也遇不到真人，那她究竟是真是假又怎么样呢？”“看真人的也许违法，还要偷偷摸摸的，那ai生成的岂不是更方便，反正也是假的。”

　　其实事情远没有看上去那么简单，过度接触AI色图可能模糊虚拟与现实的界限，影响青少年对性关系的认知，甚至导致成瘾或社交障碍。

　　AI色图可能强化对身体形象的物化，加剧性别不平等，如自动生成符合特定刻板印象的女性形象。

　　随着AI技术的发展，很多效果确实已经实现“以假乱真”，除了图片，AI生视频技术要辨别出来已经很不容易了。

　　甚至会有不法分子利用AI生成他人裸照进行敲诈（是真的有这样的案例哦），严重侵犯个人隐私和人格权，影响社会的公序良俗。

　　这样看来，ai跑色图和游戏或动漫中的暴力情节对人这种碳基生物可能存在的影响，简直不在一个量级上。

　　目前，全球各国针对利用AI生成色情内容（尤其是涉及儿童或未经同意的成人内容）非法牟利的行为，已陆续出台法律并实施严厉处罚。以下是主要国家的处罚方式总结：

　　全球首个禁止AI生成儿童内容的国家，2025年2月通过法律，规定：

　　持有“恋童癖AI手册”（教导如何利用AI生成儿童内容），最高判3年监禁。

　　首例AI儿童色情案：2024年，一名男子因利用AI制作儿童色情图片被判18年监禁。

　　2024年8月通过《DEFIANCE法案》，禁止未经同意的AI色情内容，受害者可起诉，最高赔偿25万美元。

　　AI生成儿童色情内容按《儿童材料（CSAM）》法律处罚，最高可判70年监禁。

　　传播AI生成色情内容（包括未经同意的成人或儿童内容），最高可判6年监禁。

　　利用AI制作他人色情图片（包括诽谤或牟利），涉及6项刑事犯罪，最高可判：

　　2024年，一名男子因使用AI制作360度虚拟儿童虐待图像被判2年半监禁（韩国首例AI儿童色情案）。

　　调查多起青少年使用AI“去衣”应用生成同学裸照的案件，可能按性骚扰罪起诉。

　　以牟利为目的制作、复制、出版、贩卖、传播淫秽物品的，可判处3年以下有期徒刑、拘役或管制，并处罚金；情节严重的，处3-10年有期徒刑，并处罚金；情节很严重的，可处10年以上有期徒刑或无期徒刑，并处罚金或没收财产。

　　不以牟利为目的传播淫秽物品，情节严重的，可判处2年以下有期徒刑、拘役或管制。

　　涉及未成年人的AI色情内容（如“AI换脸”制作儿童色），可能构成猥亵儿童罪或传播淫秽物品罪，处罚更严厉，最高可判无期徒刑。

　　2024年，浙江杭州一男子利用“AI换脸”技术制作明星淫秽视频并传播牟利，被判7年3个月有期徒刑，并处罚金6万元。

　　2025年，湖北一男子用AI撰写色情小说并牟利，被判10个月有期徒刑，并处罚金5000元。

　　根据《治安管理处罚法》第六十八条，制作、传播淫秽物品的，可处10-15日拘留，并处3000元以下罚款；情节较轻的，处5-10日拘留或500元以下罚款。

　　若涉及网络传播，网信部门可依据《互联网信息服务深度合成管理规定》对平台做罚款、关停、吊销许可证等处罚。

　　受害人（如被“AI换脸”的明星或普通人）可依据《民法典》第一千零一十九条（肖像权）和第一千零三十二条（隐私权）起诉，要求停止侵害、赔礼道歉、赔偿相应的损失（包括精神损害赔偿）2。

　　2024年，杭州一“AI换脸”案中，法院判决被告支付6万元公益赔偿，并公开道歉。

　　2025年9月1日起，《人工智能生成合成内容标识办法》将实施，要求AI生成内容必须标注来源，防止滥用。

　　中央网信办多次开展专项行动，重点打击“AI换脸”涉黄视频，尤其是涉及未成年人的内容

　　添加wuhu小精灵5号微信(wuhudonghua5)发送“动画新势力”即可在不久后被邀请进入粉丝群。

　　崭露头角！它是今年唯一一部入围昂西的中国动画剧集！《荒神录之玲珑山》今日定档！

　　17173全新怀旧频道已上线！推荐怀旧网游，重温老玩家故事。点此进入怀旧频道