大皖新闻讯 近日，知名模特叶凯薇发视频称，其被人利用AI换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警。3月12日，大皖新闻记者从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。此事也再次让AI换脸滥用引发的违法侵权行为受到关注，对此，专家表示，整治这一乱象，既需要法律的监管，也需要道德的约束。
叶凯薇自曝被AI换脸制作淫秽视频传播
知名模特被AI换脸制作淫秽视频，发视频呼吁停止传播
在视频中，叶凯薇称，2024年，其发现被人利用AI换脸制作了一段淫秽视频，且被大量传播，身边同行、摄影师在相互传播时，还加以各种污秽难听的字眼进行污蔑，产生很多谣言。为此她一直在默默收集证据，并报警，警方已经立案，该视频也被鉴定是拼凑合成的。
视频附上的《立案告知书》显示，叶凯薇于2024年11月27日所报的被侮辱案，上海警方已立案。另一份鉴定意见则显示，检材录像系技术拼凑、合成形成。
在视频中，叶凯薇表示，希望大家不要听信谣言，也不要胡乱传播，她将对个别同行、摄影师提起诉讼。视频发布后，引发关注，网民们议论纷纷。
警方证实视频为拼凑伪造，AI换脸滥用引关注
大皖新闻记者注意到，叶凯薇为知名模特，在某短视频平台粉丝达190余万。记者就此联系叶凯薇，但未获回应。
3月12日，大皖新闻记者从上海警方处了解到，接到叶凯薇报警后，警方随即介入展开调查。经专业机构鉴定，该视频确实是拼凑伪造的，正在进一步调查中。
此事也再次让AI换脸滥用引发的违法侵权行为受到关注。据了解，AI换脸也称为深度伪造技术，其实质是一种基于人工智能的人体图像合成技术。近年来，这一技术被不法分子利用，进行诈骗、勒索，多地警方公布了相关案例，一些知名人士也深受其害，并在公开场合呼吁加强治理，应对新技术带来的风险挑战。
律师说法：滥用AI换脸存在诸多法律风险，需严守法律边界
针对此事，大皖新闻记者采访了安徽省委依法治省办法治督察员、君悦（合肥）律师事务所主任罗平，其认为，AI换脸存在诸多法律风险：一是侵犯肖像权，未经肖像权人同意，使用其面部特征进行AI换脸，可能构成对肖像权的侵犯。根据《民法典》的规定，任何组织或个人不得以丑化、污损或利用信息技术手段伪造等方式侵害他人的肖像权。二是涉嫌利用犯罪，AI换脸技术可能被用于犯罪活动，如制作和传播淫秽视频、诈骗等。根据《刑法》的规定，利用AI换脸技术进行这些犯罪活动，可能构成诈骗罪或制作、复制、出版、贩卖、传播淫秽物品牟利罪。三是涉嫌隐私权侵权，使用他人非公开的面部数据（如私人照片、视频）进行换脸，或传播涉及私人生活的换脸内容，可能侵犯隐私权。四是涉嫌个人信息侵权，非法收集、存储或使用他人面部生物识别信息，或未履行告知义务或超范围使用个人信息，可能构成个人信息侵权。五是侵犯著作权，AI换脸可能涉及未经授权使用受版权保护的影视作品或摄影作品作为素材，这违反了《著作权法》中关于作品的复制权、改编权和信息网络传播权的规定。
又该如何防范这些法律风险呢？罗平也给出了建议：从个人层面而言，要避免在社交平台公开高清人脸信息。发现侵权后及时固定证据，通过发律师函或诉讼维权。而对技术使用者来说，需取得肖像权人书面授权，明确使用范围。避免制作、传播可能损害他人权益的内容。此外，相关平台层面也要建立AI内容审核机制，及时响应侵权投诉，标注AI生成内容。
“总之，AI换脸技术虽具创新性，但其滥用可能严重侵害民事权益。在技术应用中需严格遵守法律边界，平衡创作自由与人格权保护。”罗平说道。
学者观点：整治乱象，需制定新规则明确边界
安徽大学社会与政治学院副教授王云飞认为，从现实来看，AI换脸滥用既需要法律监管，也需要道德约束，应通过制定新规则明确应用AI技术行为的边界。
王云飞告诉大皖新闻记者，在他看来，AI时代来临，在此基础上，各种新的功能层出不穷，一切处于变化之中。因为变化，所以存在诸多不确定性，因此我们有必要与时俱进，重新审视过去的行为准则和评价机制，构建新的规则，并在制度层面明确新技术的应用范围，避免出现“一管就失去活力，一放就滥用”情况发生。
王云飞进一步解释，随着AI技术越来越普及，AI换脸操作的门槛也在降低，有人利用这一技术从事不法活动牟利，但也有人单纯只是为了所谓的恶搞。这时候就需要针对社会发展新趋势制定新的规则，划红线、明底线，明确违法侵权与娱乐化应用、私人空间与公共空间等边界。推动新技术往规范化方向发展，引导受众树立正确价值观，抵制低俗趣味，通过法律和道德共同发力，趋利避害，让新技术更好地服务社会。
大皖新闻记者 韩喻
原标题：知名模特叶凯薇自曝被AI换脸制作淫秽视频传播 警方：确系拼凑伪造，正进一步调查