近日，知名模特叶凯薇发布视频称，有人利用AI换脸技术制作淫秽视频并广泛传播，给她带来了严重困扰。她已收集证据并向警方报案。经鉴定，该视频确系伪造，警方正在进行进一步调查。
近年来，AI的内容生成能力越来越强大，能够创造出文本、图像、音频等多种形式的内容，为人们的工作和生活带来诸多便利。然而，缺乏有效规范的情况下，技术滥用问题日益突出。此前曾有“地震被压废墟下戴帽小孩”事件被证实是AI生成，现在又发生了叶凯薇遭遇AI换脸制作淫秽视频的事件，这些案例不断提醒我们技术滥用的危害。
将普通人变成色情视频主角的行为不仅侵犯了其人格权，也对社会秩序造成破坏。根据《民法典》规定，任何组织不得利用信息技术伪造他人肖像。但面对AI深度伪造技术，现行法律在技术认定、证据保全、责任追溯等方面存在滞后现象，因此完善AI立法刻不容缓。
随着AI技术的快速发展，越来越多的案例表明，治理技术滥用问题需要强有力的制度约束。在今年的全国两会上，合肥市律师协会会长周世虹建议完善生成式人工智能立法，提出将伦理和道德原则纳入法律框架，引导公司和开发者在技术开发和应用过程中遵循相关规范，并禁止生成违背伦理道德的内容。
完善AI立法迫在眉睫，只有明确人工智能技术在研发、使用和治理等方面的法律准则，才能发挥法治对AI健康发展的引领和规范作用，遏制技术滥用，实现AI与人类社会的良好互动。