近日,知名模特叶凯薇发布视频表示,有人利用AI换脸技术制作淫秽视频,并广泛传播,给她带来了严重困扰。她已经收集证据并向警方报案。经鉴定,该视频确系伪造,警方正在进一步调查。
近年来,AI技术在内容生成方面的能力日益强大,能够创造文本、图像和音频等多种形式的内容,为人们的工作和生活带来便利。然而,如果缺乏有效规范,这种技术可能会被滥用。此前曾有“地震被压废墟下戴帽小孩”系AI生成的案例,如今又出现了叶凯薇遭遇AI换脸制作淫秽视频的情况,这些事件不断提醒人们警惕技术滥用的风险。
用AI将普通人变成色情视频的主角,不仅侵犯了个人的人格权,也破坏了社会秩序。根据《民法典》的规定,任何组织不得利用信息技术伪造他人肖像。但面对AI深度伪造技术,现行法律在技术认定、证据保全和责任追溯等方面已显得滞后,因此完善AI立法变得尤为紧迫。
在AI技术快速发展的背景下,越来越多的案例表明,治理技术滥用问题需要强有力的制度约束。在今年全国两会期间,全国政协委员、合肥市律师协会会长周世虹建议完善生成式人工智能立法,提出将伦理和道德原则纳入法律框架,引导企业和开发者在技术开发和应用过程中遵循伦理和道德规范,禁止生成违背伦理道德的内容。
完善AI立法刻不容缓,只有明确人工智能技术在研发、使用和治理等方面的法律准则,才能发挥法治对AI健康发展的引领和规范作用,遏制技术滥用,实现AI与人类社会的良好互动。
