织密防范“AI换脸”滥用的防护网_世界简讯

人民法院报   2023-04-21 10:09:08


(相关资料图)

近期,因“AI换脸”引发的争议乃至违法犯罪行为屡见不鲜,与此相关的非法购买个人信息等黑灰产业链也逐渐显现。

从理论上看,技术没有原罪,但具体如何应用是一把双刃剑。“AI换脸”能满足人们猎奇、美颜、社交等需求,但一些不法分子利用前述应用场景布下公民信息采集的陷阱,将收集到的海量人脸数据用于交易、牟利等不法用途。因此,对于AI技术应用场景安全的讨论,不能只局限于民事侵权本身,这种止于末端治理的方式对于保护个人隐私过于滞后,而应该对包括“换脸”在内的技术研究开发与应用行为进行系统规范,通过在源头上完善立法、健全必要的监管惩罚措施,实行更为前置的管理与保护。

首先,AI应用技术应当符合正当有益的原则。开发、上线技术软件必须达到最起码的安全保护、隐私保护等要求,明确建立应用准入门槛,例如开发涉及人脸信息处理的软件,既要得到许可,明确应用场景、使用目的,防止技术被滥用,也要建立涉及人脸信息处理的“留痕”技术制度,便于识别与监督,设置技术防护栅栏。

其次,AI技术软件应用者应当谨守合法的底线。以“AI换脸”为例,其衍生的诸多风险都是建立在对个体脸部信息的侵权之上,所以,“AI换脸”应当严格遵守个人信息保护的相关法律规定,未经授权,任何人都不得使用他人脸部数据信息来合成视频数据,遑论用以牟利。

最后,网络信息对公共安全与个人隐私产生的影响大小,关键在于传播量。因此,平台要将“AI换脸”等涉及用户面部等基本信息的内容纳入审核范围,通过技术方法审核视频内容,识别其中是否有人工合成的要素,发现违法侵权现象要及时处理。(木须虫)

相关新闻