「AI 易容」平民化之后：把技术关进笼子的三道栏杆，企业也该照着装

当 AI 遇到人脸，麻烦就从没停过。据公开报道，早在 2019 年 8 月，一款 AI 换脸软件就在社交媒体刷屏：用户只需一张正脸照，就能把视频中的人物替换成自己的脸——用户疯狂涌入，服务器一晚上烧掉了 200 多万元运营费用。而这场「易容术」平民化的源头更早：2018 年初，一名匿名用户在 Reddit 上用开源 AI 工具做出了视频换脸技术（Deepfake），几周内网上充斥着换上名人脸的违法内容，平台封杀时技术早已在网络上扎根。

为什么这次不一样：AI 把变脸的门槛降到了地板上

人类对变脸的痴迷古已有之——从川剧变脸到《聊斋志异》的「画皮」。基于计算机技术的易容术也早已有之，但 AI 第一次让变脸平民化：技术门槛和传播门槛同时降到极低，还以手机 App 的形态出现，业内人士当时就表示这是「头一次」。

门槛降低带来两类直接担忧：一是安全问题——许多高频 App 用手机号加面部图像注册登录，用户担心换脸技术被不法分子用于合成「刷脸支付」、在视频通话中冒充亲友实施诈骗；二是权利问题——如何规范用户合理使用他人肖像？如何保护用户自己的肖像不被侵犯与滥用？当时那款换脸 App 也因「安全风险」被微信封杀。

三道栏杆：技术、立法、企业自律

从治理角度看，把变脸这类技术「关进笼子」，报道归纳了三个层面的动作，今天看依然成立：

1. 技术栏杆：用技术对抗技术。当时的换脸技术存在缺陷——基于生成对抗网络的变脸视频往往不具备实时性，可通过实时交互指定动作来加强检测。检测与生成，始终是一场军备竞赛。
2. 立法栏杆：据报道，2019 年 4 月，民法典人格权编草案二审稿已对 AI 换脸作出规范；同时要加强人工智能技术标准的制定与推广，从根源上监督引导。国外经验方面，德国 2018 年成立数据伦理委员会，发布了数据和算法建议，核心设想是建立数字服务企业使用数据的 5 级风险评级制度，对不同风险企业采取不同监管措施。
3. 企业自律栏杆：报道的结尾一针见血——「如果人们滥用你的东西，你的企业就会出问题，最好要设法预防这种情况的发生。」这句话值得每一家提供 AI 能力的企业贴在墙上。

七年之后，企业该装哪几道栏杆

从 2018 到今天，换脸技术早已从「粗劣色情片」进化到以假乱真的深度伪造，而企业的防御思路没有变，反而更清晰了：

1. 身份验证别只靠一张脸：涉资金操作、敏感审批的场景，人脸之外叠加第二因子（动态口令、人工回拨确认），把「合成脸」挡在门外。
2. 对外发声的「防伪机制」：企业高管形象、品牌素材同样可能被伪造。官方信息有结构化底账、对外渠道有统一认证，出了伪造内容才能快速澄清——这也是我们此前多次强调的「权威底账」。
3. 自家 AI 能力先过「滥用测试」：企业对外提供 AI 功能时，先想清楚「用户会怎么滥用它」：能不能换别人的脸？能不能生成误导性内容？权限、水印、日志要在设计阶段就进去，而不是出事之后补。

这三道栏杆落到工程上，仍然是那三个词：数据边界、权限边界、审计边界。瀚钦为企业做 AI 私有化部署时，这三项是标配设计。如果你的业务涉及用户身份、人脸数据或对外内容生成，欢迎预约免费诊断，我们帮你把滥用风险在上线前排查一遍。

常见问题

← 返回新闻动态 ｜ 深度内容见 行业洞察专栏