不过，记者发现，娱乐之余，“AI换脸”领域也存在诸多乱象。有不少用户反映，一些“AI换脸”App需要收费才能使用，且“价格很高”；还有消费者在投诉平台表示，自己在某App支付了全年会员，但一键换装的模板却没有了。
此外，还有“AI换脸”App开发者因使用的视频模板侵害他人肖像权被判罚。
据业内人士介绍，所谓“AI换脸”，实际上是一种深度合成技术，目前已经从工业场景转向了消费领域，应用场景更为复杂，面临的问题也更加复杂。需要注意的是，这种技术如不加以妥善使用，可能会侵害社会交往的基础信任，损害公众的名誉权、荣誉权等，进而影响到传播秩序和社会秩序。
用户抱怨价格高，
App开发者：AI算法及团队昂贵，免费不现实
记者近日搜索发现，基于深度合成技术的“AI换脸”广泛出现在应用软件、短视频平台及社交媒体平台。
对于“AI换脸”这种基于深度合成算法处理的技术，日前出台的《互联网信息服务深度合成管理规定》给出了定义：深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。其中包括人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
（图源自CFP）
例如，在记者随机搜索的一款名为“脸猫”的App安装次数超300万，综合评分2.6分，有用户评价称“非常棒的软件，体会到了不同风格的我”“有很多漂亮的模板”；也不乏用户“吐槽”：“还要充会员，不仅要充会员，而且最低要30，最高要200多，我建议不要弄了”“需要钱，都不是免费的，而且不真实，一看就是批（图）的，糊弄小孩……”
汉服模特视频成“AI换脸”App模板，
App开发者因侵害他人肖像权被判罚
优颜App使用的视频模板是否为盗用尚不可知，但“AI换脸”App侵权案例已有先例。
近日，杭州互联网法院审理了一起因“AI换脸”App利用深度合成算法侵害他人肖像权的案件，最终判决App开发者赔礼道歉并赔偿损失共5000元。
杭州互联网法院指出，民法典明确将“不得利用信息技术手段伪造等方式侵害他人的肖像权”，作为侵害肖像权的一种典型形态予以规制。“利用信息技术手段伪造”是指利用信息技术手段编造或者捏造他人肖像，以假乱真，以达到利用不存在的事物来谋取非法利益的目的。
杭州互联网法院经审理认为，该案中，楼某某对案涉要素模板视频及替换后视频中所载对应形象的人物肖像均享有肖像权。对于换脸前的视频，楼某某虽以古风妆容并着汉服出镜，但从其面部形象、体貌特征，普通人仍可对其主体身份进行轻易识别。该视频被上传至App作为模板供他人使用时，视频内容未做篡改，亦不发生主体形象不可识别的问题。对于换脸后的视频，楼某某仅留存身体形象，但对比原视频素材，普通人仍能通过未被修改的相应场景和细节识别出身体形象对应主体为楼某某。
被告A公司未经楼某某同意，通过技术手段提取涉案古风肖像视频，并擅自上传至其运营的换脸App中供用户选择使用，该行为本身已侵害楼某某肖像权。同时，涉案视频模板已被用户多次使用和收藏，可以认定A公司利用深度合成技术将其他用户提供的人脸替换至涉案视频中的身体形象之上，并生成了形象逼真、画面流畅的伪造肖像视频，可供用户进行下载保存、发布共享等不当使用。
综上，被告A公司未经楼某某同意，利用深度合成技术使用其肖像制作了伪造视频，依法应认定为构成对楼某某肖像权的侵害。
此外，中国互联网协会法工委副秘书长胡钢在接受央广网记者采访时指出，以上述案件为例，原告发布的视频中，其妆容、衣着、动作包括背景设计等本身都可构成一个音像艺术作品，受《著作权法》的保护。如果被告A公司未经原告允许，将原告发布的视频作为App的模板发布，还存在侵害原告著作权的可能。
三部门出台深度合成管理规定，
专家：强调对深度合成技术应用进行标识
近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。
例如，《规定》指出，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。
《规定》还强调，深度合成服务提供者提供人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务等，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。
针对《规定》中关于标识的要求，胡钢告诉记者：“简单举例而言，假设一位相貌平平的用户，通过‘AI换脸’App得到一张将自己的容貌、体态、穿着，乃至背景都经过美化的照片，如果该用户只是自己保存，对社会和他人不会产生影响，但如果该用户选择发布出来，就可能造成混淆或误认。这种情况下就要求深度合成服务提供者和进行显著标识，说明这张照片是经过深度合成技术编辑而成。”
胡钢指出，实际上这项规定是从后端往前端的监管，且主要强调在用户发布、传播过程中要有相应的标识，以防止用户误认或混淆，以避免损害传播秩序。“可以把它理解为透明度监管原则，对于平台或者开发者而言是透明度合规，同时也是保障消费者的知情权。”
“换言之，如果深度合成服务提供者没有按照要求进行标识，我们认为这是该服务提供商没有尽到向消费者提供真实全面的商品信息或者服务信息的义务，也就侵害了消费者知情权，隐瞒真相是消费欺诈的一种重要表现。”胡钢对记者表示，本次《规定》的出台实际上是鼓励新技术、新业态发展，同时也要求规范发展。
国家网信办有关负责人表示，深度合成服务在满足用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为。出台《规定》，能够划定深度合成服务的“底线”和“红线”，维护网络空间良好生态。同时，落实《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律、行政法规，对应用深度合成技术提供互联网信息服务制定系统性、专门性规定，能够明确各类主体的信息安全义务，为促进深度合成服务规范发展提供有力法治保障。
“AI换脸”对于不少互联网用户来说并不陌生，仅需上传照片，就能在线体验百变换装、性别转换，乃至预测和伴侣未来孩子的长相。