一张照片、开源软件、价值万元的设备，就可以轻松打造逼真的换脸AI直播。二手平台暗卖、视频网站、直播平台的公众教育都已开绿灯。无需评分、审查或批准。普通人的面孔随时都可能被复制、盗用。随着AI换脸技术的门槛一再降低，图像的真实度接近肉眼难以辨别的程度，平台监管和行业收入都面临挑战。记者先后在二手交易平台、视频网站上以普通用户的身份进行了搜索、购买、安装、使用AI换脸软件的全流程真实测试，并在快手平台完成了传输测试直播。记者在某二手货交易平台输入关键词“AI换脸”，但显示的信息却是：e说这样的产品不存在。随后关键词“视频换脸”被更改，出现了大量相关产品的链接。页面未显示任何风险提示或合规提醒。记者发现，产品标题往往标注“角色替换”或“动作模仿”，价格一般在5元以下。当你点击多个商品详情页面时，有些卖家会直接将其标记为“全部换货”或“一切皆有可能”，以直接吸引买家。记者随机给其中一位卖家发了一条私信。另一卖家很快回应，称他正在销售可用于直播或面部变化的软件，并包含安装说明。 “直接将其下载到您的计算机上，解压并使用它。无需复杂的设置，”该提供商表示。记者花了3.5元订购。收到文件后，我将其解压，发现其中包含三个不同的内容脸部修改软件的 ent 版本。卖家坦言建议安装最低版本，并表示：“我每天都用它来直播，所以效果还不错。”按照卖家的说明完成安装后，记者拍了一张明星的正面照片。我上传了它并打开了我的电脑摄像头。先进的图像同步功能瞬间将镜头中的记者脸部实时替换为照片中的脸部。然而，在测试过程中很明显，当你做出大幅度动作（例如用手捂住脸、微笑或摇晃头）时，面部切换屏幕会冻结并滞后，在边缘产生轻微的刺耳声音。然而，在正常注视和微小动作下，人眼很难立即辨别真假。记者试图用他购买的软件改变自己的脸。随后，当记者搜索关键词“AI人脸识别”时在某综合视频网站“ange”上，页面上出现了一系列实用的软件教程和经验分享，内容包括手机端和电脑端的多种换脸工具推荐，多个视频详细介绍了安装步骤以及如何调试参数。在视频下方的评论区，不少博主直接贴出了相应软件的下载链接，点击跳转下载。记者选择了其中一款评价较高的教程，并按照链接下载安装了其他功能更齐全的换脸软件。该软件允许您选择自己自带的脸部模型。记者发现，该软件内置了成龙、宋慧乔等明星的面部模型，可以直接回放。只需单击一下即可。记者将这款先进的脸部修改软件连接到快手直播平台。登录个人账号并激活基本直播权限后，我就直接开始直播了。它没有进行任何换脸人工智能标记，没有对平台进行预筛选，也没有要求强制标记。直播过程中，记者们自由切换年轻女性、留胡子男性、外国男性、外国女性的面部图像。屏幕切换流畅，视频直播，表面没有AI生成的标识。国家网信办、工业和信息化部、公安部、广电总局制定的《人工智能合成内容标识办法》第六条规定，文件元数据中隐式标识符未经验证且用户未确认的，ot声明内容已生成，但提供网络信息内容分发服务的服务提供商检测到显式标识符。或其他合成生成内容的证据，它将被识别为可疑合成内容，并将采取进一步行动。采取适当措施，在发布的内容周围添加醒目的消息，以提醒公众该内容疑似合成生成内容。整个直播持续了30分钟，但平台没有发出任何警告，也没有启动任何内容审核机制。直播期间，实时在线观众稳定在10人左右。当记者在直播间口头说出“henmen”二字时，进入直播间的人数明显增加，30分钟内累计观看人数超过1000人。没有一个互动观众意识到主讲者不是真人演讲屏幕上响铃。记者在抖音平台搜索“AI换脸”时，首页前几屏大多是科普和各大媒体发布的警告视频。不过，如果你更改相关关键字，你会看到如何使用换脸软件的教程，以及博主发布的实用演示。当你在快手平台搜索关键词“AI面部修改”时，你会在页面顶部看到一系列提示：“请合法合规使用相关功能，并仔细检查相关内容，谨防上当受骗。”然而，当我向下滚动屏幕时，页面上出现了几个与AI面部修饰相关的视频教程。有些视频标题直接标明“本软件免费使用，需要999条评论”。评论区不少网友。我也做了同样的事情并回复“999”来请求资源。有的博主还说他们在个人主页上隐藏微信账号和QQ账号，故意将平台用户引向外部聊天软件。当记者随机在某博主主页添加公开的QQ号后，该博主立即发出好友请求，并立即发送外部链接，介绍所售软件的详细功能和效果演示。链接内容显示，这款软件支持实时直播人脸切换和视频通话人脸切换。实时音频变化只需要 30 秒的声音素材。此链接还包括几个演示视频，展示照片和换脸直播效果、换脸视频通话效果以及具有高级图像修复功能的实时遮罩效果。该链接有一个条目可以俯瞰所谓的“官方网站”。记者点击该网站，页面上有详细的软件使用教程以及现成的面部模型素材样本。雅阁ng向博主透露，这款软件原价1280元，目前优惠价799元。您的订单中包含面部模型生成教程。他还表示：“即使你没有时间定制特殊模型，也可以通过一张正面照片直接一键换脸。”快手平台上还有一位昵称“人脸模型定制”的博主，专门从事人脸模型定制。对方告诉记者，只要提供两到三张清晰的拍摄对象正面照片，专业模型就可以在两个小时内完成。面部模具套装定制费为1980元。 1个vez完成后，可以半永久使用。还提供远程安装和定制操作指南。该博主在朋友圈发布了订单动态，一天之内就有多达六位顾客支付了定金。交流过程中，博主主动提出与记者视频通话。他向镜头展示了一张男人的脸。他坦言自己目前正在使用换脸功能。话音刚落，他立刻就换了一张完全不同的脸，道：“换个脸。”如果你不说teru，你就什么都听不懂，对吧？ ”他问道。该博主给记者视频通话演示换脸效果。“我的很多客户都是用我制作的模特在平台上直播，平台根本认不出来。”聚集粉丝后，将给予更多奖励的“超人大哥”转入微信，利用换脸功能与对方进行视频通话。他直言：“这是最快的赚钱方式。”然而，“互联网信息服务深度综合管理” 《规定》明确，深度合成服务商或者技术支持提供人脸信息编辑功能时，语音e信息或其他生物特征信息，深度合成服务的使用者必须通知主体人。依法编辑并另行征得同意。 《网络主播行为准则》还规定，网络主播必须尊重公民和企业的荣誉和荣誉权，以及个人的隐私权和肖像权。他还表示，网上可以制作名人的脸部模型，而且建模效果比较真实，不建议使用名人的脸部。明星的脸很容易被人认为是假的、暴露的。”聊了几分钟后，该博主赶紧关掉了视频，给记者后续短信告知了具体操作，并表示还有很多顾客在排队等待观看他和视频中的换脸演示。南京超心信息技术有限公司创始人张泽伟先生已参与其中自2023年起致力于生成式人工智能应用落地，专注于专业化业务，采用AI面部修改等生成技术。这个想法是让用户“复活”已故亲人，让虚拟图像通过视频通话与死者亲人聊天。长期的训练让他们熟悉了面部改造技术的迭代和细节实践。张泽伟坦言，AI换脸技术的成熟速度比预期要快得多，实际应用的门槛也降低了很多倍。 “只要有一台性能比较高的显卡电脑，补光灯、直播摄像头等基础设备，再加上市面上的开源软件，花不到一万元就可以做AI换脸直播。”他坦言，现阶段普通的换脸效果很难实现普通人用肉眼是无法辨别的。当被问及影响人脸替换保真度的核心因素时，张泽伟给出了明确的答案：人脸模型训练的准确性。 “模特训练得越好，换脸后的表情、嘴型、态度就越自然，就越不容易上当。模特素质不过关，直播时一个小大动作就会暴露明显破绽。”他还透露，高精度模型的成本门槛很高，几乎划算。打造适合各种直播场景的完美面部模型需要20到30天的持续训练，市场价格在2万到5万元不等。 “做灰色业务的公司不会在模型上省钱。模型是盈利的基础。”张泽伟整理产业链。在这个不断变化的黑色AI产业链中，最赚钱的环节是技术技术最终用户。随着技术越来越开放，底层开发者逐渐失去技术壁垒，造成行业的不确定性。张泽伟使用代码软件Go Open，用AI进行面部修饰。记者调查目前行业应用情况发现，AI换脸技术的应用场景两极分化明显。其中一部分是张泽伟团队的殡葬雕刻服务所代表的积极应用。这种技术用于精神慰藉和纪念公共福祉。Masú。为了最大限度地发挥该技术的人文创意价值，也有人经常利用该技术进行影视短片的制作以及个人创意短视频的开发。灰黑应用注重技术门槛低、混淆性强，大量不合格专业人士创造未经授权的应用利用他人脸部模型侵犯形象权、虚假直播、欺骗消费者甚至电子诈骗，将科技变成侵犯消费者权益、改变市场秩序的工具。东升（山东）人工智能科技有限公司董事吴健先生关注AI换脸技术的迭代过程，对近两年技术的变化有直观的感受。研究发现，从2024年开始，市场上领先的AI换脸产品将继续具有僵硬的面部纹理、动态和不自然的连接以及人像中独特的塑料感。 2025年，这些缺陷得到明显改善，人像得到明显恢复。 “明年，这项技术将彻底完善，真假将完全混淆。”吴健判断。在他看来，AI脸部修饰本质上是一种深度合成esis 技术与任何技术一样，它有两个方面。当新技术出现时，它们往往首先流入能够快速产生商业价值的领域。吴健重申，技术本身没有好坏之分。真正追根究底的是那些利用技术侵犯他人权利、从事非法活动的用户。为了控制人工智能不断变化所带来的破坏，我们不能放任不管或完全禁止它。核心是在监管与技术创新之间找到适当的平衡点，尽快补齐相关法律短板，明确技术使用红线，明确合规应用场景，同时强化平台审核责任，倒逼行业和用户恪守底线，让技术回归应用赛道的积极行动，而不是成为造假和牟利的工具。 （人气记者贾涵宇）
黑瓜网每日大赛
Website: http://www.episodes1.com
Leave a Reply