揭秘AI换脸“项目”:1元教程众多,有人组成裸照进行敲诈
近期,韩国爆出“运用深度假造技能换脸制造不特定女人的淫秽内容并广泛传达”,再度演出相似“N号房”事情。事发后,也有不少人在交际媒体上发声,表明自己“被换脸了”。
随同本年AI技能逐步变得垂手而得,一些以“AI美人视频”为名的创业项目开端呈现在网络上,也诞生了以此营生的灰色工业链。
新浪科技发现,现在在小红书、闲鱼、B站等渠道,运用AI美人视频教程招引用户,声称“盛行赛道,5天破万粉,日入四位数”的教程,成为职业灰产的温床。而在另一边,无论是“AI一键换脸”,仍是让相片动起来,在一些昏暗的旮旯,生成式AI技能的兴起,也引发了一系列的职业乱象。
一键换脸:1元教程众多,实则满是“卖项目”
新浪科技发现,在闲鱼、小红书上,只需查找“AI美人”,就能够看到不少经过生AI技能生成的美人跳舞视频。
闲鱼上面,许多标价0.99元、0.55元乃至0.2元的链接内,是一个个内容相似的“教程合集”。价格如此低价的链接拍下之后,这些商家会发来十分丰富的教育资源,其间包含AI换脸视频需求的软件下载链接、在线东西运用阐明、详细的操作教程等内容。也有商家表明,只需求在闲鱼重视他,就能直接共享相关教程,可见获取相关教程的门槛现已趋近于零。
翻开这些教程,能够看到商家给出了详细的图文信息,十分直观展现了如何将泰勒·斯威夫特的讲演视频换成另一个女人的脸。而照着教程一步步操作,确实能够完结脸部替换。此外,店东表明,教程里有电脑端操作的教程,也有手机端操作的教程,只需多上手操作几回,就能靠视频在短视频渠道招引重视。
他表明:“美人一向都是流量暗码,咱们做的生意便是捉住AI风口。”而闲鱼上相似的“AI美人”教程,无一例外根本意图都是引流,标价低仅仅为了能够让我们在查找成果上能够显现在最前面。他说,自己首要意图是“卖项目”,所谓“卖项目”,包含《导师IP训练营》视频课程、抖音图文带货、小红书商单、AI主动写文章分发今天头条、付费社群等。
比方,今天头条AI掘金项目,便是经过AI东西,全主动帮你写文章,发布到今天头条,每天有流量收益,但当被问及详细操作时,这位店东表明,这是秘要要花钱:“市场价5980元,现在早鸟价2980元”,但当被问及交了钱假如没有月入5万是否能够退款,他直言“我们都是成年人,肯定是不退的。”
能够看到,“AI换脸”变成了“网络卖课”的另一种进口。可是正因如此形成了更大的问题,一方面,声称“日入过千”的零门槛“AI美人换脸”教程确实实在存在,招引许多用户在测验后发布AI美人视频席卷各个交际渠道,但也因而引发了各种社会问题。
例如近来,有网友在交际渠道反映,自己不光被做成了换脸视频,还被放在收费论坛获取非法收入。而另一方面,依托“AI美人”的幌子,一些人依托数千元高价“课程”赚取赢利,而且即使终究不能完结所谓的月收入5万也无法退费,一条灰色工业链就此构成。
老相片复生:高科技?实则套用免费大模型
新浪科技注意到,除了上述AI技能的生意,另一种让相片动起来的生意现在也风生水起。在电商渠道查找“老相片复生”能够看到许多店肆,一位店东向新浪科技表明,只需求一张相片,就能让其间的人物动起来。现在的限制在于,相片中的人物数量有必要在3人以内,不行以穿形似戎衣的衣服,不行以没穿衣服。除此之外没有任何要求,不少下单后的用户表明很满足。
而在收费方面,这样一次让相片“动起来”的价格在9.8元到50元之间,这位店东表明,9.8元的一张,能够生成5秒视频,而依据更长生成时刻,就需求更多钱。不过新浪科技发现,在小红书等交际渠道,相似需求更多以博主拉群的方法进行“私聊”操作,价格并不通明,当问及为何不揭露价格时,一位博主表明,详细要看相片质量,“工作量也不相同”。
新浪科技注意到,一些生意不错的店肆,能够靠AI老相片动起来月销量超越1000+,若依照最低价格9.5元核算,则月收入能过万。而实际上,这类操作往往是依托AI大模型来进行,店东自身乃至彻底不明白AI技能原理,一位店东表明,自己用的是某个大模型,他坦言:“现在的限制在于相片生成的视频做出的动作还很随机,所以有时候要多试几回才有抱负的作用。”
当被问及生成视频之后,用户的私家相片和生成成果将如何处理,店东表明会删去。但新浪科技发现,在许多店肆内,并没有相应的阐明,而关于现已决议下单的用户来说,这样方法并不能保证用户隐私不会走漏。
一键去衣:有人用AI组成不雅观观照敲诈
AIGC技能的兴起,既给许多一般带来了商机,也让环绕其发生的灰色工业链逐步进入群众视界。
本年年初,作为“全球顶流”的泰勒·斯威夫特呈现了许多“不雅观观相片”,在国外交际媒体上,相关浏览量不光高达上千万,还有人运用这些相片和视频高价贩卖,乃至以此炒作泰勒·斯威夫特的负面报导。虽然事发后相关的Meta和X渠道快速反应并删去许多违规信息,但仍有人质疑,这些相片一开端就不应该呈现在这些渠道上。
无独有偶,本年6月,在国内,警方也破获了一同运用AI技能“一键去衣”赚取灰色收入的案子。涉案人白某在境外网站发布广告,只需求一张日常日子相片,就能够完结“一键去衣”作用,而据此人描绘,在被捕获时,他现已在QQ上向351个人贩卖过相关图片,图片数量将近7000张。
检察官介绍,白某运用的实际上是一个正规的AI绘图软件,而“去衣”仅仅其间的一个功能模块。而据新浪科技查找,在B站等渠道,相关的内容不只要介绍,还有教程共享,不少用户在经过私聊和这些视频博主树立联络,并有或许因而现已学习相关技能。而在一键去衣、AI换脸等技能背面,或许潜藏着更大危险。
例如,深圳警方曾接到报案,有人运用AI技能在网络各种渠道搜集被害人信息,经过组成裸照进行敲诈勒索,也有人运用这类东西制造假新闻。
专家:任何人都或许成为潜在受害者
跟着人工智能(AI)研制不断深入,深度假造技能(Deepfake,以下简称深伪技能)也益发老练,形成的职业问题分外需求警觉。
浙江大学副教授,浙江数字化开展与管理研究中心研究员高艳东,浙江省平阳县人民检察院检察官李易近期揭露发文表明:因为个人生物辨认信息具有“唯一性”“不行更改性”等特色,一旦遭走漏、乱用对信息主体损伤大、影响久,因而在个人信息维护等级中应适用最高级别。
依据《中华人民共和国个人信息维护法》及相关法律规定,只要在根据国家安全与公共安全需求、刑事侦办与司法程序等特定情况下才能够豁免奉告。除上述景象外,任何主体在搜集、运用个人生物辨认信息时,应当严厉执行“知情—答应”机制,非清晰赞同不得搜集,搜集即违规。另一边,需求清晰个人在网络上揭露的信息并不代表其赞同个人生物辨认信息的再处理。现在深伪以商业运用场景较多,有必要消除经营者“网上信息随意取用”的误区,实行其奉告责任。此外,信息运用者有必要保证奉告的有效性。既要包含运用主体、搜集意图、处理行为和信息流向等详细信息,又要采纳满足明显的奉告方法,如强制时限的弹窗等。
工业分析师张书乐向新浪科技表明:“这种AI换脸,便是旧日PS换头相同,能够让人随意去生成任何人的‘虚拟内容’,其行为哪怕出于自娱自乐,也相同侵犯了被换脸方针的个人权益。此外,这样的换脸术,或许运用的空间很大,包含但不限于歹意伪造、构陷的各种传达,以及经过换脸术施行各种欺诈和绕开人脸辨认系统的行为。”
在他看来,现在因为这些AI换脸技能到处可取得,上手运用几乎没有门槛,或许再度引发“N号房”事情,他说到:“每个人的相片或视频,并不只限于个人具有,且在摄像头树立的大时代,你乃至不知道你的头像被多少陌生人取得,其危险彻底不行测。AI换脸的方针并不限制于女人,任何人都或许成为潜在受害者。”
发表评论