时间倒回前几年,倘若小雷和小伙伴们聊聊AI,你们可能觉得我在天方夜谭?
彼时AI留给人们的印象,还停留在科幻电影的智能设备人、智能生活助手等等。
真要说起来,离咱们近期的应该便是手机里头,那个脑袋不太聪明的语音助手。
语音助手句句有回复,然则回得对不对便是另一回事了,你说对吧,Siri?
但放到此刻可就不一样,这几年AI发展有多快大伙看在眼里,AI元年早就来喽。
在照片、视频、音频以及文字等行业,AI已然玩出了花,乃至能够说是「颠覆」。
就拿应用最广泛的照片AI来讲,其实在咱们平时的生活里,此刻已然随处可见了。
户外的宣传牌、电梯里的海报、商场里的促销图……大伙琢磨下是不是这么回事?
不仅如此,非常多APP还加入照片AI方面的功能,然而随之而来的却是争议的声音。
苹果和谷歌先后下架关联APP,国内手机厂商亦禁止操作,这到底是怎么回事儿?
苹果谷歌下架脱衣AI APP
日前AI在照片上的应用,大概有这几类:AI生图、扩图、消除以及修复画质等。
这些都是很正常的内容,但有些别有用心的人,却以此研发出了有些恶意APP。
就在上周五,外媒404 Media报告:苹果和谷歌分别在应用商店下架多款自叫作能够实现「一键换衣」的APP。
「一键换衣」听起来很离谱,但其实这玩意能够看作是「一键换脸」的升级版。
图源:404 Media
早在2019年,就有程序员研发出一款名为「DeepNude」的「一键脱衣」APP。
研发者声叫作,给DeepNude一张女性照片,它就能靠神经网络技术,脱掉名人衣服生成未穿衣服的照片。
好家伙,这个APP要是落到歪脑筋的人手里,那可不便是妥妥的不雅观照生成器吗?
结果是为了防止DeepNude被乱用,最后研发者选取关闭DeepNude的网站和APP。
图源:IT之家
倘若说DeepNude只是独立研发者的小打小闹,那如今在苹果和谷歌应用商店上架的「一键脱衣」APP,是怎么经过审核的呢?
据报告,这些APP非常多都来自Meta平台的宣传库,这些恶意APP的宣传通常在Meta旗下的平台投放。
用户一点击宣传就会转到苹果或谷歌的应用商店,亦便是说,用户压根不消自己搜索「脱衣」等重要词就能找到类似APP。
况且这类AI APP一般被包装成其他AI生成类APP,研发者大概率便是经过这种方式,躲开苹果和谷歌应用商店的审查机制。
费了这么多功夫,APP研发者肯定不是用爱发电,而是经过「一键脱衣」功能赚取不义之财。
好在经过外媒报告后,苹果和谷歌亦作出了实质行动,下架了多款「一键脱衣」APP。
Meta平台亦在积极收集恶意宣传链接下架删除,还暗示接下来将加大审查力度,针对违反规定的政策采取办法。
图源:indianexpress网
AI消除敏锐照片被禁
除了上面这事儿,小雷发掘国内手机厂商,亦针对「AI消除」作出了有些限制。
我没记错的话,手机持有「AI消除」这功能,应该是从去年起始才流行起来的。
AI消除能经过AI技术,较完美地去掉照片中多余的人和物,让照片看起来更简洁。
左 AI消除前 右 AI消除后 图源:小雷手机截图
只是不晓得哪个神人突发奇想,竟然把AI消除用在了消除女性照片胸部的位置。
咳咳,结果有些手机的AI消除功能,就把衣服给消除,乃至还把人体给补齐了。
AI本来是按照边缘背景进行计算,修补后的效果看着的确和谐,不可怪它不行。
还是那句话,有人不怀好意的话,这个功能确实能生成有些本不存在的不雅观照。
图源:网络
这事当时挺多人关注,不外经过媒介报告后,主流品牌手机的AI消除都作出了限制。
此刻对照片中的人体敏锐部位运用AI消除,会显现「照片可能包括敏锐信息,没法运用此功能」类似的提示。
倘若涂抹的是其他地区,则AI消除能够正常运用,小伙伴们能够试试自己的手机,应该都有这种限制了。
图源:小雷手机截图
AI照片是把双刃剑
苹果谷歌下架「一键脱衣」APP,手机厂商禁止AI消除敏锐照片,AI照片已然发展到了这个程度。
其实从AI在照片上的实质应用来看,它更像一把双刃剑,在带来方便的同期亦带来了有些麻烦。
AI照片的好处非常多:在摄影行业,能够帮忙摄影师后期美颜和降噪;在设计行业,能够让设计师少些繁琐的画图工作;而在自媒介行业,小雷发掘已然有有些同行运用AI为文案配图,AI生成图既符合文案大意,又不会有侵权的危害。
AI照片的麻烦亦不少:一键换脸、一键脱衣、一键没中生有增多人体细节……,AI在关于人的隐私安全方面,依然还有不少漏洞会被违法分子钻。
虽然每次曝出类似资讯的时候,关联公司或平台都能即时行动,作出或下架或禁止的措施,但总是要等事情出现后再亡羊补牢,常常就容易出岔子。
AI照片应用之路才刚才起始,小雷觉得前面这些案例,已然足够让AI研发者们得到警示喽。
在研发AI更加多新功能时,AI研发者们应该提前思虑新功能落地后,可能会出现的消极操作和影响。
能在落地前处理自然最好,倘若不可推迟落地或采用更恰当的方式实现原先方式80%的效果,亦不是不行。
总之,小伙伴们还是要以恰当眼光看待「AI照片」,小雷亦相信AI将来的发展会越来越好。
封面图源:苹果App Store&网络
4月25日-5月4日,北京国际汽车展览会(北京车展)正在火热进行。本届车展以“新时代新汽车”为主题,是“汽车从电动化走向智能化”的风向标。
雷科技旗下“关注电动车,更懂智能化”的账号电车通已派出豪气报告团,正在北京车展现场,进行一线专业报告,欢迎关注“电车通”获取一手专业现场报告。返回外链论坛:http://www.fok120.com/,查看更加多
责任编辑:网友投稿
|