外链论坛

 找回密码
 立即注册
搜索
查看: 94|回复: 1

苹果紧急下架!这种一键除衣的AI,太逆天了

[复制链接]

3016

主题

2万

回帖

9913万

积分

论坛元老

Rank: 8Rank: 8

积分
99139149
发表于 2024-7-1 02:12:11 | 显示全部楼层 |阅读模式

时间倒回前几年,倘若小雷和小伙伴们聊聊AI,你们可能觉得我在天方夜谭?

彼时AI留给人们的印象,还停留在科幻电影的智能设备人、智能生活助手等等。

真要说起来,离咱们近期的应该便是手机里头,那个脑袋不太聪明的语音助手。

语音助手句句有回复然则回得对不对便是另一回事了,你说对吧,Siri?

但放到此刻可就不一样,这几年AI发展有多快大伙看在眼里,AI元年早就来喽。

照片、视频、音频以及文字等行业,AI已然玩出了花,乃至能够说是「颠覆」。

就拿应用最广泛的照片AI来讲,其实在咱们平时的生活里,此刻已然随处可见了。

户外的宣传牌、电梯里的海报、商场里的促销图……大伙琢磨下是不是这么回事?

不仅如此,非常多APP还加入照片AI方面的功能,然而随之而来的却是争议的声音。

苹果和谷歌先后下架关联APP,国内手机厂商禁止操作,这到底是怎么回事儿?

苹果谷歌下架脱衣AI APP

日前AI在照片上的应用,大概有这几类:AI生图、扩图、消除以及修复画质等。

这些都是很正常的内容,但有些别有用心的人,却以此研发出了有些恶意APP。

就在上周五,外媒404 Media报告苹果和谷歌分别在应用商店下架多款自叫作能够实现「一键换衣」的APP。

「一键换衣」听起来很离谱,但其实这玩意能够看作是「一键换脸」的升级版。

图源:404 Media

早在2019年,就有程序员研发出一款名为「DeepNude」的「一键脱衣」APP。

研发者声叫作,给DeepNude一张女性照片,它就能靠神经网络技术,脱掉名人衣服生成未穿衣服的照片

好家伙,这个APP要是落到歪脑筋的人手里,那可不便是妥妥的不雅观照生成器吗?

结果是为了防止DeepNude被乱用最后研发选取关闭DeepNude的网站和APP。

图源:IT之家

倘若说DeepNude只是独立研发者的小打小闹,那如今在苹果和谷歌应用商店上架的「一键脱衣」APP,是怎么经过审核的呢?

报告,这些APP非常多都来自Meta平台的宣传库,这些恶意APP的宣传通常在Meta旗下的平台投放。

用户一点击宣传就会到苹果或谷歌的应用商店,便是说,用户压根不消自己搜索「脱衣」等重要词就能找到类似APP。

况且这类AI APP一般被包装成其他AI生成类APP,研发者大概率便是经过这种方式,躲开苹果和谷歌应用商店的审查机制。

费了这么多功夫,APP研发者肯定不是用爱发电,而是经过「一键脱衣」功能赚取不义之财。

好在经过外媒报告后,苹果和谷歌作出了实质行动,下架了多款「一键脱衣」APP。

Meta平台在积极收集恶意宣传链接下架删除,还暗示接下来将加大审查力度,针对违反规定的政策采取办法

图源:indianexpress网

AI消除敏锐照片被禁

除了上面这事儿,小雷发掘国内手机厂商,针对「AI消除」作出了有些限制。

我没记错的话,手机持有「AI消除」这功能,应该是从去年起始才流行起来的。

AI消除能经过AI技术,较完美地去掉照片中多余的人和物,让照片看起来更简洁。

左 AI消除前 右 AI消除后 图源:小雷手机截图

只是不晓得哪个神人突发奇想,竟然把AI消除用在了消除女性照片胸部的位置。

咳咳,结果有些手机的AI消除功能,就把衣服给消除,乃至还把人体给补齐了。

AI本来是按照边缘背景进行计算,修补后的效果看着的确和谐,不可怪它不行。

还是那句话,有人不怀好意的话,这个功能确实能生成有些本不存在的不雅观照。

图源:网络

这事当时挺多人关注,不外经过媒介报告后,主流品牌手机的AI消除都作出了限制。

此刻对照片中的人体敏锐部位运用AI消除,会显现照片可能包括敏锐信息,运用此功能」类似的提示。

倘若涂抹的是其他地区,则AI消除能够正常运用,小伙伴们能够试试自己的手机,应该都有这种限制了。

图源:小雷手机截图

AI照片是把双刃剑

苹果谷歌下架「一键脱衣」APP,手机厂商禁止AI消除敏锐照片,AI照片已然发展到了这个程度。

其实从AI在照片上的实质应用来看,它更像一把双刃剑,在带来方便的同期带来了有些麻烦。

AI照片的好处非常多在摄影行业,能够帮忙摄影师后期美颜和降噪;在设计行业,能够让设计师少些繁琐的画图工作;而在自媒介行业,小雷发掘已然有些同行运用AI为文案配图,AI生成图既符合文案大意,又不会有侵权的危害

AI照片的麻烦不少:一键换脸、一键脱衣、一键中生有增多人体细节……,AI在关于人的隐私安全方面,依然还有不少漏洞会被违法分子钻。

虽然每次曝出类似资讯的时候,关联公司平台都能即时行动,作出或下架或禁止的措施,但总是要等事情出现后再亡羊补牢,常常就容易出岔子。

AI照片应用之路才刚才起始,小雷觉得前面这些案例,已然足够让AI研发者们得到警示喽。

研发AI更加多新功能时,AI研发者们应该提前思虑新功能落地后,可能会出现的消极操作和影响。

能在落地前处理自然最好,倘若不可推迟落地采用更恰当的方式实现原先方式80%的效果,不是不行。

总之,小伙伴们还是要以恰当眼光看待「AI照片」,小雷相信AI将来的发展会越来越好。

封面图源:苹果App Store&网络

4月25日-5月4日,北京国际汽车展览会(北京车展)正在火热进行。本届车展以“新时代新汽车”为主题,是“汽车从电动化走向智能化”的风向标。

雷科技旗下“关注电动车,更懂智能化”的账号电车通已派出豪气报告团,正在北京车展现场,进行一线专业报告,欢迎关注“电车通”获取一手专业现场报告返回外链论坛:http://www.fok120.com/,查看更加多

责任编辑:网友投稿

回复

使用道具 举报

0

主题

1万

回帖

1

积分

新手上路

Rank: 1

积分
1
发表于 2024-8-23 01:17:30 | 显示全部楼层
你说得对,我们一起加油,未来可期。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

站点统计|Archiver|手机版|小黑屋|外链论坛 ( 非经营性网站 )|网站地图

GMT+8, 2024-11-9 04:52 , Processed in 0.064383 second(s), 19 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.