High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(一)

相关报道



High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(一)

       DeepNude was a deepfakes application which allowed to alter photos of a person to make them appear nude, designed to work on females. Several days after its June 23rd, 2019, release and rapid climb to popularity, the app was permanently shut down over the concerns of potential misuse, although already downloaded copies of the software were continued to be shared.

       On June 23rd, 2019, Windows and Linux application DeepNude, developed by an anonymous person known only as Alberto, was made available for download online (website no longer available).

On June 27th, 2019, Vice Motherboard featured a story on the app, titled "This Horrifying App Undresses a Photo of Any Woman With a Single Click", also talking to the creator of the app.[3] In the following days, multiple news outlets covered the story, including articles by The Verge.


      DeepNude是一款类似deepfake应用程序,它允许修改一个人的照片,使其看起来是裸体的,专为女性设计。该应用于2019年6月23日发布,并迅速走红。几天后,出于对潜在滥用的担忧,该应用程序被永久关闭。

    2019年6月23日,由一位名叫阿尔贝托的匿名人士开发的Windows和Linux应用程序DeepNude可以在网上下载(目前网站不再提供)。2019年6月27*登了一篇应用程序,名为“这恐怖的应用脱下衣服的照片与单一点击“任何女人,还跟应用程序的创建者。在接下来的日子里,多个新闻媒体介绍了故事。6月27日,由于访问量过大,官方网站遭遇了一系列的崩溃。在同一天,DeepNude的创建者宣布,由于担心应用程序可能被滥用,该服务已被永久关闭。

      这款应用的免费版本中,输出的图像有一部分被大水印遮住了,50美元的付费版本中去掉了水印。支付额外的50美元可以去除一个较小的“假”水印(如下图所示,左边和右边)。虽然这款应用的下载量还不清楚,但在2019年6月27日,官方的DeepNude网站在关闭前因为高负载经历了一系列崩溃。


      Motherboard联系了DeepNude的创建者,此人化名为“阿尔贝托”(Alberto,匿名)。他表示,该软件基于加州大学伯克利分校研究者开发的开源算法pix2pix创建,并使用1万张女性LUO图加以训练。这一算法与之前的人工智能换脸技术deepfake算法相似,也和无人车技术所使用的算法相似。


     DeepNude使用pix2pix开源算法分析输入图像,识别服装并删除它,用生成的裸体图像替换它。该算法在10000多张女性裸照的数据集上进行训练。


      “阿尔贝托”表示,该软件目前之所以只能用于女性照片,是因为女性LUO体图像更容易在网上找到,但他希望能创建一个男性版本的软件。他还表示,他继续这一实验是出于“有意思”和好奇心。“我不是偷窥狂。我是技术的爱好者,”他说,“继续提升这个算法,最近也是吸取了之前的教训(来自其它创业公司)和经济上的问题,我问我自己是否可以在这个算法上获得经济回报。这就是我创建DeepNude的原因。”


      但Motherboard指出,之前就有deepfake在网络上流传,但这种技术很容易就会成为伤害女性的工具——要么在未经同意的前提下使用女性照片,要么在网上恶意散布SQ内容。而DeepNude相当于deepfake技术的进化版,操作更简单,处理速度更快。所以,带来的危害更大。


  其实,这款软件并非完美无缺。大多数图像,尤其是低分辨率图像,产生了一些视觉伪影。Deepnude完全失败了,因为有些照片使用了奇怪的角度、光线或衣服,这些照片似乎与它使用的神经网络脱节了。当我们给它一张卡通人物杰西卡·兔子的图像时,它会完全扭曲并破坏了图像。


      网友评论:AI的换脸技术、脱衣技术,这件事,在今天可归纳为三句话:火是肯定要火的。乱是一定要乱的。如何监管,大概是不知道的。哦,对了,最后应该说一下如何防止别人做出你的AI换脸、脱衣视频?不要发太多自拍,即使自拍的时候,切记多穿点衣服。

     博主评论:滥用技术的深度拷问,人类在娱乐技术的同时,技术是不是也在嘲弄人类? 新技术不能突破法律底线。AI技术发展使普通人能享受到科技带来的便利,但新技术应该驱动良性的文化创意更新迭代,切忌用到歪路上去,更不能突破底线挑战公序良俗。



基于AI算法的一键脱衣官宣关闭


     6月28日消息 此前,美国科技媒体Motherboard报道,Twitter用户@deepnudeapp 最近开发出一款名叫DeepNude的APP,只要给DeepNude输入一张女性照片,借助神经网络技术,App可以自动“脱掉”女性身上的衣服,显示出裸体。不过在6月28日凌晨,@deepnudeapp 宣布关闭这款App及网站。


High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(一)


      Hi! DeepNude is offline. Why? Because we did not expect these visits and our servers need reinforcement. We are a small team. We need to fix some bugs and catch our breath. We are working to make DeepNude stable and working. We will be back online soon in a few days. ——06.27


最新的一条消息:


      Here is the brief history, and the end of DeepNude. We created this project for user's entertainment a few months ago. We thought we were selling a few sales every month in a controlled manner. Honestly, the app is not that great, it only works with particular photos. We never thought it would become viral and we would not be able to control the traffic. We greatly underestimated the request.

 我们在几个月前创建了这个娱乐项目。我们以为这款应用的传播也在我们可控范围内。事实上,这款应用并不是很完善,它只适用于特定的照片。我们从没想过它会像病毒一样传播开来,以至于我们也无法控制,我们大大低估了用户对这个应用的需求。


      Despite the safety measures adopted (watermarks) if 500,000 people use it, the probability that people will misuse it is too high. We don't want to make money this way. Surely some copies of DeepNude will be shared on the web, but we don't want to be the ones who sell it. Downloading the software from other sources or sharing it by any other means would be against the terms of our website. From now on, DeepNude will not release other versions and does not grant anyone its use. Not even the licenses to activate the Premium version.

 尽管采用了安全措施(加水印),但要是有50万人使用它,人们滥用它的可能性就太高了。我们不想用这种方式赚钱。这款应用(制造出来)的一些裸体的副本会在网上被分享,我们不想成为出售这些“作品”的人。另外从其他来源下载或以任何其他方式共享本软件(生成的作品)将违反本网站的条款。从现在开始,DeepNude将不会发布其他版本,也不会授权任何人使用,激活高级版本许可也将停止。

      People who have not yet upgraded will receive a refund. The world is not yet ready for DeepNude.

      尚未升级的用户将获得退款。


上一篇:【技术系列】浅谈GPU虚拟化技术(第一章)


下一篇:一张图看懂Apsara Block Storage企业级分布式块存储产品