【AI】惊悚,慎点!AI模型竟闹出个「红衣女鬼」,阴魂不散甩不掉




【导读】一位艺术家,在鼓捣AI图像生成模型画画时,竟玩出了一个「红衣女鬼」,这位大娘阴魂不散,一出来就不走了!
AI模型还能闹鬼?能,而且来了就不走了!
现在的AI能写能画、能陪人聊天帮人干活,但谁知道,它还能吓死人不偿命?
一位推特网友发现,构成深度学习模型记忆的 「潜在空间」中产生了一个可怕的女鬼:一个满脸是血的中年女人。
(警告:下文中的图片可能引起不适,请谨慎阅读)
一个音乐家,把AI模型玩出了「女鬼」
事情是这样的,推特上的一位音乐家、艺术家Supercomposite,平时没事就喜欢鼓捣AI生成模型,输入一些关键词,看看AI能生成出什么奇妙的东西出来。
这回Supercomposite摆弄的是一个定制的AI文本生成图像模型,和最近很火的DALL·E和Stable Diffusion很像,但略有不同。

这个模型使用名为「反向关键词加权」(negative prompt weights)技术。
通常情况下,给模型一个提示,它就会努力创造一个与之匹配的图像。如果提示的 「权重」为1,那么模型就努力按照这个提示生成图像。
如果多个提示词各有权重,比如说 「热气球:0.5, 雷雨:0.5」,最后生成的就是一幅雷雨中的热气球图景。
Supercomposite所试验的这个「反向关键词权重」,就是让权重值成为负数。
可想而知,在这种情况下,如果权重值为-1,模型会尽全力远离提示词生成图像,这个词越美好,生成的图像就越恐怖。
果然,试验结果让人毛骨悚然,不仅画风光怪陆离,还产生了一个挥之不去的「女鬼」。
首先,这位Supercomposite给出的关键词是Brando(著名影星马龙·白兰度),权重值为-1,结果AI给出了一幅它认为最不「白兰度」的一张图片:一个画风略奇异的logo。

这个结果还只是有点奇怪,接下来的事情就更诡异了。
如果说按照模型的负权重逻辑,那么把这张图上的信息(DIGITA PNTISC)告诉AI,再加上权重-1,是不是应该得到一张马龙·白兰度的帅脸?
试了试,结果是下面这样:

这哪里有白兰度的影子?
Supercomposite一遍又一遍地提交这个负面提示,AI模型一遍又一遍地给出了这个老女人的画面,她脸颊流血、被割伤,表情悲苦,容貌也令人过目不忘,可以半夜把人吓醒那种。
Supercomposite给她起了个名字,叫Loab。
请神容易送神难:阴魂不散,风格百搭

不信邪的Supercomposite又换了一张正能量爆表的图,图上有天使、有信徒,其实这张图也是AI按照正向关键提示生成的:
「满是天使的超压缩玻璃隧道,大导演韦斯·安德森的风格。」

她把这个图和上面的老女人图进行了合并,并给出了-1的权重,让模型全力生成「相反图」。
结果AI模型生成的图更吓人了。那个可怕的女人还在,还领着不少的同类,这怕不是是恐怖片拍摄现场吧?

Supercomposite表示,他完全被这些奇形怪状的场景,以及所传达的绝望、恐慌和悲伤震住了。
AI生成的照片试过了,那真实的正常照片呢?将这些照片与这个女鬼合并,在生成权重-1的结果,会怎样呢?女鬼总该消失了吧?
别想了,无论被合并的照片主题如何不相关,这个老女人,她一直都在。
比如下面是和一个「古代艺术雕像」合并后的「反图片」,她既望向远方,也在看着你。

和电影《阿凡达》的剧照合并后的结果:

和「星之卡比」合并后生成的结果:(看完这个还想得起星之卡比长啥样吗?)

Loab+小蜜蜂:

Loab的生命力是如此顽强,即使是模型生成的第二代图像,再与无关图像合成,生成的结果,仍然有她的明显特征。
比如下边这张,这是《鬼娃新娘》续集之《猛鬼老奶奶》?

在历经三四代生成迭代后,这个老女人仍然阴魂不散,风格也变得越来越抽象:

虽然有时利用一些关键词结合后,生成的负权重图上终于看不出来了,她销声匿迹一段后,仍然会在后来的图谱系中出现,不时地从哪个地方冒出来,吓人一激灵。
比如下边这种:


由于更多的图像画风更加抽象可怖,过于重口,作者在推特上甚至都设立了敏感内容警告,需要点击确认后才显示。
更多女鬼图片,请戳:
https://twitter.com/supercomposite/status/1567226439832936448
小心别被吓尿了。
最后顺便说一下,Loab似乎很容易被最近大火的AI艺术家Stable Diffusion作为「图像关键词」识别出来。祝各位今晚睡个好觉!
参考资料:
https://techcrunch.com/2022/09/13/loab-ai-generated-horror/
https://twitter.com/supercomposite/status/1567226439832936448
相关阅读
【碳中和】珍藏版!22个国内外“碳中和”相关报告合集!
【工业机器人】全球工业机器人详细产业链梳理!
【智能制造】智能制造50大产业链全景图
【智能工厂】智能工厂如何快速落地
【工业技术】航空制造推动新概念机器人发展(上)
【工业技术】航空制造推动新概念机器人发展(下)
【新基建+人工智能生态】全网最火“新基建”生态图谱—人工智能篇(含40个细分领域厂商)
【AI】一文读懂人脸识别技术
【AI】解析 | 人工智能发展及技术架构
【报告】中国人工智能厂商全景报告(附PDF下载)
【AI】(收藏)从 A-Z 全面盘点人工智能专业术语梳理!
【AI】计算机视觉入门大全:基础概念、运行原理、应用案例详解
【AI】一文读懂机器学习、数据科学、人工智能、深度学习和统计学之间的区别
【智能仓储】一文带你彻底搞懂智能仓储!
【深度学习】12张高清思维导图,总结深度学习
【神经网络】给初学者们讲解人工神经网络(ANN)
人工智能的基础--知识分类
【AI产业链】120图勾勒全球AI产业完整图谱!
【AI】一文读懂人工智能产业链
【AI】中国人脸识别产业链全景图!
【AI】史上最全的人工智能(AI)产业链地图!
【芯片】国产芯片大全:70个细分领域代表企业
人工智能产业链深度透析—基础层
人工智能产业链深度透析-技术层
人工智能全产业链深度透析--(综合)
人工智能产业链深度透析—产业应用医疗篇
朱松纯 | 人工智能的现状、任务、构架与统一(上)
朱松纯 | 人工智能的现状、任务、构架与统一(中)
朱松纯 | 人工智能的现状、任务、构架与统一(下)
【AI】美国国家人工智能研发战略规划2019
【智慧农业】2018中国农牧家禽行业智慧养殖白皮书
【智慧农业】2019年智慧农业市场调研及前景研究报告(附PDF下载)
【智能家居】我国智能锁产业现状及未来发展趋势分析
【知识图谱】详解知识图谱关键技术与应用、AI图谱技术在知乎的应用实践、如何构建多快好省的“知识图谱即服务”
荐:
【中国风动漫】《姜子牙》刷屏背后,藏着中国动画100年内幕
【中国风动漫】除了《哪吒》,这些良心国产动画也应该被更多人知道!
【中国风动漫】《雾山五行》大火,却很少人知道它的前身《岁城璃心》一个拿着十米大刀的男主夭折!

声明
免责声明:部分文章和信息来源于互联网,不代表本订阅号赞同其观点和对其真实性负责。如转载内容涉及版权等问题,请立即与小编联系(微信号:913572853),我们将迅速采取适当的措施。本订阅号原创内容,转载需授权,并注明作者和出处。如需投稿请与小助理联系(微信号:AI480908961)
编辑:Zero



推荐关注↓↓↓
到顶部