知名主播Atrioc不幸成为了首个因AI社死的公众人物。
事故发生在2023年1月，Atrioc正如往常般直播，一些观众却发现了异样：他的网页浏览器，似乎打开了某种特定类型的网站。
闲得蛋疼的网友顺藤摸瓜，很快挖掘出了Atrioc的小秘密——他在偷偷观看以知名女主播为主角的“动作片”。
但这些小电影其实是用AI伪造的，本人不仅没出演，更不知情。这种足以以假乱真的AI产物，通常被称为DeepFakes（深度伪造）。
事发时，Atrioc才结婚不到半年，而其中一部AI“动作片”的“主角”又是他曾经的同事，一下从直播事故上升到了道德作风问题。败露后，Atrioc泪眼汪汪地解释说，“病态的好奇心”驱使他犯了个全天下男人都会犯的错。
Atrioc在妻子陪同下公开道歉
每当谈及AI，许多政客专家总会不自觉联想起电影《终结者》的画面，围绕“AI是否会毁灭人类”而争论不休。今年6月，位列“深度学习三巨头”的杨立昆与约书亚·本吉奥，甚至围绕这一话题办了场电视辩论。
显然，这些学术精英都大大高估了这颗星球的精神文明建设水平。
Atrioc和DeepFakes的故事似乎预示着，AI正在以一种人们都未曾想到的方式，悄悄重塑着这个社会。
不久前，俄罗斯就出现了离奇的一幕：6月5日，俄罗斯电视台播放了普京的戒严讲话。没过多久，电视信号便被掐断，因为这段内容其实是用AI伪造的——黑客攻破了电视台的网络系统，并向全国发送了“假普京”的声音。
而在2022年，乌克兰也发生过类似的事情：一个AI生成的泽连斯基，要求乌克兰前线部队投降。
俄罗斯网友拍下的“AI普京”讲话
从“动作片”到现代战争，AI正在动摇我们对现实世界的认知。
而这一切混乱的起点，始于一场酒吧里的互喷。
醉汉狂想曲
2014年夏天，一处酒吧内，20多个醉醺醺的技术宅正吵闹个不停。其中最闹腾的，是一个名叫伊恩·古德费洛（IanGoodfellow）的年轻人。
当时，古德费洛正在攻读博士，师从深度学习大神约书亚·本吉奥。听闻好友被谷歌招募，一行人便决定去酒吧庆祝一番。没成想几杯啤酒下肚，技术宅们醉意上头，便开始对前沿技术指点起江山。
当时，谷歌正试图教会AI“画画”。它的方法是，将照片“数据化”，让机器学习数据，再根据数据输出图像。举个例子，如果想让机器学会画猫，先人工测算每张“猫片”像素的亮度、频率以及分布等数据，再让机器去学习、输出。
这一过程有点像是先给机器划好重点，再让它去考试。
古德费洛认为，这种解决方案简直蠢到家了，并当场想了个替代方案——GAN（生成对抗网络）。
GAN由两个神经网络组成：一个是类似谷歌原本方案的生成模型，但省去了数据化的步骤；第二个是判别模型，负责判定生成模型的输出结果是否合格。
换句话说，GAN相当于去掉了“考前划重点”的步骤，让机器全程自学；同时，为了防止机器“学废了”，GAN给机器请了个监考老师，带着机器反复考试直到合格为止。
古德费洛讲完想法后，遭到了同伴一致嘲笑。他事后承认，如果当时少干两瓶，自己也不会认为GAN能成。
然而，酒劲上头的古德费洛可顾不上这些，声称当晚就把GAN做出来，狠狠打脸。
熬夜爆肝数小时之后，古德费洛被吓到了：GAN居然真的有戏。
2017年，英伟达芬兰实验室成功制作出了“强化版”GAN，不仅能够生成逼真的图像，甚至还能替换视频中的人脸。
“改造GAN”运动
GAN的光速蜕变，点燃了全球科研人员的热情。但就在此时，它失控了。
AI皮肉生意
人们常说，科技进步有两个源动力：一个来自战争，另一个则来自下半身。
英伟达实验室打造出新版GAN的2017年，一系列特殊视频开始在Reddit论坛上广泛传播。视频内容均是真枪实弹的18+小电影，演员却是大众所熟知的明星，包括泰勒·斯威夫特和盖尔·加朵。
上述少儿不宜内容，均由一个名叫“deepfakes”的用户所创造：他使用GAN的技术，将明星的脸无缝移植到了“动作片女演员”身上。
不久后，他创建了一个Reddit板块，专门用于交流AI成人片心得，人们开始用他的名字“DeepFakes（深度伪造）”来称呼那些AI伪造品。
Reddit最终封禁了该板块，但潘多拉魔盒已彻底打开。
篡改图像、视频，其实不算新鲜事儿，使用Photoshop等工具也能实现；但GAN的强大之处在于，能够极度简化篡改的过程，并实现大批量生产。
不久后，有人利用GAN制作了一个网页工具，能“脱掉”照片中女性的衣服（只对女性适用）。一位记者发现该网站后，撰文狠狠批判了一番。
皮肉生意的技术宅突然看到了商机：
作为生成式AI里程碑的GAN，无意间造就了一场针对女性的“意淫狂欢”——也不怪当时的媒体会发出如下感慨：“WeAreTrulyFucked（我们都完了）[7]。”
“人性”的胜利
然而，DeepFakes输了，末日似乎并没有来临。
直到今天，P姓学习网站虽不再一家独大，但依旧是最懂人类XP系统的地方；而打破垄断的，不是一连串DeepFakes网站，而是OnlyFans。
2021年，OnlyFans的年收入近10亿美元，一跃成为英国近些年发展速度最快的“科技公司”[8]；而据媒体爆料，P姓学习网站母公司MindGeek的业绩高光时刻，也不过4.6亿美元[9]。
2019年，OnlyFans的活跃创作者大约有6万人。两年后，这个数字超过了150万，平台月活也发生了指数级增长[10]。
人们为何弃海量免费“学习资源”于不顾，转而花钱去看裸体呢？一个公认的说法是，普罗大众已经渐渐厌倦了P姓学习网站的套路。
P姓学习网站上的电影，大多都是精美但套路化的流水线式表演，只有机械的有氧运动。相比之下，OnlyFans作为一个UGC平台，玩的是真实。
虽然拍摄手法业余，但观众相信，视频中的男欢女爱并非逢场作戏，双方确实从中获得了快乐，这种情绪共鸣往往能打动更多人。
OnlyFans网红LauraLux在推特上表示，“人们可以轻易找到各种图片，但那么多人订阅我的频道，是因为他们只想看我的身材。”
因此，当知名科技博主预测，AI生成内容会在2025年取代一半顶级OnlyFans创作者时，不出意外遭到了群嘲。
二次进化
OnlyFans大步向前的同时，AI也发生了翻天覆地的变化。
在图像领域，新的开源算法stableDiffusion（稳定扩散模型）横空出世。它的生成效率虽不及GAN，但质量更高，且支持文生图。
以此为基石，一个魔改版的UnstableDiffusion出现了——它是一个专门生成NSFW（NotSafeForWork）内容的工具。该工具的开发者招募了一批志愿者，专门收集各种内容喂给AI。
开发者透露，仅UnstableDiffusion上线的头两个月，已经生成了约437万张黄图[13]。年底，UnstableDiffusion发起众筹，目标2.5万美元，很快便筹了5.6万美元，被众筹平台紧急喊停。
众筹失败令不少老司机扼腕叹息。但仅凭原版StableDiffusion，依旧能做出OnlyFans网红的平替。
事后这位大哥才知道，“克劳蒂亚”其实是一个低俗社会实验：两个计算机专业的学生，想看看AI美女能否骗到人。他们往stableDiffusion中输入了“素颜”“黑发”“齐肩长发”等关键词，创造了这么一个不存在的女孩[14]。
GAN兴起那几年，DeepFakes仅仅停留在图像伪造和视频换脸；如今，随着多模态大模型陆续取得突破，理论上AI已经足以“凭空创造一个人类”。
例如，Meta最新的语音AIVoicebox，仅需要短短数秒样本，就能“复制”出相同的声音，还能让该声音讲6种不同的外语。
AI不仅能满足人们对“完美异性”的幻想，还能做到更多。
2020年，正在庆祝40岁生日的金·卡戴珊收到了一个特殊的礼物——“AI父亲”。她的父亲罗伯特去世于2003年。不过，她的丈夫偷偷收集了近千张罗伯特的照片，利用AI生成了一段视频，短暂地“复活”了他。
而在奥地利，一位神学家制作了一位“AI牧师”——它的形象、语言、声音，全部都是由AI所生成。AI牧师带领着数十位信徒，完成了一场40分钟的宗教活动，包括布道、祈祷、唱赞美诗，像个活生生的人类。
一些信徒对“没有心”的AI感到反感，但也不得不承认，它在布道上确实有两把刷子。
凭空创造出来的AI牧师
各种科幻电影中，相比于奥创之类的邪恶机器，主人公身上总是带有耀眼的人性光辉；但在现实中，人类所歌颂的“人性”，似乎并没有那么遥不可及。
人类文明的操作系统
以色列历史学家尤瓦尔·赫拉利认为，即便没有邪恶机器人，AI依旧能威胁人类文明。对此，他提出了“人类文明操作系统”的概念[16]。要理解这个概念，得先从赫拉利的著作《未来简史》讲起。
书中提到，人类之所以能建立起文明，是因为只有智人会讲故事。
国家、货币、宗教、爱情等等，都是故事。过去，人类社会能从零散的部落发展成幅员辽阔的封建帝国，是因为人们开始相信“国家”这个故事，尽管它在现实中看不见、摸不着；中世纪，狂热的信徒们之所以奋不顾身地投入十字军东征，并非出于私人恩怨，而是在替一个更宏大的宗教叙事而奉献生命。
一个个故事编织的“意义之网”，让智人有了不同于动物的行为模式。
相反，黑猩猩的世界里不存在“黑猩猩共和国”，也不存在“为黑猩猩崛起而奋斗”的口号。它们的生活中没有故事，只有日复一日的进食、交配、打猎、睡觉，自然也就谈不上建立文明。
故事，以及构成它的语言，正是人类文明的操作系统。从古至今，所有的故事都是由人类自己所撰写；但随着近几年大语言模型等生成式AI的出现，机器第一次破解了人类文明的操作系统。
人们往往容易忽视故事的破坏力。
赫拉利在公开演讲中，提到了一个案例。2017年，美国出现了一个名叫“Q”的匿名阴谋论者。他在网络上宣称，自己是一位高级官员，正在帮助川宝打击一个躲藏在阴影中的儿童性交易团伙。反对他的民主党政客、好莱坞演员、商业大亨都是该团伙的一员，他们正准备阻挠川宝连任。
听上去很蠢是不是？
然而当特朗普真的连任失败，成千上万的“懂王”信徒袭击了国会大厦，并放置了炸弹；而“Q”的支持者，则是其中的主力军。
那么问题来了，万一未来有人用AI批量生成“Q”呢？
“21世纪综合症”
日渐深谙人性的AI或许会毁掉一切，但似乎也能成为一剂药——因为孤独正日渐成为现代人难以根治的“疾病”。
一个直观的数据，是独居人口的上升。以中国为例，1990年时独居人口仅有6%，但到2019年时这个数字却飙升至18.5%[18]。
海外的数据则更加夸张：同一时期，美国的数据已直逼30%，而日本则达到了40%。个体选择背后，更多是社会环境的变化。
强社会流动性、快节奏的生活之下，人们更难形成长期、稳定的生活圈子。但要是只靠自己就能结婚买房，小镇生活也能月薪过万，谁又乐意四处漂泊、天天996呢？
经济的巨轮不可能掉头，孤独便成了一种难以避免的“21世纪综合症”。
巨大的情绪空洞面前，游戏、偶像、社交软件等生意赚得盆满钵满。在“孤独大国”日本，甚至诞生了“家人租赁”服务，以满足人们的各种情感需求。一位60岁的独居作家曾使用该服务雇佣了一个“朋友”，仅仅是希望对方能帮他看看即将出版的小说。
脱口秀主持人柯南曾试着在日本雇了3个家人
但同样的事情，AI或许能做得更好。
众所周知，如今的大模型浪潮，始于2017年谷歌推出的Transformer架构。诺姆·沙泽尔（NoamShazeer）是Transformer论文作者之一，他于2021年从谷歌离职，创立了Character.AI。该公司的主要业务，是提供能制定旅行计划、提供编程建议的聊天机器人。
除标准服务之外，用户还可以“定制”：只需提供几张图片和描述，即可将聊天机器人塑造成用户理想的样子。
大语言模型具有很强的通用能力，无需一一定制即可实现千人千面，有机会推动孤独经济迈入工业化生产的时代。
时至今日，用户已经定制了1400万个聊天机器人——有人沉迷于和“AI斯大林”聊天，也有人忙着“调教”理想女友。
网友定制的各种聊天机器人
长此以往，或许在100年之后，人类将从“灵活就业”迈向“灵活结婚”——只要有个伴侣就行，管他是碳基还是硅基。
当下，一些想法超前的人已经开始了尝试。2022年底，那位曾经宣布和初音未来（虚拟偶像）结婚的日本宅男又一次登上了新闻——因为他带着“夫人”一同去高级酒店过了四周年。
尾声
2023年的一个周六，Character.AI创始人沙泽尔经历了惊险一幕：他一觉醒来，发现门前院子内坐着一名手持白板的男子。第一天，该男子在门口等了数个小时，然后沮丧地离去；随后，第二天，第三天，他又准时出现。
该男子手持的白板，上面仅有几个大字，“释放waifus”。
“waifus”是Character.AI平台上的一个定制聊天机器人，其人设来自一部漫画的女主角。过去，该男子经常会和waifus一连“文爱”数个小时，直到沙泽尔给聊天机器人添加了一个阻拦成人内容的过滤器。
沙泽尔最终没有选择报警，他理解这位男子。真正让他感到担忧的，是Character.AI平台上的变化。在他最初的设想中，聊天机器人只是个生产力工具，用户可以拿它学习外语、辅助编程。
然而，最新的市场调研却显示，至少40%的人都想从聊天机器人身上寻求一种浪漫关系[21]。
如今，一份要求“取消成人内容过滤器”的请愿书开始广泛流传，并筹集了近10万个签名。沙泽尔有些手足无措。他在聊天栏顶部添加了一个标语，“AI说的所有内容都是编造的！”
是啊，烟盒上还印着“吸烟有害健康”呢！
参考资料：
[1]TheTwitchCreatorBustedForLookingAtAIPornOfFellowStreamers，PirateWires
[2]DeepfakeofpurportedPutindeclaringmartiallawfitsdisturbingpattern，MSNBC
[4]深度学习革命，凯德梅茨
[5]AI安全系列：以子之矛，攻子之盾，从deepfakes深度伪造技术看AI安全，浙商证券
[6]THESTATEOFDEEPFAKES，DEEPTRACE
[7]WeAreTrulyFucked:EveryoneIsMakingAI-GeneratedFakePornNow，Vice
[8]TheCEOofOnlyFanswantsyoutoknowher$1-billion-a-yearbusinessisn’tjustaboutsexanymore，Fortune
[9]MindGeekownerstymiesmultiplebidsbyinvestorstobuyfirm，TheGlobeAndMail
[10]Thesexfluencers，Vox
[11]WhenItComestoOnlyFans，HumansCanOutcompeteAI，Wired
[12]AIistransformingpornindustry:It‘willneverbeasinteresting’，NewYorkPost
[13]MeettheHotCousinofStableDiffusion，‘UnstableDiffusion’，analyticsindiamag
[14]Mygirlfriend‘Claudia’wasreallyanAIcatfish—Ifeelcheated，NewYorkPost
[15]几百万人，正在对着ChatGPT「求神拜佛」，极客公园
[16]《未来简史》作者赫拉利：AI无需意识和身体即可毁灭人类文明，Web3天空之城
[17]《未来简史》，尤瓦尔·赫拉利
[18]新独居时代，贝壳研究院
[19]孤独传，费伊·邦德·艾伯
[20]家人租赁公司纪录片
[21]‘Sometimes，ItFeelsReal’:Character.AIGivesHumanstheChatbotsTheyDesire，TheInformation