AI使造谣变得越来越容易?

在AI正加速渗透现代人生活的当下,Bard、ChatGPT、Chinchilla和LLaMA等生成式AI正迎来裂变式增长的用户。

通过将智能的机器学习算法与数十亿条人类生成的内容相结合,这些系统似乎可以做任何事情:根据字幕创建一个极度逼真的图像,或是通过已公开的用户照片合成一张新的自拍照,用视频中的一个人的肖像替换另一个人也只需要动动手指。

在这个由AI构成的“新世界”中,生成式AI创建的内容高度逼真,普通人越来越难准确区分真人和AI生成内容,伪造、扭曲现实、造谣将变得越来越容易,有图也不是真相,有视频可能也不是真相——它们需要先证明自己是真的才行。

AI写真能精准复制你的样子

人工智能技术日益发展,深伪技术(deepfake,即基于人工智能的人体图像合成技术)也在人们生活中更加常见,而且更常被滥用。

最近,喜欢拍照的王洛奇(化名)迷上了AI写真。“给自己拍照,老公怎么训练也练不出来,自从用上了AI生成软件,‘喂了’大概50张自己之前拍过的照片进行训练,写真再也不愁没有好的摄影师拍了。”

王洛奇告诉记者,使用AI生成的写真相似度应该在95%以上。“我拿了一张AI生成的写真去问女儿照片中的人是谁?孩子表示这就是妈妈呀,还问我什么时候拍的。”

因为在王洛奇进行AI写真训练时,使用的照片大多是在泰国旅行时拍的,还有几张穿泰服的,结果AI生成的写真极具异域色彩。

当被问到AI生成的照片是否有明显的缺点时,王洛奇想了想告诉记者:“其实AI写真的近景和中景都很无敌了,非要说缺点,就是远景的全身照脸部会有点垮,不知道是不是训练素材数量不太够还是生成照片的像素太低导致的。”

制作真实人物的虚假视频技术正变得越来越容易获得。生成人工智能的进步,将很快意味着虚假但视觉上令人信服的内容将在网上激增,从而导致信息生态系统更加混乱。

近日,一位女网友在网上晒出自己在地铁列车的照片被别有用心的网友下载,并用AI技术“一键脱衣”,造谣图随后在网上广泛传播。此事冲上热搜。

更为严重的是,如果AIGC(生成式AI)内容不断被训练后,可能导致生成的视频或图片成了让人难以分辨的伪证,进而损害当事人的利益和名誉。

加水印能保护用户隐私吗?

专门研究图像取证的计算机科学家、伯克利计算机科学教授HanyFarid主张对AI图像进行视觉指定:是时候该给这些数字照片贴上可识别的标签。HanyFarid在接受记者采访时表示:“我认为解决这个问题的有效方法之一,就是添加水印。”

标记文件和其他物品以证明其真实性、表明所有权和反伪造的历史由来已久。以庞大的图像档案库GettyImages为例,它为其目录中的所有数字图像添加了可见水印,允许客户在保护公司资产的同时自由浏览图像。

根据OpenAI公开发布的内容显示,该公司正在试验一个系统来为ChatGPT的创作添加水印,但段落中的字符不能像数值那样进行调整,因此文本水印采用不同的形式。

抵御AI滥用是场“持久战”

高水准“AI画师”StableDiffusion曾为自己设置了一个自动审核图片安全性的程序,一旦监测到生成的图像涉嫌违规,即它在内容政策里写明的不得用来生成“引人不适的、色情、仇恨、暴力等图像”,机器就会拦下这张图片。

对人类生成的内容和人工智能生成的内容进行联合签名和水印处理,虽然不能防止一切形式的滥用,但可以提供一定程度的保护。任何安全措施都必须不断调整和完善,因为“对手”会找到将最新技术武器化的新方法。

近日,江苏首例“人脸解封”侵犯公民个人信息案公开审理,郑某在被害人不知情的情况下从他人处购买包含姓名、身份证号码、照片、视频等个人信息,然后操作图片形成动态视频来进行人脸核验解封他人账号,帮助诈骗团伙实施犯罪。

被告人郑某因犯侵犯公民个人信息罪被判处有期徒刑八个月、缓刑一年,并处罚金人民币40000元,作案工具予以没收。该案判决目前已生效。

“要遏制AI合成的乱象,得政府监管部门、平台、网民多方形成合力,多管齐下。”北京航空航天大学法学院副教授、北京科技创新中心研究基地副主任赵精武曾表示,作为服务的提供者,AI合成平台必须承担主体责任。

《互联网信息服务深度合成管理规定》对AI合成的服务提供方作出了多项规定,比如,AI合成平台必须要求内容创作者实名认证,监督创作者标明“这是由AI合成”之类的标识,以免误导公众;在提供“换脸”技术前,应该征得“被换脸”者的同意;完善数据管理、保障个人信息安全。

《互联网信息服务深度合成管理规定》要求,深度合成服务提供者和技术支持者必须加强训练数据管理和技术管理。

如同垃圾邮件、钓鱼网站伴随着互联网的诞生而难以清除,在AIGC逐渐普及的当下,抵御使用生成AI的各种形式的滥用,何为现实何为AI生成的“真假之辩”,似乎也是一场“持久战”。

THE END
1.AI造字签名免费AI造字签名免费生成AI造字在线预览转换关键词列表>AI造字 预览签名 劲草体生成签名 小可爱生成签名 敏行签生成签名 行书签生成签名 青春草生成签名 瘦金体生成签名https://www.qianming.cn/keywords/963434
2.艺术签名在线生成器最高支持四个字的中文名字设计,如果是英文名请进入英文签名设计专用页面,这里只能输入中文,英文显示乱码。 艺术签名在线生成软件经过多年的迭代,现在是7.0版本,更新了多处细节,如调整签名字与字的间距,优化生成签名的风格等大幅提升用户体验。http://www.kachayv.cn/
3.AISignatureGenerator:在线AI签名生成器,轻松创建专业电子签名AI Signature Generator 是一个强大的在线AI签名生成器工具,帮助用户轻松创建个性化和专业的电子签名。您可以通过输入名字或首字母,或者直接绘制签名,生成适用于数字文件的签名。这个工具特别适合需要在PDF、Word文件或电子邮件中使用签名的场景。https://pidoutv.com/sites/25085.html
4.AI姓氏签名头像定制,简单易操作怎么让ai生成签名设计首先,AI姓氏签名头像定制的简便操作让用户能够轻松地定制属于自己的独特头像。通过这项服务,用户只需输入自己的姓氏和个人偏好,AI系统即可根据用户提供的信息,生成符合用户要求的个性化签名头像,无需复杂的操作步骤,省时省力。 其次,AI姓氏签名头像定制服务注重创意设计,为用户提供丰富多样的选择。AI系统通过智能算法和设计https://blog.csdn.net/qq_61688755/article/details/138677280
5.10款优秀的AI生成logo软件,简单易上手2.1 Pixso AI Pixso AI是在线矢量编辑工具Pixso的内置AI助手,基于人工智能AI,帮助用户完成创意探索。Pixso AI目前具备文生图、图标生成、AI翻译、灵感专家、设计规范生成、设计元素检查清单6大功。其中AI生成图标风格多样,可在线生成扁平、2.5D毛玻璃、3D、拟物、游戏、logo,满足多元化需求。Pixso AI每日赠送20个AI点数https://pixso.cn/designskills/10-ai-logo-generation-softwares/
6.《人工智能国际治理观察》170期据悉,其七大核心能力包括多风格多任务长文本生成、多层次跨语种语言理解、泛领域开放式知识问答、情景式思维链逻辑推理、多题型步骤级数学能力、多功能多语言代码能力、多模态输入和表达能力,目前讯飞星火认知大模型已在中文长文本生成、知识问答、数学能力三大能力上超越ChatGPT。在行业应用方面,“大模型+人工智能(AI)https://aiig.tsinghua.edu.cn/info/1442/1901.htm
7.AIGC2018年,一幅由人工智能生成的画作在佳士得拍卖行以43.25万美元的价格成交,这是世界上首次售出的人工智能艺术品,引起了广泛的关注。随着人工智能在内容创作领域的应用越来越多,人工智能生成内容(Artificial Intelligence Generated Content,简称AIGC)的概念逐渐兴起。这一概念指的是利用人工智能技术生成各种形式的内容,如文本https://www.zzbaike.com/wiki/AIGC
8.来自通义万相的创意加速器:AI绘画创作过去的和AI智能的聊天对话,以及现在的基于AI的文生图、文生音频、文生视频,其实AI人工智能的发展,可以说已经极大的丰富了我们的日常生活和工作。现在目之所及,在各行各业都可以看到AI的身影,比如你可以利用AI生成工作年报,或者数据分析,为决策提供依据等等。那么今天我们主要是来感受一下AI在绘画创作行业的重要作用https://developer.aliyun.com/article/1565129
9.AI生成logo怎么做?分享个简单的logo生成方法在现代社会中,logo已经成为了公司、品牌、产品等的象征,因此设计一个好的logo变得越来越重要。现在,人工智能的快速发展使得AI可以帮助我们更轻松地设计logo。本文将介绍如何在手机上利用AI生成logo的简单方法。 AI生成logo的应用 AI生成的logo是一种基于算法和机器学习的设计方法,它可以根据用户的要求快速生成多种可能的https://cloud.tencent.com/developer/news/1121584
10.辨识AI视频越来越难?办法不是没有—新闻—科学网中国科学院自动化研究所研究员董晶研究的就是图像窜改、深度伪造等人工智能内容安全与对抗技术,她和研究团队的许多成果已应用于多媒体智能鉴伪。面对AI越来越强大的功能,技术上有哪些应对的方法和手段?普通公众面对视频内容时如何“多留几个心眼儿”,以防上当受骗?为此,《中国科学报》采访了董晶。 https://news.sciencenet.cn/htmlnews/2024/3/518255.shtm
11.生成式AI来了,我们还能相信自己的眼睛吗?这便是生成式AI的一种应用。 021生成式AI:未来的重要技术战略 日前,Gartner发布了2022年重要战略技术趋势。其中,生成式人工智能(Generative Artificial Intelligence)位列12项重要战略之首。 同时Gartner预计,到2025年,生成式人工智能将占所有生成数据的10%,而目前这一比例还不到1%。 https://36kr.com/p/1498655379610886.html?ivk_sa=1023197a
12.国投智能破局虚假信息:AI鉴真,守护真相针对虚假信息的发现识别,国投智能自主研发AI生成内容检测鉴定的核心引擎,推出AI-3300慧眼视频图像鉴真工作站、人工智能大模型内容检测平台、美亚鉴真内容检测平台小程序等产品,全面支持人工智能生成视频、图像和文本等多媒体内容的检测。目前,市面常见的内容生成工具(如:ChatGPT、Sora、Midjourney、Stable Diffusion等)所生成https://finance.sina.cn/2024-10-31/detail-incumwna4086271.d.html
13.[推荐]每日资讯Meta组建顶级AI团队,欲开发自家ChatGPTIOA需要借助人工智能和自动化技术来提供关于攻击者意图的准确实时的数据。 CrowdStrike、ThreatConnect、Deep Instinct和Orca Security都是使用AI和ML简化IOC的领导者。其中,CrowdStrike是第一家也是唯一一家基于AI的IOA提供商。 CrowdStrike基于AI的IOA在一个通用平台上结合了云原生ML和人类专业知识,同时将AI生成的IOA(行为https://bbs.kanxue.com/thread-275927.htm
14.快看!这幅画拍出300万元,作者:人工智能!签名竟是数学方程式签名竟是数学方程式 随着写诗、唱歌相继被人工智能“攻克”后,人工智能“创作”的画作已登上拍卖市场,并拍出了超过300万元的价格。 一直以来,人工智能被认为难以替代人类完成某些有创造性的工作。但这样的认识恐怕要因最近的一次拍卖而有所改变了。 随着写诗、唱歌相继被人工智能“攻克”后,人工智能“创作”的画作已https://www.jfdaily.com/wx/detail.do?id=112679