对社会上关于我们还没有弄清楚人工智能,但反人工智能工具已经存在。和一些大众雨刷器怎么喷水视频的相关题,不少人都想知道,那接下来就让小编为你介绍一下吧!
发表者|啊啊
编辑|章杰
校对|卷曲
快速提和快速回!下面的图是AI生成的吗?
我先说实话,最后公布案。
如今,人工智能生成的内容越来越渗透到我们的生活中,随着人工智能技术的每一次迭代,辨别真相和谎言变得越来越困难。
根据欧盟(EU)执法机构欧洲刑警组织今年6月的一份报告,到2026年,大约90%的互联网内容可以由人工智能创建或编辑。
为了增加内容的透明度和可靠性,国内外相继推出内容创作者声明功能,为人工智能内容“贴上标签”。
9月20日,短视频TikTok在上全面启动AIGC内容监管,并推出了名为“展示AI生成内容”的新功能。如果创作者不报告相关人工智能工具,其内容可能会被删除。
9月13日,B站宣布“添加主动内容识别”,宣布从9月20日开始,UP主将上线“创作者声明”功能,可以添加识别功能,包括AI生成的、虚构的、等,对他们的视频发出了通知。内容等
9月8日,微信发布关于规范自媒体创作者内容标签的公告,呼吁自媒体创作者带头规范发布内容标签。如果您使用深度合成技术创作内容,您必须遵守法律法规和规则,并明确表明您的内容是技术生成的。
此前,今年5月,抖音、小红书等要求创作者在显着位置展示AI生成内容,并根据实际情况勾选“AI生成内容”。抖音发布《人工智能生成内容识别水印和元数据规范》的通知,帮助用户区分虚拟内容和真实内容。
每个都将被要求对人工智能生成的内容提供清晰的描述,这无疑会给内容增加一层水印保护。
那么为什么需要数字水印呢?如何添加AI水印?在人工智能普及的时代,最终可能需要技术来提供可行的解决方案。
DeepFake骗局猖獗,真假难辨
Deepfake是指利用人工智能合成人的外貌或声音的技术,名人和公众人物,例如前人工智能孙燕姿和“时尚教皇”,经常成为此类伪造的受害者。
AI生成的教皇穿着巴黎世家风格羽绒服走在街上的假图像
近期,利用Deepfake技术制作的虚假视频在TikTok和YouTube等主流社交媒体上引起关注。
这些假视频往往是由公众熟悉的人合成的,比如世界首富马斯克在视频中推荐了他看好的投资机会,让人很难判断其真实性。
人工智能不仅被用来恶作剧名人和大众,还被用来操纵新闻事件和影响股价。
5月下旬,一张五角大楼燃烧的照片在社交上疯传,导致标普500指数从高到低暴跌。最后,有媒体声称该图像是由人工智能创建的。
在互联网时代,几乎任何人都可能成为人工智能的受害者。
知名的AI文胜图网站允许用户创建高度定制的创意模型并生成各种风格的图像,包括一些边缘内容生成。
大多数情况下,这些模型通过从互联网上拉取照片、进行模型训练、在未经当事人同意的情况下制作某种风格的人物照片甚至软照片来获得下载和关注。
今年7月,德国广告公司DDB在社交上发布了有关儿童数据安全的公益公告,向人们展示了儿童面部数据被用来创建成人内容的潜力,并要求家长尽可能少地分享。网上儿童照片。
最初,深度伪造品并不难识别,因为大多数都有明显的缺陷,例如不自然的面部表情或不眨眼的眼睛。但随着时间的推移,深度伪造技术逐渐消除缺陷,使伪造更加接近现实,达到“无中生有”的效果。
除了人工智能生成的图像难以区分真假之外,音频和视频中的伪造技术也变得越来越普遍。
例如,浙江省警方近日破获一起造谣事件,犯罪组织利用人工智能制作、传播虚假视频18万余条,非法获利4万余元。
此前曾发生过一系列人工智能事件,规模和速度引发不少讨论。安徽,犯在聚会上收到“朋友”视频后,9秒被骗245万元;包头,被亲友用换脸、拟声词骗走430万元。10分钟。
可以看到DeepFake技术渗透到多模态的各个方面,添加水印可以通过在“真实与虚假”、“虚拟与真实”之间建立屏障来帮助防止混淆。
如何添加AI水印?
无论教皇是否真的乔装走在街上,或者他听到的歌曲是否不是斯蒂芬妮孙演唱的,我们都需要知道内容是否被人工智能更改或生成。
7月27日,OpenAI团队悄悄下线了其“AI生成内容标识符”,理由是该标识符对AI生成内容的检测成功率仅为26,其AI检测工具的准确性已经不可能。满足现实世界的需求。满足操作要求。
在此背景下,数字水印成为和工具提供商一致认可的可行且有效的解决方案。
它是一种隐藏在数字内容中的特殊识别信息,用于识别内容的来源和真实性,类似于隐形的“防伪标记”,比如偷偷添加“AI生成”的文字样式。在文章中。
最初,国外创意Shutterstock率先宣布将使用C2PA协议来标记AI生成的内容,以区分其是否由人类创作。
C2PA利用数据加密技术对每个像素进行编码,允许事后查看创作来源、历史修改历史等,使操作可追溯,减少生成式人工智能造成的“误传”。
这是数字水印的原始形式,微软、Adobe、索尼和其他科技公司已将其纳入其产品中,为人工智能生成的内容添加水印。
8月31日,谷歌推出了一款名为SynthID的新工具,允许用户在AI生成的内容中插入隐形水印,而不影响图像本身的质量和体验。
谷歌DeepMind首席执行官DemisHassabis表示,SynthID的开发是为了解决深度伪造的隐藏危机,也可以应用于其他形式的AI生成内容,包括音频、视频和文本。
SynthID目前仅向使用Google成像工具Imagen创建的图像添加水印,并识别该图像是否是为此模型创建的。
即使您更改亮度、颜色、噪声等信息元素,水印也保持不变。
该工具提供了三个级别的级别来解释水印识别结果。如果检测到数字水印,则部分图像可能是由Google绘图工具Imagen创建的。与传统水印不同,即使图像被裁剪、编辑或旋转,也可以检测到水印。
SynthID的水印检测结果不同
SynthID不仅可以给图像添加防伪标记,还可以识别图像的真伪,可以在一定程度上提高AI产品的安全性。
同样,8月21日,商汤科技推出可信人工智能基础设施SenseTrust和数字水印技术,并应用于“商汤喵喵”等产品中。
对于某些应用,用户可以在AIGC相关产品发布后进行,并且只能通过特定的解码器和专用密钥来提取和支持多模式数据。
然而,除了隐蔽的数字水印之外,商汤科技还在人工智能生成的图像中添加了传统的显式水印。
除了为图像内容添加标签外,研究团队还在开发人工智能生成文本工具的水印版本。
此前,马里兰大学的研究人员发表了一篇研究论文《大型语言模型的水印》,详细介绍了如何在文本内容中添加数字水印。OpenAI系统安全部门负责人JanLeike在接受采访时表示,OpenAI正在探索的水印方法与此类似。
该方法的大意是通过增加生成句子中某些特定单词出现的概率,为句子添加“数字水印”,从而更容易检测该句子是否由AI生成。值得一提的是,这种方法中的“水印”只有从一开始就内置到大型语言模型中才有效。
例如,研究人员要求ChatGPT生成句子“今天天气很好。小明在_____”。要在这里添加水印,您需要随机选择一些单词,例如“park”,“park”。选择“学校”和“天气”作为系统默认值。词汇。
有水印版本可能是“今天天气很好,小明在公园打网”,无水印版本可能是“今天天气很好,小明要去公园打网”。”“有可能。
生成的句子对于普通人来说可能看起来是一样的,但是通过计算句子中出现的首选单词的数量,您可以判断句子是否带有数字水印。如果首选单词的值高于一定百分比,则水印检测器可以确定该文本是由人工智能生成的。
当然,上面的例子只是基于原理的简单模拟,实际论文中系统生成的词汇更为复杂。
稍微改变图像中特定像素的颜色来插入信息,或者改变文本内容中单个单词的频率来插入信息,都是添加数字水印的方式,而这些隐藏的水印在输出时就存储在AI本身中。它是由用户添加的,因此可以被检测到。
除了自动为AI生成的内容添加水印以保证生成内容的安全外,内容创作者还将利用水印来打击AI复制技术的应用。
今年4月,上海交通大学的一个研究团队推出了“Mist”开源工具,可以在图像上添加隐形“水印”,使其无法识别,并阻止人工智能学习和模仿它们。我做到了。
图像中的“噪声”使得图像创建工具的算法难以识别原始图像的特征,从而难以创建与原始图像风格相似的新图像。
例如,第一张照片是莫奈的《撑伞的女人》,第二张照片是将照片输入AI后创建的AI版本。如果在原始图像中添加Mist数字水印,则AI处理后的图像将看起来像第四张图像。这将防止创作者的作品被随意用来创建类似的图像。
用户还可以根据自己的实际需要设置和调整水印。设置水印信息时,必须保证信息的唯一性,以保证水印的有效性。
“仅仅因为你愿意上传照片并不意味着你愿意为了人工智能而牺牲你的工作,”社交上的许多创作者表示。
B站UP主“UnrealCreature”分享开源软件Glaze,教网友AI如何阻碍工作“自由”。UP主“-边火-”发布了一段题为“网络民间偏方,添加噪音和水印,能否避免AI识别?”的视频,并在评论区“揭秘”了AI防伪标记的添加。
标记能防止人工智能“滥用”吗?
面对生成式人工智能带来的挑战,中国、美国、英国等政府积极出台人工智能管理规范,但以下五个国家或地区中,只有欧盟和中国提出了人工智能管理规范。以下标签生成内容的人工智能水印。
6月14日,欧盟正式批准了一项人工智能法案草案,要求对人工智能生成的内容进行标记,以提高其透明度。目前,该法案尚未正式生效。
8月15日,我国《人工智能生成服务管理暂行办法》正式实施,对生成内容的准确性、可靠性提出了新的要求。服务提供者必须采取相应的技术和管理措施,确保创作的内容得到保障。实事求是并提供透明的信息来源。
就谷歌、Adobe、微软等科技公司和而言,应对人工智能内容引发的假新闻以及因假新闻传播而导致的监管不力承担责任。
当照片上出现数字水印时,会相应标记为“人工智能生成内容,谨慎显示在屏幕上”,方便网友识别该照片为虚假内容,降低其传播速度。程度。
另外,关于内容
No Comment