应用办公生活信息教育商业
投稿投诉
商业财经
汽车智能
教育国际
房产环球
信息数码
热点科技
生活手机
晨报新闻
办公软件
科学动态
应用生物
体育时事

深度伪造,眼见不实

  人们常说耳听为虚、眼见为实。然而在今天,眼见就真的是真实的吗?
  随着数字技术的迅猛发展,一种叫深度伪造的技术正慢慢渗入人们的生活。这种技术可以利用人工智能和大数据生成虚假图片、视频、文本等,其逼真程度往往让人难辨真伪。
  先进的技术本无好坏之分,但当技术披上了伪造的外衣,则不仅会让一些不明真相的网民受到欺骗,更深层面上来看,它最大的威胁,是在广大群众中造成信任的危机。
  图源:视觉中国
  一hr想知道什么是深度伪造,首先要知道它的技术原理深度合成技术。简单来说,就是指利用深度学习、虚拟现实等合成类算法,实现文本转语音、音乐生成、人脸生成替换、图像增强等功能的技术。
  举几个例子就会发现,深度合成在我们身边其实已经运用得比较广泛。
  图片合成,包括人脸替换、专属表情包制作、写真换装等,人们可以一键创造出任何自己想看到的全新图像。比如在一些小程序中,只需上传一张自己的照片,一键换装、一键美颜、一键换背景等都可以通过AI技术轻松实现。就算想要合成粉红色大象在撒哈拉沙漠玩扑克等天马行空的图片,也都不是难事。
  语音合成,即运用AI技术生成接近真人语调和节奏的声音。比如,当你听到注意看,这个男人叫小帅这句话时,脑海里是不是有一个声音已经呼之欲出?没错,这个常常出现在抖音、B站的电影解说配音,就是深度合成出的一款声音。它的音色、语气和停顿非常自然,几乎没有机器的生硬之感。而这种无限接近真人的声音合成技术,在智能语音导航、有声书朗读、客服电话中已经得到广泛应用。
  视频合成,即通过改变人的面部特征,从而操纵面部表情,可以让一个人看起来在说他从未说过的话。比如,在电影《阿甘正传》中,制作方就曾将肯尼迪的影像填充在影片中,炮制了肯尼迪接见阿甘的画面。而在一些换脸小程序里,网友也可以用自己的照片替换影视剧主角的脸,合成一段由自己出演的经典影片。
  近年来,深度合成技术已在很多领域大量应用,生产出的内容数量和关注度呈快速增长态势。统计数据显示,在国内外主流音视频网站、社交媒体平台上,2021年新发布的深度合成视频数量较2017年已增长10倍以上。
  由此可见,在深度合成技术的世界里,耳听、眼见甚至连触摸,都不见得是真实的。
  然而,每一次技术变革在带来福祉的同时,也经常伴随着风险。正如同硬币的正反两面,深度合成的另一面就是深度伪造,即利用深度合成技术生成虚假的视频、照片和文本等。
  二hr深度伪造可以说一出生就带有原罪。2017年,一位名为deepfakes的美国网友上传了经过合成技术编辑的色情视频,这是深度伪造在世人面前的第一次亮相,很不光彩。
  此后,随着技术逐步平民化,造假手段也一日千里、突飞猛进,由此带来的风险隐患也越来越多。
  图源:新华社
  深度伪造造成的虚假信息传播,给社会治理增添了不少难题。麻省理工学院分析了十多年来300万推特用户发布的信息后发现:一个捏造故事传播到1500人的速度是真实故事的6倍。有数据显示,自2018年11月以来,在线识别的深度伪造视频数量每6个月翻一番。
  正因为深度伪造的信息极易迷惑人,这一技术也成了认知战信息战的新武器。美西方国家近年针对我国的舆论战中,大量使用深度伪造作品。像香港修例风波期间,一些境外媒体伪造港警殴打无辜民众等视频,颠倒黑白,煽动舆论,极易让人产生错误认知,损害我国形象。
  除此之外,利用深度伪造实施的经济诈骗更是五花八门。比如在2020年,香港一银行经理被诈骗者使用语音克隆技术冒充合作伙伴骗取了3500万美元,这也成为目前已知造成最大经济损失的深度伪造案件。一项研究估计,受深度伪造影响,全球企业每年损失高达780亿美元。
  深度伪造不仅给个人、企业和社会带来隐患,更是给国家安全带来威胁。一些国家的现实政治显示,特定情况下适时出现的深度伪造,会造成社会动荡,甚至改变一个国家的政治进程。有美国政客曾说:过去威胁美国需要核武器、航母和导弹,但今天,制作一个逼真的‘深度伪造’视频,就能破坏选举,使国家陷入巨大的内部危机。
  三hr深度合成这项技术本身并没有错,但一旦被恶意滥用,跨越道德和法律的边界滑向深度伪造时,就会遗祸无穷。当深度伪造这个魔盒被打开,虚实交界处必须设置一道明辨是非的防火墙。
  首先,还是要用好法律这把武器。近几年,很多国家针对深度伪造等新技术,出台了相关法律法规或管理办法。我国从2019年11月起,先后出台《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规,对生成合成类内容等提出监管要求。
  比如《网络音视频信息服务管理规定》中明确,利用新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识,不得利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播虚假新闻信息。同时也明确,违反该规定的,由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理。
  能否将这些规定执行到位,还需要有关部门加大网络安全执法力度,不断完善日常监督检查和定期检查相结合的监督管理制度,推动网络平台履责尽责,有效规范涉及深度合成技术应用的行为。
  其次,要善于用技术制约技术,加快打造深度伪造信息检测系统。比如,美国五角大楼国防高级研究计划局启动了媒体取证计划,赞助十几个高水平的研究机构加强对深度伪造、合成媒体的检测。
  在国内,部分互联网公司在这方面也具备一定的技术积累。早在2019年,百度安全就推出国内首个基于人脸搜索、人脸属性提取、语音识别和OCR识别的深伪检测平台,对主流深度伪造数据识别准确率在99以上。
  然而可以预见的是,随着技术的不断发展,深度伪造也将变得更加难以检测。要想在这场基于技术博弈的猫鼠游戏中占得上风,就需要加强深度伪造检测技术研发,在关键技术领域突破攻坚,持续提升和迭代检测技术能力。
  最后,深度伪造面向的是广大网民,因此还需加强网络安全教育,提升全民网络素养。我国是网络大国,拥有世界上数量最多的网民,截至2022年6月,我国网民规模为10。51亿,互联网普及率达74。4。但也要看到,我国数字素养教育起步晚,教育水平、知识水平参差不齐。还需要持续加强对网民的宣传教育,特别要注重对特定群体的数字技术扫盲,在整个社会接种防范深度伪造的疫苗。
  深度合成技术可以说是一把双刃剑,而深度伪造就是那道颇具伤害性的锋芒。希望在各方的共同努力下,我们能用好这把剑,让它多朝着有利于社会发展的方向,发挥作用。

HarmonyOS3新一轮升级名单,P40Mate30等机型头条创作挑战赛近日,华为公布了新的一批HarmonyOS3的升级名单,包括正式版、公测版以及Beta测试版。其中正式版一共有15款机型,公测版包括三款平板电脑,Beta测……吸金847亿!北京334家企业入选新一批专精特新小巨人海淀占2022年8月9日至12日,北京市经济和信息化局公示了第四批国家级专精特新小巨人企业名单,合计334家,海淀区、经济技术开发区、朝阳区位列前三名。北京时间京融智库联合上奇……兜兜转转,谢霆锋王菲始终分不开,再续前缘文阅栀编辑阅栀都知道娱乐圈水深,除了水深,明星之间的感情线也是有着千丝万缕的联系。谢霆锋、张柏芝、王菲、陈冠希、戴辛尉、陈晓东、李亚鹏这些人之间究竟有什……李春江快哭了,23岁新星被弃用,上海男篮四连败,CBA最先下李春江快哭了,23岁状元被弃用,上海男篮一败涂地,CBA谁先下课?CBA常规赛第六轮的比赛已经正式打响,令球迷万万没想到的是上赛季常规赛亚军,由李春江带领的豪华阵容上海男篮面对……从钝化到形成底部结构需要多久?这个抄底时间段要重点关注今晨美联储宣布加息75个基点,A股三大指数整体走出低开探低回升,上证探3092后快速拉回到3100之上,一度翻红最高上冲3125,由于量能跟不上冲高回落,遇阻5天线,收在310……糖尿病人怎么喝酸奶?两个安全的喝酸奶时间,终于说清楚了酸奶和牛奶一直以来都是日常生活中会饮用的饮品。也是被人们称赞的健康饮品。大家也都知道,无论是牛奶当中,还是酸奶当中的钙含量都是比较高的,可以说补钙的小能手。即使是跟其他常……上市银行半年报陆续出炉多数稳健增长优质城商行业绩亮眼见习记者赵心怡上市公司2022年中期报告陆续披露,截至目前,交通银行、邮储银行、招商银行、民生银行等26家银行公布了半年报,已有数据显示,上市银行业绩整体稳健。六大……估值缩水70,这个烧了40亿美元的独角兽还有机会吗?时隔四年的新品发布。四年过去,MagicLeap的第二代产品终于要正式面世了。MagicLeap曾是AR领域的明星初创企业,在其尚未发布正式产品之前,光凭demo和……解秋乏,补点钾,入秋后,建议常备2菜3茶,解乏抗秋燥处暑已至,秋意渐浓,如今正是送夏迎秋的好时节。这时候暑热会渐渐消退,早晚也会出现温差,与暑热难耐的夏天相比,进入处暑后我们不再汗流浃背,体内得新陈代谢也开始趋于平衡。在这个恢复……幸福到万家赵丽颖的穿搭,朴素又时尚热播剧《幸福到万家》,马上就迎来了大结局。这部剧自开播以来,讨论度一直都居高不下,让人随时都能发现新生气。不过生气也不耽误追剧,因为剧中塑造……特朗普大炮对准湖人巨星!喊话詹姆斯变成女人,加盟我的队伍吧我们都知道美国前总统唐纳德特朗普有多讨厌勒布朗詹姆斯。虽然他已经离开了白宫,但这位前总统没有放松对詹姆斯的态度,他决定在最近的一次政治集会上再次对湖人队的超级巨星施压。特……今夏A字半裙小白鞋火了,不管奔五还是奔六,这样穿优雅减龄品牌好物抗老好物推荐虽然还未至盛夏,但是如今的气温比起盛夏也不遑多让。不少打扮时髦的年轻小姐姐,早已迫不及待地穿上了小吊带与短裤。那么,在炎热的夏季,我们如何穿衣打扮才能……
青海发现1只雪豹,零下10趴冰上难以行动,用了6小时才救起它位于青海省茫崖市的翡翠湖,南依昆仑山,北靠阿尔金山,是一个美丽的人工盐湖。大小不一、形状不同的盐池,在阳光的照射下,呈现出深绿、翠绿、淡青等颜色,就像一块块美丽的天然翡翠,景色……一代人的记忆,一代人的青春,足球知名解说大盘点,哪个是你最爱足球解说对于足球比赛的重要性自然是不言而喻,比赛如果没有解说总感觉少了些味道。自从足球比赛开启电视转播以来,国内也涌现出了一批优秀的解说员,下面我们就来盘点一下国内具有代表性的……西安儿童画展上毁三观的一幕,涉嫌儿童色情,内容不堪入目!各位朋友们麻烦您动一下发财的小手,点一下右上角的关注,您的支持就是我最大的动力!近日有人曝光西安举办的一场画展,内容不堪入目,被网友称为毒画展!简直比之前轰动的毒教……NBA最新战报76人02热火,奥迪19分巴特勒2212,哈登北京时间5月5日,NBA季后赛热火和76人迎来第二回合的较量,主场作战的热火队士气高涨,4人得分上双,以119103再次战胜76人,总比分2:0领先!马克西尽力了这……AI作画咒语分享Midjourney是一个由Midjourney研究实验室开发的人工智能程序,可根据文本生成图像。简而言之,它就是一款AI制图工具,只需用大白话或关键字描述场景,就能通过AI算……宋茜和李雪琴展望的求婚场景,为啥这么好笑?宋茜和前任分手后可以做朋友冲上热搜。一群人关于是否还爱的泛话题,吵来吵去。另一群人则盯着宋茜以往的传闻绯闻,捕风捉影。事实上,她这段话有上下文语境,同时还有诸……广州黄埔长洲岛游艇码头正式投入运营,普通民众可租赁服务广州黄埔长洲岛游艇码头正式投入运营啦!4月18日上午,广州市黄埔游艇码头文化旅游有限公司在黄埔区长洲岛游艇码头举行首航。作为广州市中心城区第二个公共游艇码头,该码头可为普……谢杏芳走进清远,分享冠军故事带娃运动心得文、图羊城晚报全媒体记者苏荇广州籍羽毛球世界冠军谢杏芳3月16日现身清远体育中心,参加与冠军同行公益活动。在省运会开幕式即将到来之际,作为13岁就曾夺得省运会三金的前辈,……别划走!点击了解海参身上不同部位的营养价值海参同人参、燕窝、鱼翅齐名,是海中八大珍品之首,营养成分丰富,又被称为百补之首和补血之王。重要的是,海参浑身都是宝贝,了解海参身体不同的部位的营养价值将更有益于你的健康。……两会好声音海南省政协委员孙洲建议打造海南大宗商品贸易基地新海南客户端、南海网、南国都市报1月14日消息(记者苏靓)1月14日,在省政协八届一次会议界别联组会议上,海南省政协委员、海南盐田港投资有限公司总经理孙洲表示,在儋州环新英湾片……Woj联盟取消对一支球队拥有两个指定超级顶薪续约合同的限制直播吧4月3日讯据名记Woj和薪资专家BobbyMarks联合消息,联盟和球员工会达成一致,取消对一支球队拥有两个指定超级顶薪续约合同的限制。这将对骑士队产生巨大影响,他……屡教不改?苹果打着系统升级的幌子又降电池续航?建议看齐小米1刚刚更新了苹果手机新IOS16。4系统版本的用户,赶快检查一下你们的电池续航有没有缩水。目前IT之家报道消息称该系统更新后从iPhone13及以下的多代苹果手机老机型均出现了电……
友情链接:快好找快生活快百科快传网中准网文好找聚热点快软网