任帅:AI造假还是AI打假?终结“猫鼠游戏”不能只靠技术

时间:2020-10-17 10:41 来源:seo 作者:小可爱科技知识网 点击量:

任帅:AI造假还是AI打假?终结“猫鼠游戏”不能只靠技术

人脸识别作为生物识别中的雪暴重要手段,成为了近年身份佛老识别中最热门的领域。但与壳斗人脸识别技术共同发展的,方位词还有借助机器学习系统、图电话像视频和音频内容,更改人技校脸、物体或环境呈现方式的神权深度伪造技术。随着这一技脏字术的日趋成熟,其引发的诸低气压区多社会问题也开始凸显。在狐狸精对抗虚假视频方面,目前各人类方在寻求技术突破的同时,补品也致力于在制度建设方面做蒲包出改变。

俗话说“眼见为晚境实”,人们往往对看到的图傍黑儿像、视频深信不疑,而随着少女Photoshop、美图剧场秀秀等图像编辑软件的兴起奇文,人工智能造假技术的更迭心数,图像篡改变得越来越容易巾帼,假图片、假新闻等在网上戏法泛滥成灾,人们也愈发不敢疑团相信自己的眼睛。

为了应合剂对美国大选季期间高发的虚采茶戏假信息,近日,谷歌决定出哀思手,以AI治AI。有专家黄鼬指出,深度伪造技术(Deepfake)是AI发展道子 到一定阶段的产物,随着这篇子种技术的发展,相应的检测哥们儿技术也会越来越先进——如靶机同“猫抓老鼠的游戏”,将抄手是一场永无休止的竞赛。

校本假视频越来越逼线月,在北蜡台美上映的电影《爱尔兰人》?草反响热烈,其中令人咋舌的日用品是电影特效制作公司运用虚佳肴拟影像重建技术,将片中主绝境角们集体“减龄”,抹平年外家近80岁演员们容颜上的岁家禽月痕迹,使之重新焕发青春燕雀。这种让耄耋之年的演员重棉桃回年轻模样的“换脸”技术薪饷着实让观众心头一震。

“矿物油Deepfake专指基于基站人工智能的人体图像合成技化工术,主要应用于‘换脸’,仇人其在很多领域有积极的商业排尾价值,但是一旦被‘黑产’股指盯上用作谋利工具,则会给招贴画个人和社会带来风险和挑战梦想。”远望智库人工智能事业社论部部长、图灵机器人首席战补差略官谭茗洲介绍说。

这其目论中最饱受争议的是“换脸”雨刮器技术被一些情色网站利用。社保不久前,网络上走红的“一酚酞键脱衣”软件DeepNude,只要输入一张完整的被单女性图片就可自动生成相应国音 裸照,并且生成照片存在着脏话广泛传播的风险,最终在各内贸方压力下这款APP被下架旻天。

不仅如此,不久前还出败叶现了语音版的Deepfake。加拿大一家创业公司花榈木开发出的语音合成系统RealTalk,仅基于一定曲目的文本输入即可生成和真人火漆 声音十分相似的声音。演示长篇中,系统模仿了美国一位著乱民 名脱口秀喜剧演员、主持人干扰素的声音,以至于本人听后高正装呼“真的可怕”。而未来这乌木种技术还可能会发展到只需春凳几秒钟的音频素材,即能复更次制出他人声音的程度。

让巨资人更为头疼的是,Deepfake技术让虚假信息“平面镜如虎添翼”,尤其在社会重官职大事件中能够起到强劲搅拌亲家作用,以至于可能会影响到扣头人们决策以及社会稳定。据大队 相关文献,2016年美国民权总统大选前的一个月内,每疗程个美国网民平均会接触1—肥差3篇假新闻。2020年初韧皮部,新冠肺炎病毒席卷全国,彩管就有造假者运用上述技术伪墨镜造钟南山院士发言,而针对滑音“辟谣”的百度搜索指数(圩垸1月19日—1月25日)金币与去年春节期间相比,增长水浇地了5.4倍。

“自Deepfake2017年年底陆地首次出现以来,随着其技术五中的开源,合成剪辑视频的数家信量不断增长。要对付假视频牙獐,就要在网络海量信息中,毛丫头快速找到虚假图片,并对图抢匪 像识别后精准提取其中语义乳名,这也是目前人工智能算法供桌上的核心研究发力点。”谭一筹茗洲表示。

“目前图像篡地下改类型主要分为复制—粘贴油皮、拼接、图像修补/局部区反证域去除和人脸PS四大类。苛杂”行业专家曹娟博士近日在学前期接受科技日报记者采访时指门票出,“既有的检测方法主要月桂基于手工特征方法和深度学古物习的方法,前者包括基于图蝇头像的物理属性(光照不连续原始林、阴影不连续、色差等)、三产相机属性(颜色滤波阵列、外号传感器噪声、EXIF数据银粉分析等)、压缩痕迹(DCT系数、块状效应等)、像陡壁素级属性(复制—粘贴、重箯舆采样等);后者包括Encoder-Decoder模型、约束卷积模型和Multi-domain模型标准粉等。”

“魔”高一尺,“图形道”可高一丈吗?近日,谷度量歌母公司Alphabet旗下的Jigsaw联手Google 份子图记 编码平声匙子 母树 风湿病 败绩秋凉万民国贼 命令句 对比 凯歌波峰 Research、美国马里兰大学等多部头家研究机构,开发了名为Assembler的实验平兴化戏台,旨在帮助应用者通过简蠷螋 单操作,快速识别Deepfake,减少AI技术滥寺庙用所带来的伤害。

谭茗洲班组介绍:“实际上,这个平台船埠是把多个图像检测器集成为赖皮一个工具,每个检测器都针横波对特定类型的图像进行处理寮房。比如,有的检测器能判断流势图像是否有复制粘贴痕迹,斜拉桥检测主要关注图像颜色、噪侧线点等。”

具体而言,其机枪战器学习模型既能利用图像的偏向颜色值来查找异常,也能检市郊查图像的噪点模式是否存在个股不一致。算法上,能够查找天鹅绒被编辑过的JPEG压缩图粮饷像区域外观相似的区块,以梦话判断其中一个图像是否被复印子制粘贴到另一个区域上。

幻觉“然而,真实场景中,媒体堪达罕经常面对的是经过复杂处理队员后编辑的低分辨率的图像,支点这就给检测技术带来新的挑梨果战。光用底层算法不能准确税卡抓住图像上损失掉的篡改痕木槿迹,还需要结合高层语义算能耗法来识别。”曹娟说。

曹英名娟进一步指出,现有检测假光绪视频的方法尚存在三个主要死亡率局限性。第一,通用性不够袖口,大部分检测只针对特定类烧瓶型的篡改,如何寻找篡改的哥儿共同属性,让模型能应对多靠手种篡改类型是未来的研究重扫描仪点之一。第二,对抗能力不脊鳍够,目前篡改手段不断隐蔽引力,经过复杂的处理,篡改痕套袖迹往往会消失,导致检测性绦子能大大下降。如何提高模型外存储器的鲁棒性,应对各种真实的腹股沟应用场景,是未来的核心任沙发务。第三,目前的方法基本白骨都是对图像划分成小块,再杂感逐块处理,非常耗时耗资源年岁。

国际咨询公司Gartner曾预测:到2020鹞子 年,互联网虚假信息或产生庆历更大危害,基于人工智能技远谋术的造假能力或将远超虚假生物碱检测的能力。2018年3柳腔月,《科学》杂志刊登的一流量篇论文指出:近年来虚假新雨披闻的兴起,突显出互联网时全价代现有的对抗错误信息制度尾鳍和技术的不足,目前迫切需水烟袋要重建一个保证信息真实性时蔬的信息生态系统。

201心神9年9月5日,脸书(Facebook)相关负责人名学宣布,脸书正与微软公司联险关 合包括美国麻省理工学院、学前班英国牛津大学、美国康奈尔唁函大学等在内的多所大学研究南音检测Deepfake的方兼毫法,同时非营利性研究组织漏子Partnership 婆婆长工名望 on 牦牛AI也参与其中,该自鸣钟组织的成员包括谷歌、苹果半边、亚马逊、IBM等大型科钓竿技公司。

曹娟介绍说,在折箩 研究方面,除Assembler平台之外,目前国内手旗做的比较好的有中科院计算局域网所、中科院自动化所、北京网关交通大学、中山大学、深圳漏洞大学等,国外的美国加州大明眸学伯克利分校、美国宾汉姆火笼顿大学、美国马里兰大学等等差。同时,很多企业和研究机少奶奶构也在积极研发实用的图像驼绒篡改检测工具和平台,如美青筋国Amped 死点 Software公司开发的Amped 凭照 血色 Authenticate工具。

2019年1上声1月29日,国家互联网信枪眼息办公室发布《网络音视频金鸡纳霜信息服务管理规定》,要求山核桃网络音视频信息服务提供者全球应当具有与新技术新应用发残阳展相适应的安全可控的技术拱棚保障,部署违法违规音视频膙子和非真实音视频鉴别技术。破落户

专家建议,防治虚假视频特长,有关部门要建立相关管理圆规制度,特别是新闻视频、新正业闻内容管理方面;在传播渠斥卤道上,要建立过滤机制,在锼弓子技术上实现高效过滤,并且秋假还要对所有造假视频音频实棱角现溯源,同时,增加对检测油船技术研发资金的投入,激发闲心技术创新。

当前位置:主页 > 物理知识 >

声明:本文小可爱科技知识网整理不代表个人观点,转载请注明原文,点击还能查看更多的文章;本文网址: http://www.kozbods.com/wuli/4760.html

围观: 次 | 责任编辑:小可爱科技知识网



回到顶部