人工智能推动新闻造假 未来还能看到真实的世界吗

来源: 文汇报 记者:陆益峰 编辑:张丽 发布: 2018-02-01 09:59
近日,好莱坞女星、电影《神奇女侠》的主演盖尔·加朵出现在“不可描述”小影片中的消息让人大吃一惊。

近日,好莱坞女星、电影《神奇女侠》的主演盖尔·加朵出现在“不可描述”小影片中的消息让人大吃一惊。不过,这其实是有外国网友“移花接木”的结果,但与一般PS技术不同,他运用了当前最热最火的人工智能技术。然而,如果人工智能PS技术运用在新闻领域的话,会产生什么后果呢? 其实,技术人员已经展示了这种可能——一般的受众对此真假难辨,甚至会产生一种错觉:“我所看到的世界是真实的世界吗?”

如果说人工智能技术的发展可能让假新闻插上翅膀,那么背后的利益链则是假新闻泛滥的主要推动力。比如在2016年美国大选中,各种假新闻对总统选举产生巨大影响,时至今日“通俄门”事件仍在美国发酵。不过,梳理美国大选背后的假新闻可以发现,制造、传播假新闻已成为一条灰色产业链,许多人以制造假新闻谋生,甚至还出现了专门的“机器人水军”工厂。而这些,目前都处于法律的灰色地带。

人工智能技术推动视频音频造假

据美国有线电视新闻网(CNN)报道,2017年7月,华盛顿大学的研究人员利用人工智能技术,制作了一段时长1分55秒的美国前总统奥巴马演讲的假视频,其图像和声音都达到以假乱真的水平。研究团队设计了一个人工智能程序,让其分析互联网上奥巴马的各种音频和视频,经过17个小时的“自主学习”后,人工智能就能通过奥巴马的声音,判断出对应的面部细节,从而模拟出匹配的数字图像。

该项目研究员之一的史蒂夫·塞兹表示,当你使用视频聊天软件时,经常会因为卡顿和低分辨率导致体验比较差,但声音却很清晰,因此如果可以通过声音来提高视频质量,那就太棒了。然而有人担心,这样的技术如果被别有用心的人掌握,那么可以通过制造假新闻、假视频来牟利或达到其他目的。这样的担心并非多余,最近多位好莱坞女星“被色情”就是如此。

其实,类似的技术这两年已如雨后春笋般出现。2017年11月,著名图像软件公司、Photoshop的开发商Adobe发布了一款基于人工智能的新产品Project Cloak。在产品演示中,一段视频中的一对情侣可以轻松地被PS掉,而伦敦塔桥旁边的电线杆也能轻松抹去。虽然这个产品的出现大大方便了视频剪辑,让一些非专业人士也能实现视频编辑,但背后的风险也不可小视。2017年7月,一位中国游客在美国的一个火山口游玩,却不幸跌倒滑入岩浆的短视频曾在社交网络上被广泛传播,但其实这视频被PS过了,真正原视频是该游客在美国海边游玩不幸滑入大海中。造假者把海水PS成岩浆,但是稍微仔细看的话,破绽还是不少,比如岩浆不可能具有海水那样的流动性等。不过,未来随着人工智能技术的成熟,不排除PS得更逼真,让受众更难分辨。

另外,Adobe曾在2016年推出过音频编辑软件Project VoCo,该软件被称为“音频界的Photoshop”。只要在该软件中输入一段约20分钟的录音,它就能生成一个语音音素模型。通过该模型,你就能“伪造”别人的声音了。

“机器人水军”已形成灰色产业链

2016年可谓社交网络假新闻爆发元年,其背景是美国大选。在美国大选中,假新闻和它的配套服务已成为一种商品,供应商在网络上公开出售、明码标价,拥有清晰的商业模式和完整的产业链。据欧洲网络安保公司Trend Micro的数据显示,能对大选结果产生影响的假新闻全程服务费用在40万美元左右,能煽动民众上街游行的假新闻服务费用在20万美元左右。

如果说这些数据或描述有些枯燥的话,那么媒体曝光的真实案例就令人大开眼界了。据英国《卫报》报道,在马其顿共和国一个叫维勒斯的小镇上,在美国大选期间居然有100多个支持特朗普的网站。当然,这些网站上全是假新闻,比如“教皇宣布支持特朗普”等。这些假新闻通过耸人听闻的标题吸引了大量流量,通过脸书、推特等社交网络大肆传播,网站主则通过谷歌广告获取利润。据报道,一位18岁的小镇青年鲍里斯拥有两个假新闻网站,大选期间赚了1.6万美元,而马其顿的平均月薪仅为370美元。

在技术日新月异的今天,各种造假手段也是层出不穷,比如出现了专门的制造和贩卖“机器人水军”的公司。据美国《纽约时报》1月28日报道,美国有一家名叫“Devumi”的公司,专门在脸书、推特等社交网络上制造“机器人水军”帐号,然后卖给电视演员、企业家、运动员等“想出名或者想在互联网上施加影响力 的人”。此外,“Devumi”还提供YouTube评论、音乐主持网站SoundCloud上的播放点击等业务,每条只需几美分。据悉,该公司一共制造了350万个推特“机器人水军”帐号,除了姓名,帐号的人物信息(如照片、状态等)都是从某个真实用户那里克隆而来,每个帐号又被卖给多个客户,据推算,仅此一家公司就已经为客户提供了两亿多的推特粉丝了。通过“售粉”和发布自动评论等业务,“Devumi”获利巨大。

目前,美国社交网络正遭到“机器人水军”的严重侵袭。根据计算,在推特声称的活跃用户中,有多达4800万个账号是模拟真人的账号;而脸书去年11月透露,可能有6000多万个自动帐号。这些“机器人水军”帐号可以影响广告受众,破坏企业声誉,甚至影响民众的大选投票。然而,它们的制造和销售却处于法律的灰色地带。好消息是,在“Devumi”公司被披露后,纽约州总检察长施奈德曼表示已对该公司开启了调查,因为根据纽约法律,冒充和欺诈是非法的。

美国皮尤中心的调查显示,24%的受访者承认曾转发过社交媒体上假新闻,82%的人认为自己经常在网络上看到虚假消息,64%的人觉得假新闻已扰乱了社会基本秩序。假新闻的危害不言而喻,对其进行打击则刚刚起步。一是社交媒体平台通过算法改进,减少对假新闻的推送;二是设立第三方事实查验机构,加强对事实的审查;三是加强对假新闻的监管和处罚,比如脸书、推特都封禁了大量假新闻账号;最后,国家立法打击假新闻等。魔高一尺,道高一丈。这场真相与虚假信息之争,恐怕还会持续下去。

猜你还想看:

"人工智能+"时代来了吗 研究和应用遍地开花

如今,身为百度集团总裁兼首席运营官的陆奇,正和万千程序员与亿万公众一起,经历着人工智能的跌宕起伏和带来的巨大改变。

2018-01-29

新华社发布"媒体大脑" 中国首个媒体人工智能平台

新华社26日正式发布的“媒体大脑”,提供基于云计算、物联网、大数据、人工智能(AI)等技术的八大功能,覆盖报道线索、策划、采访、生产、分发、反馈等全新闻链路。

2017-12-27

卖生鲜看片子识唇语 人工智能越来越“能”

12月3日晚上的网易丁磊饭局、京东刘强东和美团点评的“东兴局”不断刷屏,互联网媒体秒变娱乐媒体。不过,12月4日乌镇互联网大会进入“论坛时间”,大咖们都开始吐干货了!

2017-12-05

“我们的世界将因人工智能而改变”——第四届世界互联网大会嘉宾共话人工智能未来

当人工智能产业化应用的发展浪潮席卷全球,东方古城乌镇如今也处处透露着人工智能的现代气息。追逐着科技的脚步,整个世界都在翘首以待,未来将是何种气象。

2017-12-05

人工智能技术带来惊喜连连 数字经济正"触手可及"

世界互联网大会最接地气的活动,莫过于主会场旁的互联网之光博览会(以下简称“博览会”),因为这里集中展示了云计算、物联网、人工智能等最新科技成果,让数字经济“触手可及”。

2017-12-04