上周,55岁的滑翔伞运动员彭玉江被云吸至海拔8598米后,脸上结满冰霜的惊人画面被中外媒体广泛报道。
然而,澳洲专家认为,这段视频至少部分是由AI工具制作而成。
据澳洲广播公司报道,路透社在一份声明中对该内容撇清关系。声明称:“该内容已明确标注为第三方内容,未经路透社验证或背书。当我们注意到这段视频可能包含AI内容时,已展开调查并将其下架,因为其不符合我们的合作伙伴内容政策。”
澳洲广播公司也删除了原报道,并发布编者按澄清称,无法对彭玉江自称升至8598米的说法进行独立验证。
莫纳什大学数据科学与人工智能系的Abhinav Dhall表示,由于视频质量较低,导致其很难辨识真伪。
他说道,“但如果仔细观察视频开头3到4秒,可以发现背景中的云层看起来并不真实,更像是一幅二维图片。”
RMIT生成式人工智能与新闻学研究员TJ Thomson对此表示认同。
“乍一看,这段视频并不显得特别可疑,尤其是在智能手机小屏幕上浏览且注意力分散时,”他说,“但如果仔细观察,问题就会显现。”
“比如你可以注意到一些细节——头盔的颜色发生了变化,绳索颜色随时间推移出现差异,地面时而可见、几秒后又消失不见。”
(图片来源:ABC)
尽管视频存在伪造可能,但彭玉江确实有可能达到他声称的高度。
2007年,德国滑翔伞运动员Ewa Wisnierska在新州被一股风暴前锋卷至近10000米高空,但最终幸存了下来。
Thomson说道,“可能的情况是,他们将多个真实镜头片段拼接在一起,或利用AI生成、编辑了部分内容。”
不过,他指出,这一事件凸显了生成式AI对规模不断缩减的新闻编辑构成的风险,这类机构越来越依赖用户生成内容(UGC)。
Thomson称,“每天有72.8万小时的视频和超过30亿张图片上传至网络,将这些用户提供的素材纳入报道固然有帮助,但内容传播的规模和速度也让记者难以进行事实核查。”
澳洲记者工会MEAA表示,该组织一直呼吁联邦政府对AI进行监管,因为成员担心错误和虚假信息,以及公众对新闻和媒体信任可能受到侵蚀。
一位发言人说道,“因此,我们一直呼吁政府出台新的AI立法,规范生成式AI的使用,保护创意作品免受AI窃取,并提高透明度。”
(图片来源:ABC)
MEAA首席执行官Erin Madeley去年曾表示,AI生成技术的使用将“导致新闻和信息遭到侵蚀,直至公众无法分辨事实与虚构”。
Dhall认为,用户在数据操纵手段上正经历“一场重大的代际变革”,行业和政府均需发挥作用。
“我认为,自动检测系统和人类观察者需要一定时间才能达成共识,并快速识别内容是否为伪造,”他说,“但仍有希望:学术界和行业正在开展相关研究,开发能够识别AI操纵的工具,同时也需要人类的参与。”