中共中央网信办盯上AI制成谣言

中共中央网信办日前发布通知,宣布在中国全国范围内部署开展三个月的“清朗·整治AI技术滥用”专项行动。根据其官网在4月30日公布的信息,这一专项行动将会分为两个阶段进行,主要整治重点包括“利用AI制作发布谣言”。

前新浪微博审查员:营销账号是主要针对目标

中共中央网信办公布的信息显示,“利用AI制作发布谣言”的内容包括“无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息,或擅自妄测、恶意解读重大方针政策。”此外,还有“借突发案事件、灾难事故等,编造、捏造原因、进展、细节等。冒充官方新闻发布会或新闻报道,发布谣言信息。利用AI认知偏差生成的内容进行恶意引导。”

曾担任过新浪微博审查员的刘力朋认为,在目前中国的政治舆论环境下,反对当局的声音已经难以存在,中共中央网信办本次所说的“利用AI制作发布谣言”,在政治方面针对的主要是营销账号:“这种打的都是那些做营销的MCN(多频道网络),‘反贼’(的言论)可能早就超过他们的底线了,不论说什么都在他们的打击范围内。”

中国官方谣言的口径规定

刘力朋告诉本台,在目前中国舆论中充斥着当局民族主义宣传的情况下,有不少营销账号在使用AI自主编造非常夸张的民族主义内容,并由此大量生成文章:“这个是给他们(中国当局)的宣传起到反作用了。AI胡编出来的,也许某些方面符合那种夸张的爱国宣传,但是AI会捏造很多根本不存在的细节,过于夸张,而且产量特别大。”

台湾民间团体台湾民主实验室曾在去年公布分析结果,显示不少中国相关账号利用新科技、AI生成谣言,从而激化台湾内部舆论争议冲突的情形。

刘力朋表示,这一类有针对性的谣言背后是中国官方的直接授意,与自主营销夸张民族主义内容的账号有所不同。这类中国官方直接授意的谣言会有明确的文案,有可能是由中国官方采购网络水军生成的内容。

他解释中国官方制造这类有针对性的不实内容时采取的标准:“一般跟在官方的后面(的账号),也有一些跟官方有一些通气,(官方)让他发一些东西。然后,有一些比较中下游的爱国营销号,跟在这些爱国流量屁股后面就可以了,文案说错一点的话就是违规的,可以把责任人抓起来。”

自媒体从业者忧中国言论环境进一步收紧

中共中央网信办和中国国家网信办分别是中共中央和中国国务院的办事机构,两者属于“一个机构两块牌子”。清朗行动是这一机构自2016年以来开始每年都展开的互联网专项行动,且每年行动的侧重点都有所不同。仅在2016年的清朗行动中,中国当局就宣布“抓捕犯罪嫌疑人1.7万余名”。

一位在中国有多年运营自媒体经验的受访者,出于安全考虑匿名接受本台采访时指出,中共中央网信办目前展开的“整治AI技术滥用”行动,带来的会是进一步的言论管制。他说:“时政问题到底怎么才叫‘无中生有’,到底什么叫‘恶意解读’,实际上都没有明确的定义。因为认真评论时政,如果口径和政府不一样,也可能被扣上这种帽子,这只会让人更害怕、更不敢谈时事政治。”

责编:李亚千