中国网信办加强监管人工智能 学者:专制政权管控舆情

本周二,中国国家网信办发布通知,公开征求监管生成式人工智能的社会意见,并要求人工智能产品及服务要"体现社会主义核心价值观"。外界普遍认为,相关人工智能技术具有动摇中共意识形态的潜在风险,提前规划监管是专制政权加强舆情管控以维护政权稳固的又一反应。

4月11日,中国国家互联网信息办公室发布关于《生成式人工智能服务管理办法(征求意见稿)》公开征求意见的通知。《管理办法》旨在将近期炙手可热的生成式人工智能纳入监管。其中明确指出,生成式人工智能输出的内容应当真实准确,采取措施防止虚假信息。

《管理办法》要求产品和服务遵守法律法规的要求,尊重社会公德、公序良俗,包括“利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视等内容”;防止提供服务过程中出现种族、民族、信仰、国别、地域等歧视;尊重知识产权、保护个人隐私和商业机密等。

美国民间机构信息与战略研究所经济学者李恒青在接受本台采访时分析说,《管理办法》征集意见是“未雨绸缪”,用专制手段继续加强民间舆情管控,本质在于维护中共长久统治。

“技术上发展是一样的,重要是内容,这就是所谓意识形态,”他说。“意识形态是中国目前的软肋,弄不好就会把整个政权颠覆了,这是他坚决不能允许的。”

李恒青还认为,人工智能技术继续发展可能会为中共治理和应对人口老龄化等社会问题提供解决办法,因此中共当局一方面希望人工智能继续发展以催化革命性产业提振经济,一方面又担忧其内容引起的潜在政治风险。

然而,著名媒体人王剑认为,以意识为核心的人工智能产业发展前景广阔,但在中国获得较大发展的可能性极小。

“中共的核心价值观就是保住政权,有两个工具,一个是枪杆子,一个是笔杆子,笔杆子就是管意识形态的,”他说。“对于中共来说,如果会威胁它的思想管理,它情愿(产业)不要发展。”

《管理办法》又指,一切在中国境内为公众提供服务的生成式人工智能产品均在该办法监管范围内。在利用生成式人工智能产品向公众服务前,应当按照相关法律法规向网信部门申报安全评估,并进行算法备案和变更、注销备案手续。

同时,当局还鼓励用户向网信部门或者有关主管部门及时举报违规的产品和服务。

生成式人工智能ChatGPT一经问世就在全球掀起舆论轰动。中国科技公司紧跟热度,百度随即推出自有的人工智能聊天软件“文心一言”(Ernie Bot)。但经公测后,舆论普遍认为“文心一言”算法较为模式化,无法与ChatGPT相提并论。中国AI软件公司商汤科技也发布了名为“商量”(SenseChat)的聊天机器人。

2023年3月16日,百度CEO李彦宏在记者会介绍“文心一言”。(法新社)
2023年3月16日,百度CEO李彦宏在记者会介绍“文心一言”。(法新社)

中共对迅速兴起的生成式人工智能提高了警惕,严格审查政治内容。本台记者尝试向几款中国的人工智能聊天机器人问询对中国国家主席习近平的评价,但受限于被监管的算法,相关提问均遭到了拒绝。

《管理办法》一出,此前被相关人工智能产品拉涨的百度和商汤的股价应声下跌。

同日,据美国媒体《华尔街日报》报道,美国商务部也正在就ChatGPT等人工智能工具实行审查,就相关问责措施公开征求意见,以保障这些人工智能被负责任地使用。

但王剑认为,二者有本质不同:“在实践的过程中,中国和美国发生了很大的不同,实践的环境出现了巨大的改变。中国在意识形态上进行限制,美国只是在进行社会管理的限制,两者完全不一样。”

记者:经纬 责编:梒青 网编:洪伟