报告:中国政府与企业的监控"双赢共生"

美国智库研究发现,中国政府的监控手段与生产面部识别软件的人工智能公司之间存有双向反馈关系,地方政府通过购买人工智能监控技术,来应对骚乱,而提供技术的人工智能公司则从通过与政府签订合同,得以访问大量个人数据而获得商业利益,形成“双赢”的“共生”模式。

第五届数字中国建设峰会7月23日在福建开幕,参与的企业与专家聚焦中国数字建设成就,包括人工智能、大数据等创新技术展示,中国网信办也对外发布《数字中国发展报告(2021年)》,指中国建成全球规模最大、技术领先的网络基础设施,数字技术创新能力快速提升,包括人工智能、云计算等新兴技术跻身全球第一梯队。

人工智能成了助长专制的利器

在中国数字技术和人工智能蓬勃发展的同时,当局利用最新科技监控人民的疑虑也引发外界担忧。

美国智库战略暨国际研究中心(CSIS)与斯坦福大学中国经济与制度中心(SCCEI)合作的最新研究报告,专研中国地方政府与人工智能企业的“共生”关系,报告指出,中国政府通过企业的监控技术,增强国家压制异议的能力,与此同时,这些面部识别和监控领域运营的人工智能公司获得商业优势。

“专制与人工智能创新之间存在相辅相成的关系,尤其是在当代专制社会中的独裁者,会对他们的人民进行密集监控。他们收集了大量与公民有关的数据,并要求通过人工智能技术提供预测、识别。”研究作者之一、英国伦敦政经学院教授余契特曼(Noam Yuchtman)在27日的线上研讨会上说,“公司与独裁国家合作,为独裁者提供的人工智能服务,并从与政府的合同中受益。”

余契特曼解释,这些提供面部识别技术的公司,在与政府签订合同后,能够获得一般公司无权访问的大量数据,这份研究将此称为“数据丰富性”。这些数据不仅可被当局用于预测、控制,作为公司,大量数据也有助改进面部识别的算法,因此,向政府提供人工智能服务的公司,可以利用这些数据不断开发新的面部识别技术,提供政府使用。而赢得政府合同的企业,在人工智能市场发展上会有更明显的商业优势。

研究学者们发现,与未赢得政府合同的公司相比,这些与政府签订合同的公司,平均多发布了2种商业应用软件产品和3种政府应用软件产品。

英国伦敦政经学院教授余契特曼(Noam Yuchtman)在27日的线上研讨会上说,“公司与独裁国家合作,为独裁者提供的人工智能服务,并从与政府的合同中受益。”(视频截图)
英国伦敦政经学院教授余契特曼(Noam Yuchtman)在27日的线上研讨会上说,“公司与独裁国家合作,为独裁者提供的人工智能服务,并从与政府的合同中受益。”(视频截图)

地方政府是最大买家

除此之外,研究发现,中国的地方政府是人工智能监控技术的最大买家,而社会动荡与购买人工智能技术之间存在直接联系,报告指在一地发生骚乱后的一段时间内,当地公安人工智能技术合同数量会有所增加。

另一位研究作者、哈佛大学经济系助理教授杨宇凡(David Yang)在线上研讨会中展示相关数据,他说明:“在骚乱发生的前一季度,几乎没有证据表明地方政府正在购买更多的人工智能,用来预测即将发生的骚乱,但在地方发生骚乱之后的季度,能发现(地方)警察部门签署的合同,或当地政府的购买合同数量有很大的增加,这是地方控制作为一种特征和一种微观的趋势。”

研究指出,这意味著有关公共安全的面部识别技术合同增加,与抗议活动的发生有关,而不仅仅是由经济增长,或中央政府目标等外部因素驱动的收购。大量部署和发展监控技术,在中国是一个分散的过程,当局购买人工智能技术的规划,并不是外界观察中国的人工智能发展时所认为的集中协调,虽然北京确实通过多个项目积极鼓励扩大监控范围,但地方公安机构是关键决策者。

本月初,位于安徽省的合肥国家科学中心人工智能研究院声称,其所开发的“智慧思政吧”人工智能系统,可判断党员的忠诚度,引发热议。面对中国政府的监控行为和企业的互利,余契特曼在研讨会的尾声提出几项建议:“这些研究内容表明应该限制与中国的人工智能贸易……(但)从本质上讲,我们希望开展更细致入微的政策对话。我认为,在改变中国公司的行为方面,应该更多地关注、引导更好的行为,而不是惩罚。”

研究建议,美国在面对中国政府与企业的监控互生关系时,应优先扩大美国国、内外对数据和监控技术的监管、积极推动美国在人工智能方面的创新,并且通过禁令、供应链调查等规则,检视相关企业是否有与中国政府的监控手段挂勾。

记者:陈品洁 责编:郑崇生 网编:洪伟