【人民报消息】中共网信办日前推出一款号称通过习近平思想理论检验的AI聊天机器人,称其智能问答功能保证生成内容的权威、准确。分析指出,这一模型目前虽然只是一款内部宣传和学习工具,但一旦推广可能成为AI时代中国舆论的框架标准;让AI机器人以自然的语言重复陈腔滥调更是反映出中国目前言论环境的荒谬。
网信办推出聊天机器人,让「习思想」「永垂不朽」
主管中国网路审查的中共「网信办」主办的《中国网信杂志》微信公众号5月21日(星期二)宣布,网信办组建的研究机构开发了一款「网信研究大模型应用」。这款类似于生成式人工智慧(AI)聊天机器人ChatGPT的工具根植于「习近平新时代中国特色社会主义思想知识库」,已经「上线并内部试用」。
这一消息立刻受到西方媒体的关注。英国小报《太阳报》(The Sun)网路版的一篇报导说:「中国据报通过人工智慧(AI)驱动的聊天机器人,让习近平主席和他的价值观永垂不朽。」
中共网信办的官方解释说,除了「习近平思想库」外,该大模型语料库的来源还包括「网信知识总库」等其它6个的「网信专业知识库」。网信办说,用户可以自主选择不同类别的知识库进行「智能问答」,「语料库的专业性、权威性保证了生成内容的专业性」。
在技术方面,这一模型应用基于中国已经备案的商用预训练语言模型,可以做到网信领域的智能问答、文稿生成、概括总结、中英互译等多种功能。
网信办「习近平思想GPT」仅限内部使用,究竟如何运作、功能如何实现,目前尚不清楚。「网信」的全称是「网路安全和信息化」,「网信研究」这一艰涩的概念也并非普通用户感兴趣的话题。不过,网信办这一负责中国网路审查、网路安全的主管部门,推出这款形似ChatGPT的应用程序,还是引发外界的众多揣测。
令人不安的(发展)趋势
有分析说,这款内部测试使用的聊天机器人以时髦新科技包装最高领导人的指导思想,没有实质意义,不应过分解读。
长期观察中国媒体环境的美国独立学者金培力(Philip J.Cunningham)说,网信办发布根植于「习思想」的聊天机器人的消息「反映了一种令人不安的趋势」。
金培力通过书面方式对美国之音说:「即使毫无意义,也要将习近平插入到每篇新闻报导、每一个新发展之中。」
至于如何应用这款程序,网信办的文章举例说:如果想快速列出关于人工智慧发展现状的报告提纲、想知道「新质生产力」和传统生产力的不同之处,网信研究大模型应用能够迅速生成这些内容。
分析认为,这显然是配合宣传习近平今年提出的「新质生产力」概念,也是为了在AI时代,当局为了进一步统一官方论述,以至上而下的方式对种种社会和经济问题的作出解释。
长期研究中共意识形态领域的英国牛津大学当代中国研究讲师让.克里斯多弗.米特尔施泰特(Jean Christopher Mittelstaedt)对美国之音说:「我认为这部分是为了排挤社会上流传的不一致的舆论或谣言。这些舆论包括经济状况、少数民族政策、改革总体状况,也许还有自由主义改革的具体情况。」
米特尔施泰特同时强调,这款程序的有效性取决于它如何推广。他说:「我看不到任何非党员干部会使用这个模型的理由。这让我认为它更适合内部使用。」
网信办模式与AI模型开源原则相悖
另一方面,网信办强调这款AI程序的数据资料来源的「权威性」,只依托「习近平思想」等有限的7个「知识库」,这与国际大语言模型的成功基础--开源性--背道而驰,这让它的成功可能大打折扣。
「人工智慧要靠庞大的数据集才能蓬勃发展,而习近平思想的数据集十分窄小,大部分缺乏有用的信息。」媒体观察家金培力说。
他说,这对中国科技的影响将是让「重新回锅的宣传削弱了科学探究的精神,取而代之的是一种(个人)迷信。」
中共网信办说,其AI机器人「将支持用户自定义新建知识库,可通过载入用户自己上传的公开数据、个人文档进行分析推理,进一步拓展用户的个性化使用范围」,但没有说明这一功能将如何实现。
督促党员学「习」的有力手段
不过,牛津大学的米特尔施泰特认为,这款AI机器人的用武之地可能在于,它能让零散的「习语录」重新汇总起来,让党员干部没有理由不去学好「习近平思想」。
在此之前。中共中宣部已经在2019年推出集新闻、通讯和社交为一体的「学习强国」理论学习平台,米特尔施泰特说,网信办这次推出的大语言模型有可能让「学习强国」注入AI新动力。
「我可以想像这个模型可以融入『学习强国』这样的应用程序,后者已经提供了一个学习政策、学习习近平讲话的平台。」米特尔施泰特说:「这将为党员和干部提供一种更容易的方式,让他们查阅和「学习」政策和习近平的指示。」
他说,这将方便党中央鞭策那些不「好好学习」的官员:「参与决策的党员和干部将没有理由不清楚(上级)对他们的要求是什么、没有理由不清楚习近平对某个问题的指示是什么。如果这个程序能起作用,党员干部只需输入一个简单的提示,就能知道习近平对某项政策或问题的立场。中央指示会很容易获得,这将使惩罚不遵守规定的行为变得更容易,因为干部没有理由不知道。」
中国的人工智慧恐沦为笑柄?
分析指出,中共网信办推出这样一款AI聊天机器人,这反映出了一种矛盾和讽刺:当局试图让AI机器人用更自然的人类语言去强化一个越来越不人性的言论环境。
中共网信办等部门去年7月已经通过颁布一部管理办法,试图对生成式人工智慧(generative AI)的信息舆论导向进行管制。这部暂行办法规定,具有舆论属性或者社会动员能力的生成式人工智慧服务商,必须开展安全评估,并对演算法备案等级。
牛津大学的米特尔施泰特说,网信办推出的这款AI机器人如果面向大众,有可能成为普通商用AI模型的运作基准。他说:「这一版本很可能会被视为制定可接受言论框架的权威表述。」
对中国新闻界有多年观察经验的金培力认为,中共官方媒体节目中的受访者的说话方式越来越僵硬,讽刺的是,当局推出了一款通过习近平理论检验的大语言模型,让AI机器人用更自然的人类语言「重复这些无稽之谈」。
「习近平宣传的泛滥已经破坏了中国脆弱的新闻生态系统,它很可能以同样的方式让中国人工智慧成为笑柄。」他说。 △(转自美国之音)