邓聿文 2023年2月21日
聊天机器人ChatGPT标识
聊天机器人ChatGPT的出世可能是人类近年取得的最重要技术突破。在现今的国际格局下，任何一项有着重大创新意义的技术，都不可避免地会被视作或拿来用作大国间的竞争工具。我们看到，在对ChatGPT的各种讨论中，特别是在中文世界，一个被许多人问到的问题是，为什么ChatGPT不是最先在中国而是在美国发明的？
这个问题其实预设着提问者的答案：习近平的中国，专制统治打压思想和言论自由，窒息了科研人员的创新力，所以AI的突破不可能最先出现在中国，中国人造不出ChatGPT。
不过这样看问题有些简单，有人也可以反问，为什么ChatGPT不是最先出现在日本或者德国，又或它为什么不是最先由Google或者苹果公司开发的？中国虽然没有第一个做出聊天机器人，但它很可能第二个或第三个做出来。
在ChatGPT问世后，中国的科技巨头坐不住了，纷纷表态要下场迎战，百度甚至宣布3月将推出自己的聊天机器人。
一个国家的思想专制会给科学研究带来极大干扰，但这种干扰更可能体现在基础原理上，在应用技术层面，影响研发的可能主要是国家的科研体制、长官意志等。与此同时，也要看到，经济发展水平和科研投入对一个国家的科技进步也会带来很大影响，在专制统治恒定的条件下，甚至会起决定性作用。
仍举中国为例，过去40多年一直处于中共统治下，但随着经济崛起，政府和企业加大研发投入，中国的技术在过去十几年有一个突飞猛进，以致现在外界有意无意拿中国的科技和美国对比。
对人工智能的开发，中国当局的思想钳制虽然会干扰产品，但主要是在AI的数据处理上，要避开很多敏感词，以及和官方立场、观点相左的信息，语言编码等纯技术问题应该影响不大。然而，由于中国也是数据大国，拥有大数据优势，开发者完全可以做到在AI的数据信息输入中规避政治等敏感信息而不因此影响它的聊天功能，尽管这会影响AI对此类数据信息的获取。换言之，思想钳制导致的某些数据信息的缺席对中国没有第一个开发出聊天机器人会有一定影响，但未必是主因。
既然中共的专制制度并不实质性影响人工智能的开发，假如中国紧随美国之后第二个推出中国版本的聊天机器人，开发者会不会在AI的数据中植入中共的专制信息，让AI储存有利中共统治的语言信息偏好，就非常值得警惕。几乎可以肯定，当AI大规模运用于社会，中共必将机器学习和人工智能拿来作为控制人的手段，将专制统治推到极致。
关于这一点，有识者早就指出过，索罗斯在开放基金会的演讲中曾警告，“在专制国家和大数据丰富的信息技术垄断公司之间，正在形成一种联盟，这种联盟使新兴的企业监控系统与已经发展的国家资助的监控系统结合起来，将导致形成一个甚至连乔治·奥威尔都无法想象的极权主义的监控网络。”这种情况实际在中国的三年抗疫中某种程度已出现。
中国官方学报2018年发表的一篇人工智能论文，也讨论了这个问题。文章分析了人工智能和人类专制制度的三种对应关系，即人工智能辅助下的人类专制、人类过度依赖人工智能的专制、人工智能自身对人类的专制。后者听起来虽然可怕，但即使有哪一天，也是相当遥远的事情。
对人类来说，眼下的问题才是真正需要关心的，也就是，如果有一个像希特勒这样的极权统治者拥有人工智能后，会用它来做什么？该论文认为，鉴于人工智能可以极大替代人类劳动力，降低对劳动力的需求，从而将改变专制统治者与大众在劳动上的互相依赖关系，让拥有技术的专制者不必在乎他们的具体感受；可以高效准确地执行统治者的命令，不会产生任何合法性、道德、意愿等的约束，从而可以极大降低社会管制成本；可以赋予统治者强大的暴力能力，特别是武器等镇压工具的智能化，使得统治者无需用一支庞大的人工队伍去操持武器，从而形成极大的对内对外的征服和控制能力，因此，作为机器属性的人工智能会被专制政权拿来作为一种绝佳的统治工具。
论文讨论的是“人类专制”，把它换成中共专制，文章说到的人工智能辅助下的专制情况就完全可以用来描述中国。在现存的专制政权中，中共是最具技术实力的，尤其是在习近平的统治下，借助人工智能，它的专制统治在经济、管制、暴力领域将进一步完善，从而第一次对被专制者具有毫无顾忌的强大能力，想采取什么样的统治形态就采取什么样的形态，完全取决这个政权的好恶，这并非不可想象。果真到这一步，当然会是人类历史上最可怕的专政。
目前阶段而言，中共利用人工智能加强专制统治最有可能出现的两种情形，一是AI的设计和编程受当局影响，要求AI开发者在数据信息的输入中偏向某种特定的有利于维护中共统治的观点或立场，这样AI输出的结果就会偏向专制，从而影响信息接受者的看法。如果人们对此没有很强的识别能力，今后在工作和生活中大量参考甚或依赖人工智能的建议，当局就在不知不觉中对民众进行了思想的洗脑。
二是当局用AI来监控大众在网络上的发言、通信记录和出行等，尤其用它来对付异议人士和政治反对派。这一点当然也不新鲜，当局早就在用科技手段窃听和监控它眼中的反对者，包括用大数据搜索他们的信息。然而，人工智能会更强化当局的这一监控能力。当AI的功能延申到网络搜索领域，监控者无须从海量的信息中捞取反对者的信息，人工智能会自动捞取和识别，向监控者提供它最需要的信息，从而大大节省当局的监控成本，让当局真正做到精准打击。
现在，我们知道中国当局为什么非常重视人工智能的开发，强调在这一领域要奋起直追，不能落后美国太远，除了它有经济、科技和军事的考量，维护和强化中共的专制统治，亦是一个本质因素。
尽管中共可以控制住中国的人工智能发展不偏离它的统治方向，但无法完全控制民众对国外人工智能的使用。在美国推出ChatGPT后，中共已感受到某种对它的威胁。
有论者开始呼吁中国警惕美国利用人工智能加剧对华认知战，认为ChatGPT可能强化美国意识形态渗透能力，针对中国发布更具迷惑性的内容，使人们更加难以识别美西方的虚假信息，并利用ChatGPT炮制各类反华信息也将更迅速、更密集，令中国应对起来更困难。
既然中共担忧ChatGPT对中国民众进行意识形态渗透，要削弱人工智能被中共用来加强其专制统治，美国必须抓住在该领域的领先优势，在人工智能的开发中，更多输入反专制的、反映自由民主人权的价值观的信息。
邓聿文
