【文/观察者网专栏作(zuo)者 熊节】
5月14日，为落实中美元(yuan)首旧金山会晤共识，两(liang)国(guo)代(dai)表在瑞士日内瓦举行(xing)中美人工智能政府间对话首次会议，就人工智能科技风险、全球治理以及各自关切的(de)其他问(wen)题进行(xing)交流。
据《华盛顿(dun)邮报》报道，美方参(can)加此次会谈的(de)主要代(dai)表，包括国(guo)务院关键技术和(he)新兴技术代(dai)理特使Seth Center博士（曾(ceng)担任白宫(gong)国(guo)家安(an)全委(wei)员会的(de)国(guo)家安(an)全战略和(he)历(li)史(shi)主任）、国(guo)家安(an)全委(wei)员会技术与国(guo)家安(an)全高级主任Tarun Chhabra（曾(ceng)在白宫(gong)国(guo)家安(an)全委(wei)员会担任战略规划主任和(he)人权与国(guo)家安(an)全问(wen)题主任、以及两(liang)任国(guo)防部长的(de)演讲稿撰写人）。
美联(lian)社的(de)分析认为，美方在这次会议中的(de)主要目标是“一(yi)窥中国(guo)政府对人工智能的(de)想(xiang)法”、“就如何提高人工智能的(de)安(an)全性展开坦诚讨论”，尤其是“人工智能被武器化”的(de)风险。两(liang)名(ming)主要代(dai)表的(de)身(shen)份(fen)背景(jing)可(ke)以说验证了这一(yi)分析。
中美举行(xing)人工智能政府间对话首次会议
美国(guo)政府对AI风险的(de)认知(zhi)，在去年11月30日拜登总统发布的(de)《关于人工智能的(de)安(an)全、可(ke)靠(kao)、可(ke)信发展和(he)使用的(de)总统令》中有集中的(de)阐述。从(cong)这份(fen)总统令及白宫(gong)的(de)官方解读中可(ke)以看到，美国(guo)在AI领域的(de)担忧包括以下(xia)几方面：
1.关键基础(chu)设(she)施中使用AI的(de)安(an)全、可(ke)靠(kao)和(he)可(ke)信，以及由于不安(an)全、不可(ke)靠(kao)、不可(ke)信的(de)AI可(ke)能导致的(de)化学、生物、辐(fu)射、核(he)、及赛博风险。
2.利用AI研发危(wei)险生物材料(liao)的(de)风险。
3.利用AI生成内容（AIGC）欺诈或制造假新闻(wen)的(de)风险。
4.美国(guo)人隐私数据泄露的(de)风险。
5.AI制造或强(qiang)化社会既有歧视(shi)（尤其是种(zhong)族歧视(shi)）的(de)风险。
6.AI造成工作(zuo)环境恶化、工作(zuo)机会减少的(de)风险。
7.美国(guo)失去AI领域全球领先地(di)位的(de)风险。
1.关键基础(chu)设(she)施中使用AI的(de)安(an)全、可(ke)靠(kao)和(he)可(ke)信，以及由于不安(an)全、不可(ke)靠(kao)、不可(ke)信的(de)AI可(ke)能导致的(de)化学、生物、辐(fu)射、核(he)、及赛博风险。
2.利用AI研发危(wei)险生物材料(liao)的(de)风险。
3.利用AI生成内容（AIGC）欺诈或制造假新闻(wen)的(de)风险。
4.美国(guo)人隐私数据泄露的(de)风险。
5.AI制造或强(qiang)化社会既有歧视(shi)（尤其是种(zhong)族歧视(shi)）的(de)风险。
6.AI造成工作(zuo)环境恶化、工作(zuo)机会减少的(de)风险。
7.美国(guo)失去AI领域全球领先地(di)位的(de)风险。
从(cong)上述7个方面的(de)风险评估中可(ke)以看到，拜登政府最重视(shi)的(de)风险，还是AI被假想(xiang)中的(de)敌(di)国(guo)武器化、对美国(guo)国(guo)家安(an)全造成危(wei)害的(de)可(ke)能性，体现了美国(guo)近(jin)几年来一(yi)贯的(de)对抗(kang)思(si)维(wei)模式。不过这些风险评估倒也不是完全空穴来风。
以“利用AIGC制造假新闻(wen)”为例，就在最近(jin)，在一(yi)条快速(su)爆火的(de)短(duan)视(shi)频中，白宫(gong)发言人让-皮埃尔在新闻(wen)发布会面对记者提问(wen)时，声(sheng)称“二(er)战是美国(guo)和(he)乌克兰联(lian)合起来打击希(xi)特勒和(he)斯大林的(de)战争”。但很快这条视(shi)频就被证实是利用AI技术伪(wei)造的(de)：白宫(gong)新闻(wen)发布会并未(wei)提及这个话题，发言人也从(cong)未(wei)做过这番论述。据说这条视(shi)频最初开始在互联(lian)网上流传时配了俄语字幕，因(yin)此有人怀疑是俄罗斯制造的(de)假新闻(wen)。
随着Deepfake等利用人工智能伪(wei)造视(shi)频的(de)技术日益成熟，类似的(de)伪(wei)造名(ming)人、政治家发言的(de)视(shi)频也越来越多。不仅普通网民难辨真假，连媒体也时常上当受骗(pian)。前面所说的(de)这条短(duan)视(shi)频在互联(lian)网上流行(xing)以后，我国(guo)几家主流媒体的(de)视(shi)频号也相继(ji)转发，并配上了中文字幕。
AIGC制造的(de)白宫(gong)发言人让-皮埃尔假新闻(wen)
另一(yi)方面，核(he)实视(shi)频信息也确实并不容易。近(jin)两(liang)天中文互联(lian)网上又在流传一(yi)条题为“特朗普正式支持TikTok，向封(feng)禁TikTok宣战”的(de)短(duan)视(shi)频，笔者认为也很有人工智能伪(wei)造的(de)嫌(xian)疑，但尚无(wu)法验证。人工智能技术的(de)发展使炮(pao)制这样(yang)的(de)假视(shi)频、假新闻(wen)变得特别容易，确实构成了对社会秩序的(de)威胁。
为了应对这些风险，拜登政府采取的(de)首要措施，就是加强(qiang)政府对AI领域相关企(qi)业的(de)监管与合作(zuo)。白宫(gong)对总统令的(de)官方解读开篇第一(yi)条就强(qiang)调，要求“最强(qiang)大的(de)AI系统向美国(guo)政府分享(xiang)其安(an)全测(ce)试的(de)结果及其他关键信息”，并提出：根(gen)据《国(guo)防生产法》（Defense Production Act），总统令要求开发任何对国(guo)家安(an)全、国(guo)家经济安(an)全或国(guo)家公共健康和(he)安(an)全构成严(yan)重风险的(de)基础(chu)模型的(de)公司，在训练模型时必须(xu)通知(zhi)联(lian)邦政府。
《国(guo)防生产法》是1950年9月8日美国(guo)国(guo)会为了入(ru)侵朝鲜而颁布的(de)法律，立(li)法通过之(zhi)后一(yi)周，美军就在仁川大规模登陆。这项法律对军事物资和(he)设(she)施的(de)生产及分配进行(xing)国(guo)家管制，在入(ru)侵朝鲜和(he)冷战期(qi)间对美国(guo)军工复合体的(de)快速(su)发展和(he)高效运转发挥了重要作(zuo)用。拜登政府援引这项法律监管AI行(xing)业，很明显已经将AI视(shi)为未(wei)来战争中的(de)重要资源，并进一(yi)步明确几家主要的(de)AI企(qi)业在军事-工业-情报-科技复合体中的(de)重要地(di)位。
总统令提出的(de)另一(yi)项措施也很值得关注：建立(li)一(yi)个先进的(de)网络安(an)全计(ji)划，开发人工智能工具来发现和(he)修复关键软件中的(de)漏洞。正如笔者在此前的(de)一(yi)篇文章中介绍过的(de)，软件产品中绝大部分、经常多达99%的(de)代(dai)码是以依赖的(de)形式引入(ru)的(de)，厂商自主编写的(de)代(dai)码通常只占整个软件的(de)1%左右。一(yi)个典型的(de)现代(dai)商用软件通常会依赖几千、上万个开源组件，其中任何一(yi)个组件被发现安(an)全漏洞，都可(ke)能给(gei)整个系统造成损(sun)害。
据实时通信软件Telegram的(de)创始人Durov披露，美国(guo)政府曾(ceng)试图说服一(yi)名(ming)Telegram的(de)员工在代(dai)码中使用某个特定的(de)开源库——这个开源库很可(ke)能已经被美国(guo)情报机构渗透，任何使用该开源库的(de)软件就会无(wu)声(sheng)无(wu)息地(di)向美国(guo)政府打开“后门”。
不难想(xiang)象，如果某个国(guo)家的(de)情报机构掌握了大量尚未(wei)被IT业界知(zhi)悉(xi)的(de)安(an)全漏洞，它(ta)就会获得大量机会侵入(ru)全世界的(de)互联(lian)网系统，进行(xing)大范围监听、甚至进行(xing)网络破坏。而使用AI来辅助发现关键软件中的(de)漏洞，很有可(ke)能将获得这种(zhong)可(ke)利用的(de)漏洞的(de)机会提高一(yi)到两(liang)个数量级。打个形象的(de)比喻，这个所谓“先进的(de)网络安(an)全计(ji)划”，就是一(yi)个现代(dai)网络战争的(de)智能化军工厂，源源不断(duan)地(di)产出可(ke)以用于入(ru)侵敌(di)国(guo)网络的(de)武器。
2023年10月30日，美国(guo)总统拜登在华盛顿(dun)白宫(gong)签署人工智能监管行(xing)政令。 图源：新华社
整个总统令中几乎没(mei)有提到AI与传统产业的(de)结合，这一(yi)点也并不出人意(yi)料(liao)。在整体去工业化的(de)大背景(jing)下(xia)，美国(guo)的(de)AI产业发展高度虚拟化，与实体产业结合很少。然而总统令中有一(yi)处(chu)AI与实体产业的(de)结合点，应当引起注意(yi)：防范利用人工智能设(she)计(ji)危(wei)险生物材料(liao)的(de)风险。
今年4月29日，白宫(gong)宣布相关政府部门已经“建立(li)核(he)酸(suan)合成筛选框(kuang)架，以帮助防止滥(lan)用人工智能设(she)计(ji)危(wei)险生物材料(liao)”、“商务部还努力与私营部门合作(zuo)，制定技术指南以促进实施”、“各部门将要求接受政府资助的(de)项目实施方，只能从(cong)经过筛选的(de)供应商处(chu)获得合成核(he)酸(suan)”。
解读一(yi)下(xia)，上面这几句官样(yang)文字透露出的(de)信息就是：已经有企(qi)业在利用人工智能“设(she)计(ji)危(wei)险生物材料(liao)”了，并且政府将一(yi)方面限制其他企(qi)业进入(ru)这一(yi)领域、另一(yi)方面指定相关的(de)政府采购只能在有限的(de)企(qi)业范围内选择。简而言之(zhi)，已经有“设(she)计(ji)危(wei)险生物材料(liao)”的(de)企(qi)业被纳入(ru)了军工复合体。总统令中的(de)相关内容，很有可(ke)能就是这家/这些企(qi)业推动写入(ru)的(de)。联(lian)系到美国(guo)过去包庇(bi)731部队战犯、接收日本细菌战资料(liao)、在朝鲜战场进行(xing)细菌战、在德特里克堡研制生物武器等行(xing)径，AI在这一(yi)领域的(de)应用着实令人担忧。
总统令中也提到了一(yi)些过去十多年来反复被提及的(de)国(guo)内问(wen)题，例如种(zhong)族歧视(shi)、劳工待遇、教育、系统性剥削、歧视(shi)性执法等。早在AI技术取得大发展之(zhi)前，美国(guo)已有很多有识之(zhi)士批评互联(lian)网和(he)大数据会固化并加剧这些社会问(wen)题。但掌控着数字空间的(de)几家“科技巨头”（如Google、Facebook等）对学界和(he)民间的(de)批评一(yi)贯置若罔闻(wen)。例如2018年，“Data for Black Lives”组织的(de)创始人Milner以公开信形式呼吁Facebook与该组织合作(zuo)，解决Facebook平台上存在的(de)系统性种(zhong)族歧视(shi)问(wen)题，但Facebook对此没(mei)有任何回应。
到2021年，发表在《华盛顿(dun)邮报》的(de)一(yi)篇文章指出，Facebook的(de)仇(chou)恨言论检测(ce)算法显然仍存在严(yan)重的(de)种(zhong)族歧视(shi)：针对犹太人的(de)刻板印象和(he)仇(chou)恨言论会被该平台禁止，而针对黑人和(he)有色族裔的(de)诽(fei)谤和(he)种(zhong)族主义语言则(ze)不被惩罚。现在，掌握AI技术的(de)是同样(yang)的(de)几家科技巨头，他们(men)是否会在拜登总统令的(de)号召下(xia)整改这些已经被批评了十多年的(de)问(wen)题，笔者对此并不乐观。
从(cong)去年11月的(de)总统令之(zhi)后，美国(guo)政府展现出了很强(qiang)的(de)执行(xing)力：多个政府部门加大了招聘(pin)AI人才的(de)力度，并开设(she)了“ai.gov”网站专门跟踪汇总“确保美国(guo)在安(an)全、可(ke)靠(kao)、可(ke)信的(de)人工智能创新方面处(chu)于领先地(di)位，在利用人工智能机遇的(de)同时降低其风险”相关的(de)信息。总统令颁布后的(de)90天（1月29日）和(he)180天（4月29日），白宫(gong)分别公布了相关项目的(de)进展情况，列出了各部门已完成的(de)数十项任务。鉴于美国(guo)政府一(yi)贯以公私协(xie)作(zuo)的(de)方式开展工作(zuo)，笔者认为这反映(ying)出几家AI科技巨头企(qi)业正在积极地(di)向政府施加影响。
据笔者了解，我国(guo)对于AI潜在风险的(de)认知(zhi)与美方大同小(xiao)异。但在实际的(de)风险应对和(he)产业促进的(de)措施上，两(liang)国(guo)就体现出了很大的(de)差异。
美国(guo)一(yi)边宣称要避免AI武器化，一(yi)边积极地(di)将科技企(qi)业纳入(ru)军事-工业-情报-科技复合体、将AI技术纳入(ru)未(wei)来战争武器库——我们(men)当然还记得，Google是如何与美国(guo)军方紧密合作(zuo)，Facebook又是如何积极干(gan)预多个国(guo)家的(de)政治。
而中国(guo)的(de)AI战略则(ze)更(geng)注重赋能实体经济，成为推进现代(dai)化产业体系建设(she)、发展新质(zhi)生产力的(de)动力。这也解释了为何我国(guo)官方对大模型、AIGC的(de)态度相对冷淡，因(yin)为尚未(wei)看到能聊天的(de)ChatGPT、能画画的(de)Midjourney、能做视(shi)频的(de)Sora究竟应当如何转化为工业、农业的(de)新质(zhi)生产力，尽管这些工具显然在意(yi)识形态战场上很有转化为新一(yi)代(dai)武器的(de)潜力。对于AI可(ke)能引发的(de)国(guo)内社会问(wen)题，我国(guo)也通过《互联(lian)网信息服务算法推荐管理规定》、《生成式人工智能服务管理暂行(xing)办法》等监管措施尝试解决。但由于两(liang)国(guo)社会制度的(de)重大差异，这些国(guo)内经验在多大程度上对美国(guo)有参(can)考借鉴意(yi)义尚且存疑。
基于如此差异巨大的(de)出发点，美国(guo)业内专家对此次中美人工智能政府间对话期(qi)望不高，认为这很可(ke)能只是双方互相认识的(de)一(yi)次会议，可(ke)能不会产生什么具体结果，只是启(qi)动相关对话。
避免AI被武器化、释放(fang)AI对人类生产力的(de)促进作(zuo)用、共同解决AI带来的(de)社会问(wen)题，这是全世界都期(qi)望看到的(de)进展，也是中美两(liang)个最重要的(de)数字科技强(qiang)国(guo)不可(ke)回避的(de)责任。如果美国(guo)能放(fang)下(xia)对抗(kang)心态，真诚地(di)与中国(guo)开展合作(zuo)，而不是试图独占AI武器、率先占据未(wei)来战争的(de)优势地(di)位，那将对AI发展历(li)程发挥很大的(de)正面作(zuo)用。但是，从(cong)现有的(de)种(zhong)种(zhong)迹象来看，笔者对美国(guo)政府的(de)觉(jue)悟并不乐观。