AI围棋(qi)程序以4比1战胜了围棋(qi)世界(jie)冠军李世石。这一新闻(wen)引发了不小的轰动，因为专家曾经预测AI在(zai)围棋(qi)上战胜人类还需(xu)要至少10年的时间(jian)。
实际上，李世石在(zai)对局之(zhi)前(qian)曾自(zi)信(xin)满满地表示(shi)“我会获胜”，然而在(zai)两连败之(zhi)后他的气势就弱了很多，表示(shi)“希望至少能赢一盘”。这场对局之(zhi)后，李世石辩解道：“我是输在(zai)了意志力和专注力上，我并不认为AI在(zai)实力上已经超过了我。”但是，稳定的平常心(xin)、面对逆境坚韧不拔的精神以及持久不衰的体力都(dou)是实力的一部分(fen)。所以李世石用这些(xie)理由为自(zi)己辩解，更(geng)说明他输得非常彻底。
给我留下深刻印象的是最后的第五盘。李世石在(zai)第四盘勉强扳回一分(fen)之(zhi)后表示(shi)：“我已经发现AI的弱点了，它无法应对一些(xie)出乎意料的下法。”但在(zai)第二天(tian)的第五盘中，AI就克服了自(zi)己的弱点，可见AI成长速度(du)之(zhi)快。
另一方面，对于(yu)一些(xie)宣扬“人类彻底失败”的报道，我也并不认同。毕(bi)竟，人类在(zai)计算能力上甚至比不过很便宜的计算器。
话说回来，人类是为了弥补自(zi)己能力的不足才发明了计算机，并将其发展到如(ru)今的水平。看着“自(zi)己的孩子(zi)”茁壮成长，哪有反而感(gan)到嫉妒(du)的道理呢？而且，像围棋(qi)这种(zhong)存在(zai)正确解法的游戏，正是AI所擅长的领域(yu)。
创造、直(zhi)觉、人情——很多人将这些(xie)误认为是“人类所特有的智慧”。如(ru)今的AI不仅能撰写新闻(wen)报道，还能创作(zuo)诗歌、音乐和绘画，其水平已经远远超过了普(pu)通人。能倾听烦恼的AI咨询师也很受欢迎，很多体验过的人表示(shi)：“它能平和且认真地倾听我的诉说”“可以和它谈论(lun)一些(xie)不想(xiang)跟别人提及的私事”。
AI绝对不是与人类对立的敌(di)人，而是值得依靠的伙伴。同时，AI的出现也为我们(men)提供了重新思(si)考“到底什么才是人”这个问题的契机。
《怪诞脑科学：人类奇怪行为的脑科学原理》，[日]池谷(gu)裕二 著(zhu)，周自(zi)恒 译，人民邮电出版社2024年1月版。
重新定义“人性(xing)”的概念
AI因其实用性(xing)和有益性(xing)而被认为是一项非常有前(qian)途的技术。但与此同时，人们(men)也存在(zai)一些(xie)担忧，比如(ru)，AI会不会争(zheng)夺人类的工(gong)作(zuo)岗位？会不会发生失控(kong)以至于(yu)威胁到人类的生存？
在(zai)上述担忧之(zhi)中，前(qian)者促使我们(men)思(si)考“只(zhi)有人类能完成的工(gong)作(zuo)是什么”，或者说“人到底是什么”，换句话说就是必须重新定义“人性(xing)”的概念。除此之(zhi)外，由于(yu)AI代替人类工(gong)作(zuo)会减少纳(na)税(shui)人数，因此其还会涉及国家层面的经济结构重组，可以说这是一个非常深刻的话题。
关于(yu)后者，人们(men)的恐惧则相对单纯。这一问题的主旋律是担心(xin)是否会出现能够奴役(yi)人类的AI，也就是科幻小说中比较常见的那种(zhong)担忧。
安全性(xing)包括safety（侧重于(yu)保护人的身体健康和福祉）和security（侧重于(yu)保护人、财产和信(xin)息免受威胁或损害）两层含义。人们(men)往往更(geng)倾向于(yu)关注safety层面的安全，但其实在(zai)我们(men)身边现实存在(zai)的威胁是security层面的漏洞(dong)。
美国华盛顿大学的河野(ye)忠义博士等人是一个专门(men)研究计算机安全漏洞(dong)的团队。他们(men)于(yu)2017年7月发表的一个名(ming)为“RP2”的算法引发了热议。该算法可以让AI对图像的识别以很高的概率出现错误。
电影《她》（2013）剧照。
例如(ru)，利用RP2算法，可以让自(zi)动驾驶汽车上搭载的摄(she)像头对道路标志产生误判。论(lun)文中展示(shi)了一个可以让AI以100%的概率将停车等待标志误认为道路限(xian)速标志的具体例子(zi)。这个方法非常简单，即便不具备专业知识也能够人为干扰AI的识别结果。如(ru)果该方法被人恶意利用的话，其后果是显而易见的。我认为，与其担心(xin)“失控(kong)的AI奴役(yi)人类”这种(zhong)科幻情节，还不如(ru)担心(xin)AI的安全漏洞(dong)更(geng)具有现实意义。
AI和人类相互取长补短
在(zai)大学里，最辛苦的工(gong)作(zuo)莫过于(yu)组织入学考试了。因为不但对考务工(gong)作(zuo)的要求十分(fen)苛刻，而且防(fang)止(zhi)作(zuo)弊也非常困难——如(ru)果为了杜绝作(zuo)弊行为而提高判定标准，就会不可避免地冤枉好人，但也不能对那些(xie)可疑的行为放任不管。
最近，使用智能手机进行作(zuo)弊的行为成为了新的防(fang)范目(mu)标。原则上说，在(zai)考试过程中上厕所需(xu)要由监考老师陪同。当然，这意味着监考老师的男女比例必须平衡才行。但是，一个考场中通常只(zhi)能安排几名(ming)监考老师，所以过去曾经出现因10名(ming)考生一起上厕所而不得不放弃陪同的情况。
其根本问题在(zai)于(yu)，便携式(shi)设备的性(xing)能已经超越了人脑。类似的现象在(zai)专业领域(yu)也会发生，比如(ru)将棋(qi)。
计算机将棋(qi)程序的水平已经超越人类棋(qi)手很久了，但日本将棋(qi)联盟的基(ji)本作(zuo)风还是对棋(qi)士道的清廉精神表示(shi)信(xin)任。但是，在(zai)体育(yu)运动的世界(jie)中，将是否使用兴奋剂寄托在(zai)运动员的道德和良心(xin)上是完全说不过去的。在(zai)实际的将棋(qi)比赛中，经常发生棋(qi)手离席的情况，这让日本将棋(qi)联盟也不得不对此采取行动。
如(ru)今，在(zai)正式(shi)比赛中出现的新棋(qi)路，大部分(fen)都(dou)来自(zi)计算机将棋(qi)程序。在(zai)一般的职场上，早晚也会出现类似的现象。人的“聪明”所具有的价值没有以前(qian)那么高了，因为AI更(geng)可能会做出合理的判断。
电影《机器人之(zhi)梦》（2023）剧照。
将来，可能每(mei)个人都(dou)会和AI结对工(gong)作(zuo)。当然，最终(zhong)承担工(gong)作(zuo)的还是人类。也就是说，在(zai)职场这个舞台上，人类会变成按(an)照AI所编(bian)写的剧本进行表演的专业演员，并通过其具有迷惑性(xing)的演技让观(guan)众（雇主）支付演出费（工(gong)资）。现在(zai)的棋(qi)手所面临的状况，也许预示(shi)着将来职业的演变方向。
NIST（美国国家标准与技术研究所）的菲利普(pu)斯(si)博士等人在(zai)《美国国家科学院院刊》（2018年6月）上发表的一篇论(lun)文中的调查结果显示(shi)，AI与人类协作(zuo)可以提高成绩。菲利普(pu)斯(si)博士等人的实验对象是人脸(lian)识别测试，受试者会看到两张人脸(lian)的照片，然后判断这两张照片中的人脸(lian)是否为同一个人。
人类具有较大的个体差异，有些(xie)人擅长辨别人脸(lian)，而有些(xie)人则不擅长。法医学专家和入境审查员之(zhi)中，有很多具备卓越的人脸(lian)识别能力的人，他们(men)具备超凡的个体辨别能力，其准确性(xing)甚至超过了指纹识别。AI也毫不逊色。过去3年间(jian)，AI的人脸(lian)识别性(xing)能快速提升。
菲利普(pu)斯(si)博士等人选(xuan)择了4种(zhong)特别优秀的AI模(mo)型，测试表明，它们(men)的人脸(lian)识别成绩与顶(ding)级的人类专家旗鼓(gu)相当。接下来，菲利普(pu)斯(si)博士等人对人类与AI的协作(zuo)情况进行了测试。对于(yu)普(pu)通人来说，在(zai)参考AI识别结果的基(ji)础上进行判断时，成绩确实得到了提高，而且判断的波动得到了抑制，成绩变得更(geng)加稳定。有了优秀的AI给出提示(shi)，成绩会提高，应该说是理所当然的。
那么，让顶(ding)级人类专家与AI协作(zuo)又会如(ru)何呢？令人惊讶的是，两者的成绩都(dou)得到了提高。也就是说，人脸(lian)识别的成功率在(zai)目(mu)前(qian)依然没有达到极限(xian)。也许AI并不是用人类的方法来识别人脸(lian)的，AI和人类各自(zi)擅长识别的人脸(lian)类型是不同的，通过相互取长补短，就可以突破各自(zi)的极限(xian)。
世界(jie)将迎来AI的时代，从这一研究中我们(men)或许可以窥(kui)见未来的一角(jiao)。
人类独有的能力是什么？
《自(zi)然》杂志（2021年2月）发布了一种(zhong)名(ming)为“拉马努金机”的AI。这是以色列理工(gong)学院的卡米那博士等人所做的一项研究。
拉马努金是一个真实存在(zai)的人物(wu)，他是一位英年早逝的印度(du)天(tian)才数学家。虽然没有接受过高等数学教育(yu)，但拉马努金的脑海中会不断闪现出各种(zhong)数学定理，按(an)照他本人的话来说，这些(xie)都(dou)是来自(zi)“数学女神”的启示(shi)。他的笔记中共有大约4000条定理，其中有已知的定理，也有很多未知的重要定理。不过，拉马努金本人并不具备证明这些(xie)定理的能力，因此他身边以及后世的数学家都(dou)在(zai)努力证明这些(xie)定理。
电影《终(zhong)结者：黑暗命运》（2019）剧照。
这次(ci)所发表的新AI用这位伟大数学家的名(ming)字(zi)命名(ming)，大家应该能推测出它具备什么样的能力了吧——就是像拉马努金一样提出各种(zhong)数学定理，但并不会去证明它们(men)（严格(ge)来说，这些(xie)不是“定理”而是“猜想(xiang)”）。也就是说，这个AI的作(zuo)用就是为专业数学家生成“题库”。
这个“题库”中有数学家长期以来一直(zhi)在(zai)尝试证明的待解决问题，也有证明难度(du)较大的未发现的问题。其中一些(xie)重要定理一旦被证明，就可以被运用在(zai)物(wu)理学等领域(yu)，因此这个AI也具备很高的实用价值。数学家泽尔博格(ge)说过：“人类研究数学这件事早晚是要被时代淘(tao)汰(tai)的。”现阶(jie)段，拉马努金机还不能自(zi)由提出任意领域(yu)的数学定理，而是只(zhi)能生成“连分(fen)数”这个特定类型的算式(shi)。但尽(jin)管如(ru)此，这说明曾经被认为是人类专利的“灵感(gan)”和“洞(dong)察”，似乎AI也可以具备了，这一点所带来的冲击恐怕已经超出了数学的范畴。
我们(men)必须面对一个哲学问题：人类独有的能力是什么？
有人将AI的能力凌驾于(yu)人类之(zhi)上的时刻称为“奇点”。对于(yu)“将来AI奴役(yi)人类”这种(zhong)预想(xiang)，虽然在(zai)大众中接受度(du)很高，但专家基(ji)本上都(dou)是不太相信(xin)的。不过，由于(yu)偏见和歧视而导致AI表现出一些(xie)不恰当的行为，这种(zhong)可能性(xing)却是真实存在(zai)的。
“深度(du)学习”在(zai)图像识别领域(yu)获得了巨大的成功，它也是这一波AI浪潮的主要推动者。深度(du)学习起源于(yu)谷(gu)歌公(gong)司于(yu)2012年所发表的成果。谷(gu)歌让AI随机观(guan)看1000万张互联网图片，然后让AI自(zi)动识别其中的猫咪等对象。对于(yu)传统的AI，设计者必须事先明确告知“猫咪是什么样的”，但深度(du)学习不需(xu)要这样的信(xin)息就可以自(zi)主进行学习，这一点可以说是划(hua)时代的。
这一历史性(xing)事件被称为“谷(gu)歌的猫咪”，其实它其中已经隐藏了深度(du)学习受人类的偏好或偏见影响的风险——为什么AI识别的第一个动物(wu)不是狗狗而是猫咪呢？原因很简单，因为爱(ai)猫人士更(geng)喜欢把猫咪的照片发到网上，于(yu)是AI遇(yu)到猫咪图片的频率就会更(geng)高，学习的机会也会相应增(zeng)加。
就目(mu)前(qian)来说，自(zi)动驾驶汽车所搭载的对象识别算法，对于(yu)肤色较深的人种(zhong)识别灵敏度(du)较低。商用人脸(lian)识别应用程序的准确性(xing)也存在(zai)人种(zhong)偏差（其中谷(gu)歌相册将黑人误判成大猩猩的案例非常有名(ming)）。此外，对人的行为的公(gong)正性(xing)进行判定的AI也会做出对黑人不利的判定。在(zai)这些(xie)例子(zi)中，AI设计者本身都(dou)没有恶意，罪(zui)魁祸首是现存数据中的固有偏差。也就是说，社会偏见会如(ru)实地传导给AI。尽(jin)管以“奇点”为代表的科幻想(xiang)象中，人类与AI处(chu)于(yu)纯粹的对立地位，但人类真正的敌(di)人恐怕并不是AI，而是那些(xie)恶意使用AI的人们(men)，或是在(zai)不知不觉之(zhi)中腐蚀人类的潜在(zai)偏见。
随着大规模(mo)的数据收集变得越来越容易，“大数据”已经成为我们(men)身边一个常见的概念了。在(zai)这样的时代中，我们(men)所面临的下一个问题就是：我们(men)应该如(ru)何对待大数据？
很遗憾，人脑能够同时处(chu)理的信(xin)息量是有限(xian)的。仅是盯着大数据看的话，根本无法从中获取有意义的信(xin)息，也无法将其作(zuo)为可供参考的判断依据。所以，我们(men)需(xu)要对数据进行分(fen)析(xi)，从中提取有用的信(xin)息，也就是所谓(wei)的“数据挖掘”。
不过，数据挖掘已经是一种(zhong)像化石一样十分(fen)古老的方法了。近年来，两种(zhong)处(chu)理大数据的新方法取得了成功，就是“深度(du)学习”和被称为“深度(du)Q网络”的AI。
深度(du)学习是一种(zhong)神奇的算法模(mo)型，只(zhi)要对计算机输入大量的信(xin)息，就可以在(zai)无须事先传授任何知识的情况下，让计算机学会识别动物(wu)、物(wu)体以及人的表情和对话等。相比之(zhi)下，深度(du)Q网络则更(geng)加神奇。深度(du)Q网络是于(yu)2015年2月发布的一种(zhong)算法模(mo)型，它可以做出恰当的行动和决策。例如(ru)，让这个模(mo)型玩市面上的49种(zhong)电子(zi)游戏，它可以在(zai)其中29种(zhong)游戏中达到高级玩家的水平。
电影《非凡》（2015）剧照。
重点在(zai)于(yu)，我们(men)并不需(xu)要向深度(du)Q网络提供游戏的操作(zuo)说明，也不需(xu)要告诉它画面上所显示(shi)内容的含义，以及手上的控(kong)制器具有什么功能……只(zhi)要为它设定“得高分(fen)”的目(mu)标，深度(du)Q网络就可以自(zi)主学会“应该做什么”，并取得超越普(pu)通玩家的成绩。
就连这个算法的开(kai)发者也表示(shi)，深度(du)Q网络在(zai)学习过程中的内部运算已经完全无法理解了。所谓(wei)智能就是“超越人类智慧”的意思(si)吧。不过，无论(lun)其原理如(ru)何，如(ru)果深度(du)Q网络比人类更(geng)善于(yu)决策，那么将来把人生规划(hua)和公(gong)司决议都(dou)交给它来决策可能会更(geng)加高效吧。
本文选(xuan)自(zi)《怪诞脑科学：人类奇怪行为的脑科学原理》，较原文有删节修改。已获得出版社授权刊发。
原文作(zuo)者/[日]池谷(gu)裕二
摘编(bian)/何也
编(bian)辑/张进
导语(yu)校对/刘(liu)军