11月7日，在第六届中国国际进口博览会技术装备展区，观众体验“VR行走沉浸剧场”

　　验证码作为一种技术形态或许终将被日益先进的AI所淘汰，但是其背后所代表的人机区分、人机关系等根本问题也将逐渐浮出水面，成为AI时代我们必须积极回应的重大问题。

文/肖仰华

编辑/吴美娜

　　你所服务的，是人，还是机器？这是个问题。

　　机器智能的突飞猛进，让智能的光环已不再唯“我”所有。当智能机器无处不在，人们不得不经常发出“喂，是你吗？”此类确认同类之询问。

　　这与大家都极熟悉且经常要用到的验证码高度相关。一个较为明朗的事实是，随着人工智能（AI）技术的进步，验证码失效几乎是一个必然的不可逆转的趋势。但验证码背后的人机区分问题，却将成为AI技术治理日益重要的问题之一。

验证码终将被淘汰？

　　验证码的一个基本功用，在于人机区分，也就是识别某个账号是人还是机器，进而阻止机器对于平台、系统或数据的访问。为防后患，人机区分十分必要，比如婚恋网站显然不希望一个机器账号登录网站与人类谈婚论嫁。再比如很多购物网站有让利或者红包发放，一旦机器账号混入，机器便可比普通人类以更快的速度抢到更多优惠。换言之，机器在计算与访问数据等方面的速度是人类所无法比拟的，面向人类服务的平台并不希望机器账户登录。因而，长期以来，验证码都是保障互联网信息服务业健康发展的重要关卡。

　　然而，伴随着人工智能的快速发展，人机区分将变得日益困难。人机区分的关键，在于刻画出人类智能独有的、不能或者至少是难以被机器智能所侵犯的领地。从机器智能的发展历史来看，这个领地的范围将会越来越窄。比如，我们曾经认为在下围棋这样的高度智力密集活动中机器难以超越人类，也曾认为在进行高质量对话中机器难以超越人类，更曾认为蛋白质结构预测这样的科学发现是机器难以超越人类的……然而事实是，人们假定这些机器难以超越人类的任务列表曾经很长，如今已经越来越短。“图灵测试”（由现代计算机科学之父英国人阿兰·图灵于1950年提出的一种测试机器是不是具备人类智能的方法）已然不再灵，但是人类还来不及提出新的有效的代替性测试方案。

　　人机区分日益困难，催生的产物之一是日益复杂的验证码。作为普通用户，人们深感验证码形式越来越多样、内容更复杂、进化更迅速。在日常的信息系统交互过程中，有人甚至发出感慨：当前的验证码似乎对机器更友好而对人类更粗鲁。

　　从科学角度看，目前互联网验证码多是基于人类感知能力（比如图像识别）、认知能力（比如运算）、行为能力（比如鼠标轨迹）的验证码，或者是几者的复合形式。但随着机器智能的发展，机器在这些方面都将接近甚至超越人类水平。比如，对于图像识别验证码，一个传统深度神经网络模型（如CNN，卷积神经网络）经稍加训练就足以破解；基于认知能力的验证码近年来也随着机器认知能力的显著增长而日益失效；基于用户行为的验证码，本质上也可以通过大量收集人类用户行为轨迹模拟人类的真实行为轨迹，进而完成破解。

　　近年来，ChatGPT等生成式大语言模型的快速发展推动了通用人工智能（AGI）的发展。AGI是指具有高效的学习和泛化能力、能够根据所处的复杂动态环境自主产生并完成任务的通用人工智能体，具备自主的感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念。

　　换言之，机器的智能水平已经达到甚至超越普通人的认知水平，这将对验证码造成致命冲击。AGI全面侵袭人类社会涉及智力的所有活动，从艺术创作到代码生成、从问题求解到科学发现、从问答聊天到辅助决策。机器在认知的广度与深度方面都达到了普通人难以企及的地步。

机器智能正在挑战人类智能

　　如果说人类的智能是人之所以为人、是人类宣示其万物之灵地位的根本所在，那么无疑，这一“根本”今天正面临着来自人工智能前所未有的挑战。在人类漫长的进化与发展史中，我们似乎不可避免地要见证一个新的智能物种——智能机器的出现。这对人类社会发展而言具有里程碑意义。

　　如何在机器智能快速发展的前提下捍卫人类智能的尊严，是我们目前尚未找到合理应对方案的问题之一。正是因为AGI所呈现出的认知智能空前强大，且其能力也仍然随着算力与数据的增长而增长，可以说已经没有什么只有普通人类能完成而机器不能完成的认知任务了。这从根本上决定了验证码终将在AGI技术面前失效。

　　AGI终结验证码的根本原因在于：AGI所形成的智能能力恰恰是通过验证码所需要的核心能力。曾经有一种常识理解验证码，比如问小明扎好红领巾去上学了，然后问小明最有可能是什么身份。这类验证码的出发点是大多数人类都具备的常识理解能力，在AGI出现之前，人工智能是很难理解这种常识的。常识理解一度被认为是AI难以克服的难题，现在基本上已被大规模生成式语言模型突破了。

　　需要注意的是，一般宣称AGI超越人类智能，是指超越人类的平均水平。我们必须承认人类中的一些精英群体，比如科学家、哲学家等，仍具有AGI难以超越的能力，比如他们跳脱现固有思维框架思考问题的能力。但只要AGI达到普通人的水平，对于验证码的威胁就是致命的。因为验证码的有效性恰恰在于确保绝大多数普通人能验证通过，而不是人类中的少数精英才能验证通过。

2022年5月26日，工作人员在国家大数据（贵州）综合试验区展示中心内讲解5G人工智能的宣传短片

　　即便我们能偶尔发现机器目前仍然不擅长的某个任务，比如某研究团队最近就研究发现，机器在侦探类推理等方面似乎还达不到普通人的水平，但实际上AGI能在极短时间内迭代升级从而具备相应能力。因为生成式语言模型是个典型小样本学习器，这意味着大模型经极少数甚至几个样本的调教就能具备解决某个新任务的能力。因此，但凡人类能用言语表达的任务，大模型都终将习得解决相应任务的能力，从而能够通过相应的验证码测试。

　　或许会有人想到，人类终究还有情感这类体验重于表达的任务。那么能否设计基于情感类的任务来做人机区分呢？

　　必须承认，当前的AGI是不具备人类的情感能力的。人类的情感活动最终体现在心理状态的波动，伴随着生化反应（所谓快乐时产生多巴胺，紧张时分泌肾上腺激素）。机器显然不具备人类的这套生理、心理反应机制。但大模型已能够做到在“形式上”理解情感，并在适当提示下出色地完成各类有“情感”、有“温度”的任务。比如，当你跟大模型说“我去药店买药”，虽然一些大模型常会给出“祝你购物愉快”这种低情商的回答，但是GPT4这类较为领先的大模型基本上会先安慰、关心、问询，然后再给出建议。虽然它缺乏所谓的真正意义上对人类的关心，但在形式上却越来越贴“心”。

　　最后一种可能是什么呢？能否利用人类的能力缺陷机制开展人机区分？就好比，对于两个随机10位整数的乘法，一毫秒出答案的大概率只能是机器，一般人估计要算个几分钟，即便人类寻找外部计算工作，也要若干秒时间。但这一做法的缺陷也很显见，机器或者机器背后的操控者可以很容易地故意设置一定的时滞，以接近人类的反应。换言之，足够智能的机器很容易通过降低自己的智能表现水平以达到人机混淆的目的。

人机边界日益模糊之后

　　验证码失效背后的深层次问题，是AI的快速发展所带来的人机边界日益模糊问题。人工智能的发展历史本质上就是一部机器越来越像人的历史，然而反观人类教育模式，多数仍然停留在传统阶段，培养“标准化”的人。此消彼长造成的结果，是人机边界模糊。比如使用过ChatGPT的人会深有体会，这类模型最擅长的就是聊天，即便与其长时间聊天，我们可能都不会觉得无趣。

　　人机边界模糊会带来很多社会问题。

　　对于普通民众，尤其是青少年而言，他们可能会因为相信类似聊天是真实的而沉溺于ChatGPT这类对话模型。而且，随着这种模型日益智能化，人们可能会更习惯向其提问，并接受它的答案，久而久之，人类的思考能力、探索欲、质疑精神会逐步弱化、丧失。在日益强大的AGI面前，如何避免人类精神本质的退化？这需要人们严肃思考并回答。

　　当人机真假难辨，虚假身份泛滥，欺诈将会层出不穷。现在已经出现一些新型犯罪，比如不法分子通过AI换脸、AI视频生成等手段实施欺诈。如何治理由人机边界模糊带来的社会性欺骗，已成为一个十分重要的AI治理问题。

　　此外，当人机真假难辨，机器侵犯人类的伦理、道德、情感等情形大概率就会出现。比如，最近一些虚拟数字人模拟过世的老人、电影《Her》中人类男子将情感倾诉于机器女友。事实上，智能机器只应该被用作理性的工具，不应染指涉及人类伦理、道德、情感相关事务。AI的情感、伦理与道德类应用应该慎而又慎。

　　伴随着人机边界模糊问题的另外一个长期问题，是机器的身份认同问题。未来人类将给予智能机器何种身份？智能机器是否只是工具？特别是当机器与人类的关系越来越紧密、认知能力也远超人类平均水平之后。人类将不得不深度考虑漫长的人机伦理关系重建。

　　在这一过程中，法律手段将显得日益必要。就好比当前法规要求生成式AI必须明确标注机器生成一样，未来对于每个账号，法律都应要求该账号主体明确其人机身份。每个账号都有义务明确标识自己的身份状态，是真人、机器抑或是在人的偏好设定下或者授意下的机器代理。确保网络上任何其他账号对某个账号的人机身份有着明确的知情权。明确沟通主体，是人与人沟通的基本前提。

　　验证码作为一种技术形态或许终将被日益先进的AI所淘汰，但其背后所代表的人机区分、人机关系等根本问题也将逐渐浮出水面，成为AI时代我们必须积极回应的重大问题。新型人机关系的重建刚刚启程，人类有义务让这条路的终点通向人机和谐共生的美好未来。

　　（作者系复旦大学计算机科学技术学院教授，上海市数据科学重点实验室主任）

来源：2023年12月13日出版的《环球》杂志 第25期

《环球》杂志授权使用，如需转载，请与本刊联系。

更多内容敬请关注《环球》杂志官方微博、微信：“环球杂志”。