一、一趟没有使双腿变强的旅程
设想一个普通的清晨。一个人走出家门,坐进汽车,前往几十公里外的一所学校。他要在那里参加一次讨论。出门时,他没有因为双腿跑不过汽车而羞愧;抵达后,他也不会要求自己的小腿证明,这段距离确实由它们独立完成。他知道自己到了,知道这次到达使一场原来难以安排的会面成为可能。道路上的移动没有增强他的腿力,却改变了他能够组织的生活。
讨论结束,他打开电脑,请一个人工智能系统帮助整理几种观点。他提供问题背景,补充遗漏的条件,对一项结论表示异议,系统据此重新组织材料。几轮往返之后,一份比最初设想更完整的分析出现在屏幕上。就在这时,他突然不安起来:这些话不是我逐句写的,这些比较不是我逐项完成的,那么,我到底还做了什么?我是不是正在失去思考能力?
同一个人,在同一天里,对两次借助工具完成的活动作出了不同的自我解释。到达学校时,他没有因发动机承担运动而认定自己的存在被削弱;得到分析时,他却因部分文字与推理不由自己亲自执行,而怀疑“我”正在从活动中消失。这一差别不能只用“汽车是工具,人工智能不是普通工具”打发过去。即使两类技术确有重要差异,我们仍然需要追问:什么样的差异能够支持什么样的结论?一项执行过程被承接,为什么会变成对整个人的存在判决?
这个清晨是为分析而设置的思想情境。它把几个日常语言常混在一起的问题放到了同一张桌面上:谁完成了任务,谁获得了能力,谁发生了学习,谁应当承担结果,以及人的价值是否依赖于亲自完成所有步骤。把它们分开,才有机会解释一种往返:使用工具时宣称被赋能,看清工具的执行作用时又惊呼被掏空。
两种说法可能共享同一个前提。它们都把“我”理解成一个边界固定、能力原本储存在内部的自然人。工具只被允许从外面帮助这个人,不被允许改变能力的实现方式,更不被允许改变活动主体的构成。一旦工具的作用大到不能继续忽略,这个前提便承受不住了。然而,我们首先怀疑的不是前提,而是自己。
本书从这道裂缝出发。它既不打算保证人工智能永远只做人的助手,也不打算用某项机器暂时做不好的任务为人筑起最后堡垒。它要讨论一个更基础的问题:在人与工具共同构成的活动中,我们究竟依据什么辨认能力,依据什么划定主体,又依据什么判断人的生活是变好了还是变坏了?
二、赋能与掏空,可能来自同一本错误账簿
假设一项工作原来需要一个人逐项整理资料、计算数值、绘制图表,再写出说明。现在,其中一些过程由计算机执行,另一些过程在人与系统的往返中完成,最终结果也确实更好。此时说“工作能力提高了”,未必有什么问题;问题在于,这句话的主语没有被说清楚。
如果它指的是正在运行的人—工具复合体,那么提高是一个有待具体测量、但意义明确的判断。如果它指的是移除相关工具之后的自然人,则需要另一组证据。我们不能因为复合体完成了更多,就认为人的大脑独立拥有了机器内部全部运算;也不能因为大脑没有独立拥有这些运算,就宣布刚才的能力全是假的。
错误往往发生在两次归属之间。第一次,复合体取得结果,我们把全部能力记到自然人名下;第二次,发现自然人无法脱离工具重演整个过程,我们便从他的账上扣除刚才记入的能力。先有一次过度归功,后有一次过度否定。于是,一个活动机制的变化,被体验成“我先变强,后来又被技术掏空”。
本书把这种情况称为主体性的定义亏损。这里的“亏损”不是说某个人智力不足,也不是给焦虑者增添一个新的缺点。它指的是解释框架没有覆盖实际发生:能力的承担者已经跨出了自然人的身体边界,语言中的主体边界却原封不动。我们用一个小于实际活动范围的主语,承载一个大于它的能力判断。
这项批判也必须准确限定。并非所有使用“增强”“赋能”词语的人,都接受这种固定主体假设。有些研究正是在讨论人、技术与活动的联合组织。批判不能靠挑出一个词就宣布对方犯错。我们所反对的,是把复合系统的表现增长直接解释为边界不变的自然人的原能力增长,而不追问实现机制的那一种赋能论。
诺曼在一九九一年的《认知人工物》中,已通过汽车、滑轮、书写等例子,明确批评把系统能力扩大理解为个人能力被直接放大的说法,并区分系统视角与个人视角。[1]因此,“工具参与以后,个人所做的任务改变了”不是本书首次提出的发现。本书据此向后追问:当复合活动已改变,而自我评价仍沿用旧边界时,这种错位怎样生成额外的存在威胁?封装的迭代和三向变化,又怎样使这一问题继续出现?
三、封装:复杂性没有消失,而是改变了承担的位置
要重新理解工具,不能只说它把人的能力放到了外面。“放到外面”描述了位置,却没有解释运行。一本手册可以写下完整步骤,但使用者仍要逐项执行;一个稳定的机器机制,则可能使许多步骤在一次调用之后连续发生。两者都涉及外部资源,却不是同一种封装程度。
本书所说的能力封装,是把某种功能的实现机制组织为相对稳定的整体,使它能够在一定条件下被调用,并由相应结构或流程承担内部执行。调用者不必每次重新构造全部机制,才能得到功能结果。这种封装既可以把已有过程稳定下来,也可以把发明中刚刚形成的新机制组织起来。汽车不是把腿复制进车壳;工具创造的可能是另一条通向位移的实现路径。
从调用者看,一个复杂过程可以显露为“一次操作”;从设计与维护者看,它仍包含多层结构和差异。所谓整体性、稳定性和相对独立性的粒子模态,指的是过程在指定互动中获得单位地位,而非内部工作消失了。相对独立也不是相对所有条件独立,而是调用者不必每次亲自实现内部过程。
从调用者看,一个复杂过程显露为“一次操作”;从设计者与维修者看,同一个过程仍然包含许多结构与步骤。两种看法并不矛盾,它们对应不同的互动颗粒。所谓具有整体性、稳定性和相对独立性的粒子模态,首先是这一层级上的单位化:内部复杂性没有被抹去,却不再要求每位调用者逐项展开。
这里的粒子不是物理学基本粒子的借用结论,也不是绝对不可分割的东西。它是一个过程在特定互动中获得的整体地位。我们可以整体调用一个经过检验的计算流程;当它出现问题时,又可以展开其中的步骤,定位输入、假设或实现的错误。封装与展开可以发生在不同人、不同工具和不同时间之中,不必全部压到一个使用者身上。
这也解释了“自动执行”为什么不是全有或全无。刀具的结构能够承担某些切分条件,但刀不会自行安排一顿饭;程序能够连续执行一段流程,却不因此获得处理所有情境的可靠性。结构承担、流程自动化与整项任务的自主运行,是不同程度的封装。把它们混为一谈,既会低估早期工具的作用,也会高估某个新系统的实际能力。
四、不是一条更长的能力刻度,而是三个观察角度
“能力升维”如果只意味着做得更快,就没有必要另起一个名称。速度可以在原来的量尺上比较,数量也可以继续相加。本书所说的升维,要从广度、高度、颗粒度三个角度观察能力结构发生了什么变化。这里的维度是分析角度,而非未经建模就宣称增加了某个数学空间的维数。
三个角度还需要与价值评价分开。“出现了新的调用单位”是能力结构的描述;“这个单位值得采用”则涉及效果、代价与生活目的。前一个判断可以为后一个提供证据,却不能代替后一个。本文将具体说明发生了哪一种改变,而不把“升维”用作凡是新技术都可以领取的赞誉。
广度涉及能够进入的活动范围、可以连接的领域和可以开展的互动种类。一个人通过复合研究过程,开始把文字材料、实地记录与可检验的模型联系起来,变化可能不只是“阅读了更多”,而是原来互不相通的活动获得了相互进入的路径。广度并不等于资料堆积。一千份互不发生作用的材料,可以只是一个更拥挤的文件夹。
高度涉及活动的组织层级。原来必须逐步执行的过程,经过稳定封装之后,成为新的组织可以调用的条件。研究者可以不再逐项重做某段计算,而去比较几种建模方式;新的比较过程又可能被组织与封装,进入下一轮活动。这里没有一个事先规定、永远属于自然人的最高座位。今天的组织环节,也可能成为明天的可调用过程。
颗粒度涉及什么能够被辨认、处理和调用为一个单位。一个流程可能包含许多细小操作,却在调用端呈现为一个完整任务。另一方面,一种新的分析工具也可能让过去被混在一起的差异得到更细致的辨认。对本书而言,颗粒度首先不是越大越好或越小越好,而是我们需要辨认:当前活动用什么粒度组织,哪些内部差异被保留,哪些被暂时收进封装。
三个角度可以联动,却不必同步。一个系统可以覆盖更多领域,但仍只会在每个领域重复相同操作;可以调用很大的任务单位,却无法根据现实反馈重新组织;也可以把观察做得很细,却没有因此发现任何新的关联。不能看到一个角度上有变化,就宣布整个主体全面升维,更不能把所有变化折算成一句笼统的“更聪明”。
五、自然人没有消失,但自然人不能包办全部解释
有人可能担心,既然能力属于复合体,个人是不是就被稀释了?这种担心值得认真对待。一个人的身体、经历、痛苦、愿望与承诺,并不会因为我们改变能力分析的单位而自动消失。然而,承认这些事实,不等于必须把所有活动都解释成身体内部能力的外在表现。
这里的“自然人”指具有身体与生活经历的具体个人,不是一个从未受语言、教育和技术影响的原始存在。后文所说“脱离工具的个人”,也只是在某项考察中暂时移除指定工具,而非剥去他的全部发生历史。我们可以问学生离开某个软件后能否解释概念;这份解释仍然可能依赖既往教学、书写和他人的劳动。个体与复合体的分析区分,不应被误作文明之外存在一种纯粹裸人的证明。
同样,复合主体也不是把相邻事物随意装进一个袋子。一个人在车旁散步,与一个人通过车辆实施交通,是不同的活动。只有相关部分确实参与了相互制约与反馈,能够共同解释正在发生的行为,我们才有理由讨论复合行动的承担者。远处的一台机器不能因为可能联网,就自动成为每个人当下思考的一部分。
克拉克与查尔默斯在《延展心智》中提出,人同外部构件之间的双向互动可以构成一个耦合的认知系统;他们也讨论了这种连接的可靠性及边界。[2]本书与这一方向存在亲缘,但不据此宣称所有关于主体的问题都已经解决。参与一个认知过程,与具有统一的主观体验,并不是同一命题;描述能力的构成,也不直接等于确定成果署名和责任分配。
复合主体这一概念的价值,在于使能力发生的解释更准确,而不是把人格交给机器。如果一个概念让我们更难看见谁受到影响、谁有权改变流程、谁没有选择,那么它就偏离了本书的目的。主体边界应当随着问题被说明,而不能像橡皮筋一样,领奖时缩回个人,出了问题又伸展到整个社会。
六、人的价值不必寄居在机器能力的空白处
一种看似稳妥的安慰是:机器可以完成许多事情,但总有一些事情只有人能完成。这句话也许包含值得讨论的事实判断,却不能未经补充便成为人的尊严根据。我们必须追问,为什么一个人值得被尊重,需要另一种存在在某项测试上失败?
设想有人把自己的价值完全系在一项技能的独占上。在机器尚不能完成它时,他认为自己安全;机器表现接近时,他开始不断抬高“真正能力”的标准;一旦某个新结果出现,他又寻找下一项只有人能做的事。这里不需要预言机器最终能做到什么。仅从论证结构看,人的价值已经被放在一个不断移动的边界上,安全感必然依赖于边界外仍有空白。
更深的问题是,这种标准即使没有机器,也会伤害对人的理解。一个普通人并不因为算不过数学家、写不过作家或跑不过运动员,就失去被尊重的资格。我们能够接受人之间能力差异不等于价值等级,为什么一旦比较对象换成机器,就立刻认定谁做得更好,谁才有存在理由?
本书在这里提出的是规范性立场,而不是假装从机器性能中测出了人的尊严:人的基本价值不应以在一项竞争中取胜为条件。技能可以影响职业机会,贡献需要具体评价,承诺需要负责,但这些都不能把一个人整体兑换成某个排行榜的位置。人没有义务为了证明自己值得活着而不断击败最先进的系统。
这也意味着,本书不能把“复合能力强的人”重新立为唯一值得尊重的人。如果旧观念要求人人守住自然人的优势,新观念却要求人人迅速组装最强复合体,那么焦虑只是换了一套服装。能够使用更好的工具,不能成为获得基本尊重的入场券;暂时不使用、没有条件使用或选择慢一点,也不应被解释成生活失败。
七、做得更好,与学会更多,是两件需要分别证明的事
如果一位学生在工具帮助下完成了难题,我们可以承认任务完成了,却不能据此宣布他已经独立掌握相应方法。反过来,如果他离开工具后无法重做整个过程,也不能只凭这一点否定他曾经参与的复合活动。争论常常不是因为证据太少,而是因为人们拿同一份证据回答了不同的问题。
学习可以指某些知识与方法在个人身上形成了可持续的变化;也可以指一个人学会了进入、组织和调整某种复合活动。这两类变化可能相互促进,也可能没有同时发生。一个人能调用统计程序,不代表他已经理解所有统计概念;一个人熟悉某种计算方法,也不代表他能够把程序、数据与现实问题组织成可靠研究。把其中一类当作另一类的充分证明,都会留下盲点。
萨洛蒙、珀金斯与格洛伯森在讨论技术与认知时,区分了与技术共同活动时的效果,以及这种活动对之后脱离技术的认知表现所产生的效果。[3]这种区分不能被简单用作“人必须把工具的一切能力内化”的依据。它首先告诉我们,需要知道自己在测什么,不能以共同工作的成绩替代个人学习的证据。
关于生成式人工智能的研究也提供了具体提醒。巴斯塔尼等人在高中数学教学中的实验发现,某种无护栏的工具使用方式能够改善使用时的解题表现,却使随后无工具测试的表现低于对照;加入学习导向的设计后,这一负面效果得到明显缓解。[4]这项研究支持对特定学习安排保持警惕,却不能被扩大成“所有人使用任何人工智能都会长期变笨”的结论。
这并不允许我们用“复合能力”替所有不理解辩护。一个人没有读懂材料,却把工具输出当作自己的研究成果;不知道关键假设,却对结果作出超出依据的承诺,这些问题并不会因为使用了新的主体概念而消失。复合不是免检章。它要求我们更准确地追查哪些过程实际发生了,哪些理解尚未发生,哪些可靠性由其他机制承担。
八、汽车的类比,不能替人工智能签发可靠性证书
从汽车理解能力归属,有助于拆开腿力与交通能力;但这个类比不能直接证明某个人工智能系统已经像成熟交通工具一样值得托付。机制上的相似,只能帮助提出问题,不能代替对具体技术的检验。若本书在这里偷渡可靠性,就会从反对误导转而制造另一种误导。
应当把两种判断分开:一个过程是否可以由复合系统承担,以及当前这个复合系统是否已经能够可靠承担。前者涉及可能的构成方式,后者涉及实际证据。我们可以承认某类推理、搜索或检验过程有机会进入封装,却仍然发现某个具体实现错误很多、条件不明、失败难以识别。这时的结论应是该实现尚不足以托付,而不是从原则上宣布所有外部认知过程都不算能力。
封装不能只由界面决定。一个任务被放进一个按钮,并不等于内部过程已经成为稳定整体。按钮可以遮住复杂性,也可以遮住未解决的问题。真正有意义的封装,需要让调用者在适当层级上知道它适用于什么、不适用于什么,怎样判断结果是否进入可接受范围,以及异常出现时如何修复或转接。
然而,可靠性也不能被解释为每位使用者每次都要重做全部内部工作。如果一个系统声称可以承接某项任务,而调用者必须从头独立完成同一任务才能确认结果,那么这个层级上的托付仍然十分有限。检验本身可以有不同形式,也可以由其他工具与协作过程承担。需要检查的是验证安排是否真实有效,而不是验证动作是否全部留在人手里。
九、系统变强,不等于每个人的生活都会自动变好
一个组织通过技术完成更多工作,与这个组织中的每个人都获益,是两个不同命题。即使前一个已经得到证明,后一个仍然取决于工作如何重新分配、收益如何分享、谁承担转换成本,以及谁拥有改变安排的机会。本书不能用复合能力的提高,覆盖个人生活中的真实损失。
设想一位资料编辑。新的系统承接了他过去最费时的整理工作,组织的产出因此增加,但他却被要求以相同报酬完成更多项目,或者被取消原来的岗位。此时告诉他“你只是误解了主体性”,不仅无助,而且失礼。概念上的误认可能使他从失去岗位进一步推断自己毫无价值,但岗位与收入的变化并不是概念错误创造出来的。
国际劳工组织在二〇二五年的职业暴露研究中分析生成式人工智能对任务与职业的潜在影响,并强调职业转变的重要性。[5]潜在暴露不能直接读成已经发生的裁员,更不能机械兑换成某个人未来失业的概率。同样,整体上可能出现任务重组,也不能用来担保任何具体岗位都将安全保留。宏观研究提供观察尺度,不提供个人命运的免检结论。
从封装角度看,值得警惕的一种安排是:能力发生的条件被少数主体掌握,使用者能够调用,却不能保存关键积累、迁移工作流程或影响规则。此时复合关系不是不存在,而是实际存在却高度不对等。一个人依赖的能力越来越大,能够支配这种依赖的条件却越来越少,他的焦虑就具有明确的现实对象。
故而,本书对焦虑的回应有两条并行道路。一条道路纠正不成立的自我否定,使人不再把某项任务变化误认成整个人的价值取消;另一条道路指向工具、组织与制度的改造,使人有条件参与新的能力发生。缺少前者,现实压力容易被放大成无边界的存在恐慌;缺少后者,反焦虑就会成为要求个人适应一切的漂亮说辞。
十、焦虑的感受是真实的,关于未来的推论却仍可讨论
“这是一种不必要的焦虑”很容易被听成“你不应该有这种感觉”。本书不采用这种说法。一个人的紧张、失落与不安是他正在经历的事情,不能因为其中包含某个不成立的推论,就宣布经历不真实。我们可以尊重感受,同时讨论产生感受的解释是否充分。
这里所说的不必要,限定的是那一部分缺少根据、却额外增加负担的推论。例如,从“工具可以完成某项工作”跳到“我的全部经历已经没有意义”,中间缺少了许多必要环节。一个人可以对收入变化保持警觉,也可以为熟悉的工作方式感到惋惜,却不必同时背负“我从来就没有任何价值”的总判决。
把这些层次分开,并不是一种心理治疗的替代方案,也不是对任何个体状况的诊断。本书主要讨论公开可分析的观念、活动与制度。当不安持续妨碍生活时,个人需要的帮助可能不止于阅读一本思想著作。理论的作用有边界,正如工具的封装有边界一样;承认边界不会削弱论证,反而使它免于冒充万能解释。
我们提出“主体性的定义亏损”参与某类焦虑的发生,是一个需要继续研究的机制判断,而不是已经测出了它在人群中占多大比例。要检验它,可以比较不同解释方式如何影响人们对能力归属的判断:当任务信息与风险信息相同时,明确区分个人与复合体,是否减少了不成立的自我贬低?它是否同时保留了对实际错误和不公平安排的识别?
因而,阅读本书无需先成为技术乐观主义者。怀疑是允许的,反例是必要的,某个工具不好用也无须勉强赞美。我们真正需要暂时放下的,是那种未经检查便把技术变化翻译成人的价值减少的习惯。放下它,未必立刻轻松,却能使我们更接近真正需要处理的事情。
十一、沿着发生的线索,而不是守着一份旧能力清单
本书采用主客互动的发生视角:能力不是先完整藏在主体内部,再拿出来作用于一个毫无变化的客体;它需要在具体活动中形成、稳定,并在条件改变时重新组织。我们观察的不只是“谁拥有多少”,而是哪些参与者、结构、过程与反馈共同使某种能力成为现实。
工具把某些实现过程组织成可调用整体,复合活动据此形成新的能力;新的能力稳定之后,还可能再次被封装。沿着这条线索,文明不必被想象成一个永恒不变的人,不断往自己的能力仓库里搬进新物品。我们可以把它理解为实现机制、活动组织与参与者的持续变化,而广度、高度、颗粒度是观察这种变化的三个角度。
这是一条解释路径,不是一部所有工具都必然带来进步的历史剧。封装可能失败,新组合可能只制造重复,能力增长也可能被用于伤害。因此,发生分析必须与价值判断相连:哪些变化更接近真实,哪些安排让行动更有余地,哪些活动打开创造、自由与幸福的可能?没有这些追问,升维只剩下一个方向不明的规模指标。
同样,我们也不把人固定在“提出问题、机器负责回答”的永久分工中。问题如何形成,本身就可能受到工具与互动的改变;判断如何进行,也可能包含已经封装的程序。保护人的生活,不需要先证明某个环节永远只能由自然人承担。真正重要的是,在分工持续变化时,人能否参与活动、获得理解、表达异议,并改变影响自己的条件。
这不是要求每个人永远站在控制中心。很多可靠活动恰恰允许我们放心地不介入细节。一个人能够信任成熟封装,并把精力用于生活中的其他事情,也可以是一种合理安排。将“时时亲自判断”设为主体存在的证明,可能重新制造我们试图摆脱的负担。信任的依据需要建设,但依据成立之后,信任不必带着羞耻。
阅读可以沿着问题逐层进入:第一编检查能力与价值怎样被误记;第二、三编追踪工具与复合机制;第四编建立三向辨认;第五、六编分开误认和真实风险;第七编用连续案例尝试建设能力;第八编再讨论教育、科研、工作与生活的条件。这样的顺序,使后面的实践能够返回前面的判准,而不是每章重新开始一次赞成或反对技术的辩论。
十二、走出比赛场,并不意味着停止创造
回到那个清晨。这个人可以继续学习,可以继续关心自己是否理解了讨论内容,也可以认真检查工具参与形成的分析。但他不必把这些行动组织成一场证明“我不是废物”的考试。生活中有许多值得解决的问题,它们并不要求解决者先在同机器的比赛中获胜。
他可以问,借助这套复合过程,我是否更能听懂另一种观点?过去无法连接的材料,是否开始发生有意义的联系?某个反复耗费精力的过程,是否已经能够被稳定托付?我因此腾出的时间,是不是进入了新的探索,或者进入了我愿意珍惜的生活?这些问题比“还剩多少事情只能由我亲手做”更接近实际发生。
这本书要陪伴的,不是一个必须不断证明自己比机器强的人,而是一个愿意重新理解自己如何与世界共同做成事情的人。新能力能否发生,值得努力;旧技能是否需要保留,值得辨认;真实的生活压力,值得共同面对。但人的尊严不必押在这些问题的某一种结果上。
当机器会思考,我们首先需要重新打开的,未必只是机器的内部。也许更紧迫的是打开那个长期被当作不言自明的“我”:看看它从何处获得能力,怎样参与互动,又为什么会把一种活动方式的改变,误认成整个存在的终结。从这里开始,焦虑才可能转化为可以理解、可以讨论、可以行动的问题。