SDE · AI越强,人就越弱吗?
第一编

第五章 不必要的焦虑,不等于虚假的感受

王德生 著 · 本章正文4,273汉字 · 打开第43页

本章小节

一、“你想多了”为什么不是一个答案

设想一位教师听完关于复合主体的解释,仍然问:如果学生越来越依赖系统,我这些年学到的东西还有什么用?旁人回答她,不必焦虑,工具文明一直如此。这个回答也许包含一个值得讨论的类比,却没有接住她的问题。她担忧的可能是教学目标,也可能是职业认可,甚至只是没有足够时间理解正在发生的变化。一个总类比不能自动替代这些具体内容。

本书把某些焦虑称为不必要,是指其中一些增加痛苦的推论缺少充分根据,不是指当事人的感受可以被宣布为错误。紧张、失落和困惑已经在他的生活里发生。我们能够讨论“由什么推出了什么”,却不能命令一个人因为推论被修正就立即感觉轻松。认识变化与感受变化也有各自的过程,不能被压缩成听懂一句话后的即时效果。

“你想多了”还有一个隐含危险:它让提出问题的人失去继续说明的机会。假如真实问题是岗位安排不透明,或工具错误难以追查,这句话就把组织与技术问题重新塞回个人头脑。我们应当做相反的工作,让模糊的不安逐渐获得具体对象。对象越清楚,越有可能找到适合的行动,而不是反复要求当事人调整态度。

因此,反焦虑不是对情绪作出好坏判决,而是帮助区分不同层次的事情。哪些是已经发生的变化,哪些是尚未发生的预测,哪些是对预测的价值解释,哪些又是实际生活中的限制?这些层次并非彼此隔绝,但分开观察能减少一种危险:所有不确定性都被合并成一个无法处理的“我快没有了”。

二、把一句恐惧展开成几条可以讨论的命题

教师的担忧可以被展开为几条不同命题。学生可能把生成答案当作学会,这需要检查学习活动;某些教学环节可能不再需要原来那么多手工劳动,这需要检查工作设计;教师的某种专业经验可能改变用途,这需要研究经验如何进入新活动;这些变化是否意味着教师整体失去价值,则是另外的规范性问题。

展开之后,我们不必对所有命题给出同一个乐观或悲观答案。第一项可能已在某个班级出现,第二项可能只是计划,第三项可能有多种方向,第四项则不能由前三项直接推出。承认第一项的风险,不要求同时接受第四项的总判决;拒绝第四项,也不允许忽视第一项。一个成熟的回应应当能够同时说出这些不同判断。

还可以继续问每个命题需要什么证据。学生是否学会,需要与教学目标相匹配的观察;工作是否变化,需要具体安排而不只是技术演示;经验是否失效,需要看它在新任务中的作用,而不是看某次输出速度。证据问题使恐惧从一个不可触碰的整体,转向一组可以逐项检验的判断。

这种做法并不保证每项检验都带来好消息。有些担忧可能得到证实,此时更需要行动与支持。澄清的目的不是预先保证结论令人舒服,而是减少无根据的扩张,保留有根据的警觉。只有允许坏消息存在,反焦虑才不会成为另一种要求所有人保持笑容的宣传。

三、不确定性不是一张任意填满灾难的白纸

面对尚未清楚的未来,人们可以提出多种情景。但一个情景可被想象,不等于它已经具有明确概率,更不等于它即将发生。人工智能能够承担某些任务,可以成为研究未来工作变化的起点,却不能直接证明每个具体职业都将消失。中间还涉及任务组合、实际采用、组织选择与制度条件。省略这些环节,会让不确定性被误写成确定命运。

相反,不能因为未来不确定,就宣布任何担忧都缺少意义。某个部署具有很大权限却缺少有效限制,即使无法预测全部后果,也可能已经值得调整。这里的谨慎不来自对遥远终局的恐惧,而来自对眼前条件的分析。我们需要区分无法精确预测的长期情景,与已经可以发现的具体风险。

对个人而言,可以把关注划分为不同时间范围。现在,确认自己正在使用的流程能够做什么;接下来,辨认工作或学习安排可能怎样改变;更远处,保留必要的情景思考。三个范围不需要每天以同样强度占据注意。把每一次产品更新都当作必须重新决定一生价值的事件,会使最接近现实的行动反而失去时间。

这不是要求人停止关心公共问题,而是拒绝把全球不确定性全部转化为个人的即时义务。一个人无法独自解决所有技术与制度问题,不等于他没有任何可做之事。共同研究、组织协商与分工支持,正是复合生活的一部分。人的行动空间可以通过连接而形成,不必以独自掌握全部未来为起点。

四、概念上的减负,不能替代现实中的保障

假如一位员工已经收到岗位调整通知,最需要知道的也许是工作内容、收入变化和转换支持,而不是一堂关于主体边界的讲座。理论可以帮助他不把岗位变化误认成人格失败,却不能代替这些具体条件。将所有焦虑都解释为认知偏差,会使本应由组织承担的责任消失。

另一方面,现实保障与概念澄清并不互相排斥。即使获得了转换支持,一个人仍可能认为借助工具意味着不配得到认可;即使理解了复合能力,他也仍然可能缺少学习时间。前者需要重新讨论评价,后者需要调整资源。我们不必争论到底是观念还是制度更根本,才允许两方面同时工作。

在教师的设例中,学校可以明确哪些课程目标需要保留个人亲历,哪些活动鼓励调用封装,也可以提供共同试验的时间与相应支持。与此同时,教师之间可以讨论怎样说明工具参与,而不把使用新方法视为羞耻。两类工作相互支持:制度减少模糊要求,解释减少错误归因,实践则提供继续修正两者的证据。

若只改变说法,不改变实际评价,新的语言很快会失去可信度。例如,组织口头赞扬复合能力,考核却只奖励脱离工具的个人展示;要求提高产出,却不给核验与修正留时间。此时焦虑并非对新观念理解不足,而是来自安排之间的冲突。理论的责任是指出冲突,不能反过来责怪当事人没有足够相信理论。

五、警觉与恐慌,不按情绪强弱简单区分

一个人表现平静,不代表他已经识别风险;另一个人感到强烈不安,也不代表他的判断一定错误。因此,不能用情绪是否平稳作为理解是否正确的唯一指标。我们需要看不安指向了什么,所依据的证据是什么,提出的行动是否与风险相匹配。警觉可以带着情绪,盲信也可以显得镇定。

设想某个自动流程反复产生难以发现的资料错误。一位使用者坚持暂缓扩大应用,显得比同事更担忧。若他的担忧依据的是已记录的失败,就不应仅因影响进度而被称作技术恐惧。相反,另一位使用者虽然语气坚定,却只依据一次成功演示便认定所有任务都可靠,其平静并不值得自动奖赏。

本书因此不把降低焦虑强度设为唯一目标。更合适的目标是让判断更有区分:对未验证的封装保持适当谨慎,对可靠承担的环节允许放心托付,对无法由个人独自解决的问题寻找共同安排。这样的变化有时会使人更轻松,有时却会使人更明确地提出异议。

当我们说解除不必要的焦虑,真正想减少的是无根据的自我否定与无边界的灾难推演,而不是减少所有反对意见。一个解释若使人不再质疑不公平安排,就算让他暂时感觉舒服,也可能损害实际处境。反焦虑必须与保留判断、表达与改变的条件同时成立。

六、怎样检验“主体性的定义亏损”这一解释

本书关于焦虑的解释,可以从一个预先约定的比较研究开始检验。向随机分组的参与者提供完全相同的任务表现、工具失效和工作条件信息。一组只阅读事实说明,一组再阅读“系统表现与个人表现”的区分,另一组在相同区分之外阅读封装、三向变化和主体定义亏损的解释。各组获得同等长度、同等尊重人的表述,避免把文风温和本身误作理论效果。

第一类结果应测量能力归属:参与者是否仍把工具移除造成的表现差额,全部称为个人能力退化。第二类结果考察由任务变化推向整体自我贬低的程度。第三类结果则检验风险辨认与实际选择:他们能否拒绝一个已显示不可靠的流程,能否识别收入损失和权限不对等。三类结果分别报告,不合成一个“更乐观”的总分。

研究还应在实施前说明主要比较、评分方式、样本量依据及排除规则,并由不知道分组的评阅者处理开放回答。再设置改变任务和延迟测量的环节,考察参与者是在复述刚读过的词,还是已经能够处理新情境。若只有即时态度变化,尚不足以证明形成了可持续的辨认能力;若整体自我贬低减少而能力归属不变,也要考虑一般性安慰等其他解释。

以下结果都应被允许出现:系统视角已经足够,增加本书框架没有额外解释力;对能力归属的理解改善,却未改变不安;不安减少,但对风险的警觉同时下降。第一种限制理论增量,第二种限制焦虑机制,第三种则表明干预可能有害。这样,所谓主体定义亏损才成为可以失败、可以缩小范围的假说,而不是把所有没有获益的人重新判作“不理解理论”。

七、反焦虑叙事也需要接受反例

任何解释一旦获得支持,都可能倾向于把反例吸收成自己的证明。例如,一个人不愿使用工具,被说成守旧;使用之后遇到问题,又被说成没有形成真正复合;提出结构性批评,则被说成还没有理解升维。如此一来,无论发生什么,理论都不会失败,也就不再提供有区分力的解释。

本书应当主动提出能够使自身受挫的情况。假如在清楚区分主体边界、提供合理使用条件之后,某项复合安排仍然减少了重要学习,而没有带来相应可接受的收益,就应考虑修改或放弃这一安排。假如所谓大颗粒调用持续遮蔽关键条件,无法建立有效检验,也不能只因其代表自动化就要求继续推广。

反例还可以来自生活价值。一个工具使产出增加,却使参与者失去愿意珍惜的实践过程;他们经过比较仍决定不用它,这未必是认知错误。有些活动的目的包含亲自经历,减少过程本身便可能改变活动意义。我们不能拿完成结果的效率,取消参与者对过程的合理选择。

因此,封装论不应导出“凡可自动化都应自动化”。它导出的是更精确的问题:什么被封装,谁因此获得什么,谁失去什么,相关变化能否接受?这些问题允许不同活动给出不同答案。只有保留选择的不一致,理论才不会从解释工具文明转变为要求所有人走同一条技术道路。

八、一个可以使用但不应机械套用的辨认顺序

当不安出现时,可以先把正在担忧的事情写成一句具体的话,而不是立即评价自己。例如,把“我快没用了”改写成“我担心未来半年中某项工作会减少,而且不知道怎样转换”。后一句仍然可能令人不安,却已经显露出时间、对象与需要的信息。它让行动有机会接近现实。

接着区分发生与推测。哪些变化已经通知,哪些只是听说,哪些是根据演示推演?再区分能力与价值:哪项技能可能变化,为什么会被解释成整个人没有意义?然后检查条件:自己能改变什么,需要他人或组织承担什么?这个顺序不是心理治疗,也不是保证消除不安的程序,只是一种整理公开可讨论问题的方法。

最后,可以选择一个规模适当的行动。它可能是澄清工作要求,比较一个具体流程,保留一份重要材料,或者与相关人讨论支持条件。行动不必证明自己战胜整个时代,只需要帮助回答一个真实问题。若行动发现风险比原来更大,也仍然获得了有价值的信息,而不应被视为积极心态失败。

这种方法也有边界。有些困扰并不适合独自用写作和分析处理,可能需要亲友、组织或专业支持。本书没有资格替任何个体判断所需帮助的全部范围。承认这一点,是对理论角色的准确说明,而不是把所有困难重新推回读者自己。

九、第一编的出口:让问题重新具有大小

第一编并没有要求读者对人工智能作出一次总态度选择。我们所做的是把几个混在一起的问题重新分开:任务完成与能力形成,个人与复合体,学习与表现,贡献与基本价值,感受与推论。这些区别使一个无边界的存在威胁,逐渐恢复为有对象、有条件、有证据要求的问题。

问题具有大小,并不意味着问题一定很小。工作与生活保障可能十分重大,可靠性缺口也可能具有严重后果。但重大不等于不可分析,更不等于必须把整个人的价值一同押上。一个具体困难可以需要共同力量解决,而个人仍然不必被解释为困难本身。

接下来,我们将把视线移向工具文明。不是为了证明过去一切技术都带来幸福,也不是为了用历史替人工智能作可靠性担保,而是为了理解一个被熟悉感遮住的事实结构:许多活动能力之所以能够持续,是因为部分实现过程已被组织成可调用的整体。只有重新看见这一过程,才能准确讨论人工智能正在改变什么。

第一编留下的任务,是让能力判断找到实际发生的主语。接下来转向工具:刀的切分、车辆的位移、文字的保持和程序的执行,分别把哪些过程稳定下来?先辨认这些机制,再讨论它们怎样改变我们能够参与的活动。