SDE · AI越强,人就越弱吗?
第四编

第二十章 更多、更快、更自动,为什么未必是升维?

王德生 著 · 本章正文4,044汉字 · 打开第137页

本章小节

一、十秒钟出现的报告,与尚未发生的研究

设想一个人输入题目,十秒钟后得到一份结构完整的报告。他可以合理地惊讶于文本生成速度,也可能因此开始一项原来难以展开的工作。但报告出现的时间,只说明某个产出环节发生得很快,尚未说明材料是否可靠、问题是否被理解、结论是否能够进入行动。

如果这份报告只是把常见观点重新排列,速度提高可以节省初步整理,却未必产生新的研究能力。如果它帮助使用者辨认一个此前没有想到的冲突,并进一步组织核对,新的活动才可能开始发生。两种结果外形相近,需要回到后续过程才能区分。

因此,本章不反对更多、更快和更自动。它反对的是从这些局部特征直接推断能力结构已经全面提升。效率有自己的价值,但效率与广度、高度、颗粒度的关系需要具体说明,不能让一个漂亮指标代替全部解释。

这种区分对于反焦虑同样必要。若我们把每一次生成加速都称为人类能力革命,那么未能从中获得显著变化的人就容易认为问题全在自己。准确承认有限改善,反而能减少对技术和个人的双重夸大。

二、数量增加,有时只是重复空间变大

一个工具可以生成一百种活动方案,但其中九十种只是调整名称与排列。候选数量增加,不等于实际选择空间等量增加。需要辨认的是方案之间是否存在与任务有关的差异,是否适应不同条件,以及是否有办法比较这些差异。

在这种情境中,继续要求更多方案可能加重筛选负担。较有意义的下一步,是说明目前候选在哪些维度上相同、在哪些条件下不同,并寻找缺失的方向。广度不是把同一类结果复制得更多,而是让新的可能性能够进入,并与已有可能性建立可理解的关系。

数量也可能确实重要。原来只能处理少量材料,增加覆盖后发现了此前被遗漏的情形,这可以支持广度变化。关键是数量通过什么机制改变了活动,而不是数量本身有无价值。把所有规模增长都贬为机械重复,与把所有规模增长都称为升维,同样过于简单。

因此,对“更多”的评价应当追问差异与用途。新增产出有没有改变问题、选择或行动?若没有,它可能仍然有储备价值,但不宜提前宣布发生了新的能力层级。产出数量是线索,不是结论。

三、速度提高,可能只发生在最显眼的一段

用一组纯粹为说明而设置的数字来看。原流程准备材料需要三十分钟,执行需要六十分钟,检查需要三十分钟,总计一百二十分钟。新流程准备需要五十分钟,执行只需五分钟,检查却需要七十分钟,总计一百二十五分钟。单看执行,速度显著提高;看完整任务,时间并未减少。

这些数字不是任何产品的测评结果,只展示成本怎样移动。新流程可能要求更规范的输入,也可能产生更多需要核对的候选。若把准备和检查排除在计时之外,就会把局部加速误当成总体节约。对于使用者而言,被省下的工作与新增加的工作都是真实的。

长期使用还需要考虑维护与学习。有些准备成本只发生一次,后续可以反复调用;另一些成本随着材料变化持续出现。比较时应当说明观察期,不能用第一次试用的困难否定长期可能,也不能用理想成熟状态掩盖当前仍由使用者承担的负担。

更重要的是,节省时间与改变能力结构不是同一判断。新流程即使总体更快,也可能只是在同层级完成旧任务;即使总体耗时略多,也可能使原来无法开展的比较成为现实。评价需要同时看成本与活动变化,而不是让时间成为唯一裁判。

四、自动化率高,不等于自主性强

假设某项流程的绝大多数步骤已经自动执行,使用者却不能选择目标、修改输入条件或保留自己的材料。那么自动化率提高,并不直接意味着这个人获得更大的行动余地。过程越自动,他也可能越难改变正在发生的事情。

另一项流程自动化程度不那么高,却允许使用者选择合适范围、理解结果边界,并在异常时获得支持。它可能在实际生活中更有用。这里的差异不是手工天然优于自动,而是自动执行与参与条件处在不同问题层面。

同样,自主性不能由一个最后按钮担保。让人确认所有结果,却不给他理解与改变的条件,只是把责任的外观放在人身上。相反,某些成熟服务可以无需每次人工确认,只要其适用范围、反馈与治理条件得到合理组织。关键不在于动作是否保留,而在于作用是否真实。

所以,评价自动化应当分开两件事:哪些执行负担已被可靠承接,哪些与个人生活有关的选择仍然具有实际位置。前者是封装程度,后者涉及复合关系如何组织。两者可以相互支持,也可能相互冲突。

五、漂亮结果不能替代稳定能力

一次演示可以说明某个结果能够发生,不能独自证明它在相关条件下能够持续发生。演示可能采用适合的材料,操作者也可能投入了不显露的准备。要讨论封装,需要看常规使用、边界情形、失败方式与后续支持,而不只是看最顺利的一次输出。

这不是要求技术在投入使用前达到绝对无错。不同任务有不同可接受条件,探索本来可以带着不确定。需要的是把试验性使用与成熟托付区分,让调用者知道目前依靠什么证据。一次精彩表现可以是研究起点,不能自动成为全部活动的可靠性证书。

也不能把所有失败都解释成提示不够好。若使用者必须反复猜测怎样措辞,才能偶尔得到合适结果,那么这种不稳定就是当前能力的一部分。工具提供者可以继续改进接口,使用者也可以学习,但不能通过事后责备调用方式,把一切失败从系统表现中删除。

真正稳定的封装,应当让适用条件逐渐清楚,让成功不完全依赖少数人的临场诀窍,并使异常能够以适当方式进入修正。它不一定最炫目,却更可能成为下一层活动可以信任的条件。

六、错误率降低,错误后果仍需另算

再设置一个简单数量例子。某流程原来处理一百项任务,每十项中约有一项错误;后来处理一千项,错误比例降到百分之二。按这组假设计算,前者约有十项错误,后者约有二十项。比例下降与错误总量上升可以同时发生,不能只看其中一个指标。

这个例子没有说明新流程一定更坏,因为它也完成了更多任务,错误性质与后果还未说明。它只是提醒,规模改变后,旧指标的意义需要重新考察。同样数量的错误,若进入不同活动,可能产生非常不同的影响;错误是否容易发现与纠正,也会改变实际代价。

因此,能力扩大之后,需要观察错误如何传播。一个局部错误若被更大的封装整体反复调用,影响范围可能增加;若系统能够在转接前识别并限制它,整体活动又可能更稳健。新颗粒与新高度改变的不只是成功路径,也改变了失效路径。

这使三向分析必须包含失败结构。广度扩大后哪些新情形进入,高度提高后哪些局部结果被放大,颗粒变大后哪些差异可能被隐藏,都值得记录。升维不能只描写能力展开的正面,还需要说明它怎样承受自身带来的复杂性。

七、工具替换没有改变问题结构

一个人可能从纸笔换到电脑,再换到人工智能,始终按照同一种分类方式处理材料。新工具增加速度与规模,却没有触动分类本身。这里的工具更替可以很显著,问题结构却保持不变。不能因为技术代际改变,就认定认知范式也已经改变。

反过来,一次很小的工具调整可能使问题结构发生变化。例如,记录开始允许保留反对意见,而不只是合并成统一结论,后续讨论便能够围绕真正分歧展开。技术变化不大,活动组织却不同。能力发生与产品新旧之间没有简单一一对应。

因此,判断升维要追踪问题怎样被形成与修订。哪些过去看不见的差异出现,哪些旧前提受到检验,哪些原来没有的行动路径成为可能?这些变化比工具名称更接近认知结构。一个最新系统也可以被用于重复旧思路,一个朴素工具也可以参与新的发生。

这不是贬低技术进步,而是拒绝把技术标签当作认知证据。工具提供条件,活动决定这些条件怎样进入具体生活。中间的组织不能在理论上省略,否则我们就会把所有可能性预先记作已经发生。

八、没有升维,也可能是一项好改进

本书强调升维,不意味着同一能力结构中的便利没有价值。例如,仍然处理同一类材料,沿用相同的组织关系与调用单位,只是等待时间缩短、同样结果更容易取得;此时可以先称为效率或体验改善。若多步操作已经合成为新的整体调用,颗粒度便可能改变,不能再因为没有新领域、新层级,就断言三个角度都未变化。

若所有好处都必须叫作升维,概念便会失去区分作用。我们可以分别说效率改善、体验改善、能力范围扩展、组织层级变化与颗粒重构。不同描述帮助我们理解不同价值,而不是争夺哪一种词语听起来更高级。

同样,没有持续扩张新能力的人,也不必因此焦虑。某位使用者只希望工具替他完成一项成熟服务,这可以是充分合理的目标。他没有义务把每一次便利都转成新的竞争优势。技术之所以可能改善生活,部分原因正是让人不必一直证明自己在升级。

因此,反对赋能误导与倡导三向分析,并不等于要求所有人参加一场更复杂的绩效比赛。理论应当增加辨认与选择,而不是把普通便利贬低成不够进取的使用方式。

九、让检验结果真正回到发生过程

本书把“回写”用来指检验结果能够改变后续活动,而不只是留下一个评价标签。社区方案需要试行与参与者反馈,材料解释需要返回原文,数学命题需要在明确规则下检查证明。不同主张接受不同检验。实际用途还应另作检验:证明正确不等于模型适用,居民暂时赞同也不等于一般事实已被证明。

回写不一定只由自然人承担。记录、监测、工具比较与协作支持都可以进入,但反馈应当能够触及产生问题的环节。若每次失败只增加一份总结,流程本身没有改变,记录便可能成为失败的堆积,而不是能力的发生资源。

反馈还可能改变目标。参与者发现自己真正需要的不是更多活动,而是更方便的进入方式;研究者发现原问题使用了不合适的分类,于是重写问题。此时发生的不是给旧答案扣分,而是形成新的观察与行动条件。目标可以在互动中生成,仍须说明修改的根据,不能以目标不断变化来逃避原承诺的检验。

这使新能力保持开放:稳定的部分可以托付,未解决的部分继续进入互动。广度、高度与颗粒度在这种往返中获得具体内容,而不是在一次工具演示结束时被宣布永久完成。

十、三条边界使升维免于成为口号

第一条边界是事实边界。已经形成的功能、尚在试验的可能与未经验证的愿景应当分开。工具能输出某种形式,不等于能够承担该形式所代表的全部活动;个人能调用某项功能,也不等于已经独立掌握其内部能力。

第二条边界是分析边界。效率、广度、高度、颗粒度与个人学习分别回答不同问题,不能互相借证。某项指标改善可以成为线索,结论仍需回到其对应对象。越是复杂的复合系统,越不能让一个总体数字替代多层说明。

第三条边界是价值边界。能力结构改变,不自动决定生活变好;系统整体更强,不自动证明每位参与者受益;工具能够承担更多,也不自动取消人的价值。保留这些边界,理论才不会从纠正一种误导转向制造另一种误导。

这三条边界并不削弱探索。它们使探索可以诚实地承认部分成功、保留失败并继续修订。一个不必靠夸大来维持信心的研究过程,更有可能积累真正可以被后续调用的能力。

十一、从能力分析进入具体焦虑

到这里,我们已经不需要把人工智能理解为给一个不变自然人灌入能力,也不需要把它承接的每个过程理解为从人身上割走一块。能力可以在复合活动中发生,并从广度、高度与颗粒度观察。但这些分析还需要回到人们最直接的担心。

不用自己做,会不会变笨?依赖工具,是不是没有独立性?人工智能参与的成果,还算不算自己的?机器表现更好,是不是意味着人没有价值?不追每次更新,会不会被彻底排除?这些担心不能用一个总答案打发,因为它们混合了不同层级的问题。

三向辨认的作用,是使变化得到准确命名,而不是向每个人发布升级命令。第五编将把这些区分带回五类具体焦虑,分别检查退化、依赖、成果、价值与追赶的推论,让担忧重新找到可以处理的对象。