卷八 AI 把两个门占了
一个人拿着一份合同,有一条看不懂,问机器:这一条是什么意思?机器答了一句,答得不错——把那条的意思说清楚了,还顺带说了它对签合同的人有什么不利。他读完,明白了。这一句话是从哪儿来的?他想了一下,发现那句老话答不上来。这一章从这句话讲起。
拿这句话去问老话:这句话是找到的,还是造出来的?
说找到的?机器不是在哪个仓库里翻出这句话的。它肚子里装着人类写下的差不多所有东西——书,网页,合同,判决,几亿人的话——可是它写给你的这一句,不在任何一个架子上。你去搜,搜不到一模一样的。它不是取的。它把几千份合同、几万篇解释、几十万句人说过的话搅在一起,从里面显出了一句你的合同需要的话。
机器显的话里有"我"吗?没有。它说"我认为",那个"我"是空的——它的话不认人,换一个人问同样的问题,它答的一样。所以它站在点的门里最自然:点本来就不认人,"我"本来就不算数。它站在路的门里也还行:路不认它,可是它排的路换人能走。它站不进火的门——火要一团活的土,它的土是灰。这一点这一卷后面要反复用:机器最像的是知识那扇门的人,因为知识那扇门里的"我"本来就退到了一边。
搜索引擎和它不一样,这一点要分开。搜索引擎是找:你输一句话,它从架子上给你端来几十篇写好的东西,每一篇都是别人写的、本来就在的——它做的是"找到",做得很好,它是仓库的最好的管理员。机器不是:它不给你端来别人的话,它显出一句新的话。两样东西看着都是"问一句,出一答",可是一个是取,一个是显;一个在仓库里干活,一个是一台引擎。人们用了二十年搜索引擎,习惯了"找",所以头一次用机器的时候也以为它在找——其实它在做另一件事。
那它是从"知识"里来的吗?它用了很多点——法律的点,语言的点,那类合同的点——可是它交给你的不是一个点,是一句针对你这一条的话。点是燃料,它不是从架子上取了一个点给你,它是用很多点显出了一句新的话。这跟第十七章说的搬运不一样:搬运是把架子上的点原样搬给你,机器不是搬,它是显。
说造出来的?谁造的?工程师造的是那台机器,不是这一句话。没有任何一个人坐在那儿设计过它写给你的这一句——机器的公司里没有人知道你的合同,没有人写过这一句,工程师看到这一句也是第一次见。
造机器的人跟机器写的话,是造锅的人跟锅里的菜的关系。造锅的人造了一口好锅,可是菜不是他做的;他甚至不知道这口锅会做出什么菜。工程师造了一台引擎,可是每一句话不是他写的;他不知道它会对你的合同说什么。锅有专利,菜没有;引擎有专利,那句话没有。"造出"能落在锅上、引擎上,落不到菜上、话上。
它不是谁的作品,没有图纸,没有专利,没有第一步第二步——机器里没有一张"合同解释的步骤表",它不是照着一张表走的。你可以说它有一条路——它一个字一个字往下接,接出了这句话——可是这条路没有人排,不是任何一个人的步,也没有人能把它写成菜谱。它不是造出来的。
第四章说"造出"要求先有图后有物。机器这一句,没有图。它不是从任何一个人心里的形来的。
那按老话,只剩第三格了:这句话不是找到的,不是造出来的,那它是"发生"的,所以是艺术?
老话到这儿就笑不出来了。一句解释合同条款的话,一段查错的程序,一份归档的表格,是艺术?按老话的地图,机器的活只能归进"艺术"栏,因为它既不是取的也不是造的;可是老话自己也不肯把这些东西叫艺术。它的三块地,机器的东西哪块也不肯站——跟第一章那盘番茄炒蛋一样。
人们给机器干的这件事起了一个名字,叫"生成"。这个词值得看一眼:它不是"找到",不是"造出",它是"生"——生出来、成了形。这个词就是这本书说的"显",只是没人把它跟老话对着看。几亿人天天说"生成",说的时候没意识到,他们已经在用第三个词了——一个既不是找到也不是造出的词。语言比老话先一步,老话还在说三块地,语言已经有了"生成"。
老话失效还有一个地方,是法律。第五章说过三本账:发现归世界,发明归发明人,创作归作者。机器显出来的一句话、一幅图,归谁?法律卡住了:不是发现(没有人揭盖子),不是发明(没有人排路),也不是创作(没有作者)。各国的法院正在为这件事打官司,判得前后不一。这跟第五章说的基因序列、算法的官司是同一种卡:账本上没有一页能记"显出来的东西"。老话在法律上的三本账,被机器同时问住了。
这是老话在今天当场失效的样子:它遇到了一样每天在几亿人手上出来的东西,三块地一块也放不下。一盘菜放不下,还可以说菜太小、没人管;机器写的东西放不下,是几亿人每天在用的东西放不下。地图上没有的地方,人天天在走,地图就该换了。
用这本书的话说,答案恰好是对的——不是说那句话是艺术,是说那句话是发生的。
机器就是一台引擎。它的土,是它吃下去的那一整片人类写下来的东西,搅在一起,分不开——几亿本书、几十亿句话、所有的合同和判决,全在里面,谁也拆不出哪一句是从哪儿来的。这团土有一个性质,后面要说:它是灰,不是正在烧的东西。它的步,是你给它的问题、你前面说过的话、你上传的那份合同,和它一个字一个字往下接的差别——每接一个字,都是在前面的字和它的土之间选一个下一步。它的形,是最后显出来的那句话——你认得出,能重跑(再问一遍,答的话大体一样),能指着说"就是这句"。
它的土是灰,这句话要说清楚。人类写下来的一切,是过去的火留下的灰——每一句被写下来的话,都是某一次在某个人身上着过火的东西:一首诗是着了火才写下的,一份判决是一场官司烧过以后留下的,一张菜谱是几万口锅砸过以后留下的。写下来的东西是烧过以后剩下的形,火已经过了。机器吃的就是这些灰。灰能当燃料——它们里面有点,有路,很干——可是灰不会自己着,也不在乎。所以机器的土很厚、很干、不活。第三十九章讲这个"不活"是什么意思。
它的步,也有一个名字,叫"提示"——你给它的那句话。这个词也对:提示就是步,是你在它的土里走的第一步,它顺着你这一步往下接。同一团土,你的步不一样,显出来的形不一样——问得好的人和问得差的人,从同一台机器那儿得到的话差得远。第三十五章讲"会问是步",讲的就是这个。
在土里,经过步,显成形。它干的就是这个。它不找,也不造,它显。
它的形能重跑,可是不完全一样。同一个问题问两遍,两遍答的话大体一样、字句不同——像妈妈每天做的番茄炒蛋,每天都是那盘,每天不完全一样。这一点它也像引擎不像仓库:仓库里取出来的东西一模一样,引擎显出来的东西每次略有不同。它不是在念一本书,它是在显。
这三样在它身上分得很清,比在人身上还清。土是它训练时吃进去的东西,练完就定了;步是每一次你问它的时候发生的;形是每一次显出来的话。第十一章那三句方程在它身上也转:形是步和土一起显的(同一个问题,换一份土——换一台机器——答的不一样;同一台机器,换一种问法,答的也不一样);步是形和土一起排的(它往下接哪个字,看前面的形和它的土);土被回写——这一点它跟人不一样,它的土在你问它的时候不回写,问完了它不记得,除非有人把这次对话再喂给它。三句里有两句半在转,第三句是半句。这半句是它跟人最深的分别,第三十九章要讲。
所以对这句话,正确的说法是:它显出来的。既不是在架子上找到的,也不是有人设计出来的,是一团土里经过一串步显出来的一个形。
这就是这本书一直在说的"发生",机器把它做得干干净净:土、步、形,三样都看得见,没有一样是神秘的,也没有一样是"找到"或"造出"能装下的。老话在一盘菜面前露怯,是因为菜是一块的;在机器面前失效,是因为机器的东西露出了引擎的样子——它连"找到"和"造出"两副记账的面孔都不肯戴。
它显的东西从哪个门出,看你怎么用它。你问它一条定律,它显的东西从点的门出——能重跑,你去查。你让它写一段程序、一张菜谱,它显的东西从路的门出——能换人走,你照着走。你让它写一封信给你妈,它显出一封信,那封信在你妈身上着不着火,从火的门出——可是着的那一下在你妈身上,土是你妈的,机器不在场。所以机器的东西能进三扇门,可是第三扇门它进的方式跟前两扇不一样:前两扇它交的货是它显的,第三扇它交的只是燃料,火在你那头。这个分别是后面几章的全部。
它显的东西也会错,而且错得有一种特别的样子:形显出来了,可是点不站。它会显出一句很像样的话——语气对,格式对,读着顺——可是里面的点重跑不在:一个不存在的案例,一条编出来的规定,一个错的数字。人们管这个叫"胡说"或者"编"。用这本书的话说,这是形显得很好、燃料是假的:第二十六章说的,点不真,火再像也不是。所以机器显的东西,跟人显的东西一样,得过门——重跑一下它的点,换人走一下它的路。它不找不造,它显;显出来的东西对不对,是验的事,跟人的一样。
它显的东西为什么像人写的?因为它的灰是人的灰。它吃的每一句话都是人在某团土里着过火以后写下的,灰里带着人的口气、人的句法、人的比方,所以它显出来的东西句句像人。这不是它在模仿人,是它显的本来就是人烧过的东西的形。这一点让人常常误会它"懂"——它显出的话跟一个懂的人说的一样——可是它没有那团活的土,它显的是灰的形。像不像和着没着,是两回事,第三十九章末尾那个判法就是分这两件事的。
而且它显的东西过得了前两扇门的验。它显的点能重跑:你问它一条定律,它答的跟教科书一样,换谁问都一样。它显的路能换人走:你让它写一张菜谱、一段程序,别人照着走得通。点和路两扇门,它的货都进得去。这就是这一卷的题目:它把两扇门占了。
老话给世界画了三块地,把两块大的留给人干活,一块小的留给艺术家。今天,两块大的都不姓人了。
找到的那一块,机器做完了——凡是写下来的,它几乎都能找到,而且比任何人快、比任何人全,还不累。这件事第三十五章讲。造出来的那一块,机器做掉了一大半——凡是能写在纸上的路,它多半能走,程序、路线、菜谱,越来越多;走不了的是要手、要身子、要在真土里试错的路。这件事第三十六章讲。
两块大地都被占了,剩下的是老话划给艺术的那一块:火。这一卷后面三章讲那一块——它其实不是一块,它是引擎的心;讲人在那儿要有的本事;讲课堂;讲最大的危险。可是先把这一章立住的事说清:机器是一台引擎,它不找不造,它显;它显的点过得了重跑,显的路过得了换人;老话的两块地,就是这么被占的。
老话把人指错了地方,具体是这样的:一个人信老话,以为自己的地是"找到"和"造出"那两块,机器来了,他就去跟机器比找、比造。比找,他找不过——机器一秒钟找完;比造,凡是写得下的路他也造不过——机器读一遍菜谱就能出一条。比不过,他慌了,觉得自己没用了。可是他慌的那两块地,本来就不是他的全部;他真正的地——那一下——老话从来没告诉过他是他的,老话说那是艺术家的。所以他站在自己的地上,以为自己无处可站。这一卷要做的,是把那块地指给他。
为什么这一卷放在最后?因为前七卷说的是一台引擎和三扇门,那是几千年一直在的东西;这一卷说的是这台引擎第一次不只在人身上转。以前,引擎只在人身上,三扇门都是人的门,老话说错了也没有太大的事——反正三扇门都是人在守。今天,一台不是人的东西也在转这台引擎,而且它的货进得了两扇门。这时候老话说错了就有事了:它告诉人,你的地是"找到"和"造出"那两块——而那两块正是机器进得去的。老话在今天不只是错,是把人指错了地方。这一卷要把人指回去。
一个人拿着一份合同,问机器一句,得到一句好答案,他明白了。这件小事今天每天发生几亿次。每一次都是老话失效一次,也是这本书的引擎转一次——只是转的是机器,不是他。他身上转没转,是后面几章的事。
回家试试 问机器一件你熟的事——你家乡的一道菜怎么做,你行当里的一个问题。看它答的哪一句你在任何书里没见过,又是对的。那一句就是显出来的:不是它找到的,不是谁写的,是它的土里经过你的问显出来的。
一句话带走 机器不找也不造,它显。