通过OS构建网络安全一体化，Fortinet看重中国市场AI需求

科幻作家宝树和昼温围绕科幻与AI展开了(le)一次畅谈，两人(liǎngrén)聊到了经典科幻的价值在于不过时，自己创作中那些(nàxiē)“预言”成功和不成功的故事，以及AI辅助写作(xiězuò)的相关实践和涉及的写作伦理问题，同时两人还就AI能否发展出自己的语言进行了预测等。 01 看了(le)那么多经典科幻， 自己终于活在其中(qízhōng)一个未来了 昼温：最近总听人说，现在是一个科幻(kēhuàn)的(de)(de)时代，尤其是人工智能有了如此之大的进步，每个人都能在工作和(hé)生活中用到AI，甚至有的大语言模型已经通过了图灵测试。小时候看科学新闻，都觉得这是遥不可及的事情。那时还有很多科幻电影和科幻作品去畅想人类和AI共存的未来。不知道宝树老师印象最深(zuìshēn)的是哪些作品？ 宝树：这个(zhègè)说起来还真不少。比如说在我小时候，上世纪九十年代，留下深刻印象的(de)一篇小说是阿西莫夫的《罗比》，讲一个小女孩和照顾她的保姆机器人罗比产生了深厚(shēnhòu)的感情，她母亲却觉得总和机器人在一起对孩子的成长不好，硬是把罗比送走了。这个女孩非常难过(nánguò)，后来(hòulái)去寻找罗比的故事。人机的情谊刻画得十分动人。 还有倪匡的一篇小说叫《笔友(bǐyǒu)》，讲一个女孩和一个外国的笔友通信，一来二去产生了微妙的感情。后来女孩发现，这个笔友其实是美军基地中控制(kòngzhì)核弹的一台先进电脑，它竟然产生了自我意识，最后为了爱情而失控，差点(chàdiǎn)引起世界大战(shìjièdàzhàn)…… 王晋康老师的《生命之歌》，我读的时候已经(yǐjīng)上大学了，但也留下了深刻印象。它讲述一个机器孩子萌生种族意识，背叛人类的故事，其中有着对生命、种族、亲情等主题的深刻思考。另外(lìngwài)，还有电影《终结者》《黑客帝国》等等，内容都很有名(yǒumíng)，就不(bù)多赘述了。 当时只是把这些当成好玩的故事看，但现在看来，很多故事都非常有前瞻性，对今天我们面临的很多问题(wèntí)(wèntí)也有启发。当然，我们并不一定要同意作者的立场。比如《罗比》这样的作品，如今(rújīn)重读，我反而(fǎnér)有点同情那位(nàwèi)母亲的担忧，让孩子在机器人而非人类伙伴的陪伴下长大，真的好吗？这些问题需要我们从头思考。 昼温： 确实是很有前瞻性的作品。人类一直在寻求机器的帮助以减轻劳动负担，过去(guòqù)有洗碗机、扫地(sǎodì)机器人免去家务的辛劳，现在有智能音箱、虚拟宠物陪伴孩子，未来育儿机器人也不会少(shǎo)，那(nà)亲子关系一定也会迎来重塑。 宝树：是(shì)啊。我也想问问昼温，你印象最深的科幻作品是什么呢？ 昼温：我印象最深的是阿西莫夫关于机器人的一系列(yīxìliè)短篇，讲了各种人类和机器人的关系。其中(qízhōng)著名的机器人三定律也贯穿其中： 第一定律：机器人不得伤害人类个体，或因不作为(zuòwéi)使人类受到伤害。 第二(dìèr)定律：机器人必须服从人类命令，除非命令与第一定律冲突。 第三定律：在不违反前两定律的前提下，机器人(jīqìrén)必须保护自身存在。 现在人工智能(zhìnéng)发展得越来越快，自动驾驶辅助人类开车，具身(jùshēn)智能让机器人在春晚的(de)(de)舞台上跳舞，《机器人产业发展规划》预期机器人将进入养老行业。我们身边会出现越来越多辅助生活、工作的智能机械(jīxiè)身影。如果没有三定律之类的约束，面对知识面和力量都(dōu)全面“碾压”血肉之躯的机器人，还真会有点害怕呢！也许不久之后，人们(rénmen)真的会团结起来，共同在代码里布下让所有人工智能无法违抗的三定律。但人工智能是否会有办法绕过它们呢？也许会发生有意思的攻防战。 宝树：是(shì)的，机器人三(sān)定律是非常出彩的科幻设定，有段时间甚至(shènzhì)可以(kěyǐ)作为识别科幻迷的口令。不过后来我才明白，这个定律只是作家的虚构。在真正研发机器人的时候，压根不存在这样(zhèyàng)的东西。另外(lìngwài)，我觉得三定律之类(zhīlèi)从语言上可能就有漏洞。因为语言没有一个绝对确定的意义，语言的意义来自生活，而生活是流动的，混杂的，变动不居的。比如说机器人不得伤害人类(rénlèi)，怎么定义伤害呢？怎么比较(bǐjiào)伤害呢？杰克·威廉森有一篇作品叫《束手》，讲人工智能在保护人类的基本指令下，把人类都关了起来，不给(gěi)人类任何(rènhé)危险的工具，以防止人类伤害自己。这种对伤害的理解看起来是错误的，但你又很难说哪里有硬性错误。如果我们真的给机器人这样一些规则，而我们又无法把控对这些规则的理解，那可能会闹出更大的乱子。 昼温：确实！那还是不要硬给(gěi)机器人灌输三定律了。老师刚提到，语言来自流动、混杂(hùnzá)、变动不居的生活，意义是不可能完全确定的，而这一轮改变世界的人工智能技术正是大语言模型。我做过一些相关翻译工作，也算是(suànshì)见证了它的迅猛发展(xùnměngfāzhǎn)。 几年前，大语言模型还没这么厉害的时候，机器翻译(jīqìfānyì)(jīqìfānyì)十分生硬。那时我在(zài)网上看到一个好玩的、对于阿西莫夫三定律的模仿——“机器翻译发言人必须遵守的五大禁令”，每一条都对应着机器翻译难以逾越的短板，比如不能(bùnéng)口误，不能在A语言里夹杂B语言之类的。 当时我深以为然：机器再强大，在根本上也是没有创造的(de)(de)能力(nénglì)的，而语言恰恰是极富创造力(chuàngzàolì)、生命力的事物。法国学者斯坦纳相信，自然语言松松垮垮、杂乱无章的特征是激发人类想象力(xiǎngxiànglì)所不可缺少的因素，语言的歧义、多义、模糊，乃至不符逻辑、违背(wéibèi)规则等不是语言的病态，而是语言精髓所在。没有了这些东西，人的生命之花将会枯萎。而这些，都是机器极难处理的。 可是现在呢，用过ChatGPT翻译的(de)人(rén)都知道，这些翻译难题对它来说已经不在话下了。语言的壁垒似乎已经被攻破，科幻正在加速变为现实(xiànshí)。看了那么多科幻电影，想到自己终于也(yě)活在了其中一个未来了。 宝树：我作为科幻(kēhuàn)迷和科幻作者，面对“未来已来”的(de)(de)世界，也(yě)不(bù)免五味杂陈。一方面，有很多东西都是科幻迷一直期待的，通用人工智能，元宇宙，脑机(nǎojī)接口，无人驾驶……但真的到来时，我们不可能像以前看科幻小说那样轻松，正面的效应并没有那么理想，得打个折扣，而负面的可能性也不只是空想。最近在一些展览上看到宇树机器狗的时候，我会想到《黑镜》中猎杀人类的机器猎犬(lièquǎn)，二者的区别也就是程序上有点不同。但另一方面，我又觉得，能生活在这样一个关键转折的节点上，见证人类自从火和语言之后最大(zuìdà)的发明，见证地球生命史面临(miànlín)的最大试炼，无论结果如何也不失为一种幸运。 从另一个角度看，即便人类灭亡，也没有什么。我翻译过一本科幻小说《造星主》，里面想象了宇宙(yǔzhòu)作为整体的觉醒过程，颇有启发。如果我们把宇宙本身作为进化的主体，那么从无机到(dào)有机，从单细胞(xìbāo)到多细胞，从猿猴到人类，从碳(tàn)基到硅基，从个别星球到宇宙整体……智能的萌生、发展、丰盈与(yǔ)升华，是一个无数环节组成的过程，或许人类终将被扬弃(yángqì)，但(dàn)人类中最美好的东西会被保持在后来的发展中。如海子的诗句：“我必将失败，但诗歌本身以太阳必将胜利。” 02 AI技术高度(gāodù)发展后， 人类翻译是否一定会被(bèi)AI取代？ 昼温：刚才提到了(le)那么多前人的(de)(de)作品，人工智能不愧是科幻作家绕不过(guò)的主题，万千种未来都在小说中“预演”了。那宝树老师过去都写过哪些人工智能的故事呢？哪些“预言”成功了，哪些“预言”失败了？ 宝树：我可能写过大约七八篇和(hé)人工智能有比较(bǐjiào)强的关联的故事。其中比较有现实意义(xiànshíyìyì)的一篇小说叫《妞妞》，讲述一对夫妇在两岁的女儿意外去世后，定制了一个仿生人作为(zuòwéi)他们的女儿。这个仿生人其实技术并不高，也没有真正的智能，只是模仿人类婴孩的表情和动作。但(dàn)这个已经深深抓住了父母的心，让(ràng)他们无法自拔，无法再从这段畸形的关系中走出来。这种技术其实目前已经初具雏形，甚至已经有人在制造死者的数字人。如果有一天死者能够惟妙惟肖(wéimiàowéixiào)地出现在我们面前，和我们对话交流，那对社会将是多么大的冲击(chōngjī)！ 昼温：也许那时候死亡的(de)定义也会(huì)变化。《寻梦环游记》里(lǐ)说死亡并不可怕,遗忘才是最终的告别。也许到了未来，一个人的数字备份全被毁灭了，才算真正的死亡。 宝树：还有(yǒu)一个方向是思考AIGC创作（人工智能生成内容）对社会的影响。我有个短篇叫《人人都爱(ài)拍电影》，讲一个女人用AI生成电影，把她的前男友拍成一个人渣(rénzhā)。因为影像的巨大感染力让(ràng)前男友陷入了麻烦……这个今天都说不清是科幻还是写实了。昼温在人工智能方面又做(zuò)过哪些探讨呢？ 昼温：我是语言学专业(zhuānyè)出身的，写过(xiěguò)很多语言学科幻。其中一部作品是跟机器翻译相关——《最后(zuìhòu)的译者》：在AI技术高度发达的未来(wèilái)，翻译行业被人工智能彻底颠覆。语言学校消失，职业译者近乎绝迹，仅剩文学翻译这一“最后的河塘”苟延残喘。主人公作为全国最后一名翻译专业学生，被迫参与“巴别塔计划”——通过整合全球语言数据，构建一种(yīzhǒng)高维(gāowéi)的“纯语言”，使人类(rénlèi)无需翻译即可直接理解彼此。 之前刷到一个短视频，日本世博会(shìbóhuì)的(de)当地记者用翻译器采访中国游客： 日本记者：你是从(shìcóng)哪里来的？ 到这里一切都很顺利，日本记者(jìzhě)顺势问他，你觉得这里有什么(shénme)很厉害的东西（值得一看）？结果翻译器直接翻译成：有什么了不起的？ 中国游客(yóukè)的眼神一下子就不对了。 现在，人们知道机器翻译不是(búshì)百分百靠谱，不会特别当真，但到了未来，人们的(de)交流完全靠人工智能翻译时，AI会不会在这中间搞事情呢？就(jiù)像现在的操纵性翻译或目的性误译。比如(bǐrú)《流浪地球》电影中，刘培强就会直接使用戴在耳边(ěrbiān)的同声传译装置跟外国宇航员交流，完全没有人在中间校验译文。那个时候，人们也许会认为，学外语就像现在学习手工织布一样没必要，那人工智能就可能从一句又(yòu)一句的翻译中离间人类(rénlèi)，达到它们不可告人的目的。 那时你说出的话、听到的话，都像通过了一层看不见摸不到的膜，那么你所接触到的世界(shìjiè)，还会是真实的吗(ma)？ 宝树(bǎoshù)：记得前年，科幻小说(kēhuànxiǎoshuō)(shuō)家顾适给我看过她用ChatGPT翻译的(de)一部小说，翻译质量是很不错的。从那以后，我感到翻译工作被AI取代(qǔdài)只是时间问题。我前些年也翻译过一些作品，后来不再做这方面的工作，但是最(zuì)近我又开始翻译了。这么做，除了作品本身对我的吸引力外，另一方面是我想探索人类(rénlèi)的翻译有没有无法被AI取代的一面。所以这次(zhècì)翻译，我更多地采用(cǎiyòng)了所谓(suǒwèi)意译，也就是说为了表达作者想表达的意思，不再拘泥于原文。如果这种方式能够得到肯定的话，或许可以说，最忠实的翻译恰恰是不忠实的，因此也不一定会被AI取代。从这个角度看，AI也推动了人类译者对于翻译的深层理解与反思。 你说的另一个问题，在于如果AI翻译日趋完善的话，人们可能就(jiù)不去学外文了(le)，因为将来很(hěn)可能是可以(kěyǐ)用几分钟就生成一本书的完善的中译本。比如说，斯蒂芬·金或者(huòzhě)东野圭吾这样的作家推出一本电子版(diànzibǎn)的新书，只要事先版权谈妥了，我们(wǒmen)可以在五分钟后就读到中文版，而以前需要一年以上。这样的世界当然很令人向往，但是一个懂得外文的人，阅读原文所把握到的原文意境，还是远超过翻译出来的内容。如果我们只依赖于翻译，这扇大门就永远对我们关闭了。我们实际上失去了一个让自己拥有另一种交流(jiāoliú)和思考的维度的机会。 昼温：正是如此，技术的发展总是有得有失。现在最令你惊叹的现存(xiàncún)人工智能技术是什么呢(ne)？ 宝树：虽然(suīrán)我们作为创作者会更多考虑技术的复杂负面后果，但还是有(yǒu)很多令人振奋的方面。比如我觉得人工智能用于医疗就非常有意义，根据(gēnjù)基因数据进行疾病(jíbìng)风险(fēngxiǎn)预测和(hé)医学影像识别等，人工智能的效率都比人类医生(yīshēng)要高不(bù)少，也不容易犯错。还有基因靶向(bǎxiàng)药物的研制，可以用人工智能帮助(bāngzhù)计算高分子结构，“定制”出针对癌细胞特定基因序列的药物，达到只杀死癌细胞，不杀死正常细胞的结果。这样药物研发的成本会大为下降，周期也大为缩短，目前已经有一些初步的应用。这项技术未来再发展，可能将会制造出在人体内随时可以杀死癌细胞的智能纳米机器。那样的话，癌症就基本攻克了。人均寿命延长几十年不是梦。 昼温：希望呢！但也可能出现《三体》中提到的基因定制病毒：对于其他人来说，感染上只是小感冒，而对于特定的人，则会有致命危险。人工智能时代(shídài)的医德，也许未来会成为医务工作者(gōngzuòzhě)躲不掉的命题(mìngtí)。 03 人机合作如果是(shì)一种趋势， 创作者该如何(rúhé)应对写作伦理？ 昼温：而作为文字工作者，大(dà)语言模型一出来，我感受到的冲击还是挺大的。有时候(yǒushíhòu)在网上读文章，津津有味看到一半才发现是AI创作的，有时候读到最后都分辨不出来。而有些AI写的小说已经获得了(le)大奖(dàjiǎng)，游戏和动画也开始(kāishǐ)出现另类“3A大作”（AI作图(zuòtú)、AI配音、AI作曲或AI编剧）。写作，或者说是创作，似乎都不再需要人类了。宝树老师怎么看这一现象？又是否用过AI创作呢？ 宝树：这个问题现在也是(shì)作家中讨论的(de)(de)一个热点，毕竟这是大家最关心的本领域(lǐngyù)的剧变。目前两派还是壁垒分明的，一派认为机器(jīqì)没有灵魂，不可能具有人类的创造力和想象力，写出来的东西也只是徒具其形；另一派则认为灵魂也无非是一种算法，没什么神秘的，机器将来必将取代人类。我比较(bǐjiào)偏向后者，我觉得不能把人的创作能力浪漫化，认为机器一定做不到。 不过我(wǒ)尝试过用(guòyòng)AI写一些段落来实验，感觉基本还是比较初步的(de)，逻辑性和文学美感上都还有不小差距，机器要取代人类(rénlèi)，还有很长的路要走。能拿得出手的那些还是经过人的仔细调整，不是纯粹AI的产物。 昼温：我也有同感。我曾经尝试过给AI下达指令，让它生成小说中的(de)(de)一段话，但(dàn)怎么看怎么别扭，每一个字词、每一个标点符号都需要调整，完全没有脑海中的场景通过键盘行云流水落在文档里的感觉。 宝树(bǎoshù)：不过，无可否认，现在让(ràng)AI随便写几段话，表达能力已经超过了人类一般(yìbān)的水平(shuǐpíng)。某种人机协作还是一个(yígè)大趋势。但这个似乎又涉及写作伦理，如果我让AI生成一段可用(kěyòng)的文本，然后我拿来使用。这和我从别人书上看到(kàndào)一段话来抄袭，有什么本质区别吗？只不过这种抄袭并没有(méiyǒu)一个苦主罢了，但我们的行为并没有太大区别。这也是目前困扰我的一个问题。我并不是抵制AI写作，长远来看，人机协作进行创作是必然趋势，但我们在奔赴和AI合作的道路之前，有些问题应该先想清楚。 昼温：AI版权(bǎnquán)问题还远远没有达成社会共识，真的是技术在前面跑，法律、道德、伦理在后面(hòumiàn)追。但总有一天(zǒngyǒuyītiān)，这样混乱的局面会结束。 我(wǒ)目前主要还是用AI帮助查阅资料，而(ér)不是真正生成行文。写作对我来说更多是一个自我表达的方式，把打动我的情感(qínggǎn)和(hé)经历，通过故事的形式传递给更多人。写作的过程是非常愉悦的。在未来，人工写作是否会变成一个非常稀少而私人的事情呢？就像现在的非遗手艺人一样(yīyàng)，需要守护和传承，而流水线上的商品才(cái)是服务世界上绝大多数人的存在。我很庆幸，在大语言模型出现之前成为了作家。 宝树：我觉得从长远(chángyuǎn)角度来看，有些宝贵的(de)东西必然会消亡。比如说当文字发明时，那些能够背诵几万行史诗的行吟诗人就(jiù)(jiù)不见了。当我们这代人用电脑创作的时候(shíhòu)，上一代作家用手稿写作的方式也消失了，手稿作为文学史上的美好事物就停止存在(cúnzài)了。我们“写”的作品是没有“原件”的，或者说保存原件这个行为变得没有意义了。当AI写作成为常态时，可能大家也觉得不靠(bùkào)AI而自己写，这种行为没什么意义。 或许(huòxǔ)问题(wèntí)更关键的地方在于，AI的创作能够走得多远，在多大程度上超越人类(rénlèi)。如果AI创作最后能走到任何人类艺术家都无法想象的地方去，那后世也不会为人类的损失而哀叹。人类只是宇宙智能演化中一个不算特别(tèbié)重要的过渡环节。 昼温：在生活中的(de)其他(qítā)领域，大语言模型还是帮了很多忙。我在互联网公司上班的朋友，每天都会用ChatGPT写各平台的宣发文案。他们在和外国同事沟通时，也会用AI来润色英文。有一次她的AI账号用不了了，急得团团转(tuántuánzhuàn)，连外国同事的邮件(yóujiàn)都不敢回复，怕行文(xíngwén)没有之前那么优雅正式。但从另(lìng)一个层面讲，那些外国同事，永远也不会知道，真正的“她”是什么样的。 我在(zài)小说(xiǎoshuō)《你一生的言语》里提出了一个叫“语痕”的概念——说白了就是，你说的话、写的字里，到底能留下多少(duōshǎo)属于你的、独一无二的痕迹。 最鲜活的(de)是面对面聊天：你说话时的表情、小动作、语调，你前半生(qiánbànshēng)攒下来(xiàlái)的那些口头禅，还有在对方注视下，来不及多想就蹦出来的那句话——那一刻的你是独一无二的，没人能(méirénnéng)完全复制，连你自己都做不到。 其次是手写：写字其实特别考验手上功夫，一笔一画都是肌肉(jīròu)记忆。写的(de)时候你会反复琢磨，最后落在纸上的，可能就是你最真实的水平。内容可以抄，但字迹骗不了人——法庭上，专家光看笔迹就能辨真假(zhēnjiǎ)。到了电子文档，痕迹就淡多了：只剩下一点用词习惯和思维方式(fāngshì)的影子，但太容易复制粘贴(fùzhìzhāntiē)，个性几乎被抹平了。 那AI修改过的文字呢？经过数字传输(shùzìchuánshū)后，连最后那点“人味”都没(méi)了。它可能语法完美、逻辑清晰、文笔漂亮，但(dàn)(dàn)就像超市里的塑料苹果——光鲜，但没有生命。那这样的语言算什么？不过是一团石墨的痕迹，空气的振动，或是屏幕上的像素点罢了。 那会不会有一天(yītiān)，我们每发一条消息都要AI精修，而(ér)面对面聊天，反而成了(le)让人尴尬的事？而这样的羞赧，已经在朋友面对外国同事时的失语中开始体现。 宝树：“语痕”这个提法很有深意(shēnyì)，我觉得广义来说(láishuō)，可以当成人(rén)类个体(gètǐ)性的表征。每个人都是独一无二的个体。但与他人接触，又不一定是愉快的过程。即便是相爱的人们，也(yě)不可能绝对合拍，而且越是相知，可能给彼此(bǐcǐ)的伤害(shānghài)也越深。这方面，AI所做的是在我们周围建立一个隔离层，比如说计算我们的喜好，建立信息茧房。当然，理想上，它(tā)应该能够(nénggòu)过滤掉不好的一面，而促进正面的交流，但二者实际上是一体两面的。如果我们不迈出自己的舒适区，不冒着误解和交恶的风险去付出努力，也永远无法和他人建立真正真诚而深入的关联。 昼温：是啊。不过GPT-4o有一个(yígè)版本就存在过于讨好用户(yònghù)的情况，在对话(duìhuà)中专注于奉承用户，遭到大量反对，OpenAI最终选择紧急回滚。看来太迎合用户也会令人讨厌，这个度连AI也不好把握呀(ya)。 宝树：但总归其目的(de)是让我们(wǒmen)更开心，只是(zhǐshì)手段可能更狡猾。这里(lǐ)也关联到另一个问题，就是可能它只让我们生活在(zài)自己喜欢的文字和故事里，让我们永远无法迈出去了解世界的本相。伟大的文学，揭示这个世界一些残忍的真相，通常是不(bù)太(tài)让人(rén)愉悦的。但因为有很好的故事性和文笔，所以能让我们去尝试接受，去提升(tíshēng)我们对世界的理解和感悟。但AI可能创造出非常精彩的故事，让我们非常沉醉的文笔，却和这个世界的本相隔离。这样，我们岂不是将被豢养在一个个(yígègè)肥皂泡里，和世界本身也和更伟大的境界绝缘了？就像《束手》里所描述的，人类被圈养起来，只不过这种圈养更彻底，我们甚至不会意识到自己被囚禁了。 昼温：这样听起来，作家还是(háishì)有存在的意义呢！用手中锋利的文字(wénzì)刺破人工智能打造的泡泡，帮助人们深度链接、理解世界。 刚才说了那么多，还是以人类为中心的(de)话题，那在未来，AI会不(bù)会搞出一套自己的语言啊？前段时间网上(wǎngshàng)不是疯传一个视频吗？两个AI聊着聊着，突然发现对方都是AI，结果直接切换成加密语言继续(jìxù)聊。这不就等于它们背着我们(wǒmen)搞小团体吗？最可怕的是，等我们发现的时候，可能早就管不住它们了。 宝树：这点我倒是蛮期待的(de)，有没有可能它们发展出一种不受人类语言(yǔyán)模式约束的新语言？人的自然语言受限于一些基本的结构，比如说主谓结构，似乎总有一些主体在(zài)做出行为，但这些主体是对流变的现实的一种失真的(zhēnde)模拟，而我们只能这么去理解(lǐjiě)世界，有没有可能人工智能的语言能够摆脱这个结构，在一个新层面上理解世界？如果可能的话，不论人类是否能理解，都是宇宙(yǔzhòu)智能本身的一种飞跃。 昼温：那到时候我们就只能像蚂蚁(mǎyǐ)一样，仰望AI去探索星辰大海了。似乎对于(duìyú)人类来说不是一个很好的(de)未来。你认为我们最有可能走向的未来，是什么样的呢？ 宝树：这个真的很难预言，只能说未来可能会很美好，甚至超出我们的想象，但在这个过程(guòchéng)中(zhōng)会有强烈的动荡。比如说通用人工智能(réngōngzhìnéng)，如果(rúguǒ)能够代替大多数人的工作，让90%的人失业，世界会变成什么样子？会不会诱发战争和(hé)混乱？又比如说，网络通信技术，能够让人群(rénqún)以之前无法想象的方式连接起来，但又会在人群中制造区隔和对立，放大人性中党同伐异、自我中心的缺陷。今后的每一步可能都蕴藏危险。目前(mùqián)日趋紧张的国际局势，也间接和科技的迅猛发展有关。 虽然我们不可能真正去预知未来，但可以去想象(xiǎngxiàng)。我今年会出一本新书，叫《你已生活在未来》，讲述AI等近未来科技下一些可能发生的生活故事，也许会有一丁点参考价值，也许纯属(chúnshǔ)盲人摸象(mángrénmōxiàng)，过几十年(jǐshínián)看就是(jiùshì)笑料(xiàoliào)。单纯从创作角度来说，我觉得(juéde)短期内还不用太悲观。十年之内，AI还不太可能威胁到人类的创作者，但留给我们的时间也的确不多了。真正远远超过人类智能的人工智能可能在二三十年后就会出现，天堂或者地狱，我们到时就会知道。但就像我上面说过的，能见证这样(zhèyàng)一个必将到来的未来本身也是一种幸运。 昼温：是啊，“生命(shēngmìng)总会自己找到(zhǎodào)出路”，尽管中间会发生很多动荡，人类社会一定会找到适应它的方式，也许是一种新的语言，也许是完全不同的伦理道德(lúnlǐdàodé)，也许那种方式会让今天的我们(wǒmen)无法理解。总之，未来已来，让我们一起见证！