数字时代的伦理困境：人工智能是否应该有道德选择？

yuange • 2024年11月23日 01:00 • 知识百科 • 阅读 207

　　尤瓦尔 · 赫拉利 | 现在是耶路撒冷希伯来大学的历史系教授。2015年6月他登上TED演讲，视频播出后达到200万次播放量。作品《人类简史》100周蝉联以色列畅销书排行榜第一名，并已授20多个国家版权。

　　活动：2016年9月23日 2016TGPC腾讯大学-国际公开课笔记侠作为合作媒体经主办方授权发布活动现场照片来自 V.Photos。转载，后台回复“转载”。

　　笔记：笔记侠深度好文：4991字 | 6分钟阅读

　　阅读笔记，先看问题：

人工智能会造福“具体的人类”吗？

人工智能给人类带来什么道德意义？

人工智能医生，能够替代人类医生吗？

人工智能将让很多人面临被淘汰的危局？

人工智能时代，如何做人、培养孩子？

　　全网首发 · 完整笔记

　　今天我说说人工智能以及人类的未来，或者我们未来的生活会变成什么样子。

　　一、人类历史上一场非常重要的革命

　　人工智能（AI）是人类历史上一场非常重要的革命，在生物学上也是一场非常重要的革命，会影响我们的生命和地球。在过去几十年中，很多东西并没有实质改变，所有的生物体都是通过自然选择来进化的。但是现在，可能接下来的几代会有一个很大的变化，因为我们有了人工智能。

　　自然选择可能会被取代，因为人工智能的设计已经加进来了，这是我们人类自己做出的人工设计。更重要的，这是我们第一次跳脱出原来更天然的、更小的范围。在接下来的几十年或者一百年中，我们可能会看到一些非有机生物体的出现。

　　这是一场非常大的改变。地球上的生物会有很大的变化，宇宙当中也是。当然，我得承认，对于外太空，我们对那里的生物是不了解的，但是对于我们了解的人类，或者地球上的其他生物、其他有机体，怎么才能够在地球以外的地方生活呢？

　　首先，我们自身有适应性，而人工智能的兴起和非有机体的产生，将在我们的适应性之外给我们更多的可能性，在人类历史和生物学上，这是一个重大的革命。

　　当然，这个进化需要很长时间，如果你往未来的几十年看，很大的一个可能性是我们的生活、经济、社会、政治结将会发生非常大的变化。

　　二、人工智能会造福 “具体的人类” 吗？

　　那么，我们就又迎来一个问题，会不会有一天，人工智能在很多方面都比人类更好？

　　在我们有生之年，人工智能会改变很多人的生活方式，有些人甚至可能会失去工作。就像曾经的每一次工业革命都会产生很多城市的工人阶级一样，接下来我们也可能会产生一个群体 —— 无用的人群。

　　我给大家举一个简单的例子：

　　十年前，人工智能的概念仅限于计算机，那个时候，我们觉得很多事情是不可能的。但是现在，我们可以看到，技术发展非常迅速，人工智能给汽车

　　、家居等领域带来了很大的变化。

　　在我们生活的城市，越来越多的专家预计，在我们的有生之年或者 20 年左右内，人工智能在很多方面就会超过人类，那时候可能很多职业，比如司机，就会被人工智能取代，那时，我们的经济就会有一个更大的变化，电脑会帮我们去开车和开飞机，而且它会更加安全。

　　现在每年都有大约 130 万人死于汽车事故，这个数字甚至是因为战乱而死的人数两倍，这都是因为人类的过错造成的，如果可以去用机器来取代人类司机，很多的事故可能就不会发生，因为人工智能是不会睡着的，在开车的时候也不会喝酒，不会在红灯的时候开车。

　　现在路上的每一辆车都是一个独立的个体，两辆车靠近的时候，其中一辆车的司机根本就不会知道对方司机的意图，但是如果用人工智能去代替司机的话，我们就可以把路上所有的汽车组合在一起，他们不再是独立的个体，在统一网络的连接下，他们会完全知道另一辆车要去到哪里。这样一来，车祸的可能性就大大降低了。

　　三、人工智能给人类带来什么意义？

　　讲到道德层面，有的时候，开车会涉及到种族问题，在这一方面人工智能会被人类做得好。

　　举一个例子：比如说你现在在开车，突然路上有五个行人，而旁边就是悬崖，你是撞上去呢？还是拯救生命的方式，开到旁边，开向悬崖自杀？

　　道德问题是哲学家已经争论了几千年的，并没有确切答案，人类的做法可能会受到哲学理论的影响，不同的哲学等级也会支持不同的理念。真的去面对这样的情形时，你必须要有解决的方法，100％确定这辆汽车怎么去做，而不是根据不同哲学家的不同观点去做选择。所以从道德角度来说，一个人工智能开的车，会比人类开的车有更好的表现。在未来几十年就会是这样的情况。

　　这就像骑马一样，在不断的改革中，马被车取代了，虽然有很多的事情是马能做到，车做不到的。比如：马可以笑

　　、可以哭

　　、可以爱

　　、可以恨

　　，但它还是被汽车取代了，因为汽车是经济发展所需要的，汽车能比马表现得更好。

　　四、人工智能医生，能够替代人类医生吗？

　　在接下来的 10 年、20 年、30 年，可以看到很多人类司机失去了工作，他们的职业被人工智能的司机所取代，这同时也产生了一系列的变化，在未来 20 年或者 30 年，所有这些经济就会收缩在小公司的手里。

　　所以，很多力量在少数人之间传递，刚才讲的交通业是这样，

　　医药业也一样。现阶段，大多数医生的功能是诊断疾病，给我们最好的治疗。我最近来中国，而我的医生在以色列，即便我们俩都在以色列，也不是很容易见到他，要提前两到三天预约才可以，然后我会开 20 到 30 分钟车去找他。

　　在以色列，基本的医疗保障只负责很短的看医生的时间，可能就是 5 到 10 分钟，我去医生的诊室，他只会给我 5 到 10 分钟，看我到底是什么情况。医生是怎么做的？他会问我一些问题，可能要做一两个简单的检查，如检查血压、心跳或者拿一个听诊器听一下我的心跳，会搜集一系列的数据，在这 5 分钟之内，因为他是我个人医生，他可能会查看我之前的一些疾病史，可以从电脑上得到更多的数据来诊断我的健康状况。

　　他通过这些有限的数据来诊断，即使是世界上最好的医生也不可能知道所有的药和疾病。所以这是一个非常有限的诊断方式，比如说诊断我的疾病、诊断我的感冒。有的时候，这个医生自己生气了、饿了、生病了，都影响到他的诊断能力。

　　与这个相比，我们来比较一下未来有可能出现的人工智能医生，我并不需要做预约，我需要做的就是一天 24 小时，一年 365 天在手机上随时访问我的医生，而不是短短的 5 - 10 分钟，我的医生会给我各种检查，24 小时监测我的健康状况。即使我没有不良的感觉之前，他就能够检测出我的疾病。他们所搜集的数据是人类医生没有办法搜集的，他们会有关于疾病大量的数据、所有世界上的医疗手段疾病数据等等，这个数据库是没有限制的。从这个角度上来说，可能出现的 AI 医生也会胜过人类医生。

　　我知道你们可能会想：是否 AI 医生就是以技术专家的身份，来为我们进行诊断和治疗？

　　因为一个好的医生还要给予患者情感上的支持，医患之间的关系是一种人类情感间的联系，医生的情感支持和技术能力一样重要。在这方面，我们认为人工智能医生不会比人类医生做得差，毕竟人类的情感并不是什么超自然的、很神奇的东西，所以人工智能机器人医生也是可以做到的。

　　人工智能机器人可以持续监控我的身体情况，并诊断出我的情绪变化。我们来看一下人类医生是怎么知道我的情绪状态的呢？比如说，我害怕和我生气的时候，我会给出来两种信号：

第一个就是我的声音，不仅仅是我说的内容，还有我的语调，我怕的时候声音会变得不一样；

第二，他可以根据视觉上的信号来判断，可以看到我的脸部或者我的姿势会给出一些暗示，关于我的情绪是什么样的。

　　这些东西，今天 AI 也在学习，并能和人类做的一样好，甚至比人类做得更好。AI正在发展它的能力，去分析人类的声音形式、人类的表情形式，来分析出人类的情绪状况。人工智能可以去获得很多信息，这个信息比一般的感官会给出更可靠的数据，因为它有感知器，可以在身体外侧和内测感知我的情绪状况，会比任何的人类都做得更好。

　　当然，这一切也没有那么简单，不能说明天一早所有的医生都会被人工智能取代，我们会遇到一些法律和技术问题，会对人工智能医生产生很多的阻碍。但是我们会去解决这些问题，而且要一次性解决。

　　我们都知道，现在要有一个好医生非常难，要投入很多的钱和精力才能拿到一个博士学位，而在这 10 年的时间里，你得到了什么？你只有一个博士学位，如果你要再拿一个其他领域的，你又要再从头再学习。而人工智能的医生就不一样，我们只要一次性地解决这个问题，去解决现在人工智能方面所面临的挑战，解决了这些问题之后，我们得到不是一个医生，而是无限量的一群医生。

　　地球上的每一个人都可以因此获得更好的治疗和关怀。不管你是有钱，还是没有钱，都可以得到治疗的关怀。所以，我们现在只要去花一些钱去解决这些问题，而这个钱其实是物有所值的，同时，我们现在已经在这上面投入了经费。

　　五、人工智能，将让很多人面临被淘汰的危局？

　　当然，有些人也会觉得有一些可怕，因为可能成百上万的医生就这样没有工作了。但是同样的原理，在各个行业可能都会有这样的影响，它可能会去取代人类的工作。一个很有名的研究，是预计在二三十年内的人类经济当中，15%的就业机会都会被人工智能取代，当然也会有新的就业工作和就业岗位产生。

　　两百年前，我们一直都在担心说机器会不会让很多人失业，但是这并没有实现得那么快，因为它虽然带走了一部分工作，但是同时这个过程当中又会有新的工作产生来填补这个空白。

　　因此，这跟我们过去的几次革命是不一样的。人类有两种技能：有体力，也有所谓的脑力，就是感知上的技能。在过去两百年当中，机器人可能在体力上的工作会做得比人类好，可能也取代了大部分这个领域的工作，所以人类将会开始去做更多需要脑力的工作了。

　　今天全美只有2%的人从事农业，大部分人其实在服务业，这些是需要有认知能力的人类参与的，接下来 AI 会怎么样？也许这是人类历史上首次机器比人类更好。我不知道我们是否发明出这两者以外的第三种智能，即便有，我相信很多新的工作，我们人类还是会比人工智能做的更好，但问题就是我们怎么样让我们自己变得更好，去适应这个不断变化的环境？

　　历史上，大多数的时间，我们的生活主要分成两个部分：

第一个部分就是学习各种技能和能力；

第二部分是在履行、在工作，当然也同时是在学习，最主要在工作，并运用之前所学到的知识。

　　但是有些知识技能可能在 21 世纪不一定适用了，现在小朋友学到的东西，到了他们四五十岁的时候可能就没有用了，所以他们得去学习新的东西提升自己，对于这些青少年来说，他们一直在学习，到了 60 岁的时候好象这一点就比较难了。因为他们已经有了一个先前的自我认知，是他们花了很多的时间和经历去学习的。特别当你五六十岁的时候，如果人工智能替代了你的工作，要重新去找工作是非常难的。

　　六、意识比智能更重要，不管是人类，还是人工智能

　　我们现在就要去面对这个问题了。这关系到我们现在该让我们的小朋友学什么，以免他们现在学了之后，可能到了 40 岁之后就没有用了。我觉得可能最好的办法就是在情商方面的一些培养，要让他们知道，得一直进步和学习，但是这个东西怎么去教就很难了，怎么样教出那种适应变化能力、不断充实自己的人，这个很难，但非常重要，我们要教孩子这一点。在21世纪，这一点对于我们来说非常重要的。

　　所以，接下来21世纪有一个重大的问题，也是人工智能带来很多所谓无用的人群，这些人该怎么办？有些人提出了很多解决方案，但我们要强调的技术不是重点，同一个技术可能会导致截然不同的社会形态，比如说工业革命，它就创造了很多城市的工人阶层。

　　这一个时代的技术，比如生物科技、人工智能，它们并不决定了未来，我们的未来是有很多可能性的。但是如果我们认真考虑，其实不光是从技术层面，还得去思考它社会和政治方面的影响。在这个新技术的背景下，我们想要变成一个什么样的社会？

　　七、我想要回到一个大的环境，就是人工智能到底能做什么？

　　它不仅对我们人类社会有影响，同时可能会对整个生命的进化也会有影响。我们今天可能要把智能和感知（感觉的能力，痛感、幸福感、爱或者仇恨）分开。

　　在科幻小说，电影、书籍里，很多人把智能和感知混在一起了。当人工智能发展到一定阶段的时候，人们还是有这种感知能力的，因为这两个东西一定得共存的。当我们讲到人类或者哺乳动物时，这两个东西是共同发展的，但是对于哺乳动物来说，他们一直是通过感知的能力发展的，他们解决问题的方式主要还是通过他们的感觉和感知的本能。

　　但这不是唯一的可能性方式。比如说树，树很聪明，但没有感知能力。电脑从这个角度来说，它可能比起树更像哺乳动物。计算机没有感知能力，但是可能很快就会培养起这方面的能力。在 60 年代，可以看到计算机的智能有很大的变化，但是在感知方面并没有。它们没有感知的能力，没有感觉的能力，也没有情绪，即便是最好的计算机、最好的 AI 技术，也是无法让它们拥有感知能力的。

　　所以，我们所说的感知能力是和智能是分开的概念，计算机正在往哺乳动物这个方向发展，往着超智能的方向发展。计算机和哺乳动物在不同的轨道，计算机所在的这个轨道，是没有感知能力的。在未来的 50 年内，我们会发现有一些超智能的实体，可能比人类更加智能，可能也完全没有意识，这会让我们想到一个非常吓人的情景，世界将会变成全智能，但却没有意识。

　　总结来说：我们看一下 AI 未来几十年的发展，我们要知道人工智能崛起能带来的政治、经济意义，还有带来的不同社会政治体系。我们不仅仅要意识到智能，也要意识到意识，要花尽可能多的精力去发展AI的意识。如果把这两个作对比，意识其实比智能更重要。

　　更多精选文章点击以下头像?

　　凯文·凯利

　　未来，正变得越来越难以置信

　　尤瓦尔·赫拉利

　　3场2万字《人类简史》演讲记录

　　后台回复“笔记侠”获得：

　　500位商业大咖的600篇演讲笔记

　　22篇读书笔记&干货版图书

　　笔记侠出品的电子笔记书

　　［侠客岛需要你］

　　简历请发至bijixia@foxmail.com