内容

小心“人工智能”的黑暗面
The dark side of artificial intelligence

 
 
我在《机械人将抢走我们的工作, 你准备好了吗》一文里推测,人类必须准备应付在不久的将来因电脑科技的惊人发展所引起的,对人类工作的负面影响。
 
 
最直接的负面影响是人类的很多工作,除了医疗保健,和必须由理解人类的抽象思维需求才能够从事的像医生,护士,托儿所的保姆,服务性行业等工作项目以外,越来越多的工农业生产都将会在今后的几十年或上百年之间,先后被电脑或由人造智慧的“机械人”所取代。
 
从古至今,人类社会的运作秩序和模式必将面临被机械人霸占和主导可能的重大改变或“危机”。由于在像欧美先进国家的工农业生产力已经达到可以让很大一部分因此失去工作的人群,无偿提供最基本的日常生活必须物质。因此,电脑取代部分人类的职业所引起的社会问题,还不至于导致人类的大规模的“生活危机”。
 
但是从更久远的发展前途观之,被人工智能所取代的工作将越来越多,其层面越来越广,终于有那么一天,人工智能必然会取代绝大部分的人类工作,乃至包括像必须经过人类的思维能力和高度智慧,才能够相互理解需求的各种类型的工种。越趋繁复的人工智能的发展,必将达到一个划时代的决定性阶段,那就是连最复杂的,必须由人类之间的思想交流和感情理解的很多工作类型,也有逐渐被电脑取代的可能。
 
这也令很多电脑科学家或社会科学家,乃至像美国电脑业巨头比尔盖茨那样的富豪也开始担忧的“人工智能发展结果的黑暗面”(The dark side  of artificial intelligence) 。
 
据谷歌的工程总裁Ray Kirzweil所推测的那样,到了离开今天还不到15年的2029年,机械人的智慧可能会超过最聪明的人类思维能力。绝大部分的科学家和电脑专家更同意,到达这个最高顶峰发展阶段的时间是在今后的100年之内的事。到那时,有些“超级电脑人”可能不但会具备说多种不同的语言,更可能有像人类大脑那样的“积累经验”的高度智慧和能力。到那时,各种类型的“电脑游戏”必然会取代荷里活的电影娱乐事业,“电脑娱乐业”将会变成一个远比电影事业要大的娱乐事业。甚至于在最基本的医疗保健领域,也会发生惊天动地的发展。例子之一是,像诊断人类病情的复杂过程,也可能会由人工智能或IT所取代。这种诊断工作,乃至可以把已经决定了的治病手术由医务人员通过“遥控操作”进行。另外一个例子是,它可以服务于有效地和准确地管理社会保安系统,控制到处都是的无人驾驶车辆的公共交通系统。
 
有人一定会问,从现在开始的人工智能发展到最高阶段之间的时间里,人类将如何适应和面对这种影响呢?它对我们的日常生活究竟会发生那些可以预测的惊人变化呢?
 
为此,著名的物理学家霍金(Stephen Hawking) 警示人们称,人工智能到达终极高度时,“可能导致人类时代的终结”。他警示人类:“由人类所创造和发展的人工智能或电脑人,发展到最高境界时,会自动为提高其本身的最高智慧发展设计程序和步骤,并以一种极其快速和有效的发展,令自己成为一种远比由血肉之躯作成的人类更为聪慧和更加复杂的“思维机械”。到那时,由生物肌体和思维构成的人类绝非机械人的竞争对手。
 
这种竞争的最终结果是,人类将被由其自己所创造的机械人所“取代”。有很多研究发展人工智能的科学研究和学者专家,因此向人们提出警告称,人类在发展“人工智能”的研究工作时,必须深具警惕。
 
跨国企业Tesla公司的总裁 Elon Musk 警告人们称,“人们必须在发展人工智能的过程中要万分小心谨慎。如果人们怀疑什么是人种存在的最大威胁的话,人工智能的创造,是人类召唤妖魔的开始”。因此,有很多研究人工智能的机构和科学家,开始教导“电脑人”如何思考和理解人类的“道德理论和体系”,以及如何服从和推行人类的道德观念等理论。比如当人们用“电脑士兵”作战时,在战场上不会杀戮无辜民众,乃至发生奸淫烧杀那样的,只有血肉之躯的人类才会触犯的战犯罪行等等。
 
这是否人们对电脑技术发展和创造“人工智能”所达到的成就的“神经过敏”反映呢?我们在科幻电影里面所看到的, 由人类所创造的“电脑人”攻击人类,乃至威胁到人类的生存的剧情,是否纯粹属于科学幻想的无稽之谈呢?现在看起来, 还真的应该以冷静的“科学头脑”深思熟虑一番。

我们鼓励所有读者在我们的文章和博客上分享意见。We are committed to maintaining a lively but civil forum for discussion, so we ask you to avoid personal attacks, and please keep your comments relevant and respectful. Visit the FAQ page for more information.