我认为,这个问题不必担忧:技术会使人工智能进步,但人类也可以靠技术来进化。
一个事实是,就目前来说,人工智能的很多方面,特别是逻辑和判断,已经远远超过了人类,最重要的节点就是,围棋比赛中阿尔法4:1战胜李世石。
对于逻辑和判断的学习能力,人工智能已经远远超过了人类。但人类还有优势,那就是想象力。人工智能到目前为止仍然无法想象到它没有接触过的东西(数据),而这是人类所特长的,人类从很小的时候,有自我意识开始,就会想象虚构的事物。正如尤瓦尔·赫拉利的《人类简史》里面所说的,智人正是靠着“想象的共同体”来成为现在的人类,建成我们现今的科技和文明。
《人类简史》
但是倚靠着人工智能不断地发展,可否会诞生出和我们一样会想象虚无事物的智能?答案是肯定的。
《异形前传:普罗米修斯》
要担忧和恐惧吗?单纯看人工智能的优异表现,我们确实应该感觉到恐惧。正如《异形前传:普罗米修斯》里面提出的问题:上帝(“工程师”)创造了人类,而人类创造了机器人,是否这本身就是宿命的替代?
《未来简史》
尤瓦尔·赫拉利写的另一部巨著《未来简史》,实际上已经从一个方面解答了这个问题。
未来的人类,会和机器结合,升级为“神人”。
《攻壳机动队》
《铳梦》改编的电影《阿丽塔:战斗天使》
什么是神人?就是人和机器的完美结合。被称为神作的日本漫画《攻壳机动队》和《铳梦》里面描述了各种义体人。未来的人类,近视的可以改装成义眼,可以提升人类的视力达到机器和人工智能的水平;甚至可以更换全身除大脑外的所有肢体和器官,强化成半神半人的不可思议形态;最终可以把自己的思想抽离,融入到网络,和人工智能结合,成为真正意义上的“神人”。
原始人类,如果他能想象到现在的坦克、飞机、原子弹,他一定也会感觉到恐惧,因为他不知道支撑着这样的科技的背后,是人类智慧的进步;而我们现在如果能想到,未来我们人类一样在跟随技术进步,这何惧之有呢?
其他网友回答:当人工智能复杂度日渐提升,达到超出任何人类的理解能力时,其管理将会从简单操控,上升到道德伦理层次的安全设计准则,乃至有建立了新兴学科——机械伦理学。
实际上的应用逻辑可以参考阿西莫夫在《我,机器人》一书的引言中所写“机器人学三大法则”:
1.机器人必须不危害人类,也不允许他眼看人将受害而袖手旁观。
2.机器人必须绝对服从于人类,除非这种服从有害于人类。
3.机器人必须保护自身不受伤害,除非为了保护人类或者是人类命令它做出牺牲。
后来,又出现了补充的“机器人第0法则”:机器人必须保护人类的整体利益不受伤害,其它三条定律在此前提下才成立。
当然,后续随着时代发展,人们又对其有不断的补充与修正,如繁殖原则:机器人不得参与机器人的设计和制造,除非新机器人的行为符合机器人原则。
这些守则中,把“机器人”替换为“人工智能”,可以当作在人工智能的安全设计中的指导原则,也将会在未来发展中不断补充与完善。
相关书籍还有《机器人管家》,《机器公敌》,《2001:太空漫游》等,甚至有拍成了电影。有兴趣的建议看下。
其他网友回答:可以考虑使用物竞天择,狗尽人择的方式,驯化温顺的人工智能。要么人成为人机融化一起进化。否则科幻电影中的情况就会出现。