虚构的力量反客为主,或者被别有用心的人利用,其实我们在生活中已经多多少少都领教过了。
比如钞票本是一张毫无价值的纸,但为了能组织起巨大的分工市场(这正是我们能战胜其他物种,取得科技进步的源泉之一),人类乐于接受虚拟的价值在真实世界里流通,但是我们也就必须接受有少数人掌握货币的发行,制造极度的社会不公这个弊端。
或比如国家,制造共同体的概念能使我们更好的协作,形成集体时也更有力量,但归根到底我们制造国家这个概念是为了个人更好的福祉,而不是为了随时为它牺牲。
你当然不会一觉醒来就看到终结者降临,但从大尺度的历史时间上看,按照尤瓦尔·赫拉利的判断,最近我们人工智能和生物基因技术正在突飞猛进,而且这一过程是无法刹车的。
在传统宗教渐行渐远之时,我们现在的宗教其实是人文主义信仰,以人的价值为最高,那么为了人的永生和幸福,我们必定会持续不断地探索人本身,同样是基于人类的需求,为了物质继续丰富、财富继续增长,科技必须不停地进步,这一切的逻辑,一旦开始,就没有停止按钮。
但科技的进步又会摧毁人文主义的基石——人的不可分割性和自由意志。自由意志好懂,不可分割说的是人若是昨日之我、今日之我不是同一个;此时的我还要分左半脑的我和右半脑的我,那么现在社会一切建基于个人之上的规则就毫无意义了,你无法找到能够承担这种规则的实体。
许多这些论证,看似信手拈来,略有跳跃,但是如果你有过一些哲学思考且看过他前一本书的话,就会惊叹于他的洞见。
最终,尤瓦尔预测,人文主义信仰的废墟上,数据宗教将会建立起来。生物科学和人工智能同步发展,一方面人越来越了解自己的结构,一方面人工智能也会越来越了解我们。人在这个过程里会慢慢放弃决策权。
计算机与我们的关系,大概分三步走:第一步,算法相当于我们身边的先知,你有什么问题问它下,但决策权在你手里。第二步,算法相当于是我们的代理人,它告诉你一个大的方向和原则,它去执行,执行中的一些小的决策,它自己说了算。第三步,算法成了我们的君主,你索性什么都听它的。
当算法可以决定一切,他对你从内到外完全的了解,你觉得它会杀死你么?不知道,就像狗无法理解人类的思维,我们也永远无法理解那个时候的人工智能,这是一种彻彻底底的绝望。
这就是为什么说,读这本书,需要的不仅仅是智商,更多的是勇气,来面对这样一种残酷。他描绘的世界比黑暗森林更令人绝望,因为人性的恶我们其实已经习以为常,完全知道该如何打交道,而人工智能,他们甚至没有善恶的概念。
也许,那时还有一种人是不受算法控制的人,他们就是控制算法的精英。算法不能理解这些精英,也不知道他们有什么需求,这些人才是世界的主人,站在算法系统背后,做最重要决策的人。
但愿到时候真还能有这种人,来维护人类的尊严。
————————
以上内容来自网络平台。