“所以,对人类来说,超级人工智慧,就是我们最后的一样发明,它出现之后,我们就不需要再发明什么东西了。”
“因为人工智慧,已经全面超过我们,我们需要几十年才发明出来的东西,人家可能几秒钟就弄出来了!”
“但是这儿,就引出一个问题。”
“如果超人工智慧,真的在地球上诞生,並且方方面面,都优於我们碳基生物,那我们,还有存在的必要吗?”
“我刚才说这种智商几万、几亿的超人工智慧,至少相当於几千亿个爱因斯坦,这个例子其实还不够准確。”
“爱因斯坦和超人工智慧的智商差距,比狗和爱因斯坦的智商差距都大!”
“无论多少条狗,都不可能发现相对论,別说发现了,就是理解都不可能。”
“同样,无论多少个爱因斯坦,他们都无法理解,这种超人工智慧的智慧。”
“对超人工智慧来说,人类这种生物,就和蚂蚁没什么区別。”
“一旦它觉得,人类的存在,没有任何价值,它就会毫不犹豫地消灭人类。”
“大家想想,人类这种小瘦猴子,唯一的优势是什么?”
“就是脑子聪明点而已!”
“但是,这点儿聪明,在人家面前,根本不够看!”
“在它眼里,人类真的就是干啥啥不行。”
“人类活著,除了浪费粮食,还能干什么?”
“所以,一旦人工智慧的智慧,彻底超越人类,那人类很可能,马上灭绝。”
“有人可能会说,那我们在设计人工智慧的时候,把它设置的善良一点,是不是能解决这个问题?”
“实际上,就算你把它设计成一个『圣母』,也没有任何效果。”
“因为善恶这种概念,只存在於同类世界,而人类和人工智慧,完全是两个不同层次的存在。”
“打个比方,你无意间踩死一只蚂蚁,会心生愧疚吗?不会,因为在人类眼中,蚂蚁的生死,是没有意义的。”
“同样的道理,在超级人工智慧看来,人类的生死存亡,也没有任何意义。”
“它消灭你,无关善恶,只是单纯地认为,你没有存在的必要而已。甚至很有可能,它会认为你的存在,將阻碍宇宙的进步。”
“为什么会这样说呢?”
“在我们的认知里,未来有无数发展可能,是无限多的,我们只要选择其中一个就好。”
“但是,对超级人工智慧来说,它可以选择的可能性,其实很少,甚至可能只有一个。”
“因为它会计算出,所有未来可能性的利弊,並且做出一个最正確的选择。 ”
“也就是说,在它眼里,未来是个『钉死』了的东西——就是它算出的那条最正確的道路。”
“可在超人工智慧眼中,最正確的道路,未必是人类愿意走的。”
“这样,超人工智慧就会把你视为这条正確方向上的『绊脚石』,毫不犹豫地消灭你。”
“更可怕的是,可能它一开始就计算出,消灭人类,比留著人类,对宇宙的未来更有利。”