是否发展人工智能并不是一个需要多思的问题,这是历史的潮流和进化的方向,不可逆转。一国不做,别国更快做,总会有人抢着做。如果整个地球达成不这样做的协议,等到地球不适合居住就太迟了。请注意,这次需要的时间并不长,我们很幸运,在未来的几十万年里,可能会发生大规模的火山爆发、超新星带来的伽马射线爆发、小行星撞击地球、冰川期、太阳变亮等事件。如果我们走错了一步,可能需要几十万年甚至几百万年的时间重启。
向外很重要,为了走出去,没有更好的技术是不可能的。今天,我们运行GPU来燃烧这么多的能量,为了在未来成功地实现可控核聚变,为了让地球最终成为一种I型文明。为了这些,依靠回到田园生活,靠节流、艰苦朴素是没用的,依赖成千上万的科学研究人员用手调整参数来度过他们的一生也是无用的,我们必须不断地自动化,再自动化,而人工智能正朝着这个方向努力。
意识和智力是可以分离的。人工智能可以做很多人做不到的事情,但至少现在,研究更强大的人工智能没有必要让它有自己的目的和意义。监督学习者标记人工智能信息,加强学习者开发人工智能的奖励功能、虚拟环境和任务,人工智能旨在自动发现并输出更好的解决方案。两个人工智能相互对话产生了人类无法理解的语言?这只是另一种解决方案,用来完成一项特定的任务,至少到目前为止,人工智能不可能产生自我意识。
最后,人就是AI,AI就是人,所有AI的决定,也就是人的决定。你说是AI绑架了人也好,说是人参考了AI的观点也罢,都无所谓了。因为我们当下做的每个决定,也有浑身上下细菌的功劳,你怎么知道它们是在如何的影响了我们呢!我们现在反而痛苦的是,AI实在太笨了,各种花式犯蠢,最后我们想通了,还是因为自己蠢啊!并且现在也看到了,AI还没让人下岗,搞AI的人先下岗了,那是因为前两年我们太过相信自己了。我们真正要做的,应该是广泛科普和开源,让大家都明白AI是怎么回事,大家都把它当成常人待之的基础技术,明白它的优缺点,不吹嘘也不贬损,那它就会一直与我们同在。