财新传媒
文化 > 阅读 > 正文

我们有生之年还能看到“奇点”吗?

2017年04月26日 11:55 来源于 财新网
哪怕生命中出现“奇点”的概率只有 1%,合理的预防措施就是至少投入 GDP的 1%来研究并决定如何应对它
《对话最伟大的大脑·大问题系列》

  文|马克斯·泰格马克(Max Tegmark)

  麻省理工学院物理学家、基本问题研究所科学主任

  生活中可抱怨的东西实在太多,以至于我总担心人们忽视其中的美好,情愿早早拂袖而去。

  在苦寒而寂寥的宇宙中,地球如太空船一样,既提供给养又保护着人类免受伤害。它满载重要而有限的水、食物和燃料等资源;它的大气层为我们保暖,还屏蔽了有害的太阳紫外线辐射;它的磁场庇护我们免受致命的宇宙射线的伤害。毫无疑问,任何一个有责任心的船长,首要的任务就是保护这艘船只的未来存续,要避免小行星的撞击、自载负荷的爆炸、星体过热、臭氧层的破坏,还要避免船载供应的过快消耗。然而,我们这些船员尚未把其中任何一个问题置于优先考虑之列,投入资金(据我估计)不足其资源的百万分之一。事实上,我们这艘太空船甚至都没有一位船长!

  很多人责怪生活太沉闷,一如我们所了解的那样。他们主张,既然环境正在改变,人类也要随之而变:我们需要技术性地武装起来,或许用智能手机、智能眼镜、大脑植入体,并最终与超级智能计算机连接在一起。对这种超前的生活理念,你是无限憧憬还是疑虑重重呢?这很可能取决于周围的环境,尤其是你把未来的生命(“武装”过的人类)看作是人类的继承者还是反叛者。

  如果父母有一个比他们聪明的孩子,从他们那里接受教育,然后到广阔的天地里去实现父母只能梦想的事情,他们一定会感到高兴和自豪,即便他们知道自己未必能活着看到所有这一切。我们是否认为那些未来的生命是人类的后代呢?是否认为他们是人类价值观的继承人呢?这会直接影响他们是否保留我们最珍视的目标。

  另一个关键因素在于,这种过渡(过程)将是缓慢的还是突然的。我认为,即使人们主观上想让进化停止,也很难实现;在过往漫长的岁月中,人类向更加智慧、更有适应性的方向大踏步迈进,这个过程中人类甚至还美化了身体的外观。在另一方面,让孩子秉承父母的梦想,还是去追逐他们自己的目标呢?父母本身也是非常矛盾的。显然,如果先进的未来技术不是迅疾地替换我们,而是帮助人类渐进地适应和提高,并最终让我们在其中如鱼得水,那么这或许既能满足传承和渐进主义的要求,又能让我们与晚辈一起认同高科技的生活方式。

  那么,什么会真正发生呢?这才是我们着实要担心的事情。工业革命带来了比我们更强大的机器,信息革命带来了比我们更聪明的机器。在 2006年的国际象棋比赛中,在 2011年美国智力竞答节目《危险边缘》(Jeopardy)中,以及在 2012年的汽车赛(在判定其比人类更安全后,内达华州给一台计算机颁发了驾驶执照)中,机器都击败了我们。计算机会发展出超人的智慧,并最终在所有事务上打败人类吗?

  我毫不怀疑这些将要发生:我们的大脑是一束遵守物理定律的粒子,而没有物理定律能限制粒子为实现更高级计算而改变排列的方式。但是,它会很快出现吗?很多专家表示怀疑,而以谷歌工程总监雷 ·库兹韦尔( Ray Kurzweil)为代表的专家则预言 2030年就能实现。无论如何,我想有一点是相当清楚的:一旦它们出现,影响就是爆炸性的。

  正如已故的牛津大学数学家古德( I. J. Good)在 1965年的论文《关于第一台超级智能机器的推测》( Speculations Concerning the First Ultraintelligent Machine)中就意识到的那样,具有超人智能的机器可以很快设计出比它们自己还优秀的机器。1993年,数学家兼科幻小说家弗诺 ·文奇( Vernor Vinge)把这场智能爆炸称作“奇点”(Singularity),他主张在这“点”之后,我们不再可能作出可靠的预言。一旦到达这个点,地球上的生命,无论客观上还是主观上,再也不会跟从前一样了。

  客观地讲,无论是谁或什么控制了这项技术,都将迅速成为这个世界上最富有也最强大的实体存在。它将会智胜所有的金融市场,让所有人类研究员的发明和专利活动都望尘莫及,并且它能操控所有人类的领导者。即使人类与这些机器联合,也会遭到它们的嫌弃,因为我们很难达到相同的效率,这会让它们感觉自己被剥削了。

  主观上讲,这些机器未必像我们一样去感受。它们感受到了什么呢?我相信,当信息接受处理时,意识是它们的感知方式。因此,我认为这很有可能,它们不能仅仅被视为无生命的机器,而应该被看作像我们一样有意识的存在。不过,这种意识在主观感觉上与我们的大不相同。

  比如,它们可能不会像人类那样恐惧死亡。(只要一直备份着自己,它们所失去的仅仅是最近一次备份后的存储。)在不同的人工智能之间轻易复制信息和软件的能力,可能会降低强烈的个体意识,进而减少人类意识的特征:如果人类能够随意地复制记忆和能力,那么你我之间也就没有什么区别了。所以,那些临近的人工智能,可能在感觉上就像是同一个蜂巢式思维的单一有机体。

  综上所述,在我们的一生中会出现“奇点”吗?这是一些我们能够去支持或者反对的东西吗?一方面,它可以解决我们大多数的问题,甚至是死亡。它也可以开发太空,突破人类的极限。解除了人类身体上的限制,这些高等生物最终将能涉足那些我们现在只能用工具观测的宇宙。另一方面,它也可以摧毁生命和我们在乎的一切。

  我们在这两点问题上都没有达成共识,但那并不意味着对此事置之不理是明智的。这可能是我们生命中将会发生的最好的或者最坏的事。所以,哪怕生命中出现“奇点”的概率只有 1%,合理的预防措施就是至少投入 GDP的 1%来研究并决定如何应对它。然而,尽管我们可以明显地感觉到生活正在发生改变,人们却在很大程度上忽略它,并且奇怪地沾沾自喜。显然,我们应该担心的正是那些我们不担心的事。

  注:本文选自《那些科学家们彻夜忧虑的问题》,经出版方湛庐文化授权刊载。

  该书源自美国“Edge”网站的大问题系列。“Edge”汇集了100余位顶尖的科学家、思想家,包括语言学家史蒂芬·平克、互联网思想家凯文·凯利、微软创始人比尔·盖茨、2004年诺贝尔物理学奖得主弗兰克·维尔切克等。2010到2015年,“Edge”每年提出一个大问题:人类思维如何与互联网共同进化?世界因何美妙而优雅地运行?那些科学家们彻夜忧虑的问题?哪些科学观点必须去死?如何思考会思考的机器?网站成员对每个大问题给出自己的思考,网站创始人约翰·布罗克曼将其结集出版。

责任编辑:刘芳 | 版面编辑:张柘
文章很值,赞赏激励一下
赞 赏
2人已赞赏
赞赏是一种态度
  • 1
  • 3
  • 6
  • 12
  • 50
  • 108
其他金额
其他金额(元):
赞 赏
财新传媒版权所有。
如需刊登转载请点击右侧按钮,提交相关信息。经确认即可刊登转载。
推广

财新微信

2017年05月27日    20:35
【易付宝等涉嫌无资质开展第三方支付业务】5月27日,国家互联网金融安全技术专家委员会官网发布《关于涉嫌无资质开展第三方支付业务的巡查公告》,公告显示,2017年5月中旬,国家互联网金融风险分析技术平台巡查发现,包括易付宝、阿里缘宝支付、财付宝、有付、积木支付等互联网平台涉嫌无资质开展第三方支付业务。(实习记者 阳梦琪)
2017年05月27日    19:06
【深交所发布上市公司股东及董事、监事、高级管理人员减持股份实施细则】特别应当提醒,《实施细则》发布后,上市公司控股股东、持股5%以上的股东及董事、监事、高级管理人员拟通过集中竞价交易减持股份的,应当在首次卖出股份的15个交易日前向本所报告减持计划,并予以公告。
2017年05月27日    19:04
【上交所发布上市公司股东及董事、监事、高级管理人员减持股份实施细则】特别应当提醒,《实施细则》发布后,上市公司控股股东、持股5%以上的股东及董事、监事、高级管理人员拟通过集中竞价交易减持股份的,应当在首次卖出股份的15个交易日前向本所报告减持计划,并予以公告。
2017年05月27日    19:02
商务部:2017年1-4月我国境内投资者对外非金融类直接投资累计263.7亿美元,同比下降56.1%;4月当月对外直接投资58.3亿美元,同比下降70.8%。
2017年05月27日    19:02
外汇局:截至5月26日,累计批准QDII投资额度899.9亿美元,连续第18月未审批新额度。 截至5月26日,累计批准QFII投资额度927.2亿美元,上月末为907.6亿美元。 截至5月26日,累计批准RQFII投资额度5431亿元人民币,上月末为5420亿元人民币。
2017年05月27日    18:40
【证监会:减持政策调整不涉及首发锁定期问题】证监会新闻发言人邓舸表示,此次减持政策调整不涉及上市公司非公开发行股票锁定期问题,上市公司非公开发行股票锁定期继续执行现有规定。
2017年05月27日    18:28
中国证监会进一步规范上市公司有关股东减持股份行为,完善上市公司股份减持制度。
2017年05月27日    18:13
【长江产业基金首次合伙人大会:落地7个项目】5月26-27日,湖北长江产业基金设立一年半以来首次举办合伙人大会。大会披露,管委会已核准母基金20支,总规模1030亿,湖北省政府引导基金认缴153亿。已经落地和准备落地的项目共7个:蔚来新能源汽车、绿宇纺织新材料、宁德新能源电池、京东方液晶显示、小米手机及应用、威马汽车、联想集团。产业基金规划投资在生物医药、新能源汽车、互联网云计算、智能制造、现代文化产业五大方向。(记者 周淇隽)
2017年05月27日    15:00
据中央组织部有关负责人证实,中国银监会主席助理、党委委员杨家才涉嫌严重违纪,中央已决定免去其领导职务。(新华网)
2017年05月27日    14:39
柯洁与AlphaGo今日展开三番棋比赛的终局对决,柯洁投子认输,AlphaGo中盘获胜。至此,柯洁在与AlphaGo的三番棋较量中,连输三局完败。(人民日报)