财新传媒
文化 > 阅读 > 正文

我们有生之年还能看到“奇点”吗?

2017年04月26日 11:55 来源于 财新网
哪怕生命中出现“奇点”的概率只有 1%,合理的预防措施就是至少投入 GDP的 1%来研究并决定如何应对它
《对话最伟大的大脑·大问题系列》

  文|马克斯·泰格马克(Max Tegmark)

  麻省理工学院物理学家、基本问题研究所科学主任

  生活中可抱怨的东西实在太多,以至于我总担心人们忽视其中的美好,情愿早早拂袖而去。

  在苦寒而寂寥的宇宙中,地球如太空船一样,既提供给养又保护着人类免受伤害。它满载重要而有限的水、食物和燃料等资源;它的大气层为我们保暖,还屏蔽了有害的太阳紫外线辐射;它的磁场庇护我们免受致命的宇宙射线的伤害。毫无疑问,任何一个有责任心的船长,首要的任务就是保护这艘船只的未来存续,要避免小行星的撞击、自载负荷的爆炸、星体过热、臭氧层的破坏,还要避免船载供应的过快消耗。然而,我们这些船员尚未把其中任何一个问题置于优先考虑之列,投入资金(据我估计)不足其资源的百万分之一。事实上,我们这艘太空船甚至都没有一位船长!

  很多人责怪生活太沉闷,一如我们所了解的那样。他们主张,既然环境正在改变,人类也要随之而变:我们需要技术性地武装起来,或许用智能手机、智能眼镜、大脑植入体,并最终与超级智能计算机连接在一起。对这种超前的生活理念,你是无限憧憬还是疑虑重重呢?这很可能取决于周围的环境,尤其是你把未来的生命(“武装”过的人类)看作是人类的继承者还是反叛者。

  如果父母有一个比他们聪明的孩子,从他们那里接受教育,然后到广阔的天地里去实现父母只能梦想的事情,他们一定会感到高兴和自豪,即便他们知道自己未必能活着看到所有这一切。我们是否认为那些未来的生命是人类的后代呢?是否认为他们是人类价值观的继承人呢?这会直接影响他们是否保留我们最珍视的目标。

  另一个关键因素在于,这种过渡(过程)将是缓慢的还是突然的。我认为,即使人们主观上想让进化停止,也很难实现;在过往漫长的岁月中,人类向更加智慧、更有适应性的方向大踏步迈进,这个过程中人类甚至还美化了身体的外观。在另一方面,让孩子秉承父母的梦想,还是去追逐他们自己的目标呢?父母本身也是非常矛盾的。显然,如果先进的未来技术不是迅疾地替换我们,而是帮助人类渐进地适应和提高,并最终让我们在其中如鱼得水,那么这或许既能满足传承和渐进主义的要求,又能让我们与晚辈一起认同高科技的生活方式。

  那么,什么会真正发生呢?这才是我们着实要担心的事情。工业革命带来了比我们更强大的机器,信息革命带来了比我们更聪明的机器。在 2006年的国际象棋比赛中,在 2011年美国智力竞答节目《危险边缘》(Jeopardy)中,以及在 2012年的汽车赛(在判定其比人类更安全后,内达华州给一台计算机颁发了驾驶执照)中,机器都击败了我们。计算机会发展出超人的智慧,并最终在所有事务上打败人类吗?

  我毫不怀疑这些将要发生:我们的大脑是一束遵守物理定律的粒子,而没有物理定律能限制粒子为实现更高级计算而改变排列的方式。但是,它会很快出现吗?很多专家表示怀疑,而以谷歌工程总监雷 ·库兹韦尔( Ray Kurzweil)为代表的专家则预言 2030年就能实现。无论如何,我想有一点是相当清楚的:一旦它们出现,影响就是爆炸性的。

  正如已故的牛津大学数学家古德( I. J. Good)在 1965年的论文《关于第一台超级智能机器的推测》( Speculations Concerning the First Ultraintelligent Machine)中就意识到的那样,具有超人智能的机器可以很快设计出比它们自己还优秀的机器。1993年,数学家兼科幻小说家弗诺 ·文奇( Vernor Vinge)把这场智能爆炸称作“奇点”(Singularity),他主张在这“点”之后,我们不再可能作出可靠的预言。一旦到达这个点,地球上的生命,无论客观上还是主观上,再也不会跟从前一样了。

  客观地讲,无论是谁或什么控制了这项技术,都将迅速成为这个世界上最富有也最强大的实体存在。它将会智胜所有的金融市场,让所有人类研究员的发明和专利活动都望尘莫及,并且它能操控所有人类的领导者。即使人类与这些机器联合,也会遭到它们的嫌弃,因为我们很难达到相同的效率,这会让它们感觉自己被剥削了。

  主观上讲,这些机器未必像我们一样去感受。它们感受到了什么呢?我相信,当信息接受处理时,意识是它们的感知方式。因此,我认为这很有可能,它们不能仅仅被视为无生命的机器,而应该被看作像我们一样有意识的存在。不过,这种意识在主观感觉上与我们的大不相同。

  比如,它们可能不会像人类那样恐惧死亡。(只要一直备份着自己,它们所失去的仅仅是最近一次备份后的存储。)在不同的人工智能之间轻易复制信息和软件的能力,可能会降低强烈的个体意识,进而减少人类意识的特征:如果人类能够随意地复制记忆和能力,那么你我之间也就没有什么区别了。所以,那些临近的人工智能,可能在感觉上就像是同一个蜂巢式思维的单一有机体。

  综上所述,在我们的一生中会出现“奇点”吗?这是一些我们能够去支持或者反对的东西吗?一方面,它可以解决我们大多数的问题,甚至是死亡。它也可以开发太空,突破人类的极限。解除了人类身体上的限制,这些高等生物最终将能涉足那些我们现在只能用工具观测的宇宙。另一方面,它也可以摧毁生命和我们在乎的一切。

  我们在这两点问题上都没有达成共识,但那并不意味着对此事置之不理是明智的。这可能是我们生命中将会发生的最好的或者最坏的事。所以,哪怕生命中出现“奇点”的概率只有 1%,合理的预防措施就是至少投入 GDP的 1%来研究并决定如何应对它。然而,尽管我们可以明显地感觉到生活正在发生改变,人们却在很大程度上忽略它,并且奇怪地沾沾自喜。显然,我们应该担心的正是那些我们不担心的事。

  注:本文选自《那些科学家们彻夜忧虑的问题》,经出版方湛庐文化授权刊载。

  该书源自美国“Edge”网站的大问题系列。“Edge”汇集了100余位顶尖的科学家、思想家,包括语言学家史蒂芬·平克、互联网思想家凯文·凯利、微软创始人比尔·盖茨、2004年诺贝尔物理学奖得主弗兰克·维尔切克等。2010到2015年,“Edge”每年提出一个大问题:人类思维如何与互联网共同进化?世界因何美妙而优雅地运行?那些科学家们彻夜忧虑的问题?哪些科学观点必须去死?如何思考会思考的机器?网站成员对每个大问题给出自己的思考,网站创始人约翰·布罗克曼将其结集出版。

责任编辑:刘芳 | 版面编辑:张柘
文章很值,赞赏激励一下
赞 赏
2人已赞赏
赞赏是一种态度
  • 1
  • 3
  • 6
  • 12
  • 50
  • 108
其他金额
其他金额(元):
赞 赏
财新传媒版权所有。
如需刊登转载请点击右侧按钮,提交相关信息。经确认即可刊登转载。
推广

财新微信

2017年09月20日    18:58
【焦作万方:收到大气污染管控工作通知】通知要求,焦作万方(000612.SZ)等企业要自2017年9月19日0时起提前实施错峰生产,限产减排30%以上至2018年3月15日。
2017年09月20日    18:52
【北京住建委印发《北京市共有产权住房管理暂行办法》】北京市共有产权住房管理暂行办法9月30日起实施。针对《办法》中一些具体细节问题也进行了讨论,主要集中在单身年龄30周岁、离婚及转出住房记录限制、东城西城区房源、能否落户入学等方面。今后五年北京市将完成25万套共有产权住房供地。
2017年09月20日    18:47
【TCL集团重组获证监会通过】据证监会网站,TCL集团股份有限公司(发行股份购买资产)获有条件通过。发审委要求补充披露标的资产在本次交易后剩余股权的相关安排及对上市公司的影响。补充披露星宇有限入股上市公司是否需要商务部门有关战略投资者的审批或备案。
2017年09月20日    18:37
【数字政通:中标1.5亿元PPP项目】数字政通(300075.SZ)公告,公司通过公开投标的方式顺利中标江西省大余县城市管理局大余县智慧亮化路灯节能改造PPP项目,项目规模1.5亿元。
2017年09月20日    18:28
【北京经济技术开发区:2020年建成20家技术创新中心】从北京经济技术开发区管委会获悉,到2020年,开发区将围绕产业集群创新需求,聚焦优势领域、核心领域、关键领域,主动对接三大科学城创新成果,打造20家具有国际影响力的技术创新中心。(新华社)
2017年09月20日    18:18
【证监会:5家公司首发通过 一家暂缓表决】证监会官网显示,武汉云克隆科技股份有限公司(首发)暂缓表决;北京安达维尔科技股份有限公司(首发)、江西新余国科科技股份有限公司(首发)、江苏华信新材料股份有限公司(首发)、广东国立科技股份有限公司(首发)、江苏怡达化学股份有限公司(首发)获通过。
2017年09月20日    18:07
【合纵科技:拟不超3亿元投建电池级铁锂材料生产基地项目】合纵科技(300477.SZ)公告,公司拟以全资子公司湖南雅城新材料有限公司作为项目公司投资建设电池级铁锂材料生产基地项目(一期),计划总投资不超过3亿元。
2017年09月20日    17:49
【盐湖股份月内累计涨逾60% 今日机构抛售4.43亿元】盐湖股份(000792.SZ)连续走强,月内已经涨逾60%。今日,盐湖股份再次涨停,股价达18.7元。交易所盘后数据显示,今日两机构合计抛售4.43亿元。而买入前五均为券商营业部,合计净买入6.77亿元。
2017年09月20日    17:40
【必康股份:实控人增持逾2300万元】必康股份(002411.SZ)公告,公司实控人李宗松9月19日通过信托计划以集中竞价方式增持87.44万股,占公司总股本的0.06%,增持均价26.89元/股,增持金额2351.44万元。截至目前,累计增持金额2.98亿元。
2017年09月20日    17:27
【易尚展示:员工持股计划累计买入逾7600万元】易尚展示(002751.SZ)公告,截至9月19日,公司第一期员工持股计划累计买入公司股票187.22万股,占公司总股本的1.31%,成交金额合计7622.59万元,成交均价约为40.71元/股。