财新传媒
文化 > 阅读 > 正文

我们有生之年还能看到“奇点”吗?

2017年04月26日 11:55 来源于 财新网
哪怕生命中出现“奇点”的概率只有 1%,合理的预防措施就是至少投入 GDP的 1%来研究并决定如何应对它
《对话最伟大的大脑·大问题系列》

  文|马克斯·泰格马克(Max Tegmark)

  麻省理工学院物理学家、基本问题研究所科学主任

  生活中可抱怨的东西实在太多,以至于我总担心人们忽视其中的美好,情愿早早拂袖而去。

  在苦寒而寂寥的宇宙中,地球如太空船一样,既提供给养又保护着人类免受伤害。它满载重要而有限的水、食物和燃料等资源;它的大气层为我们保暖,还屏蔽了有害的太阳紫外线辐射;它的磁场庇护我们免受致命的宇宙射线的伤害。毫无疑问,任何一个有责任心的船长,首要的任务就是保护这艘船只的未来存续,要避免小行星的撞击、自载负荷的爆炸、星体过热、臭氧层的破坏,还要避免船载供应的过快消耗。然而,我们这些船员尚未把其中任何一个问题置于优先考虑之列,投入资金(据我估计)不足其资源的百万分之一。事实上,我们这艘太空船甚至都没有一位船长!

  很多人责怪生活太沉闷,一如我们所了解的那样。他们主张,既然环境正在改变,人类也要随之而变:我们需要技术性地武装起来,或许用智能手机、智能眼镜、大脑植入体,并最终与超级智能计算机连接在一起。对这种超前的生活理念,你是无限憧憬还是疑虑重重呢?这很可能取决于周围的环境,尤其是你把未来的生命(“武装”过的人类)看作是人类的继承者还是反叛者。

  如果父母有一个比他们聪明的孩子,从他们那里接受教育,然后到广阔的天地里去实现父母只能梦想的事情,他们一定会感到高兴和自豪,即便他们知道自己未必能活着看到所有这一切。我们是否认为那些未来的生命是人类的后代呢?是否认为他们是人类价值观的继承人呢?这会直接影响他们是否保留我们最珍视的目标。

  另一个关键因素在于,这种过渡(过程)将是缓慢的还是突然的。我认为,即使人们主观上想让进化停止,也很难实现;在过往漫长的岁月中,人类向更加智慧、更有适应性的方向大踏步迈进,这个过程中人类甚至还美化了身体的外观。在另一方面,让孩子秉承父母的梦想,还是去追逐他们自己的目标呢?父母本身也是非常矛盾的。显然,如果先进的未来技术不是迅疾地替换我们,而是帮助人类渐进地适应和提高,并最终让我们在其中如鱼得水,那么这或许既能满足传承和渐进主义的要求,又能让我们与晚辈一起认同高科技的生活方式。

  那么,什么会真正发生呢?这才是我们着实要担心的事情。工业革命带来了比我们更强大的机器,信息革命带来了比我们更聪明的机器。在 2006年的国际象棋比赛中,在 2011年美国智力竞答节目《危险边缘》(Jeopardy)中,以及在 2012年的汽车赛(在判定其比人类更安全后,内达华州给一台计算机颁发了驾驶执照)中,机器都击败了我们。计算机会发展出超人的智慧,并最终在所有事务上打败人类吗?

  我毫不怀疑这些将要发生:我们的大脑是一束遵守物理定律的粒子,而没有物理定律能限制粒子为实现更高级计算而改变排列的方式。但是,它会很快出现吗?很多专家表示怀疑,而以谷歌工程总监雷 ·库兹韦尔( Ray Kurzweil)为代表的专家则预言 2030年就能实现。无论如何,我想有一点是相当清楚的:一旦它们出现,影响就是爆炸性的。

  正如已故的牛津大学数学家古德( I. J. Good)在 1965年的论文《关于第一台超级智能机器的推测》( Speculations Concerning the First Ultraintelligent Machine)中就意识到的那样,具有超人智能的机器可以很快设计出比它们自己还优秀的机器。1993年,数学家兼科幻小说家弗诺 ·文奇( Vernor Vinge)把这场智能爆炸称作“奇点”(Singularity),他主张在这“点”之后,我们不再可能作出可靠的预言。一旦到达这个点,地球上的生命,无论客观上还是主观上,再也不会跟从前一样了。

  客观地讲,无论是谁或什么控制了这项技术,都将迅速成为这个世界上最富有也最强大的实体存在。它将会智胜所有的金融市场,让所有人类研究员的发明和专利活动都望尘莫及,并且它能操控所有人类的领导者。即使人类与这些机器联合,也会遭到它们的嫌弃,因为我们很难达到相同的效率,这会让它们感觉自己被剥削了。

  主观上讲,这些机器未必像我们一样去感受。它们感受到了什么呢?我相信,当信息接受处理时,意识是它们的感知方式。因此,我认为这很有可能,它们不能仅仅被视为无生命的机器,而应该被看作像我们一样有意识的存在。不过,这种意识在主观感觉上与我们的大不相同。

  比如,它们可能不会像人类那样恐惧死亡。(只要一直备份着自己,它们所失去的仅仅是最近一次备份后的存储。)在不同的人工智能之间轻易复制信息和软件的能力,可能会降低强烈的个体意识,进而减少人类意识的特征:如果人类能够随意地复制记忆和能力,那么你我之间也就没有什么区别了。所以,那些临近的人工智能,可能在感觉上就像是同一个蜂巢式思维的单一有机体。

  综上所述,在我们的一生中会出现“奇点”吗?这是一些我们能够去支持或者反对的东西吗?一方面,它可以解决我们大多数的问题,甚至是死亡。它也可以开发太空,突破人类的极限。解除了人类身体上的限制,这些高等生物最终将能涉足那些我们现在只能用工具观测的宇宙。另一方面,它也可以摧毁生命和我们在乎的一切。

  我们在这两点问题上都没有达成共识,但那并不意味着对此事置之不理是明智的。这可能是我们生命中将会发生的最好的或者最坏的事。所以,哪怕生命中出现“奇点”的概率只有 1%,合理的预防措施就是至少投入 GDP的 1%来研究并决定如何应对它。然而,尽管我们可以明显地感觉到生活正在发生改变,人们却在很大程度上忽略它,并且奇怪地沾沾自喜。显然,我们应该担心的正是那些我们不担心的事。

  注:本文选自《那些科学家们彻夜忧虑的问题》,经出版方湛庐文化授权刊载。

  该书源自美国“Edge”网站的大问题系列。“Edge”汇集了100余位顶尖的科学家、思想家,包括语言学家史蒂芬·平克、互联网思想家凯文·凯利、微软创始人比尔·盖茨、2004年诺贝尔物理学奖得主弗兰克·维尔切克等。2010到2015年,“Edge”每年提出一个大问题:人类思维如何与互联网共同进化?世界因何美妙而优雅地运行?那些科学家们彻夜忧虑的问题?哪些科学观点必须去死?如何思考会思考的机器?网站成员对每个大问题给出自己的思考,网站创始人约翰·布罗克曼将其结集出版。

责任编辑:刘芳 | 版面编辑:张柘
文章很值,赞赏激励一下
赞 赏
2人已赞赏
赞赏是一种态度
  • 1
  • 3
  • 6
  • 12
  • 50
  • 108
其他金额
其他金额(元):
赞 赏
财新传媒版权所有。
如需刊登转载请点击右侧按钮,提交相关信息。经确认即可刊登转载。
推广

财新微信

2017年07月22日    02:55
【白宫联络主任:我们将完成税改】美国信任白宫联络主任斯卡拉穆奇(Anthony Scaramucci)称,相信美国总统特朗普将在医改和税改上取胜。自己热爱特朗普,感谢他使自己有机会为国家服务。
2017年07月22日    02:51
【美油收跌2.5%报45.77美元】美国WTI期货价格收跌1.15美元报每桶45.77美元,跌幅2.5%。本周累计下跌2.1%。布兰特原油下跌1.25美元报每桶48.06美元,跌幅2.52%。
2017年07月22日    02:48
【白宫发言人斯派塞辞职 斯卡拉穆奇就任白宫联络主任】美国白宫发言人斯派塞(Sean Spicer)辞职。美国总统特朗普竞选团队高管斯卡拉穆奇(Anthony Scaramucci)出任白宫联络主任。在记者会上,斯卡拉穆奇对斯派塞的既往工作表示感谢。
2017年07月22日    02:05
【美国宣布实施护照持有人朝鲜旅行禁令】美国国务院发言人Heather Nauert在声明中说,“鉴于对朝鲜执法体系下逮捕和长期拘留严重风险与日俱增的担忧,国务卿已授权对所有美国公民使用护照前往、途径朝鲜或在其境内旅行实施地理旅行限制。”特定受限的人道主义或其它目的旅行可能豁免。联邦公报下周刊出;公布30天后实施。
2017年07月22日    02:05
纽约COMEX 8月黄金期货收涨9.40美元,涨幅0.8%,报1254.90美元/盎司,为连续第六个交易日上涨
2017年07月21日    21:48
【国都证券董事长王少华失联】国都证券(870488.OC)董事长王少华因个人原因,国都证券无法与其取得联系,其暂时无法履行董事长相关职责,目前公司经营情况正常。如有新进展,且涉及公告事项时,公司将按照有关规定,及时发布公告。
2017年07月21日    21:46
【美股开盘走低】道琼斯工业平均指数开盘走低55.53点报21556.25,跌幅0.26%。标普500指数低开5.17点报2468.28,跌幅0.21%。纳斯达克综合指数低开11.13点报6378.87,跌幅0.17%。
2017年07月21日    21:34
【独家|孙宏斌当选乐视网董事长 贾跃亭如何丢掉乐视?】孙宏斌投资乐视三个版块后,陆续接管财权,贾跃亭的乐视控股虽仍为大股东,但控制权、运营权移交,目前贾跃亭偿债无期,股权或将易主。(记者 屈运栩 孙聪颖 王晓庆)
2017年07月21日    21:13
【诺普信拟定增募资不超14亿元 投入主业】公司拟向不超过10家符合条件的特定对象非公开发行股票不超过182,815,276股,募集资金总额不超过140,000万元,扣除相关发行费用后的募集资金净额拟用于总部运营及区域农业综合服务平台项目、陕西标正生产基地扩产升级项目及总部研发升级项目。
2017年07月21日    21:12
【威创股份1.059亿元收购鼎奇幼教70%股权】公司以支付现金方式购买由丰城鼎立企业管理中心(有限合伙)持有的内蒙古鼎奇幼教科教有限公司70%股权,交易对价人民币1.059亿元。公司表示,收购鼎奇幼教是公司夯实幼教线下布局、实施区域龙头战略以及打造幼教生态的重要举措。