>科技>>正文

霍金5大预言和两场中国演讲:警惕AI、探索宇宙

原标题:霍金5大预言和两场中国演讲:警惕AI、探索宇宙

  英国媒体报道,3月14日,英国物理学家史蒂芬·霍金去世,享年76岁。生前的最后几年,霍金留下了几个预言,重点关注了地球的未来、人工智能对人类的影响和人类的宇宙探索。他也多次在演讲中呼吁,人类应该把主要精力放在探索宇宙和科学,而非战争或是破坏地球的生态环境。

[地球灭亡]人口过剩,资源紧张,能源过度使用,加速地球灭亡,2600年后,地球将因能源耗尽,大气层破坏而变为一颗燃烧着烈焰的行星。

[远离AI]人类千万不要踏入人工智能(AI)领域,我们更不能依赖机器,这会使人类退化,AI总有一天会取代人类,人类会被AI以伸张正义的方式灭绝。

[核武器]核武器是人类捍卫领土的终极武器,但核武器顷刻间会令一切化为乌有,研究我们无法控制的武器,最终的结局就是人类自取灭亡。

[探索宇宙]人类应该迈出地球,去宇宙中寻找人类的第二家园,如果安于现状,就会遭遇6500万年前恐龙灭绝的情况,人类文明顷刻间倒塌。

[全球变暖]全球变暖正在发生,人类开始改变环境但行动太慢,而且科技已经无法阻止环境变化。人类将在不到百年间被新文明取代。

(*当然,霍金的预言也招致了很多争论)

2017年4月,霍金教授专门为GMIC 北京 2017大会做了主题为“让人工智能造福人类及其赖以生存的家园”的视频演讲。以下为当时的演讲全文:

在我的一生中,我见证了社会深刻的变化。其中最深刻的,同时也是对人类影响与日俱增的变化,是人工智能的崛起。简单来说,我认为强大的人工智能的崛起,要么是人类历史上最好的事,要么是最糟的。是好是坏,我不得不说,我们依然不能确定。但我们应该竭尽所能,确保其未来发展对我们和我们的环境有利。我们别无选择。我认为人工智能的发展,本身是一种存在着问题的趋势,而这些问题必须在现在和将来得到解决。

人工智能的研究与开发正在迅速推进。也许科学研究应该暂停片刻,从而使研究重点从提升人工智能能力转移到最大化人工智能的社会效益上面。基于这样的考虑,美国人工智能协会(AAAI)于2008至2009年,成立了人工智能长期未来总筹论坛[原文:PresidentialPanel on Long-Term AI Futures],他们近期在目的导向的中性技术上投入了大量的关注。但我们的人工智能系统的原则依然须要按照我们的意志工作。跨学科研究可能是一条可能的前进道路:从经济、法律、哲学延伸至计算机安全、形式化方法,当然还有人工智能本身的各个分支。

文明所提产生的一切都是人类智能的产物,我相信生物大脑总有一天会达到计算机可以达到的程度,没有本质区别。因此,它遵循了“计算机在理论上可以模仿人类智能,然后超越”这一原则。但我们并不确定,所以我们无法知道我们将无限地得到人工智能的帮助,还是被藐视并被边缘化,或者很可能被它毁灭。的确,我们担心聪明的机器将能够代替人类正在从事的工作,并迅速地消灭数以百万计的工作岗位。

在人工智能从原始形态不断发展,并被证明非常有用的同时,我也在担忧这样这个结果,即创造一个可以等同或超越人类的智能的人工智能:人工智能一旦脱离束缚,以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制,无法与之竞争,将被取代。这将给我们的经济带来极大的破坏。未来,人工智能可以发展出自我意志,一个与我们冲突的意志。很多人认为人类可以在相当长的时间里控制技术的发展,这样我们就能看到人工智能可以解决世界上大部分问题的潜力。但我并不确定。尽管我对人类一贯持有乐观的态度。

2015年1月份,我和科技企业家埃隆·马斯克,以及许多其他的人工智能专家签署了一份关于人工智能的公开信,目的是提倡就人工智能对社会所造成的影响做认真的调研。在这之前,埃隆·马斯克就警告过人们:超人类人工智能可能带来不可估量的利益,但是如果部署不当,则可能给人类带来相反的效果。我和他同在“生命未来研究所”担任科学顾问委员会的职务,这是一个旨在缓解人类所面临的存在风险的组织,而且之前提到的公开信也是由这个组织起草的。这个公开信号召展开可以阻止潜在问题的直接研究,同时也收获人工智能带给我们的潜在利益,同时致力于让人工智能的研发人员更关注人工智能安全。此外,对于决策者和普通大众来说,这封公开信内容翔实,并非危言耸听。人人都知道人工智能研究人员们在认真思索这些担心和伦理问题,我们认为这一点非常重要。比如,人工智能具有根除疾患和贫困的潜力的,但是研究人员必须能够创造出可控的人工智能。那封只有四段文字,题目为《应优先研究强大而有益的人工智能》的公开信,在其附带的十二页文件中对研究的优先次序作了详细的安排。

在过去的20年或更长时间里,人工智能一直专注于建设智能代理所产生的问题,即在特定环境下可以感知并行动的各种系统。在这种情况下,智能是一个与统计学和经济学相关的理性概念。通俗地讲,这是一种做出好的决定、计划和推论的能力。基于这些工作,大量的整合和交叉孕育被应用在人工智能、机器学习、统计学、控制论、神经科学、以及其它领域。共享理论框架的建立,结合数据的供应和处理能力,在各种细分的领域取得了显著的成功。例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。

随着这些领域的发展,从实验室研究到有经济价值的技术形成良性循环。哪怕很小的性能改进,都会带来巨大的经济效益,进而鼓励更长期、更伟大的投入和研究。目前人们广泛认同,人工智能的研究正在稳步发展,而它对社会的影响很可能扩大,潜在的好处是巨大的,甚至文明所产生的一切,都可能是人类智能的产物;但我们无法预测我们可能取得什么成果,这种成果可能是被人工智能工具放大过的。但是,正如我说过的,根除疾病和贫穷并不是完全不可能,由于人工智能的巨大潜力,研究如何(从人工智能)获益并规避风险是非常重要的。

现在,关于人工智能的研究正在迅速发展。这一研究可以从短期和长期来讨论。一些短期的担忧在无人驾驶方面,从民用无人机到自主驾驶汽车。比如说,在紧急情况下,一辆无人驾驶汽车不得不在小风险的大事故和大概率的小事故之间进行选择。另一个担忧在致命性智能自主武器。他们是否该被禁止?如果是,那么“自主”该如何精确定义。如果不是,任何使用不当和故障的过失应该如何问责。还有另外一些担忧,由人工智能逐渐可以解读大量监控数据引起的隐私和担忧,以及如何管理因人工智能取代工作岗位带来的经济影响。

长期担忧主要是人工智能系统失控的潜在风险,随着不遵循人类意愿行事的超级智能的崛起,那个强大的系统威胁到人类。这样错位的结果是否有可能?如果是,这些情况是如何出现的?我们应该投入什么样的研究,以便更好的理解和解决危险的超级智能崛起的可能性,或智能爆发的出现?

当前控制人工智能技术的工具,例如强化学习,简单实用的功能,还不足以解决这个问题。因此,我们需要进一步研究来找到和确认一个可靠的解决办法来掌控这一问题。

近来的里程碑,比如说之前提到的自主驾驶汽车,以及人工智能赢得围棋比赛,都是未来趋势的迹象。巨大的投入倾注到这项科技。我们目前所取得的成就,和未来几十年后可能取得的成就相比,必然相形见绌。而且我们远不能预测我们能取得什么成就,当我们的头脑被人工智能放大以后。也许在这种新技术革命的辅助下,我们可以解决一些工业化对自然界造成的损害。关乎到我们生活的各个方面都即将被改变。简而言之,人工智能的成功有可能是人类文明史上最大的事件。

但是人工智能也有可能是人类文明史的终结,除非我们学会如何避免危险。我曾经说过,人工智能的全方位发展可能招致人类的灭亡,比如最大化使用智能性自主武器。今年早些时候,我和一些来自世界各国的科学家共同在联合国会议上支持其对于核武器的禁令。这次协商于上周开始,[为了避免歧义删掉这句]我们正在焦急的等待协商结果。目前,九个核大国可以控制大约一万四千个核武器,它们中的任何一个都可以将城市夷为平地,放射性废物会大面积污染农田,最可怕的危害是诱发核冬天,火和烟雾会导致全球的小冰河期。这一结果使全球粮食体系崩塌,末日般动荡,很可能导致大部分人死亡。我们作为科学家,对核武器承担着特殊的责任,因为正是科学家发明了它们,并发现它们的影响比最初预想的更加可怕。

现阶段,我对灾难的探讨可能惊吓到了在座的各位。很抱歉。但是作为今天的与会者,重要的是,你们要认清自己在影响当前技术的未来研发中的位置。我相信我们团结在一起,来呼吁国际条约的支持或者签署呈交给各国政府的公开信,科技领袖和科学家正极尽所能避免不可控的人工智能的崛起。

去年10月,我在英国剑桥建立了一个新的机构,试图解决一些在人工智能研究快速发展中出现的尚无定论的问题。“利弗休姆智能未来中心”是一个跨学科研究所,致力于研究智能的未来,这对我们文明和物种的未来至关重要。我们花费大量时间学习历史,深入去看——大多数是关于愚蠢的历史。所以人们转而研究智能的未来是令人欣喜的变化。虽然我们对潜在危险有所意识,但我内心仍秉持乐观态度,我相信创造智能的潜在收益是巨大的。也许借助这项新技术革命的工具,我们将可以削减工业化对自然界造成的伤害。

我们生活的每一个方面都会被改变。我在研究所的同事休·普林斯承认,“利弗休姆中心”能建立,部分是因为大学成立了“存在风险中心”。后者更加广泛地审视了人类潜在问题,“利弗休姆中心”的重点研究范围则相对狭窄。

人工智能的最新进展,包括欧洲议会呼吁起草一系列法规,以管理机器人和人工智能的创新。令人感到些许惊讶的是,这里面涉及到了一种形式的电子人格,以确保最有能力和最先进的人工智能的权利和责任。欧洲议会发言人评论说,随着日常生活中越来越多的领域日益受到机器人的影响,我们需要确保机器人无论现在还是将来,都为人类而服务。向欧洲议会议员提交的报告,明确认为世界正处于新的工业机器人革命的前沿。报告中分析的是否给机器人提供作为电子人的权利,这等同于法人(的身份),也许有可能。报告强调,在任何时候,研究和设计人员都应确保每一个机器人设计都包含有终止开关。在库布里克的电影《2001太空漫游》中,出故障的超级电脑哈尔没有让科学家们进入太空舱,但那是科幻。我们要面对的则是事实。奥斯本·克拉克跨国律师事务所的合伙人,洛纳·布拉泽尔在报告中说,我们不承认鲸鱼和大猩猩有人格,所以也没有必要急于接受一个机器人人格。但是担忧一直存在。报告承认在几十年的时间内,人工智能可能会超越人类智力范围,人工智能可能会超越人类智力范围,进而挑战人机关系。报告最后呼吁成立欧洲机器人和人工智能机构,以提供技术、伦理和监管方面的专业知识。如果欧洲议会议员投票赞成立法,该报告将提交给欧盟委员会。它将在三个月的时间内决定要采取哪些立法步骤。

我们还应该扮演一个角色,确保下一代不仅仅有机会还要有决心,在早期阶段充分参与科学研究,以便他们继续发挥潜力,帮助人类创造一个更加美好的的世界。这就是我刚谈到学习和教育的重要性时,所要表达的意思。我们需要跳出“事情应该如何”这样的理论探讨,并且采取行动,以确保他们有机会参与进来。我们站在一个美丽新世界的入口。这是一个令人兴奋的、同时充满了不确定性的世界,而你们是先行者。我祝福你们。谢谢。

2017年11月,霍金在腾讯WE大会上发表演讲,提出人口激增是人类当下的重要问题,而进行星际迁徙、移居到其他星球是解决这一问题的重要途径。全文如下:

你好,北京!我是史蒂芬·霍金。欢迎来到腾讯WE大会。

我今天的演讲,是关于在宇宙这一背景下,地球和人类所扮演的角色。为了最好地阐述,我需要从两个维度出发,一是思考人类的未来,二是研究我们探索太空、寻求其他潜在宜居星球的选择。我今天的目的,是问大家两个问题。首先,我们需要做什么才能够确保,在力所能及的范围内,人类的未来达到尽可能完美?其次,我们为什么要考虑探索其他宜居星球?

一个原因是,对我们来说,地球变得太小了。在过去二百年中,人口增长率是指数级的,即每年人口以相同比例增长。目前这一数值约为1.9%。 这听起来可能不是很多,但它意味着,每四十年世界人口就会翻一番。 2022年,我将庆祝自己80岁的生日,而在我人生的这段历程中,世界人口比我出生时膨胀了四倍。

这样的指数增长不能持续到下个千年。 到2600年,世界将拥挤得 “摩肩擦踵”,电力消耗将让地球变成“炽热”的火球。这是岌岌可危的。然而我是个乐观主义者,我相信我们可以避免这样的世界末日,而最好的方法就是移民到太空,探索人类在其他星球上生活的可能。

但是理由充分吗?难道留在地球上不是更好? 在某种程度上,今天的情况就如同1492年前的欧洲。当时的人们很可能坚信,哥伦布的探险注定是徒劳无功。 然而,新世界的发现,对旧世界带来了深远的影响。对于那些被剥夺权利地位、走投无路的人来说,新世界成为了他们的乌托邦。人类向太空的拓展,甚至将会产生更深远的影响,这将彻底改变人类的未来,甚至会决定我们是否还有未来。它不会解决地球上任何迫在眉睫的问题,但它将提供解决这些问题的全新视角,让我们着眼于更广的空间,而不是拘泥眼下。希望这能够让我们团结起来,面对共同的挑战。

当我们进入太空时,会有怎样的发现呢?会找到外星生命,还是发现我们终将在宇宙中踽踽独行?我们相信,生命在地球上是自然而生的,是在漫长的进化后,实现了与地球资源的高度契合。因此,在其他条件适宜的星球上,生命的存在也必定是可能的。即使这种可能性极小,但宇宙是无限的,我们还是可以假设,生命会在某处出现。不过,如果概率很低,那么出现生命的两个星球间的距离,可能将异常遥远。

在太阳系中,月球和火星是太空移民地最显而易见的选择。水星和金星太热,而木星和土星是巨大的气体星球,没有坚实的表面。火星的卫星非常小,并不比火星本身更优。木星和土星的一些卫星也存在可能。比如木星的卫星之一欧罗巴,它的表面是冰层,但其下可能会有液态水,也就可能会孕育生命。那么我们如何确定这种可能?是否必须登陆欧罗巴,然后钻一个洞?

星际航行必然是一个长期的目标。我所说的长期,是指未来二百到五百年。

但是,还有另一种选择。去年,我与企业家尤里·米尔纳(Yuri Milner)一起,推出了长期研发计划——“突破摄星”,目标是让星际旅行变成现实。如果成功,在座各位有些人的有生之年内,我们将向太阳系最近的星系——半人马座阿尔法星系发送一个探测器。

“突破摄星”是人类初步迈向外太空的真正机会,为了探索和考量移居太空的可能性。 这是一项概念验证的使命,其中涉及三个概念:迷你太空飞行器、 光动力推进和锁相激光器。“星芯片”是尺寸被缩小到仅几厘米、但功能完备的太空探测器,它将附着于“光帆”上。“光帆”由超材料制成,重量仅有几克。我们设想,一千个由 “星芯片”和 “光帆”组成的纳米飞行器将被送入轨道。 在地面上,激光器阵列将共同形成一道超强光束,光束穿过大气,以数十吉瓦的功率射向太空中的“光帆”。

这项创新背后的想法,是以光束来驱动纳米飞行器的前进。这样产生的速度虽然不及光速,但也能达到其五分之一,约合每小时1亿英里。这样的系统可以在一小时内抵达火星,几天内到达冥王星,一周内就可以追上并超过旅行者号探测器,并在仅二十年后到达半人马座阿尔法星系。重要的是,“星芯片”的轨迹可能包括“比邻星b”,这颗位于半人马座阿尔法星宜居带的行星,与地球的大小类似。正是在今年,“突破摄星”与欧洲南方天文台携手合作,进一步探寻半人马座阿尔法星系的宜居行星。

目前看来,这些都可能成为现实。但我们也看到重大的挑战。1吉瓦功率的激光器仅能提供几牛顿的推力,不过因为纳米飞行器因为只有几克重量,恰恰可以克服这个问题。但是工程方面的挑战是巨大的。纳米飞行器必须经受极限加速、极寒、真空和质子,以及与太空粉尘等垃圾的碰撞。另外,由于大气湍流,将一套总量100吉瓦功率的激光组瞄准太阳帆,也是很困难的事情。

还有一些严峻的问题。如何让数百道激光穿过大气波动时聚合,如何推动纳米飞行器又不烧毁它们,如何让它们瞄准正确的方向?此外,我们还需要让纳米飞行器在冰冷的真空环境中工作二十年,这样它们才能将信号传回到四光年外的地球。然而这些都是工程设计要解决的问题,而工程挑战往往最终都会被解决。随着技术进步日趋成熟,我们可以展望更多令人兴奋的使命。如果“突破摄星”计划能传回毗邻星系中宜居星球的图像,这对人类的未来必将产生深远影响。

希望我已经解答了我演讲一开始所提出的问题。人类作为独立的物种,已经存在了大约二百万年。我们的文明始于约一万年前,其发展一直在稳步加速。如果人类想要延续下一个一百万年,我们就必须大胆前行,涉足无前人所及之处!

感谢大家的聆听。返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
阅读 ()
投诉
免费获取
今日推荐