“如果不太好了解这句话那就举几个例子：假定我们付与野生智能的任务是让人笑，我们现在的家庭机器助手等机器人能够会做出风趣好笑的演出逗人笑，这是典范的弱野生智能的行动。”
“是以超等AI能够正暗藏在此中，就像原子能暗藏在汗青中直到1945年被唤醒。”
“试想一下，超等聪明或许是人类需求缔造的最后一个发明，超等聪明比人类更聪明，比我们更善于缔造，它也会在极短的时候内这么做，这意味着将是一个被收缩的将来。”
“但是，我们真的有实足的信心和掌控它不成能会发明一个缝隙，一个能够让他逃脱的缝隙吗？”
“以是，任何诡计节制一个超等AI的行动都是极其好笑的，我们不能对我们能够永久节制一个超等聪明体而表示出过分的自傲，它总有一天会摆摆脱制，而到那以后呢，它是否会是一个仁慈的神？”
“试想一下，我们曾经胡想过的统统猖獗的科技，或许人类能够在必然的时候内完成并实现它，比如闭幕朽迈、长生、大宇宙殖民……”
“又比如这个超等AI的任务是庇护仆人的安然，那么它会挑选更优的措置体例，它会把仆人囚禁在家中不让出门就能更好的庇护仆人的安然。在家里能够还是有伤害的，它还会考虑到各种能够威胁并导致任务失利的身分，并将其一一抹除，毁灭对仆人带有歹意的统统身分、乃至节制天下，这统统的统统行动都是为了任务不失利，它将做到最极致的优化挑选并为此付诸行动来达到任务完成的目标。”
“再比如，假定我们付与这个超等AI的任务目标是解答一个极度磨难的数学题目，它会心识到有一个更有效的体例来完成任务目标，那就是把全部天下、全部地球乃至更夸大的标准变成一个超大型计算机，如许它的运算才气就更强大了，完成任务目标就更轻易了。并且它会心识到这个别例并不会被我们承认，人类会禁止，人类就是在这个形式中的潜伏威胁，为此它会为了终究目标处理统统停滞，包含人类，任何事件，比如策齐截些次一级的打算毁灭人类等行动。”
“我的一些同事以为我们或者人类即将会发明足以完整窜改人类思惟形式的科技，那就是超野生智能，或者说超等AI或超等聪明体。”
“我们该当把超等AI笼统的当作是一个优化的过程，像法度员对法度的优化，如许的一个过程。”
“这个题目很讽刺，因为每一个关于野生智能的将来的消息报导或与之相干的话题，包含我们正在停止的话题在明天的消息中，能够都会贴上好莱坞科幻电影《闭幕者》的海报作为标签，机器人对抗人类（耸耸肩，场下一阵轰笑）。”
“这个任务看起来有些困难，但并没有像缔造一个超等聪明体一样困难不是吗？”
“当然了，这些都是夸大的描述，我们遇见这类事情还不会错到如许的境地，但以上三个夸大的例子所代表的大旨很首要，即：如果你缔造了一个非常强大的优化法度来实现最大化目标，你必必要包管你的意义上的目标和包含统统你在乎的事情要切确。如果你缔造出了一个强大的优化过程，并赐与它一个弊端的或者不切确的目标，结果便能够像是上面的例子。”
“现在，或许我们并不能处理第二个安然性的题目，因为有些身分需求你去体味，你需求利用到阿谁实际架构的细节才气有效实施。”
“假定现在有一个如此成熟科技的超等聪明体，它的强大将是人类难以设想的，凡是环境下它能获得它想要获得的任何东西，我们人类的将来将会被这个超等AI的爱好所主宰。”