摘要

<正>成功创造出高效的人工智能可能是人类文明史上最重大的事件,也可能是最糟糕的事件。除非我们知道如何准备应对和避免潜在风险,否则人工智能就可能成为人类文明史上最糟糕的发明。因此,想要人工智能能够与人类和谐共处,我们需要警惕危险的存在并找出危险,在实践和管理方面尽可能做到最好,并事先做好充分准备,应对可能出现的任何结果。