科研之友
微信
新浪微博
Facebook
分享链接
摘要
关于人工智能发展的风险,人们的最早应对理所当然是伦理的考虑。随着新一代人工智能的发展,其所带来的存在性风险日增,应对形势发生根本变化。在对人工智能的道德原则内置作出重要探索的同时,其局限性日渐显露;人工智能的价值观加载也面临理论和实践上的重重困难,但其开放性却为人工智能存在性风险的伦理应对提供了诸多启示。人工智能存在性风险的应对,既不能依靠单纯的规则规制,也不能依靠单纯的规律把握,而必须上升到规则和规律一体化的更高层次。这不是一个传统伦理课题,而是一个涉及造世伦理的问题,必须立足智能进化的类群亲历性,上升到广义智能进化层次。造世伦理的整体性、类特性和共同性,特别是其所意味着的规则和规律一体化,为人工智能的存在性风险开辟了更高层次应对前景。由人工智能存在性风险应对的造世伦理层次,可以看到人工智能研发的造世伦理基本原则及其普遍意义。在人工智能研发中,人类必须做到"道"在"魔"先:面对具有存在性风险的研究进展,必须先有防范之道,才能进入实施,以确保对可能出现的威胁都有解决预案。
- 单位
