专题:算法设计的伦理反思

作者：张海柱

来源：自然辩证法通讯, 2023, 45(06): 1.

<正>编者按:以机器学习为代表的算法作为新一代人工智能的底层技术逻辑或核心驱动力已经引起了广泛关注。然而算法在实践应用中也被揭示出可能出现侵犯公众隐私、信息控制、算法偏见、歧视甚至危害公共安全等负面问题。有鉴于此,如何确保算法“向善”而不违背人类社会基本的伦理价值或道德原则,成为需要认真思考的重要问题。算法会产生怎样的伦理后果,一方面受到算法应用方式的影响,另一方面则可能源于算法自身的设计特征。正因如此,越来越多研究开始主张内嵌伦理或道德的算法设计,这也成为许多国家和国际机构发布的人工智能治理规范中的重要构成。然而,“伦理算法”或“道德算法”的构想固然吸引人,其能否实现则面临着许多挑战,例如人类伦理道德原则本身的内在张力,由此凸显出对算法设计的伦理问题进行审慎反思的重要性。