众机回圈:人工智能算法化社会的新革命

作者：赵晓宇

来源：怀化学院学报, 2019, 38(06): 77-81.

DOI：10.16074/j.cnki.cn43-1394/z.2019.06.015

• 人工智能
• 人机回圈
• 众机回圈
• 社会契约论
• 算法化社会契约

随着人工智能的飞速发展,人工智能的应用已逐渐应用于社会的各个方面,许多评论家、学者和政策制定者现在呼吁确保控制我们生活的算法是跨标准、公平和负责任的。在此,Iyad Rahwan提出一个人工智能和算法系统的概念框架。需要工具来编程、调试和维护算法社会契约,这是各种人类利益相关者之间的契约,由机器来调停。为了实现这一点,我们可以从建模和仿真、交互式机器学习等领域引入"人机回圈"(HITL:Human-inthe-Loop)的概念。特别地,Iyad Rahwan提出了一个称之为"众机回圈"(SITL:Society-in-the-Loop)的议程,它把HITL控制范例与协商受AI系统影响的各种利益相关者的价值观的机制结合起来,并监测协议的遵守情况。简而言之,SITL=HITL+社会契约。

• 单位
  湖南师范大学