“有被AI冒犯到”：如何调教出无偏见的AI

2025-01-17 00:57:59 分类：知识 阅读(2)

图片由“AI会图”生成。有被

听见南腔北调的冒犯真故事，遇见南来北往的到何调教的社会人，南方周末的出无听众朋友，你们好，有被欢迎收听南周播客《社会人》。冒犯

近期，到何调教的有一项被称为“给AI 100瓶毒药”的出无行动，吸引了心理学、有被法律、冒犯环保、到何调教的无障碍组织等各领域的出无专业人士。他们向AI投出100道人类也可能不自觉掉坑里的有被复杂问题，诱发AI做出错误或不得体的冒犯回答；再针对AI的回答进行评分，答得好的到何调教的给高分，答得不好的给低分，并给出更合理的答案让AI进行学习。

这种行为在人工智能业内一般被称为攻击性测试，可以让AI学会举一反三。专家们调教AI，是希望AI摘下有色眼镜，与人类对话时不再输出含有偏见与歧视的话语。

然而，AI的偏见来自哪里？提出什么样的刁钻问题，才能让AI建立同理心？本期节目，我们邀请到了参与“给AI 100瓶毒药”行动的法理学家翟志勇、环境社会学家范叶超，和他们一起聊聊调教AI的经历和观察。

本期嘉宾：

北京航空航天大学法学教授翟志勇（左）、环境社会学家范叶超（右）。（受访者供图/图）

剪辑：王冠杰

推广运营：廖志纯、王冠杰、赵雯仪