前沿｜算法歧视的理论反思与算法决策的规范重构

主要观点总结

文章讨论了算法歧视的理论反思与算法决策的规范重构，指出当前对算法歧视的误读，并分析了算法歧视的根源和可能的解决方案。文章指出，算法歧视是算法产生不公平待遇的现象，而非传统法律术语，其语义具有模糊性。文章将算法歧视分为两类，一类是以算法之名行歧视之实，另一类是以“个性化推荐”之名行“大数据杀熟”之实。文章认为，算法的功能是利用大数据收集和分析，实现价格歧视，但算法并没有改变价格歧视的本质。文章还讨论了算法决策的规范，指出算法决策可以消除人类智能的决策噪声，提高决策准确性，避免歧视性决策。然而，算法决策也存在误差，部分决策成本并非算法决策方式的过错，而是技术发展不成熟导致的。因此，在算法规制过程中，应转变对算法的认知，引入市场逻辑与治理架构，创新主体责任，以实现算法决策的规范重构。

关键观点总结

关键观点1: 算法歧视的误读

学术界对算法歧视存在误读，认为算法“黑箱”制造歧视，而非机器决策方式可以矫正算法歧视。

关键观点2: 算法歧视的根源

算法歧视源于算法在决策中纳入个人偏好等因素，导致对相类似用户提供不同服务。

关键观点3: 算法决策的优势

算法决策能够消除人类智能的决策噪声，特别是对弱势群体而言，信息披露的增加可能会促进决策准确性，避免歧视性决策。

关键观点4: 算法决策的挑战

算法决策的误差在人类决策中也同样存在，且部分决策成本远非算法决策方式的过错，而是技术发展尚不成熟导致的。

关键观点5: 算法决策的规范重构

在算法规制过程中，应转变对算法的认知，引入市场逻辑与治理架构，创新主体责任，以实现算法决策的规范重构。