NHB丨人智反馈循环如何加剧偏见

主要观点总结

本文研究了人工智能（AI）与人类交互如何改变人类感知、情感和社会判断背后的过程，进而加剧人类偏见。作者通过一系列实验（N=1401）发现，与有偏见的AI互动会放大人类偏见，这种效应比人与人互动时更为显著。实验结果表明，AI在训练于有偏见的人类数据上时，其偏见会被放大，且这种偏见会被人类进一步内化，形成“滚雪球效应”。此外，参与者往往没有意识到AI影响的程度，从而更容易受其左右。研究还揭示了真实世界中的生成式AI系统，如Stable Diffusion，会放大社会不平等，并诱导人类偏见。

关键观点总结

关键观点1: AI与人类交互如何改变人类判断

实验揭示了与有偏见的AI互动会放大人类偏见，这种效应比人与人互动时更为显著。

关键观点2: AI偏见如何被人类内化

AI的偏见被人类进一步内化，形成“滚雪球效应”，即小的判断失误会不断升级，变成更大的错误。

关键观点3: 参与者对AI影响的意识

参与者往往没有意识到AI影响的程度，从而更容易受其左右。

关键观点4: 真实世界中的生成式AI如何诱导人类偏见

Stable Diffusion等生成式AI系统放大了社会不平等，并诱导人类偏见。