2016年，联合国儿童基金会（UNICEF）在格鲁吉亚首都第比利斯开展了一项社会实验。研究人员给一名小女孩换上不同的服装，旨在观察人们的反应。
起初，女孩穿着整洁得体的衣服独自走进一家餐厅，受到了所有人的关注和同情。但在实验的第二部分，当她顶着凌乱的头发、穿着肮脏破旧的衣服再次进入同一家餐厅时，却遭遇了截然不同的对待：顾客们对她视而不见，服务员甚至将她赶了出去。
偏见是对某人或某事基于有根据或无根据、正面或负面的情感反应，通常源于实际经验。若这种情感缺乏控制，会导致人们彼此疏远。这并非人类独有的情感，所有针对人类的偏见也会影响人工智能，因为AI完全反映了人类的基本偏见。
如果输入的数据存在偏见，人工智能系统也会变得带有偏见。由于高度依赖训练数据，AI系统可能表现出不公；其他偏见则源于组织的机构文化和权力动态。
Tidio通过一项研究证实了这一点。该研究对不同的人工智能图像生成器进行了测试，结果表明，人工智能所依赖的收集数据具有偏见或歧视性的一面。