人工智能算法显示出了其巨大的潜力，可以将数据应用于社会和经济问题方面，但是人工智能并不是万能的——在许多情况下，它们可能造成歧视和偏见，进而加剧现有的社会不平等。

(相关资料图)

比如在医护领域，部分学者研究了一种算法，用算法确定哪些患者是“高风险”的，以接受额外的资源和关注。但是，这种算法将贫困患者的风险评分比同样病重的富人低。这是因为算法以医疗费用作为健康需求的代理，并且贫困患者产生的费用比富人低，可能是因为他们在获得医疗保健方面面临的障碍或健康保健体系中的偏见。使用这种代理方式引入了算法的偏见，并导致贫困患者失去了他们本应获得的额外帮助的机会。

人工智能对社会产生了实际成本。有的直接源自人工智能对信息的控制，比如侵犯隐私、创造反竞争环境以及机器学习技术通过识别和利用消费者自己未能意识到的偏见和漏洞来进行行为操纵。有的则是由于过度自动化产生的风险，因为无法保证当前发展人工智能工具的速度能够实现任务自动化和增强的社会最优组合，可能导致工人失去工作。

人工智能还加剧了一些社会问题，包括歧视问题和对民主政府运作的关切。有大量证据表明，人工智能引入并延续了种族或其他形式的偏见，既通过与决策使用的基础数据集相关的问题，也通过算法设计师无意或看似良性的决策。人工智能还可能对社会在民主运作中的基本问题进行负面影响，例如社交媒体中的回声室如何传播虚假信息并使社会产生极化。

人工智能对劳动力市场同样产生了影响。人工智能可能是相对高技能工人的替代品或补充品。以前被认为需要人类从事的任务，企业有很大的激励去开发和采用人工智能来自动化而不是增强这些任务。同时，人工智能增加了对工人的监控能力，适度的监控可能是有益的，但如果将其用于削减工人的收益，监控也可能过度。总之，不受限制的人工智能可能导致劳动市场的民主化程度降低，工作条件恶化，并削弱有利于工人的劳动市场机构。

尽管这些成本是巨大的，但它们往往不是人工智能本身固有的问题，而是在技术的开发和部署过程中所做选择的产物，这意味着政府在研究、监测和监管人工智能方面发挥着核心作用。

如果没有对上述挑战进行适当的理解和管理，人工智能的巨大潜力将无法实现。