首页 科技 > 内容

如何减少基于AI的金融服务中的偏见

时间:2020-07-10 14:47:50 来源:

人工智能(AI)提供了一个机会,可以改变我们如何分配信用和风险,并创建更公平,更具包容性的系统。人工智能避免传统信用报告和评分系统的能力这有助于使现有的偏见永久存在,这使它成为改变现状的难得的机会,即使不是唯一的机会。但是,人工智能可以轻松地朝另一个方向发展,以加剧现有的偏见,创造出强化有偏见的信贷分配的周期,同时使贷款中的歧视更加难以发现。我们会通过拥抱新技术来释放积极因素,恶化消极因素或维持现状吗?

本文提出了一个框架来评估AI在消费者贷款中的影响。目标是整合新数据并利用AI来以比当前提供的条件更好的条件向需要它的消费者扩展信贷。它建立在我们现有系统针对金融服务定价的双重目标的基础上,该目标基于个人消费者所构成的真实风险,同时旨在防止歧视(例如种族,性别,DNA,婚姻状况等)。本文还为决策者,行业和消费者权益倡导者,技术人员和监管者提供了一系列潜在的权衡方法,以辩论在具有数百年制度歧视的社会之上建立的基于风险的定价系统中,防范歧视所固有的紧张关系。 。

AI经常被讨论并且定义不清。在金融世界中,人工智能代表三个不同的概念:大数据,机器学习和人工智能本身。随着数据生成,收集,使用,计算能力和编程的进步,这些方法最近都变得可行。数据生成方面的进展惊人:当今90%的数据是在过去两年中生成的,IBM大胆声明。为了设置讨论的参数,下面我简要定义与贷款有关的每个关键术语。

“大数据”促进包含现有财务模型中通常不存在的新的大规模信息。例如,在消费者信用中,最常见的信用评分系统FICO通常会引用典型信用报告/信用评分模型之外的新信息。这可以包括数据点(例如房租和水电费的支付)以及个人习惯(例如您是否在Target或Whole Foods购物并拥有Mac或PC)以及社交媒体数据。

标签: AI 金融服务