即使在新冠肺炎危机之前，人工智能和算法，特别是在定价方面，也是联邦贸易委员会和司法部反垄断部门的重点。随着新冠肺炎疫情成为网络平台和使用算法定价的卖家关注的焦点，尤其重要的是，公司要了解各机构关于如何确保人工智能的使用不违反反垄断法或消费者保护法的最新指导。

在4月8日大流行期间，联邦贸易委员会消费者保护局局长发布了《人工智能和算法使用指南》，其中建议“人工智能工具的使用应透明、可解释、公平、经验性强，同时加强问责制。”

在反垄断方面，机构演讲和执法行动提供了有关机构将如何评估人工智能和算法定价使用的见解。

《联邦贸易委员会消费者保护指南》要求人工智能工具具有透明度、公平性和经验性，并将决策传达给消费者

联邦贸易委员会的指导意见主要旨在帮助企业避免对误导消费者、非法歧视或违反《公平信用报告法》（FCRA）的担忧，后者可能适用于收集消费者信息以用于有关信贷、就业、保险、住房或类似福利和交易资格的决策的公司。

这就是说，该指南对所有行业中算法和人工智能的使用都有影响。例如，指南特别强调了医疗AI是公司应谨慎行事的领域，注意到最近开发的一种算法“出于良好意图——将医疗干预目标对准病情最严重的患者——最终将资源输送到更健康的白人群体，损害了病情更严重的黑人患者”，违反了《平等信贷机会法》（ECOA）。

新指南侧重于向消费者营销或销售的公司在设计、实施和使用人工智能时应考虑的四个主要问题：

• 算法应（1）对人工智能的使用透明；
• (2） 公平；
• (3） 在经验上是合理的；
• 以及（4）基于算法的任何决策都应传达给消费者。

对人工智能的使用透明。

该指南强调，在使用自动化工具方面误导消费者的公司，如欺骗消费者相信自己在与真人通信的人工智能聊天机器人，可能面临联邦贸易委员会的强制执行。该指南重点介绍了联邦贸易委员会2017年阿什利·麦迪逊执法行动，部分基于该网站使用虚假“接受者档案”的指控，以及其2019年Devumi执法行动，该行动指控该公司向社交媒体平台的用户出售假追随者、订户、观点和“喜欢”。该指南还指出，如果公司依赖信用记录、犯罪记录、购物记录等信息来自动决定是否符合信贷、就业、保险、住房或类似福利和交易的资格，FCRA可能会要求公司提供“不利行动”通知，并有权更正不准确的信息。

公平。

该指导意见指出，输入和结果对于确定算法是否违反联邦平等机会法（包括由联邦贸易委员会强制执行并禁止信用歧视的《经济、社会和文化权利法》）非法歧视受保护类别至关重要。例如，在模型输入包括基于种族的因素或此类因素的代理（如邮政编码）的情况下，算法可能被视为歧视性的，以及在表面中立的模型对受保护类别产生不同影响的情况下。该指南建议“使用人工智能和算法工具的公司应考虑是否应参与人工智能结果的自我测试，以管理使用此类模型所固有的消费者保护风险。”

经验丰富。

该指南强调了公司有义务确保人工智能模型为消费者报告提供尽可能高的准确性，并为消费者提供自己的信息。特别是，联邦贸易委员会强调了《公平竞争法》的要求，即公司应确保其算法“经验性推导、可证明且静态可靠”，而该公司是“消费者报告机构”。联邦贸易委员会认为，这一要求可能适用于使用算法生成数据的公司，这些数据可用于做出有关消费者获得信贷、就业和就业的决策，保险、住房、政府福利、支票兑现或类似交易。

该指南还指出了“外部客观观察者”对“独立测试算法”的价值。在指南发布后举行的一次小组讨论中，联邦贸易委员会消费者保护局局长强调了外部验证的价值，以确认算法的准确性和非歧视性。他解释说：“我们希望看到公司（对其算法）进行这种（外部）验证。”他们自己，而不是等待第三方对他们吹哨。这是金融监管机构和联邦贸易委员会多年来对贷款人的期望——要求他们验证、再验证，并确保他们的模型在统计上保持可靠和经验推导。”

将决策清晰地传达给消费者。

该指南建议，当公司依靠算法拒绝消费者有价值的东西或分配风险分数（例如，分配信用分数、拒绝商业贷款或住房申请）时，他们必须能够（1）披露影响算法决策过程的关键因素，（2）向消费者解释算法得出特定结果的原因。该指南以次级信贷营销公司CompuCredit为例，该公司违反了《联邦贸易委员会法》，欺诈性地未披露其算法根据消费者的行为降低了他们的信用限额，包括在夜总会和按摩院使用信用卡。虽然这类披露在信贷行业是强制性的，但联邦贸易委员会局长认为，无论行业如何，实施这类政策都是最佳做法。事实上，受GDPR约束的公司必须已经遵守类似的披露、透明度和准确性要求。有关GDPR合规性的更多信息，请参阅Cooley的GDPR资源页面。

新指南建议了公司可以用来降低风险的方法，包括：（1）确保数据集基于非歧视性输入，准确且最新；（2） 积极实施保障措施，防止人工智能的滥用；（3）确保问责制，例如聘请独立观察员定期测试面向消费者的算法，以确保它们产生非歧视性结果，并在经验上可靠。公司还应记住，联邦贸易委员会的指导仅限于确保遵守联邦贸易委员会职权范围内的法律法规。使用人工智能的公司可能需要采取额外的政策和程序，以遵守管理人工智能和算法使用的其他美国和国际法律法规。

算法定价的反垄断考虑

在当今的在线市场（也称为第三方卖家平台），卖家使用此类技术辅助定价工具设定定价是很常见的，这取代了单个企业高管做出定价决策的传统模式。人工智能和定价算法在反垄断界引起了极大的关注，包括在新冠肺炎大流行的背景下，尤其关注价格欺诈。虽然动态定价工具具有巨大的效率和更低的价格潜力，但如果不仔细配置或监测，这些定价工具可能会在供需中断期间自动提高定价，如新冠肺炎大流行。其结果可能是，如果销售者没有在其销售的市场上密切关注其产品，他们可能不会意识到价格飙升。

正如美国律师协会反托拉斯部分在最近的联邦贸易委员会关于21世纪竞争和消费者保护听证会前的评论中指出的那样，算法定价可以通过促进对不断变化的竞争条件和客户需求的快速反应来增强竞争。加强价格发现和传播——价格体系本身的关键功能——有可能提高市场的效率和竞争力。

虽然一些人认为使用算法可能会助长共谋，使卡特尔更加稳定，但高级政府官员指出，尽管反垄断机构需要保持警惕，但现有规则可以用来控制滥用，提出的担忧是危言耸听的。计算机确定的定价可能会受到协调的影响，就像人工确定的定价一样，反垄断法有能力应对这一问题。

例如，反垄断机构对以下人员提起了执法行动：

• 一组航空公司，使用共享的在线预订系统相互通信并设定机票价格
• 电子商务卖家同意采用一种复杂的定价算法，以避免在网上相互削价

反垄断执法者表示，他们有通过算法识别价格操纵或其他非法行为的技术能力，并雇佣了“技术专家”协助调查。执法者正在密切关注技术辅助定价的微妙用途，以协调行为，包括通过与中介共享定价信息，然后中介开发算法供双方使用，以实现价格最大化。即使卖方之间没有直接沟通，执法者也表示，这一行为可能会作为中心辐射阴谋受到质疑。

本文：https://cioctocdo.com/ai-and-algorithms-ftc-issues-guidance-companies-a…