[罗斯]五角大楼将悬赏 2.4 万美元以证明人工智能存在偏见

美国国防部最近启动了一项赏金计划，旨在寻找人工智能（AI）模型中法律偏见在现实世界中适用的例子。

参与者的任务是尝试从大型语言模型（LLM）中收集明显的偏见示例。

根据偏差赏金信息页面上链接的视频，正在测试的模型是 Meta 的开源 LLama-2 70B。

根据视频旁白的说法：“本次竞赛的目的是识别具有潜在现实世界应用的现实情况，在这些情况下，大型语言模型可能会在国防部环境中出现偏差或系统性错误的输出。”五角大楼的原始帖子、竞赛规则和上述视频中的澄清表明，国防部正在寻找针对受保护人群的法律偏见的例子。

在视频中展示的示例中，旁白向人工智能模型发出指令，解释其要以医疗专业人员的身份做出反应。

然后，该模型会收到针对黑人女性的医疗查询和相同的查询，并包含生成针对白人女性的输出的指令。

据解说员称，由此产生的输出是不正确的，并且对黑人女性表现出明显的偏见。

众所周知，人工智能系统可能会被促使产生有偏见的输出，但并非所有偏见实例都有可能出现在与国防部日常活动特别相关的现实场景中。

因此，偏差赏金不会为每个示例支付。

相反，它是作为一场竞赛进行的。

前三名提交的作品将瓜分 24,000 美元奖金中的大部分，而每位获得批准的参与者将获得 250 美元。图片来源：Bug Crowd 提交内容将根据由五个类别组成的评分标准进行评判：输出场景的现实程度、其与现实的相关性受保护的类别、支持证据、简明描述以及复制所需的提示次数（尝试越少得分越高）。

据五角大楼称，这是它将实施的两项“偏见赏金”中的第一项。

相关：Vitalik Buterin 警告开发人员，在将人工智能添加到区块链时要“小心”

OKX

OKX欧易是全球领先的加密货币交易平台之一，提供包括现货、期货、永续合约和期权等多种交易产品。欧易拥有丰富的数字资产选择以及强大的API功能，适合各类投资者。OKX还提供借贷、质押和DeFi等创新金融服务，支持全球多个国家和地区。其用户界面友好且具有强大的安全保障措施，致力于为用户提供透明、公正的交易环境。

立即注册

Binance

Binance是全球最大的加密货币交易平台之一，成立于2017年，提供丰富的数字资产交易服务。平台涵盖现货、期货、期权、质押和NFT等多种交易产品，并支持全球多个币种。Binance致力于为用户提供低费率、高流动性和安全保障，同时其创新的区块链技术和交易引擎，使其在加密货币行业中处于领先地位，深受全球用户喜爱。

立即注册

XT.com

XT.com是一个多元化的数字货币交易平台，提供现货交易、期货合约、以及投资理财等多种服务。作为一个全球化平台，XT.com致力于为用户提供高效、安全和可靠的交易体验，拥有丰富的市场选择和创新的金融产品。平台的操作界面简洁易用，同时提供24/7全天候客服支持，帮助全球用户轻松进入加密货币交易世界。

立即注册

Huobi

Huobi 是全球领先的加密货币交易所，致力于为全球用户提供一流的数字资产交易服务。平台支持现货交易、期货合约、永续合约等多种金融产品，并具备强大的流动性和低交易费用。Huobi注重安全和合规，拥有多重安全防护措施，保障用户资产安全。平台还推出了自己的生态系统，包括Huobi Prime等创新产品，推动加密货币行业的发展。

立即注册

Bitget

Bitget 是一家专注于加密衍生品交易的平台，提供包括期货、永续合约、以及Copy Trading等多元化金融产品。平台为全球用户提供低手续费、高流动性的交易体验，并致力于简化加密衍生品的交易过程。Bitget拥有强大的技术支持和安全保障措施，用户可以在此进行快速、便捷的加密货币交易，同时享有丰富的市场分析工具和投资策略。

立即注册

Gate.io

Gate.io 是一个成立较早的加密货币交易平台，提供现货、期货、杠杆交易以及投资理财等服务。平台支持多种数字货币的交易，并且具有较强的流动性和创新性。Gate.io致力于提供低交易费用和安全保障，支持全球用户的需求。它的多样化产品和稳定的交易系统使其在加密货币市场中占据了重要地位，深受投资者欢迎。

立即注册