面向 25%的《财富》 50强企业提供高质量培训数据和模型验证软件及解决方案的供应商Samasource宣布推出AI Bias Detection，该解决方案可帮助检测并消除各个行业在人工智能方面的系统性偏见。该解决方案是高质量培训数据的领先提供商，其解决方案由Samasource的分类技术提供支持，并由其专业的“在环系统”专家团队加以加强。
在2015年至2019年之间，全球人工智能的使用量增长了270%，据估计，目前有85%的美国人每天都在使用AI产品。尽管这些工具通常带来创新和提高的效率，但AI固有的偏见有可能削弱技术的进步。
除了产生不准确性外，这些偏见还会影响招聘，安全和刑事司法方面的关键决策。在麻省理工学院媒体实验室研究员Joy Buolamwini进行的一项研究中，“由IBM，Microsoft和Face ++出售的性别分类系统”发现“肤色较黑的女性比肤色较白的男性的错误率高34.4个百分点。 。” 同样，在佛罗里达州的布劳沃德县，一项用于预测可能性的执法程序被发现“错误地将黑人被告标记为未来的罪犯(...)，比率几乎是白人被告的两倍”。
了解AI团队的偏见
Samasource了解到社会变革必须反映在我们创造更公正，准确的AI未来的能力中，因此Samasource正在利用其专家团队和技术来检测和纠正这些偏见。Samasource的AI偏差检测解决方案提供了先进的分析和报告功能，使AI团队能够在从识别技术到自动驾驶车辆的各种用例中实施之前发现并纠正偏差。
Samasource总裁兼临时首席执行官Wendy Gonzalez表示：“在AI项目方面，我们的AI偏差检测解决方案证明了技术与在环团队之间建立共生关系的必要性。“公司有责任积极，持续地改进其产品，以避免产生偏见的危险，而人类是解决方案的核心。”
Samasource通过将软件与直接管理的劳动力相结合来训练和验证机器学习模型，从而使个人和公司毫不费力地快速接收高质量，准确的数据。
AI偏差检测的工作原理：
检测：了解道德来源的高质量数据有助于抵消偏见，Samasource的高级AI Bias分析解决方案按类别对标记数据的实例进行计数
报告：该解决方案分析此数据并生成AI偏差分析和报告，提供有关数据集分布和多样性的详细信息
更正：借助检测报告，AI团队可以查明数据集，培训和/或算法中的问题区域，以纠正和消除偏差
Samasource仍然致力于履行其社会公益使命，利用其专家团队和技术来解决重要的社会问题。领先的技术公司在汽车，导航，AR / VR，生物技术，农业，制造业和电子商务等行业中都信任Samasource。
