Предвзятость алгоритмов ИИ может нарушить законодательство

Предвзятость алгоритмов ИИ может нарушить законодательство

Alexander Antipov

Федеральная торговая комиссия США призвала компании проверить алгоритмы своего ИИ на предмет предвзятости и не преувеличивать возможности таких систем.

image

Федеральная торговая комиссия США внимательно изучает предвзятость в работе искусственного интеллекта. Комиссия предупредила предприятия, что продажа или использование дискриминирующих алгоритмов ИИ может привести к нарушению федерального закона.

Предвзятый ИИ может нарушить Закон о справедливой кредитной отчетности (Fair Credit Reporting Act, FCRA) и Закон о равных возможностях кредитования (Equal Credit Opportunity Act, ECOA). FCRA охватывает случаи, когда алгоритмы ИИ используются для отказа людям в трудоустройстве, жилье, кредите, страховке или других льготах.

Использование предвзятого алгоритма, который приводит к кредитной дискриминации по признаку расы, цвета кожи, религии, национального происхождения, пола, семейного положения или возраста также является незаконным и нарушает ECOA.

FTC призывает компании проверить алгоритмы своего ИИ на предмет предвзятости, основывать используемые системы на наборах данных с ключевой демографической информацией и не преувеличивать их возможности.


Нидерландах из-за уязвимостей в Microsoft Exchange в магазинах исчез сыр, а в США для устранения последствий взлома сотен компьютеров пришлось привлечь даже ФБР. Смотрите 13 выпуск security-новостей на нашем Youtube канале.


Источник: Securitylab