Результаты исследования также вызывают обеспокоенность по поводу обучения и оценки нейронных сетей, используемых в этих программах, подчеркивая важность изучения предвзятости в системах анализа лиц и указывая на необходимость дальнейшего изучения возможных различий в других приложениях ИИ. Другой пример — анализ искусственного интеллекта, используемого при кредитном анализе займов . Алгоритмы одобрения кредитов, также известные как алгоритмы кредитного скоринга, часто используются финансовыми учреждениями для оценки кредитоспособности заемщиков. Если алгоритм присваивает более высокие баллы риска на основе факторов, связанных с группами меньшинств, у людей в этих сообществах могут возникнуть трудности с доступом к кредитам или они могут столкнуться с невыгодными условиями кредитования, что увековечивает системное неравенство и ограничивает экономические возможности.
По этому поводу Арасели Панаменьо, директор по работе с латиноамериканцами в номера телефонов германии Центре ответственного кредитования, говорит: « Качество данных, которые вы вводите в алгоритм андеррайтинга, имеет решающее значение. (…) Если данные, которые вы вводите, основаны на исторической дискриминации, то вы, по сути, закрепляете дискриминацию на другом конце ». А когда речь заходит об алгоритмах поиска работы, возникает опасение, что предвзятость алгоритма может привести к несправедливым преимуществам или недостаткам для определенных групп кандидатов. Другое расследование показало, что алгоритм поиска работы Google демонстрирует гендерную предвзятость, отдавая предпочтение высокооплачиваемым руководящим должностям в результатах поиска для кандидатов-мужчин.
работы постоянно ранжирует высокооплачиваемые руководящие должности преимущественно для кандидатов-мужчин, это может увековечить существующее гендерное неравенство на рынке труда. Как уменьшить предвзятость ИИ? Искусственный интеллект уже стал реальностью в повседневной жизни маркетологов и создателей контента, и избегать его — не лучшее решение. Помимо проверки всех материалов, предоставленных машинным обучением, есть несколько моментов, которые важны для избежания и смягчения предвзятости ИИ: 1. Предоставьте разнообразные и репрезентативные данные для обучения: крайне важно обеспечить обучение систем ИИ на разнообразных и репрезентативных наборах данных для смягчения предвзятости, включая данные из разных демографических групп, с разным бэкграундом и с разными точками зрения.