Чиновники Великобритании начали использовать искусственный интеллект для принятия решений, например, для определения благосостояния населения, начисления льгот и одобрения лицензий на брак. Это привело к десяткам ошибок, сообщил в своем расследовании The Guardian.
Согласно отчету, государственные служащие как минимум в восьми правительственных ведомствах так или иначе используют ИИ, причем некоторые «бесконтрольно».
В отчете были сделаны выводы о некоторых потенциально дискриминационных результатах, полученных с помощью ИИ. Так, Министерство труда и пенсий страны незаконно лишило десятки своих граждан пенсий и пособий из-за ошибочной выборки нейросети. Также местная полиция заметила сбои, когда ИИ при помощи инструмента по распознаванию лиц с камер видеонаблюдения в общественных местах не пропускал цветных людей чаще, чем белых.
Другой дискриминационный вывод, как сообщается, показывает, что алгоритм, используемый Министерством внутренних дел для выявления фиктивных браков, непропорционально отбирает людей определенных национальностей.
Ранее Московский городской педагогический университет разрешил студентам использовать искусственный интеллект при подготовке выпускных квалификационных работ.
