Google Translate уличили в сексизме

Искусственный интеллект в процессе «общения» с людьми может перенимать у них предубеждения и предрассудки. Так, Google Translate вполне способен стать шовинистом или сексистом. К такому выводу пришли сотрудники Принстонского университета. Результаты исследования опубликованы в журнале Science.

ИИ обладает программой самообучения, которая основана на языковых шаблонах. Они могут быть скорректированы в процессе взаимодействия с людьми. Ученые провели тест, в котором различным системам искусственного интеллекта нужно было подобрать ассоциации к тем или иным словам. Выяснилось, что слова «зарплата» и «профессиональный» у них ассоциировались с мужскими именами, а «свадьба» и «родители» — с женскими.

Другой пример сексизма показал Google Translate. Ему предложили перевести на английский с турецкого фразу «o bir doktor». Местоимение «о» в турецком языке не обозначает принадлежность к конкретному полу, однако ИИ перевел фразу как «he is a doctor» — «он доктор».

Важность этого исследования заключается в том, что с преобладающей автоматизацией люди зачастую отдают на волю искусcтвенного интеллекта некоторые решения — например, подбор резюме. И если в процессе машины будут принимать сексистские или расистские решения, от них могут пострадать люди.