Искусственный разум научили отличать вежливую беседу от «токсичной»
Исследователи из Корнельского университета (США) создали алгоритм, который способен отличить вежливую беседу от оскорбительной и делает это всего на 7% хуже человека. Технология должна помочь администраторам социальных сетей модерировать сообщения, содержащие ненависть и вражду. Алгоритм и особенность его работы опубликованы на сайте университета.
Для исследования и последующего создания алгоритма ученые использовали базу данных Wikipedia — Talk pages. Форум предназначен для редакторов статей, предлагающих внести свои правки в интернет-энциклопедию.
Специалисты отобрали более тысячи диалогов, начинающихся с вежливых фраз, чтобы «обучить» алгоритм «хорошему». К примеру, обращения, вроде «благодарю за помощь» (thanks for your help) или «пожалуйста, найди источники к этой правке» (please find sources for your edit) расценивались как вежливые. Фразы типа «твои источники не имеют значения» (your sources don’t matter) уже причислялись к грубым.
Один из участников работы Кристиан Данеску-Никулеску-Мизил объяснил принцип и цель работы такого алгоритма. «Каждый день миллионы людей спорят друг с другом в интернете, и отслеживать их в реальном времени невозможно. Наша система поможет модераторам перенаправлять их внимание в нужную сторону», — сказал он.
У людей есть интуитивное ощущение того, когда разговор идет наперекосяк. У машины такого качества нет.
Авторы исследования провели эксперимент, чтобы узнать, кто лучше определяет «токсичность» беседы: человек или машина. Точность работы людей в этом направлении составила 72%. Алгоритм сумел отличить грубость от вежливости в 65% случаях, то есть всего на 7% хуже человека. В будущем ученые надеются увеличить это показатель.