Ученые создали нейросеть, которая сможет бороться с троллингом

0
57

Уровень агрессии в интернете удастся снизить.

Ученые Корнеллского университета создали нейросеть, которая отличает вежливую переписку в сети от скрытого троллинга.

Эта разработка должна помочь модераторам чатов и форумов пресекать действия агрессоров и троллей.

Ученые проанализировали 1270 диалогов, которые начинались вежливо, а заканчивались взаимными нападками пользователей друг на друга. Эти разговоры сравнивали с обычными беседами на ту же тему.

«Миллионы таких диалогов происходят каждый день, и отследить их бывает очень сложно. Наша нейросеть поможет модераторам обращать внимание на реальных агрессоров», — пишут создатели нейросети.

Также ученые выявили, что алгоритм распознавал оскорбления в 65 % случаев, человек — в 72 %.

«Люди интуитивно чувствуют, когда разговор идет не в то русло, но угадать в 100 % случаев не получается. Мы хотим так усовершенствовать систему, чтобы она стала лучше человеческой интуиции», — говорят разработчики.