Очередное применение искусственному интеллекту нашли австралийские учёные. На этот раз его планируется использовать в качестве средства борьбы с оскорблениями в интернете.
В качестве площадки для применения было решено использовать социальную сеть Twitter. При этом, основной целью для «фильтра грубости» стали женоненавистнические высказывания.
Процесс разработки включал в себя несколько этапов. Прежде всего ИИ требовалось «обучить».
Для того, чтобы научить искусственный интеллект тому, «что такое хорошо и что такое плохо», было использовано около миллиона твитов с оскорбительными высказываниями. После этого ИИ проанализировал информацию и «сделал для себя выводы».
Следующим шагом стала проверка системы на умение находить оскорбительные высказывания. Он сделал это достаточно успешно, сумев определить «Hate speech» с точностью в 75 процентов.
Стоит отметить, что основной целью австралийцев было научить ИИ находить именно высказывания, направленные на оскорбление женщин. Примечательно, что по мнению программы, даже относительно «нейтральные» на первый взгляд высказывания, вроде шуток про кухню были определены как оскорбительные.
На данный момент пока не известно, когда ИИ начнёт «патрулировать» Твиттер. Разработчики планируют научить его выявлять и другие виды оскорблений, например, на национальной почве.
Фото: pixabay
