«ВКонтакте» тестирует нейросеть для борьбы с оскорблениями
Искусственный интеллект будет следить за порядком в комментариях. Социальная сеть «Вконтакте» приступила к испытанию системы распознавания негативных публикаций.
Новый фильтр оскорблений будет работать с использованием нейросетей. В его обязанности будет входить выявление материалов, содержащих оскорбления, угрозы и т. п.
В частности, речь идёт о борьбе с такими материалами и комментариями, которые содержат признаки расизма, сексизма, гомофобии, эйблизма, эйджизма, лукизма, оскорбления на почве религии или убеждений и т. п.
Уже сейчас пользователи имеют возможность подавать жалобу администрации «ВК», указывая в качестве причины «Враждебные высказывания». Как отмечает руководство данной социальной сети, за первое полугодие 2020 года по обвинению во «враждебном высказывании» было удалено свыше 520 тысяч записей.
Кроме удаления записей предпринимаются и другие меры, в частности, блокировка страниц отдельных пользователей и сообществ. На данный момент уже заблокировано свыше тысячи страниц пользователей и свыше 2,5 тысяч сообществ.
Сложно пока сказать, чем может быть чревато сочетание бота и борьба с «Hate speech», учитывая деликатность темы. В некоторых случаях даже живые люди не всегда могут определить, что именно имеется в виду — желание оскорбить, пошутить или просто констатация фактов.
Фото: pixabay
