Социальная сеть Instagram разработала нейросеть, которая позволит искать фотографии с оскорблениями или угрозами и блокировать их. Об этом сказано в сообщении компании.
Искусственный интеллект будет сканировать фотографии и подписи под ними, а при обнаружении оскорбительных высказываний или угроз в адрес конкретного пользователя или социальной группы направлять их на рассмотрение модератора-человека.
Новая технология должна помешать пользователям обходить существующие текстовые фильтры, направленные против случаев травли в соцсети. Также Instagram защитит прямые трансляции, расширив возможности фильтра оскорблений в комментариях.
По словам генерального директора компании Адама Моссери, большая часть пользователей, которые сталкиваются с угрозами или оскорблениями, не обращается с жалобами к руководству социальной сети. Ожидается, что алгоритм, который позволит справиться с этой проблемой, заработает в ближайшие несколько недель.
