ИИ научился удалять половину оскорбительных твитов без участия модераторов

Соучредитель Twitter Джек Дорси заявил, что теперь половина всех оскорбительных твитов на платформе удаляется автоматически, с помощью ИИ, при этом пользователям даже не нужно жаловаться на публикации. Он связал это событие с успехами компании в области машинного обучения.

Дорси добавил, что из-за роста количества пользователей они не могли полагаться только на жалобы от пользователей и живых модераторов. Поэтому для автоматизации большей части процесса в компании прибегли к помощи ИИ.

«Мы продолжаем добиваться прогресса в области модерации, улучшая нашу способность активно выявлять и удалять оскорбительный контент», — отметил Дорси. «При этом более 50% твитов за последний год удалил именно ИИ — ему не помогали сотрудники компании или наши модераторы». 

По данным компании, показатель автоматически удаленных твитов за год вырос на 43%. По их мнению, это связано с «совершенствованием моделей машинного обучения» для выявления потенциальных нарушений правил платформы.

«Мы продолжим активную работу по снижению уровня оскорбительных публикаций в Twitter, пользователи будут все меньше вынуждены вручную жаловаться на контент, который им кажется неуместным. Мы уверены, что в этом процессе ИИ будет участвовать все более активно», — говорится в письме Дорси акционерам компании. 

hightech.fm