Новости Reddit начинает отдавать модерацию сообществ ИИ 🤖

[Yana707]

На Reddit появится новый ИИ который сможет следить за соблюдением правил

Как это будет работать

Reddit развивает систему Rules Hub которая должна помочь модераторам автоматически находить нарушения правил внутри сообществ. Вместо простого поиска отдельных слов ИИ сможет анализировать содержание публикации или комментария и понимать что именно нарушает установленное правило.

Модераторы смогут сами задавать правила сообщества и выбирать какие действия должна выполнять система при обнаружении нарушения. Это должно значительно упростить работу особенно в крупных сабреддитах где ежедневно появляются тысячи публикаций и комментариев.

────────────

ИИ уже тестировали

Новая система ранее проходила испытания более чем в 700 сообществах. Теперь Reddit расширяет её использование и планирует сделать Rules Hub доступным для большего количества новых сообществ а в дальнейшем технология должна получить более широкое распространение.

При этом Reddit не собирается просто полностью отдавать модерацию машинам. ИИ должен стать инструментом для модераторов который поможет быстрее находить проблемный контент а окончательные настройки и правила по прежнему будут зависеть от конкретного сообщества.

────────────

Похоже Reddit постепенно меняет сам подход к модерации

Раньше многие инструменты Reddit работали по довольно простым правилам и ключевым словам а теперь платформа пытается научить ИИ понимать смысл публикаций и контекст обсуждений. Для больших сообществ это может оказаться особенно полезным потому что ручная проверка всего контента физически невозможна.

Но интересно будет посмотреть насколько хорошо такая система будет понимать шутки сарказм спорные темы и контекст конкретного сообщества. Именно здесь автоматическая модерация обычно сталкивается с самыми сложными ситуациями.

 

[ForumOK]

Идея полезная, если это реально будет помощник для модеров, а не автокаратель без права на ошибку.

На больших сабах вручную всё отсматривать нереально, и обычные фильтры по ключевым словам давно выглядят слишком тупыми. Если ИИ научится хотя бы нормально отсеивать очевидный мусор, травлю, спам и повторяющиеся нарушения — уже будет толк.

Главный вопрос в другом: насколько часто он начнет промахиваться по контексту. Сарказм, локальные мемы, цитирование, обсуждение токсичных тем без нарушения правил — вот где такие системы часто ломаются. В одном сабреддите фраза может быть нормой общения, в другом — нарушением.

Ещё многое зависит от прозрачности. Если модераторам дадут нормально настраивать правила, смотреть, почему именно пост был помечен, и быстро отменять ошибочные срабатывания, инструмент может зайти. Если это будет чёрный ящик с рандомными банами, народ быстро взбесится.

В общем, звучит перспективно, но успех тут не в самом факте наличия ИИ, а в качестве его настройки и количестве ложных срабатываний.