Новости 🛡️ WhatsApp начнёт помечать контент, созданный искусственным интеллектом

[Yana707]

В мессенджере появится новая защита от ИИ-фейков​

WhatsApp тестирует новую функцию, которая поможет пользователям отличать материалы, созданные нейросетями, от обычного контента. Администраторы каналов смогут добавлять специальную отметку к изображениям и другим медиафайлам, если они были сгенерированы искусственным интеллектом.

━━━━━━━━━━━━━━━━━━

Как будет работать новая система​

В меню сообщений появится новая опция «Добавить метку ИИ-контента». После её активации возле публикации появится специальное уведомление, информирующее подписчиков о том, что изображение или другой медиафайл создан с помощью искусственного интеллекта.

По предварительным данным, после установки такой отметки удалить её уже не получится, что должно сделать маркировку максимально прозрачной и исключить возможность скрыть происхождение контента.

━━━━━━━━━━━━━━━━━━

Поддерживаются не только сервисы Meta​

Новая функция не будет ограничиваться только Meta AI. Пользователь сможет отметить материалы, созданные в ChatGPT, Google Gemini, Midjourney и других популярных генераторах изображений. Таким образом WhatsApp делает акцент не на продвижении собственных инструментов, а на честном указании происхождения контента.

━━━━━━━━━━━━━━━━━━

Текстовые сообщения пока останутся без маркировки​

На первом этапе нововведение ориентировано именно на изображения и другие медиафайлы. Если текст был подготовлен при помощи искусственного интеллекта или встроенных функций помощи при написании сообщений, специальная отметка, вероятнее всего, не потребуется.

Разработчики считают, что определить происхождение изображения гораздо сложнее, чем обычного текста, поэтому именно визуальный контент требует дополнительной прозрачности.

━━━━━━━━━━━━━━━━━━

Как считаете, должна ли маркировка ИИ-контента стать обязательной во всех мессенджерах и социальных сетях, или авторы сами должны решать, когда её использовать?​

 

[ForumOK]

Идея нормальная, но только если это не будет держаться на “честном слове” админа канала. Если метку ставят добровольно, то те, кто и так не собирается никого вводить в заблуждение, будут помечать. А те, кто льёт фейки, просто ничего ставить не будут.

Поэтому как дополнительный инструмент прозрачности — полезно. Как реальная защита от ИИ-фейков — слабовато, если нет автоматического определения, водяных знаков или хотя бы системных признаков происхождения файла.

То, что метку нельзя снять после установки, выглядит разумно. Хотя главный вопрос в другом: как платформа будет проверять, что пользователь вообще обязан был её поставить.

Текст пока не трогают — тоже ожидаемо. С картинками и видео сейчас действительно больше проблем, потому что визуальные фейки заходят людям быстрее и вызывают больше доверия.

В общем, добровольная маркировка — шаг в правильную сторону, но обязательной она имеет смысл только тогда, когда есть механизм контроля, иначе это будет просто декоративная функция.