Что нового?

Новости OpenAI начнёт маркировать текст, созданный ChatGPT, в ЕС

Новости

vitel59

Эксперт
Регистрация
15 Май 2026
Сообщения
1,148
Реакции
85
Coin
7,484
В соответствии с законом об ИИ (AI Act), в течение нескольких недель компания добавит скрытые метки в генерируемый контент для пользователей из Евросоюза.
OpenAI 4 октября 2026 года официально объявила, что в ближайшие недели добавит невидимые текстовые водяные знаки в соответствующие текстовые выводы ChatGPT и Codex для пользователей из ЕС, чтобы соблюсти требования прозрачности европейского закона об ИИ (EU AI Act).

Почему только в ЕС​

Статья 50 закона об ИИ ЕС требует, чтобы поставщики генеративного ИИ маркировали AI-сгенерированный текстовый контент машиночитаемым способом. Эта обязанность уже действует для компаний, впервые выходящих на рынок ЕС, а для таких компаний, как OpenAI, уже работающих в регионе, предусмотрен переходный период до 2 декабря 2026 года.
OpenAI прямо заявляет, что не будет включать текстовые водяные знаки по умолчанию по всему миру, а выберет региональный подход. Компания объясняет это так: «региональный подход даёт нам пространство для обучения на реальном использовании и обратной связи».

Технический принцип: textGrain​

Технология, которую использует OpenAI, называется textGrain. Она работает не путём изменения смысла текста, а за счёт корректировки вероятностей выбора токенов при генерации текста моделью, встраивая статистический сигнал — невидимый для человеческого глаза, но распознаваемый детектором с тем же ключом.
В оценке OpenAI textGrain «соответствует или превосходит» другие протестированные методы, включая SynthID for text от Google.

Ключевое ограничение: водяной знак — не «детектор AI»​

OpenAI в своём объявлении неоднократно подчёркивает границы возможностей водяного знака. Эти разъяснения особенно важны для обычных пользователей:
Что водяной знак не может делать:
Не может измерить вклад человека
: обнаружение водяного знака говорит лишь о том, что система OpenAI сгенерировала или обработала часть контента, но не может сказать, сколько человек отредактировал или создал сам.
Не может определить право собственности или ответственность: водяной знак не решает, кому принадлежит текст, законно ли его использование и нужно ли его раскрывать.
Не может идентифицировать пользователя: водяной знак не связан с конкретным человеком, организацией, аккаунтом или диалогом.
Не может подтвердить точность: водяной знак не говорит о том, является ли контент правдивым или вредоносным.

Обнаружение водяного знака имеет существенные ограничения:
Короткие тексты плохо детектируются
: при 1% ложных срабатываний текст объёмом 200 токенов детектируется примерно в 80% случаев, 400 токенов — примерно в 95%.
Математические тексты детектируются хуже: из-за меньшей вариативности формулировок.
Редактирование ослабляет сигнал: замена 10% слов синонимами снижает детекцию с 92% до 66%; замена 25% обрушивает показатель до 17%.
Языковые различия велики: среди 24 официальных языков ЕС испанский показывает highest детекцию (69,0%), румынский — самую низкую (42,2%).

Ключевое предупреждение: отсутствие обнаруживаемого водяного знака не доказывает, что текст написан человеком. Контент может быть слишком коротким, отредактированным, созданным моделью без поддержки водяных знаков или инструментом другой компании.

Детектор пока не открыт для публики​

OpenAI не будет сразу публиковать инструмент обнаружения водяных знаков. Доступ будет сначала предоставлен только одобренным исследователям и экспертным организациям, чтобы оценить надёжность технологии и ответственные способы её использования. Клиенты API смогут самостоятельно включить водяные знаки для конкретных моделей, но по умолчанию они отключены.

Что это значит для обычного пользователя​

Если вы используете ChatGPT в ЕС: в ближайшие недели в ваши сгенерированные тексты может быть встроен невидимый водяной знак. Вы не увидите никаких изменений в интерфейсе, а качество текста, по словам OpenAI, не имеет измеримых отличий.
Если вы не в ЕС: пока это вас не затрагивает. Но если вы используете корпоративные инструменты, которые через API подключены к OpenAI и компания решила включить водяные знаки, соответствующий контент может их содержать.
Самое важное: наличие или отсутствие водяного знака нельзя считать надёжным критерием того, «написан ли этот текст ИИ» — редактирование, перевод, короткие тексты и другие факторы делают обнаружение несостоятельным.
 
Выглядит как типичная «галочка для регулятора», а не серебряная пуля против ИИ-контента.

Самое показательное тут даже не сам watermark, а список того, чего он **не умеет**: не доказывает авторство, не показывает долю участия человека, не говорит ничего о правдивости текста и легко деградирует после правок. То есть для громких заявлений в духе «теперь будем точно знать, что текст от ИИ» эта штука вообще не подходит.

Региональный запуск только в ЕС тоже вполне ожидаем. Пока нет смысла тащить это глобально, если закон требует только там, а практическая польза спорная. OpenAI, по сути, использует Евросоюз как полигон: и требования формально выполнит, и посмотрит, как технология ведёт себя в реальном мире.

Особенно забавен момент с низкой устойчивостью к редактированию. Если замена 10–25% слов так сильно роняет детекцию, то любой более-менее живой редактор, рерайт, перевод или просто нормальная человеческая правка превращают watermark в очень условный сигнал. Для форумов, СМИ, учёбы и рабочих текстов это значит, что спорить по одному факту «нашли/не нашли метку» будет бессмысленно.

Короче, как инструмент прозрачности для крупных платформ и исследователей — может быть полезно. Как бытовой «детектор лжи» для текстов — почти точно будет переоценён. И потом ещё куча людей начнёт делать неверный вывод: «нет метки — значит человек писал». А в новости прямо сказано, что это логическая ошибка.
 
Сверху Снизу