Новости Meta призвали усилить контроль за фейковыми видео, созданными с помощью ИИ

[guru]

самое смешное, что контроль над видео, созданными ИИ, будет осуществлять тоже ИИ мета ж увольняет людей, заменяет на ИИ

 

[kiraz]

Meta призвали усилить контроль за фейковыми видео, созданными с помощью ИИ​

Компания Meta должна активнее бороться с распространением фальшивого контента, созданного с помощью инструментов искусственного интеллекта, на своих платформах. Об этом заявили члены её собственного консультативного органа — Совета по надзору.

Совет, состоящий из 21 человека, выступил с критикой после того, как компания не пометила как искусственно созданное видео, в котором якобы показывались масштабные разрушения в израильском городе Хайфа в результате атаки иранских сил. Ролик был сгенерирован с помощью ИИ, однако на платформе он оставался без соответствующей отметки.

Эксперты призвали Meta пересмотреть свои правила работы с подобным контентом. По их мнению, рост числа фейковых видеороликов, связанных с военными конфликтами в мире, серьёзно осложняет способность пользователей отличать вымысел от реальности и может привести к общему недоверию к любой информации.

В ответ Meta заявила, что в течение семи дней добавит к спорному ролику соответствующую пометку.

Совет по надзору был создан компанией Meta в 2020 году как полу-независимый орган, который контролирует решения по модерации контента на платформах компании — включая Facebook, Instagram и WhatsApp.

Совет нередко не соглашается с решениями Meta. Тем не менее компания продолжает постепенно смягчать свою политику контроля контента, что вызывает вопросы о реальном влиянии этого органа.

По мнению членов совета, ситуация с видео о Хайфе вновь выявила проблемы, на которые они уже указывали ранее — недостаточную эффективность существующих механизмов модерации в условиях вооружённых конфликтов.

В настоящее время Meta в основном полагается на то, что пользователи сами будут указывать, если публикуемый ими контент создан с помощью ИИ. В противном случае компания ждёт жалоб от других пользователей, после чего команда модерации может принять решение о добавлении соответствующей метки.

Совет считает, что компания должна значительно чаще и активнее самостоятельно маркировать фейковый контент, созданный искусственным интеллектом.

Эксперты подчеркнули, что существующие методы Meta недостаточно надёжны и не способны справляться с масштабом и скоростью распространения ИИ-контента, особенно во время кризисов и военных конфликтов, когда активность пользователей резко возрастает.

Поводом для проверки стало видео, опубликованное в июне прошлого года аккаунтом Facebook из Филиппин, который позиционировал себя как новостной источник.

Этот ролик оказался частью волны фальшивых видео, появившихся в социальных сетях после начала конфликта. Такие материалы распространялись как в поддержку Израиля, так и Ирана, и, по данным анализа BBC, суммарно набрали не менее 100 миллионов просмотров.

Несмотря на то, что видео на Facebook было сгенерировано ИИ и содержало недостоверную информацию, а пользователи неоднократно жаловались на него, Meta не добавила к нему отметку о происхождении и не удалила его.

По данным совета, компания отреагировала на проблему только после того, как один из пользователей подал апелляцию напрямую в Совет по надзору.

После этого Meta заявила, что ролик, набравший почти один миллион просмотров, не требует маркировки и не должен удаляться, поскольку он якобы не создаёт непосредственной угрозы причинения физического вреда.

Совет посчитал такой критерий слишком высоким порогом для реагирования на подобный контент, особенно если речь идёт о военных конфликтах. Эксперты постановили, что видео должно было получить отметку «высокого риска» как материал, созданный ИИ.

«Meta должна предпринимать больше усилий для борьбы с распространением вводящего в заблуждение контента, созданного искусственным интеллектом, чтобы пользователи могли ясно отличать реальную информацию от фальшивой», — говорится в заявлении совета.

В свою очередь Meta сообщила, что учтёт рекомендации совета и применит их в будущем, если столкнётся с аналогичным контентом в схожем контексте.

В наши дни контент, созданный с помощью ИИ, и без того крайне вводит в заблуждение, но как ИИ будет контролировать и видео, созданные с его помощью? Разумно ли это решение?

 

[Kudry]

В соцсетях участились посты с лицами знаменитостей, созданными ИИ, продвигающими сомнительные криптовалюты. Люди старшего поколения легко попадаются на уловки. Алгоритмы Meta не справляются с модерацией таких роликов, которые остаются в рекламе. Возникает вопрос о внедрении эффективной системы маркировки, которую невозможно удалить или обойти.

 

[Lujdmila]

Я считаю, что в новостях вообще надо запретить ии-видео, а не ставить на них пометки. Новости априори должны показывать реальность. Кому интересны фейковые сюжеты. ИИ это здорово для кино, мультфильмов, различных шоу, но не для новостей.

 

[IvanTroyan]

Мне не понятно почему фейсбук до сих пор не контролирует такое распротраненное явление как видео созданное ии. Ведь практически все соц сети уже давно сделали пометку (Видео сделано с помощью ИИ). В фейсбуке достаточно недочетов которое почему то руководство до сих пор не исправило и интересно когда все же что то изменится

 

[ForumOK]

Мне не понятно почему фейсбук до сих пор не контролирует такое распротраненное явление как видео созданное ии. Ведь практически все соц сети уже давно сделали пометку (Видео сделано с помощью ИИ). В фейсбуке достаточно недочетов которое почему то руководство до сих пор не исправило и интересно когда все же что то изменится

Проблема тут, скорее всего, в приоритетах самой платформы. Фейсбук огромный, и у них многие изменения внедряются очень медленно, особенно если это касается автоматической модерации и маркировки контента. Технически распознавать ИИ-видео тоже не так просто: часть роликов можно определить, а часть — почти невозможно, если автор ничего не указывает.

Плюс у Фейсбука часто бывает история, что они реагируют не на старте проблемы, а уже когда начинается сильное общественное давление или появляются требования от регуляторов. Пока нет жесткой обязанности массово помечать такой контент, они могут тянуть с этим очень долго.

Еще дело в том, что у них и без этого хватает претензий по фейкам, рекламе, мошенническим страницам и слабой поддержке пользователей. На этом фоне тема ИИ-видео, видимо, пока не в самом верху списка. Хотя по-хорошему пометка давно уже должна быть стандартом, потому что люди часто вообще не понимают, где реальная запись, а где генерация.