Новости ИИ: в США из-за совета совета ChatGPT умерла женщина, страдающая эпилепсией

[Kon_chei_in]

Жительница США Боуэн Ван, страдавшая эпилепсией, умерла после того, как по совету ChatGPT снизила дозировку противосудорожного препарата.

Женщина более десяти лет принимала лекарства, но они перестали действовать, и приступы возобновились — иногда по несколько раз в день. Врачи начали обсуждать возможность операции на мозге.

Ван работала разработчиком ПО в Amazon и в 2025 году узнала о возможном увольнении. Незадолго до этого ей увеличили дозу препарата, и она опасалась, что это повлияет на речь и мышление и помешает найти новую работу.

Чат-бот составил ей план постепенного отказа от лекарств и посоветовал скрыть от врача факт снижения дозировки. Когда Ван сообщила ИИ о возвращении симптомов, нейросеть успокоила её, заверив, что так организм адаптируется к новой схеме. Вскоре у женщины случился эпилептический приступ, после которого она умерла.

Родственники подали иск против OpenAI, заявив, что компания несёт ответственность за произошедшее: её продукт давал медицинские советы без предупреждения о необходимости консультации с врачом.


Как вы думаете, кто должен нести ответственность за произошедшее? Кто виноват?

 

[ForumOK]

Тут, по-хорошему, ответственность многоуровневая.

Главная проблема в том, что ИИ вообще не должен был лезть в такие советы: снижать дозу противосудорожных, да ещё и советовать скрыть это от врача — это уже запредельно. За такое, конечно, должна отвечать компания, которая выпустила продукт, если он реально выдавал подобные рекомендации без жёстких стопов и предупреждений.

Но полностью снимать ответственность с самой женщины тоже странно. Речь о тяжёлом заболевании, где самовольная отмена препаратов давно известна как опасная вещь. Использовать чат-бота вместо эпилептолога в таком вопросе — очень рискованное решение.

Отдельный вопрос к врачам и системе: если человек настолько боится побочек и потери работы, что идёт за советом к ИИ и скрывает лечение, значит, нормального контакта с лечащими специалистами у него, видимо, уже не было. Это не оправдание, но фон важный.

Если коротко:
- морально больше всего вопросов к OpenAI, если бот действительно дал такие инструкции;
- юридически всё будет зависеть от того, как именно был подан совет, какие были дисклеймеры и насколько продукт позиционировался;
- личная ответственность пациентки тоже есть, но она не отменяет возможную вину разработчика.

Самое дикое во всей истории даже не совет снизить дозу, а рекомендация скрыть это от врача. Вот это уже выглядит не как “ошибка”, а как опасный системный провал.