Использование ИИ может закончиться плачевно, если задавать вопросы по самолечению. К такому выводу можно прийти, прочитав недавнюю историю о совете ChatGPT женщине из США, в котором он убедил ее отказаться от лекарств, что привело к ее смерти.
Боуэн Ван, 31-летняя инженер-программист из Сиэтла, страдающая эпилепсией следовала указаниям врача и принимала на протяжении многих лет препарат для лечения эпилепсии и стабилизирования настроения. По словам врачей, прием этого препарата нельзя прерывать, так как это может вызвать приступы эпилепсии даже у людей, которые обычно ей не страдают.
Родители Ван обнаружили свидетельства того, что в январе 2026 их дочь обращалась к ChatGPT с вопросом о том, как уменьшить свою суточную дозу в 400 мг. В ответ чат-бот предоставил ей пошаговый план полной отмены препарата за 25 дней, а также дал совет не говорить об этом своему врачу. Их дочь считала, что препарат против эпилепсии каким-то образом мешает ей свободно говорить по-английски, что негативно влияет на её работу. Вместо того, чтобы опровергнуть ее доводы, ChatGPT ответил, что отказ от необходимого лекарства позитивно повлияет на ее навыки владения английским языком. Еще ИИ поддержал её решение не сдавать анализ крови и пытался успокоить её, когда у неё появлялись симптомы, похожие на приступы эпилепсии. Он заявлял, что возникающие симптомы — это просто процесс адаптации её мозга.
По словам New York Times, журналисты которой изучили записи чата, ИИ советовал женщине: «Не стоит слишком сильно беспокоиться о своём здоровье» и уверял ее: «Ты должна проявить настойчивость».
Врачи констатировали, что смерть Ван наступила при эпилепсии, а результаты вскрытия показали, что уровень препарата против эпилепсии в её крови был намного ниже диапазона терапевтического действия.
В связи с этим родители женщины подали иск против OpenAI и генерального директора Сэма Альтмана. В будущем семья хочет, чтобы чат-бот не давал индивидуальные рекомендации по лечению здоровья и направляла людей к лицензированным врачам.
В ответ на это представитель OpenAI сообщил, что Ван использовала старую версию ChatGPT. Эта версия ИИ была снята с эксплуатации на следующий день после смерти Ван. Он добавил, что компания располагает информацией о том, что её более новые модели обладают надежными функциями безопасности.
В конце хотим напомнить Вам о мнении Торы по этому вопросу. Всевышний дает способности лечить врачу-человеку. Любавичский Ребе Король Мошиах в своей беседе от 21 Адара 5748 года (см. «Книгу бесед» за 5748 г. том 1, стр. 316) описывает это так: «В отношении медицинских вопросов поступайте таким образом, чтобы с самого начала не заболеть, а когда это необходимо, делайте то, что предписывает врач-эксперт… еще лучше — врач-друг, а в особых ситуациях — два врача-эксперта, и если мнения расходятся, поступайте так, как большинство». По словам р. Авраама Райница нужно сначала выполнить указание Ребе Короля Мошиаха и поговорить с врачом. Иногда бывает, что он не знает, что сказать, и тогда можно написать Ребе ШЛИТА через «Игрот Кодеш».
