60-летний мужчина доверился ИИ и поплатился: необычный случай отравления раскрыт – что он натворил?

В США зафиксирован необычный медицинский случай: 60-летний мужчина, решивший улучшить свой рацион, обратился за советом к искусственному интеллекту, а через три месяца оказался в больнице с диагнозом "бромизм" — редким синдромом хронического отравления бромом.

Инцидент подробно описан в свежем номере медицинского журнала Annals of Internal Medicine Clinical Cases. Как следует из публикации, мужчина обратился к ChatGPT (предположительно версии 3.5 или 4.0) с вопросом о замене хлорида натрия, то есть поваренной соли. По его словам, система предложила использовать бромид натрия, что он и сделал, полностью исключив обычную соль из рациона.

Эксперимент с опасными последствиями
Пациент увлёкся идеей снизить потребление хлорида после прочитанного о вреде избытка соли. Он был удивлён, что научная литература в основном касалась натрия, а не хлорида, и решил провести "личный эксперимент" по полному исключению этого элемента.

Мужчина заказал бромид натрия в интернете и в течение трёх месяцев добавлял его вместо соли в пищу. Врачи, пытавшиеся смоделировать его запрос в ChatGPT, также получили ответ с упоминанием бромида, однако без чётких предупреждений о рисках для здоровья.

Симптомы и госпитализация
В отделение неотложной помощи пациент поступил с жалобами на паранойю и подозрения, что сосед его отравляет. Медики обнаружили у него повышенную щёлочность крови, ложное превышение уровня хлорида (вызванное высоким содержанием брома) и признаки интоксикации.

Спустя сутки состояние усугубилось: у мужчины развились галлюцинации, он попытался сбежать из больницы и был переведён в психиатрическое отделение, где ему назначили антипсихотики. Помимо психических симптомов, наблюдались кожные высыпания, бессонница, усталость, нарушения координации и сильная жажда — всё это указывало на бромизм.

После курса инфузий и корректировки электролитов состояние стабилизировалось, и через три недели пациент прекратил приём психотропных препаратов. Через две недели после выписки он оставался в норме.

Редкая, но реальная угроза
В XIX-XX веках бромиды широко использовались в успокоительных, снотворных и противосудорожных препаратах, но с конца 1970-х их исключили из безрецептурных средств в США. Сегодня бромизм встречается редко, однако врачи отмечают рост случаев, связанных с пищевыми добавками, купленными онлайн.

Авторы доклада подчеркнули, что медицинский специалист вряд ли предложил бы бромид натрия как замену поваренной соли, а использование ИИ без профессиональной проверки может привести к опасным последствиям. Они напомнили, что разработчики ИИ, в том числе OpenAI, указывают на недопустимость применения их сервисов для диагностики или лечения без консультации врача.

Кроме того, исследователи напомнили о другой недавней работе, в которой шесть крупных языковых моделей, включая ChatGPT, показали высокую уязвимость к так называемым "состязательным галлюцинациям" — генерации ложных клинических данных, способных ввести в заблуждение без надлежащей фильтрации.