Консультации с искусственным интеллектом могут быть опасны, если речь идёт об изменении лечения: чат-бот не видит историю болезни, анализы и состояние пациента. Об этом РИА Новости рассказала доцент РЭУ им. Г. В. Плеханова Марина Холод.
Эксперт советует прекратить разговор с ботом, если тот предлагает изменить схему приёма лекарств, отменить препарат или скрыть что-то от врача. Особенно опасно самостоятельно менять дозировки противоэпилептических, психиатрических и сердечных препаратов, инсулина и антикоагулянтов. Резкая отмена некоторых лекарств может угрожать жизни, подчеркнула Холод.
По словам доцента, языковые модели склонны соглашаться с пользователем. Если человек уже намерен отказаться от лекарства, бот может начать помогать ему в этом. Уверенный и грамотный тон ответа затрудняет для неспециалиста проверку его точности.
Поводом для комментария стала история из США: по сообщениям СМИ, женщина с эпилепсией постепенно снизила дозу противосудорожного препарата до нуля после совета ChatGPT. Судмедэксперты заключили, что она умерла от синдрома внезапной смерти при эпилепсии. Её родители подали иск к разработчику чат-бота, компании OpenAI.
Холод считает, что универсальные чат-боты должны быть защищены от рекомендаций по изменению лечения. При этом ИИ может пригодиться, чтобы объяснить медицинский термин, разобраться в инструкции или подготовить вопросы для врача. О ситуации сообщило РИА Новости.
