Дочка женщины, скончавшейся от рака кишечника, возмутилась, когда нашла в телефоне матери переписку с ChatGPT.
Жительница Австралии рассказала, что чат-бот неправильно интерпретировал медицинские документы мамы и активно убеждал её в том, что её состояние не такое уж плохое. ИИ заверял даму, что у неё впереди ещё как минимум несколько лет жизни, а в некоторых фразах даже советовал прекратить лечение. В результате мать постоянно отказывалась от предложений родных переехать к ней и позаботиться о ней. В какой-то момент состояние несчастной резко ухудшилось, и она скоропостижно умерла.
Эксперты призывают людей не доверять чат-ботам проблемы здоровья. Ошибки ИИ могут привести к тому, что человек не подготовится к своему уходу и не успеет попрощаться с близкими. В компании «OpenAI» заявили, что их ChatGPT создан для того, чтобы помогать пациентам общаться с врачами, но он не заменяет медицинскую диагностику и лечение. Вопросы жизни и смерти всё-таки лучше оставлять специалистам.
Читайте также: Женщину, неудачно оказавшую помощь потерявшему сознание мужчине, заставили платить компенсацию