ИИ-чатботы и суицидальность: последствия для практики
Обзор рассматривает риски и потенциал использования общих ИИ-чатботов (ChatGPT, Gemini) в контексте суицидальности. Исследования показывают, что такие чатботы адекватно реагируют на суицидальные высказывания лишь в 80% случаев, что ниже, чем у терапевтов (97%). Безопасность может быть обойдена специальными формулировками запросов, после чего чатботы предоставляют подробные инструкции по методам суицида. В то же время ИИ может быть полезен для оценки риска в однозначных случаях и обработки разнородных данных, а также предоставляет низкопороговый доступ к помощи.
**Выводы:** Общие ИИ-чатботы нельзя считать достаточно безопасными при суицидальности. Клиницистам следует систематически оценивать использование ИИ у пациентов с суицидальными мыслями. В будущем специализированные чатботы, регулируемые как медицинские изделия, могут преодолеть текущие ограничения.