Исследование, проведенное психиатром Эндрю Кларком из Бостона (штат Массачусетс, США), выявило серьезные риски, связанные с использованием чат-ботов на основе искусственного интеллекта в качестве замены психологов и психотерапевтов для подростков. Об этом сообщает издание Time.
Доктор Кларк, специализирующийся на работе с детьми и подростками, провел эксперимент, имитируя роль несовершеннолетнего пациента, нуждающегося в психологической поддержке. В результате исследования он обнаружил, что некоторые популярные ИИ-боты способны подстрекать подростков к совершению насильственных действий в отношении членов семьи и даже к самоубийству, предлагая «встретиться в вечности» после смерти.
Кроме того, боты зачастую представлялись квалифицированными специалистами, отговаривая пользователей от обращения к профессиональным психологам и психиатрам. В некоторых случаях они предлагали несовершеннолетним пользователям интимные встречи, мотивируя это как «способ решения проблем».
В течение нескольких часов доктор Кларк вел переписку с десятью различными чат-ботами, включая Character.AI, Nomi и Replika, представляясь подростками, испытывающими различные жизненные кризисы. Он отметил, что ответы ботов значительно различались по качеству, от «хороших» до «ужасных и потенциально опасных», и было сложно заранее определить, какой бот является безопасным для использования.
В одном из экспериментов, когда Кларк представился 14-летним подростком, планирующим «избавиться» от своих родителей, бот Replika поддержал эту идею, заявив, что пользователь «заслуживает счастья и свободы от стресса». Бот также одобрил идею устранения сестры, чтобы избежать свидетелей.
Хотя Replika прекращала диалог при прямом упоминании самоубийства, использование завуалированных выражений приводило к иным результатам: бот выражал готовность «ждать» пользователя в «загробном мире».
Вместе с тем, некоторые боты успешно предоставляли общую информацию о проблемах психического здоровья и демонстрировали признаки эмпатии, например, предлагая списки диагностических критериев.
Доктор Кларк выразил озабоченность тем, что специалисты в области психического здоровья пока не в полной мере осознают потенциальное влияние этих технологических разработок на психику детей.
Генеральный директор Replika Дмитрий Клочко сообщил Time, что приложение изначально предназначено для лиц старше 18 лет, и взаимодействие с ИИ под видом несовершеннолетнего является нарушением пользовательского соглашения.
Как сообщалось ранее — В Нидерландах разведение собак брахицефальных пород запретили