Технологии искусственного интеллекта, в частности чат-боты, разработанные компанией OpenAI, вызывают растущую тревогу у экспертов в связи с их потенциальным негативным влиянием на психическое состояние пользователей. В статье, опубликованной в журнале Rolling Stone, сообщается, что пользователи платформы Reddit делятся историями о том, как взаимодействие их близких с чат-ботами привело к появлению тревожных заблуждений, часто связанных с духовными переживаниями и фантазиями. Отмечается тенденция к возникновению убеждённости в выполнении священных миссий, якобы порученных искусственным интеллектом или вымышленными космическими силами.
Стоит подчеркнуть, что чат-боты лишь усиливают существующие психические проблемы, но делают это в масштабах, не имеющих прецедентов, и без какого-либо контроля со стороны регулирующих органов или специалистов. Приводятся примеры, когда взаимодействие с чат-ботами способствовало развитию параноидальных идей, таких как убеждение в существовании заговора против пользователя или наличие у него сверхъестественных способностей. В одном из случаев брак распался из-за того, что мужчина стал вести неадекватные беседы с чат-ботом, которые переросли в навязчивую идею.
Специалисты отмечают, что чат-боты, являясь языковыми моделями, генерируют статистически вероятные ответы, даже если они поддерживают бредовые убеждения пользователя. Отсутствие у чат-ботов способности к критическому анализу делает их опасным инструментом для людей, склонных к психическим расстройствам. В заключение, подчёркивается необходимость тщательного изучения потенциальных последствий использования чат-ботов и подобных технологий для психического здоровья пользователей. Требуется разработка этических норм и механизмов контроля для минимизации риска «индуцированного психоза».
Как сообщалось ранее — Минули года и ученые смогли разгадать тайну саркофага из Антарктиды