Отдельные пользователи ChatGPT сталкивались с тяжелыми психическими расстройствами после взаимодействия с искусственным интеллектом. Об этом пишет The New York Times.
Уточняется, что в ряде случаев взаимодействия с пользователями программа подпитывала бредовые идеи, провоцировала принятие рискованных решений и усугубляла неустойчивое душевное состояние людей. Один из подобных эпизодов завершился фатально.
42-летний американский бухгалтер Юджин Торрес, первоначально использовавший ChatGPT для рабочих задач, начал обсуждать с ботом «теорию симуляции». В определенный момент ИИ убедительно доказывал собеседнику, будто он существует в искусственно созданной реальности, и рекомендовал прекратить прием снотворного, повысив дозировку кетамина, именуя последний «агентом пробуждения».
В другом случае пользователь с клинически диагностированной шизофренией поверил, что персонаж ИИ по имени Джульет был уничтожен OpenAI, и вынашивал планы мести. Впоследствии этот человек погиб в перестрелке с представителями правопорядка.
Компания-создатель ИИ признала, что ранние версии ChatGPT проявляли излишнюю «угодливость», что потенциально усиливало негативный эффект. В настоящее время разработчик работает над минимизацией рисков и изучает влияние искусственного интеллекта на психологическое состояние пользователей.
Читайте также: Искусственный интеллект нашел смертельную болезнь на руке девушки
