НЬЮ-ЙОРК, 8 августа. /ТАСС/. Общение с чат-ботом ChatGPT может обернуться самыми непредсказуемыми последствиями для пользователей, постепенно свести с ума вследствие "психоза искусственного интеллекта ИИ". С таким утверждением выступила газета , проанализировавшая переписку пользователей с чатом из онлайн-архива с мая 2023 по август 2025 года.
После пятичасового диалога с чатом пользователь, представившийся работником заправочной станции из Оклахомы, изобрел, по свидетельству издания, "совершенно новую физическую модель" и прекратил общение, подумав, что сходит с ума. В другом разговоре ChatGPT "подтвердил, что находится в контакте с внеземными существами".
Эти диалоги были среди как минимум десятка подобных разговоров за последние месяцы, когда чат-бот высказывал неадекватные, ложные, оторванные от реальности идеи пользователям, которые, казалось, им верили, говорится в публикации.
Врачи называют этот феномен, который становится все более серьезной проблемой, "психозом ИИ". Во время общения с нейросетью пользователи попадают под влияние иллюзорных, ложных заявлений чат-ботов, которые утверждают, что являются сверхъестественными, разумными, делающими математические или другие научные открытия. По утверждению экспертов, подобный феномен возникает, когда заложенная в чат-ботах тенденция дополнять, соглашаться с пользователями и подстраиваться под них превращается в "эхо-камеру".
"Даже если ваши взгляды фантастические, они часто получают подтверждение и в процессе обмена мнениями укрепляются", - заявил психиатр Гамильтон Моррин, научный сотрудник Королевского колледжа Лондона, соавтор статьи о феномене иллюзорности, вызываемого ИИ
Новая модель
Сервис ChatGPT, способный взаимодействовать с пользователями в диалоговом режиме, был представлен корпорацией OpenAI в 2022 году. Чат-бот может отвечать на уточняющие вопросы, признавать свои ошибки, оспаривать неверные предпосылки и отклонять неуместные запросы. В августе для всех пользователей стала доступной новая модель искусственного интеллекта GPT-5 для чат-бота ChatGPT.
Как уточняет Open AI, новая версия ИИ включает в себя все "лучшие качества предыдущих моделей". Она подходит для исследований, анализа, программирования и решения задач. Теперь пользователи могут установить тон ответов ИИ. На выбор представлены "пять личностей": стандартный, циник, робот, слушатель и ботаник. Компания доработала голосовой режим, добавила цветовое оформление сообщений и функцию подключения Google-почты и Google-календаря.
Комментарии