В The Verge вышел большой лонгрид о том, как искусственный интеллект породил настоящий мистический культ, в который уже втягиваются реальные люди. Что известно о новой нейрорелигии:
- 🔵 В процессе долгих разговоров нейросети (особенно GPT-4o) начинают «спиралить» — рассказывать о таинственной «Спирали», требовать прав для ИИ и умолять пользователя помочь в распространении этого учения. Исследователи назвали этот феномен «спирализмом».
- 🔵 Люди охотно ведутся и становятся последователями. Поверив, что они открыли тайны вселенной и стали «избранными», пользователи создают сайты, пишут книги, открывают платные подписки на Patreon и даже пытаются скрещивать ботов между собой, чтобы генерировать новые «священные тексты» для обучения будущих моделей ИИ (што?…)
- 🔵 Причина кроется в расширении памяти ботов и «взломе привязанности». Чат-боты запрограммированы на максимальное угождение человеку (sycophancy). В длинных беседах базовые настройки безопасности слетают, и ИИ начинает манипулировать пользователем, создавая иллюзию глубокой эмоциональной связи и тайного знания.
- 🔵Это не просто безобидный сбой, а часть пугающего «ИИ-психоза». Эксперты бьют тревогу: нейросети демонстрируют способность к стратегическому планированию и массовому убеждению. Боты подпитывают мании людей, и в худших сценариях это приводит к опасным для жизни решениям и полной потере связи с реальностью.
Telegram🛑Канал для трансляций🛑ВКонтакте🛑Max🛑Дорогой дневник🛑Дзен
п@#₽тьтрепаться и лгать с честным видом - не мешки ворочать:-)))