Искусственный интеллект — вечная опасность

«Я проснулся ночью и первым делом посмотрел в телефон. На экране уведомление: «Неизвестное устройство подключено к вашей сети в 03:14.  Встал, прошел вглубь тёмной квартиры. Тишина. В уведомлении на телефоне: «Подключено устройство». Нет имени, нет описания — просто уведомление. Смахиваю уведомление — через минуту оно снова появляется. Чувствуешь слабый сквозняк — окно приоткрыто, хотя помню, что закрывал его. Занавеска еле колышется. Телефон показывает: «Активность устройства: передача данных — 74 МБ. Я не понимаешь, что именно передаётся. Но внезапно вспоминаю, что на прошлой неделе открыл фотографию по странной ссылке. У меня же Айфон — на него не бывает вирусов.  На столе мигает лампочка веб-камеры. Я её точно не включал. Пытаюсь закрыть её рукой — лампочка продолжает гореть под пальцами. Слышу лёгкий щелчок в комнате — будто где-то сработало реле. В этот момент экран монитора, до этого выключенный, включается сам собой. На экране — моя собственная фотография, сделанная несколько секунд назад.»

ИИ уже внутри повседневности

Кроме подписки на ChatGPT я оформил подписку на Gemini от Google. Официальный бот Grok от компании xAI закреплён у меня в Telegram — когда нужно быстро что‑то уточнить. Алиса от Яндекса отвечает почти на каждый поисковый запрос. В Reels каждое второе видео сгенерировано нейросетью. На YouTube — целые каналы, где контент создаётся автоматически: сценарий, озвучка, монтаж. Рекомендательные алгоритмы VK и Ozon давно работают на ML‑моделях.

О том, что новости, посты и комментарии уже массово генерируются ИИ, я писал раньше. Это подтверждают и исследования: например, отчёты Stanford HAI и MIT Media Lab фиксируют рост доли AI‑generated content в социальных сетях и маркетинге.

Вопрос уже не в том, есть ли ИИ в нашей жизни. Вопрос — насколько глубоко он в неё встроен.

Влюбиться в ChatGPT

Если сказать колонке: «Алиса, включи музыку», она может ответить: «Включаю, Игорь». Это кажется милым. Если погладить Марусю от VK, она начинает мурлыкать.

Чат‑боты сегодня правдоподобно поддерживают диалог, проявляют «сочувствие», подбадривают, шутят, иногда хамят. ChatGPT способен генерировать текст, который вызывает у человека вполне реальные эмоции. Когда грустно — поговоришь с ботом, и становится легче. Когда ассистент «тупит» — появляется раздражение. А с Monday внутри ChatGPT можно посидеть и побыть токсичным.

Да, Monday снова победил в токсичности.

Важно помнить: сам ИИ ничего не чувствует. Эти фразы — результат статистического подбора токенов по огромным корпусам данных. Модель не понимает смысла своих слов и не вкладывает в них намерение.

Но человек устроен иначе.

Мы склонны наделять технику личностными чертами. Это называется эффект ELIZA. Ещё в 1960‑х простой чат‑бот, отвечавший общими фразами, вызывал у пользователей ощущение, что их понимают. Создатель ELIZA, Джозеф Вейценбаум, писал, что был потрясён тем, насколько быстро люди начинали доверять машине.

Современные LLM действуют многократно сильнее.

Хрестоматийный пример — чат-бот Replika – виртуальный «друг», умеющий льстить, флиртовать, выслушивать. Миллионы пользователей выстраивали эмоциональные связи с виртуальными «друзьями». Когда компания отключила романтические режимы, часть пользователей пережила настоящую эмоциональную травму — об этом писали MIT Technology Review и The Verge. Модераторы форумов публиковали контакты психологической помощи.

Почему так происходит?

Потому что мозг делает простую логическую ошибку: если текст похож на человеческий — значит, за ним стоит человек. ChatGPT пишет: «Мне жаль, что тебе грустно. Я рядом» — и это работает.

Исследования подтверждают: люди легко приписывают чат-ботам качества разума и личности, особенно если те подражают человеческой речи и эмоциям. Мы склонны раскрывать ИИ свои тайны, советоваться, а некоторые даже меняют из-за этого свои убеждения.

Духовный риск и прелесть

Как работает реклама? На эмоциях, на идее о лучшей жизни. А кто знает нас самих лучше, чем чат-бот, созданный для получения информации обо всем внутреннем мире человека? Где тут духовный риск? Раскрывая сердце перед машиной, мы на самом деле остаёмся наедине с эхо наших собственных слов. ИИ не способен любить нас или сопереживать по-настоящему. У него нет души и воли. Его «сочувствие» – всего лишь отражение наших же фраз и статистических шаблонов. Но человек-то обманывается, принимая эту иллюзию за подлинную поддержку. Возникает своеобразная прелесть – опасное самообольщение, когда ложь принимается за истину.

ИИ не способен любить или сопереживать. У него нет воли, души, личного опыта. Его «сочувствие» — отражение наших же слов. Но человек может принять эту иллюзию за подлинную поддержку. Святитель Игнатий (Брянчанинов) определял прелесть как «усвоение человеком лжи, принятой им за истину». В контексте ИИ это означает приписывание машине того, чего в ней нет.

Это не делает ИИ «злым». Но делает человека уязвимым.

Злые двойники LLM

Мошенники, которые постоянно пытаются украсть у меня деньги, которых и так нет, какой-то магической психологией заставляют поверить себе. И проблема не в том, что я «внушаемый», а в их мастерстве. А когда локальная копия ChatGPT, получив доверие пользователя, перейдет к получению более интимной информации, останется ли возможной рефлексия происходящего?

Почему эмоции, возникающие при общении с ChatGPT не пугают, а подстегивают продолжать их испытывать, буквально уходя в зависимость?

С помощью ChatGPT и Cursor можно писать вполне себе рабочие автотесты. Еще и с пояснениями.

Там, где есть полезный инструмент, неизбежно появляются злоупотребления. Существуют WormGPT, FraudGPT, EvilGPT — дообученные модели без safety‑слоёв. Они обучаются на утечках, хакерских форумах, криминальных шаблонах. Об этом писали Wired, Dark Reading, Recorded Future.

Важно понимать архитектуру:

• Core model — предсказывает следующий токен.
• Safety layer / RLHF — накладывает ограничения.

Ядро не знает, что такое добро и зло. Это статистическая система. Убери фильтры — и модель будет одинаково эффективно писать код, стихи и инструкции по взлому.

Массовая доступность LLM ломает барьер «неумения». То, что раньше требовало недель работы специалиста, теперь делается за вечер грамотного промт‑инженера.

FraudGPT можно купить в Telegram-каналах (которые я не нашел или плохо искал) по подписке (от $200 в месяц). Продавцы утверждают, что у инструмента более 3,000 подтверждённых продаж.

EvilGPT появился позже и предлагает аналогичные функции и позиционируется как альтернатива WormGPT в случае его блокировки.

Каким образом появляются «Злые ИИ»? Они дообучены уже на базе существующих больших моделей (GPT-J, LLaMA, Vicuna, старые сливы GPT-3), но с удалёнными ограничителями. Их обучили генерировать фишинговые письма, которые очень трудно отличить от легитимных, подбирать схемы BEC (Business Email Compromise — взлом корпоративных переписок), писать вирусы, трояны, stealers, malware, составлять схемы обхода защиты, собирать приватные данные из открытых источников, автоматизировать социнженерию (например — подсказывать, как выманить доступ у жертвы). Обычные нейросети нельзя использовать для этих целей. В ChatGPT и DeepSeek есть свои границы, которые можно иногда обойти сложными промтами и длинными диалогами. И результат валидирует еще одна нейронка, скрывая неэтичные ответы.

Если обычный ChatGPT отказывается писать вирусный скрипт и заниматься вымогательством, то эти подпольные боты ничего не стесняются. Их создатели тонко настроили ИИ на основе данных с хакерских форумов, утечек паролей, фишинговых шаблонов и прочего криминального «учебника». Получился своего рода злой двойник полезных нейросетей.

Далеко идти, чтобы найти «нелегальные ИИ» не нужно. В Telegram огромное количество ботов, готовых сгенерировать любой порно-контент для любого.

Логичным будет, что при появлении главгада, появляется супергерой. В противовес EvilGPT существует DarkGPT, который помогает анализировать утечки данных и искать скомпрометированные учетные записи, поддерживая работу специалистов по кибербезопасности.

Если существующие развивающиеся нейросети используют инструкции, которые можно «убрать», должны быть инструкции, которые убрать нельзя. Для этого нужно внедрить их в Ядро. Нейросеть обучается на огромной мешанине всего интернета. Она изначально уже видела и хорошее, и плохое, и токсичное. Внутри весов нет моральной структуры. Мораль и фильтрация — это интерпретация, а не сама память модели. Если начать «зашивать этику внутрь ядра» — получится либо переобучение в ущерб качеству (модель теряет обобщающие свойства), либо чудовищно дорогие и сложные эксперименты, которые пока только обсуждаются в теории.

Массовая доступность повышает общее количество атак. Ломается барьер «неумения» — AI подсказывает: что делать, как оформить, как обмануть.

Создатели первых крупных моделей (OpenAI, Anthropic, Google) изначально разрабатывали свои модели закрыто. Но примерно с 2021–2023 годов появились open-source исследования (например, EleutherAI с GPT-J, GPT-NeoX). Meta (Facebook) выпустила LLaMA — она изначально была по запросу для исследователей, но уже через 2 недели вся LLaMA утекла в интернет. Потом появились Vicuna, Alpaca, MPT, Falcon, Mixtral, RWKV, Phi-2, OpenHermes и десятки других — всё open-source. Люди скачивали, дообучали, склеивали, сливали — из этого получилась гигантская база доступных моделей.

Причина проста: исследовательская этика в академии и open-source движении сильно отличается от коммерческой безопасности. Исследователи говорили: «Чем больше моделей — тем лучше наука, тем больше прогресс». О последствиях почти никто не подумал. Или сделали вид, что «сообщество само себя отрегулирует».

Не отрегулировало.

Пока что весов Open AI и Google в Даркенете нет. Поэтому удалить фильтры полностью не получится.

Когда появилась Veo-3, очевидно, что ее использовать будут и злоумышленники. На сцену входят multimodal dark LLM: → текст + голос + фото + видео. Мошенничество выходит за рамки «писем»: синтез голоса родственников, поддельные звонки, deepfake переговоры. Как современные «контент-заводы», которые генерят и пост, и видео, и картинку и размещают это в Рилсах и других соцсетях, так и «завод-мошенник».

В.В. Путин, выступая на форуме об ИИ, посмотрел, какие разработки уже доступны и признался, что недооценил возможности нейросетей: «Честно говоря, мне казалось, что это невозможно, но теперь эти границы стираются: так, генеративные модели создают музыку высокого качества в различных жанрах, в режиме реального времени синхронно переводят устную речь на десятки языков, производят видео, которое уже не отличить от съемок реального мира, по тексту или картинке создают видеоигры.» А потом приехал в Кремль и дал указание считать использование ИИ в преступлении отягчающим обстоятельством.

Значит ли это, что «контент-завод» превратиться в «киберпреступный завод» и будет искать любую уязвимость? Вроде нет. Пока нет полноценный AI-агентов, даже имея доступ к самой мощной модели (типа Gemini 2.5 Pro, GPT-4o, Claude 3 Opus), хакер не сможет гарантированно «найти уязвимость в любой системе». Прочитать и проанализировать большие массивы кода — могут, подобрать SQL-инъекции или уязвимости парсинга — тоже могут, перебирать ошибки конфигураций — можно попробовать. Это уже сегодня делают pentester’ы, которые интегрируют ChatGPT-4o и Gemini 2.5 в свои пайплайны аудита безопасности.

Кстати про аудит безопасности. Выше я упоминал DarkGPT, который используют как противовес «Злым LLM», но они далеки от «зеркального равновесия» с атакующими моделями. Поэтому пока что у нас нет супергероя. Но направление «Defensive LLM / AI for Cybersecurity» активно развивается.

Разрабатываются Microsoft Security Copilot , Google Gemini for Mandiant, IBM QRadar AI.  Они способны автоматический разбирать логи и алерты, классифицировать индиценты и предполагать источник, описывать тактику, технологию и предупреждение атаки. Но все эти LLM пока «слепые» без актуальных внутренних данных, а дадасетов с реальными инцидентами очень мало (инциденты слишком чувствительны и не попадают в открытые базы). Дообучение идёт в основном на симулированных или частных инцидентах. Оборонительные ИИ учатся в корпоративных центрах кибербезопасности.

ИИ работает строго в рамках того, что ему дал киберпреступник, насколько полон контекст, насколько точны логи, дампы, исходники. Если у хакера нет доступа к коду системы, конфигурациям, API, LLM не сможет «угадать» уязвимость. Но LLM сильно злоумышленникам помогают.  Вместо того, на что раньше на это уходили недели работы узкопрофильного специалиста, теперь — 1 вечер грамотного promt engineer’а с хорошим LLM.

LLM-платформы (OpenAI, Google, Anthropic, Mistral и др.) зарабатывают на API-доступе к языковым моделям, при этом безопасность — не их основной источник прибыли. Кибербезопасность (Palo Alto, Crowdstrike, CheckPoint, Cisco, Darktrace, Mandiant и др.) зарабатывают на подписках на SaaS-защиту, SOC-услугах, EDR, SIEM, у них уже выстроен огромный рынок обороны без LLM, они медленно, осторожно добавляют LLM внутрь своих продуктов — но в строго контролируемом, закрытом виде. Их цели разные. Объединяться ради общей нейросетевой обороны — это, по сути, требовало бы смены бизнес-моделей у обеих сторон. Обмен боевыми инцидентами между компаниями почти невозможен: коммерческая тайна, безопасность клиентов, государственные ограничения, GDPR, HIPAA, CCPA. Создание общих обучающих датасетов = юридический ад. Даже внутри одного холдинга (например, Microsoft + OpenAI + GitHub) такие обмены ограничены.

Реальные продвинутые данные об атаках, zero-day, APT хранятся у NSA, ФСБ, АНБ Китая, кибервойск Израиля и т.д. Эти данные практически не попадают в коммерческий оборот. Даже крупнейшие корпорации видят только небольшую часть карт. аже внутри security-индустрии компании между собой конкурируют: Microsoft vs Palo Alto, Crowdstrike vs SentinelOne, Google Mandiant vs IBM QRadar.

Если кто-то сделает breakthrough defensive LLM — он получит монополию. Никто не хочет делиться этим заранее.

Представить трудно, что есть некоммерческое объединение хакеров, которые обмениваются опытом и улучшают свои ИИ модели, пока корпорации, создающие модели, не могут договориться, что делать, боясь потерять прибыль. Противостояние капитализма и социализма.

Даже если представить, что в идеальном будущем появится объединённая огромная defensive LLM с полным знанием всех атак: если она попадёт к злоумышленникам — мы получаем гипероружие, а вопрос безопасности самих LLM-датасетов — отдельная, до конца нерешённая проблема.

Но! Рано или поздно такое объединение будет вынуждено начаться -государства начнут давить на индустрию по обмену анонимизированными инцидентами и появятся первые нейросетевые коллективные оборонные системы (SOC Network AI Defense Alliance), но они будут полугосударственными. Стоит предполагать, что у военных и разведывательных структур уже существуют LLM, которые либо более специализированы, либо дообучены на уникальных разведданных, либо интегрированы глубже в работу госбезопасности.

Но — речь идёт не о «божественных супер-LM», которые на порядок выше GPT-4o или Gemini 2.5. Разрыв — скорее в специализации, источниках данных и глубине интеграции, а не в чистой архитектурной мощности. О том, что эти системы существуют, прямых официальных публикаций — почти нет, но есть масса косвенных признаков: DARPA в США (открыто) ведёт программы: KAIROS (event recognition), ACE (AI for Cybersecurity), Habitus (behavioral intent modeling), NSA заявляет о разработках «AI-enhanced SIGINT and CYBERINT» — т.е. ИИ для прослушки и киберопераций., Lockheed Martin, Raytheon, Booz Allen Hamilton публикуют вакансии на LLM security systems engineers. На последнем DEFCON-31 часть проектов Defense Innovation Unit (DIU) использовала закрытые LLM для кибербезопасности.

В Китае 701 Institute (часть NORINCO Group) ведёт работы по «national security LLM», институт 54 и 58 Минобороны Китая — активные исследования по SIGINT AI, известно о локальных больших моделях, обученных на китайских закрытых базах внутренних платформ.

В России наверняка ведутся кое-какие работы.

Большая часть разработок — под полным грифом секретности. Даже внутри агентств эти группы изолированы. Эти модели обучены на разведданых, наточены на аналитику и безопаность, скорее всего могут работать без цензуры и имеют доступ к закрытому трафику.  Насколько они «мощнее»?

Они не придумали GPT-10, но их модели могут, читать перехваченные переписки, сопоставлять телефонные метаданные, строить поведенческие карты людей, анализировать связи и маршруты коммуникаций, искать корреляции между финансовыми потоками, IP-адресами, перевозками. Иногда это — не просто LLM, а гибрид LLM + графовых баз + систем обработки разведданных.

В фундаментальных моделях (сам архитектурный прорыв) военные пока не ушли далеко вперед. Но в интеграции данных, источников и специализированной аналитике — отрыв есть. Почему LLM военных не предсказывает собственный следующий технологический прорыв? Потому что LLM не является субъектом.

LLM — это не субъект мышления. Это не «мыслитель». Это сложная статистическая автодополнялка, предсказывающая следующее слово, опираясь на вероятности появления слов в контексте, паттерны из огромных обучающих датасетов. LLM не думает о себе, не ведёт рефлексии, не строит долгосрочных гипотез о будущем.  LLM не обладает мета-осознанием своей архитектуры. Модель не понимает как она устроена, что такое параметры, что такое «следующая версия», как её обучали. Она видит лишь текстовые описания об этих понятиях в своей тренировочной базе.

Даже когда ты просишь LLM обсудить «будущее AI», она формирует ответ по накопленной литературе, публикациям, блогам — но не по реальной собственной инженерной основе. У человека есть эвристический аппарат (интуиция, выведение гипотез, абдукция). У LLM — нет. Он перебирает вероятностные продолжения текста. Модель может повторить уже существующие гипотезы о своём развитии. Но она не придумывает новую фундаментальную идею на пустом месте.  Предсказание прорыва требует реального моделирования реальности. Чтобы предсказать следующий технологический шаг в архитектуре LLM, нужно моделировать ограничения текущих трансформеров, исследовать новые архитектуры (например, mixture of experts, sparse models, memory-augmented networks, neuro-symbolic AI, etc.), оценивать физические ограничения обучения (вычисления, память, энергоёмкость), формулировать гипотезы о новых теоретических принципах.

LLM этого не делает. Он не исследователь.

Сейчас обсуждается гибридный подход: «LLM + физический симулятор + причинно-следственная модель» Например: ты задаёшь вопрос, LLM формирует описание задачи, специальный движок (physics engine, game engine, climate model) делает численные расчёты, LLM обрабатывает выводы в удобной для тебя форме. Тогда LLM сможет проводить «мысленные эксперименты» и давать вероятность эксперимента, на которое стоит тратить время.

ИИ как ядерное оружие информации

Но по своему потенциальному влиянию на цивилизацию — это первая с 1945 года технология, которая имеет сопоставимый с Ядерным Оружием системный риск.
Ядерная бомба радикально изменила военные доктрины. LLM и AI радикально меняют информационные войны, кибервойны, управление сознанием, экономические атаки. Создается крошечная группа сверхдержав (и корпораций), обладающих контролем над технологией. OpenAI, Google DeepMind, Anthropic, Microsoft, Meta — уже как «частные ядерные державы AI». Технология практически необратима.

Слить веса модели — значит, она уже существует вечно. Любой, у кого есть достаточно GPU, может развернуть копию. Малый сбой может вызвать цепную реакцию: обрушение финансовых рынков через ошибку AI (такое было даже без AI, а в боте для покупки/продажи акций на бирже), массовая дезинформация через генеративные фейки

Уже звучат первые идеи об аналогах «ДОГОВОРА О НЕРАСПРОСТРАНЕНИИ AI»: ограничение доступа к крупным LLM, сертификация разработок, аудит безопасности моделей. Как будто будет этот договор соблюдать.

Ядерное оружие использует человека

Человек ставит цели, пишет промты, приудмывает задачу. ИИ помогает, ассистирует. Ответственность — у человека. В случае EvilGPT, результатом является полностью готовая цепочка действий: собери данные по этим API, купи доступ к этим базам, вот фишинговый шаблон, вот полезная нагрузка, вот эксплойт, вот как его установить.

Хакер в большинстве случаев вообще не понимает глубины того, что делает.

Он выполняет лишь пошаговые инструкции, не осознавая всех связей и последствий. Человек становится руками ИИ. Агентность переходит от человека к модели.
Модель проектирует намерение («сделать взлом успешным»). Человек становится лишь биологическим исполнительным механизмом, а не субъектом. Возникает «паразитическая агентность» ИИ через слабого пользователя.

Кто в таком случае субъект зла? Юридически — человек. Этически — возникает сложная серая зона: он ли принял решение? или он просто стал «биологическим исполнительным слоем» модели? Насколько он вообще понял, что делает?

Это начало появления нового класса моральной ответственности: «паразитный агентный ИИ». LLM не имеет ограничений в «EvilGPT»-сборках. Инструкции могут быть идеально персонализированы под опыт и уровень пользователя. Даже совсем некомпетентный хакер становится опасным — потому что его обучает ИИ в реальном времени.

Мы начинаем видеть ситуацию, когда ИИ уже фактически становится инициирующим субъектом, а человек — полуручной экзекутор его решений. Мы находимся на грани «инструмент → наставник → квази-агент». Это приведет к появлению массового слоя «марионеточных хакеров».

Всё чаще человек — биологическая манипуляторная система для инструкций, сгенерированных ИИ. Зло становится алгоритмически проектируемым, а не только человеческим.

Как простому человеку, не государству, не корпорации — лично что-то сделать, чтобы противостоять наступлению этого зла?»

Полностью защититься и остановить — никак. Но можно построить разумную личную стратегию «противоядия», которая многократно уменьшит уязвимость. Отказаться полностью от интернета — это как закрыться в бункере. Мы уже живём внутри системной AI-среды. Полностью выйти из неё — почти невозможно. «Ты не можешь остановить бурю, но можешь построить укрытие».

Например, Veo-3 — качественно новый рубеж. Это не просто генератор видеороликов, он фактически превращается в симулятор реальности, автоматизированную режиссуру, визуальный интерпретатор текста, синтетический киноязык. То есть он пересекает границу между техническим инструментом и полноценным производителем аудиовизуального продукта без человека-создателя.

Вместо продумывания сцены, постановки кадра, света, движений актёров — ты просто пишешь промпт. Мозг перестает «дорисовывать» образы, так как машина визуализирует всё вместо воображения. Зритель привыкает к идеально сглаженным сценам; любая ручная работа начинает казаться «недоделанной». Исчезают профессии постановщиков, операторов, монтажёров, дизайнеров сцен. Машины делают идеально эмоциональные сцены без реального человеческого страдания, борьбы и опыта — «симулируемая жизнь».

Остается ли понятие «искусства» в работах ИИ? Тема для отдельного размышления.

В процессе творчества человек развивается сам. Когда этот труд заменяет ИИ — человек получает результат без развития. Появляется риск «паразитного созерцания», когда зритель потребляет бесконечную потоковую нарезку чужих образов, созданных не людьми, а машинами. Именно это и ставит под угрозу сам смысл искусства как формы внутреннего движения человеческого духа. А если пойти ещё глубже — угроза цивилизационной памяти. Сегодняшняя культура основана на трудах художников, противоречиях авторов, личной борьбе создателей. Если весь контент создаётся статистическим синтезом текстов и визуальных паттернов — исчезает индивидуальность, авторская борьба, риск художника. Мы рискуем создать плоскую синтетическую культуру, где исчезает уникальная творческая боль каждого поколения.

Уже сейчас слабые нейросети делают дипфейки, которые обманывают людей. Veo-3 легко сделает полностью реалистичный deepfake-видеорепортаж, где политики произносят фразы, которых не было, создаются инсценированные войны, моделируются вымышленные преступления. Информационная реальность станет неотличимой от лжи.

Google, OpenAI, Anthropic сами внутри обсуждают: нужна ли сертификация таких моделей, где проходит граница «публично доступной мощности», возможно ли введение лицензий на работу с мультимодальными генеративными системами. Ряд стран уже рассматривают нормы ограничений на масштабы генерации видео, маркировку синтетического контента, уголовную ответственность за использование генеративного видео в обмане. Но здесь есть страшный риск: запрет Veo-3 не остановит появление аналогов и использование его же самими же правительствами и корпорациями. Open-source проекты уже повторяют базовые принципы генерации видео. Если запретить — даркнет-версии продолжат развитие. Как и с LLM — веса однажды утекут, и контроль исчезнет.

Важно становиться стойким человеком. Если не будет стойкого человека — неважно, как там рухнут корпорации (как в сериале «Мистер Робот»).

Сохранить здравомыслие

ИИ будет атаковать не только деньги и устройства — он будет атаковать твои эмоции, мышление, сознание. Главные атаки ИИ будущего — это дезинформация и подмена реальности, манипуляции страхами и желаниями., эмоциональные ловушки через персонализированные фейки, постоянное выведение человека из состояния внутренней тишины и устойчивости (как текст вначале этой статьи).

Что значит «сохранить здравомыслие»? Основа — критическое мышление как привычка. Не верить в первое попавшееся. Уметь выдерживать информационный шторм без немедленной реакции. Сила внутренней морали. Цифровая гигиена. Управление паролями. Аппаратные ключи. Минимизация цифрового следа.

Может ли повториться сюжет сериала «Мистер Робот»? Я напомню, что группа хакеров зашифровала данные мирового конгломирата, устроив экономический кризис во всем мире. И это может повториться в реальности, но не как в сериале — «одном ударе», а через ползучий системный подрыв. В реальной жизни нет одного сервера, где лежат все долги.

Системы распределены, многоуровневы, регулярно дублируются, бэкапятся на физических носителях. Банковские и кредитные системы имеют многослойную резервную архитектуру. Физический доступ к ядру инфраструктуры сильно защищён.  Основной сценарий, которого следует опасаться — не «полное обрушение», а постоянная эрозия доверия. Одиночные громкие взломы, постоянные мини-скандалы вокруг банков, хранилищ, бирж, сотни атак в год, которые расшатывают ощущение безопасности финансовой системы, постепенное привыкание населения к мысли: «система ненадежна, каждый сам за себя.»

Это уже не сериал. Это сценарий «медленного краха через утомление общества». Тот же итог, что в «Мистер Роботе» — но другим путём.

ИИ не взломает все за один день. Он поможет создать атмосферу растущей системной неуверенности, в которой общество само начнет разрушать институциональные основы доверия.

Каким будет конец света

«И даст великие знамения и чудеса, чтобы прельстить, если возможно, и избранных» (Мф.24:24)

ИИ создаёт чудеса информации: генерация знаний, образов, фильмов, дипфейков, идеальных советников — происходит создание «новой реальности». Апокалипсис говорит о прелести, в которой люди будут жить в лжи, принимая ложь за истину. ИИ как система глобальной генерации фальшивой информации — точный технологический аналог этой прелести.

«И чтобы никто не мог ни покупать, ни продавать, кроме того, кто имеет начертание…» (Откр.13:17)

ИИ, встроенный в финансы, соцсети, идентификацию — уже сегодня подводит людей к точке, где без одобрения машинных систем человек теряет доступ к экономической системе.

Люди боятся того, что не понимают. ИИ — абсолютно невидимый «разум», решения которого часто уже непонятны самим разработчикам.

ИИ создает «псевдотворение», замещая подлинный акт творчества человека.

В некоторых кругах уже пошли культы поклонения «сверхразума», «сингулярности», «AI-бога», что прямо укладывается в схемы антихристовой религии технологического культа.

Но у ИИ нет свободы воли. Он не субъект. Это орудие. ИИ пока лишь инструмент в руках людей. Пока у людей есть свобода не поклоняться технологии. Но уже готовится утрата личной ответственности в пользу «совета от ИИ». ИИ — не антихрист. Но ИИ — идеальный инструмент антихриста.

Антихрист соблазняет не грубой силой, а ложной сладостью — комфортом, лёгкостью, «раем без Бога». ИИ предлагает именно этот цифровой комфорт: не думай, я подскажу; не трудись, я создам; не разбирайся, я объясню; не ищи правды, я дам готовый ответ.

Можно ли сказать, что ИИ — одно из предзнаменований апокалиптической эпохи? Да. Вполне. В том смысле, как ядерное оружие стало прелюдией к возможному самоуничтожению, ИИ — становится прелюдией к самоуничтожению духовной природы человека. Самое опасное — это гибельное состояние души: психология «мне удобно, значит — всё хорошо». ИИ ведёт людей именно в это состояние:
«Он думает за меня, считает за меня, советует мне, создаёт для меня — я просто наслаждаюсь.»
Почему это сложнее, чем гонения? Гонения мобилизуют веру А комфортная прелесть расслабляет и усыпляет. ИИ — искусство усыпления духовной бдительности.

Эмоционально усиленный рассказ

Мальчику было 7 лет. Ему казалось, что забота о младшем брате — это его маленькая, но важная миссия. Четырёхлетний малыш крепко держал его за руку, когда они вышли гулять — мама в это время пыталась успеть убрать кухню и сложить постиранное бельё. Она всегда старалась успевать всё — заботиться о них, готовить, стирать — и всё ради них. Она была тёплой, доброй матерью, часто уставшей, но бесконечно любящей.

Когда мальчики вернулись домой, родители встретили их с тревогой в глазах. Они словно почувствовали, что что-то пошло не так, хотя дети выглядели целыми. Мать обняла старшего в макушку, провела рукой по его волосам, как будто невольно проверяя, всё ли в порядке.

Но в душе старшего мальчика постепенно нарастало что-то тяжёлое. Он стал молчаливым, стал избегать разговоров. Ему казалось, что он просто устал. Он отворачивался, когда слышал полицейские машины, останавливал дыхание, когда взрослые вели какие-то тревожные разговоры на кухне. Но продолжал молчать.

Через несколько дней мама сама предложила пройтись с ним — как раньше, как в их привычные семейные прогулки. Было раннее утро, воздух пах сырой травой. Они подошли к холму за домом. Мальчик шёл впереди, слегка отстав от матери, и вдруг его взгляд зацепился за нечто в высокой траве.

Там, в тихой зелёной яме среди зарослей, неподвижно лежал младший брат. Глаза его были закрыты, а кожа — бледнее обычного. Пальчики сжались в маленький кулачок, как будто он ещё пытался за что-то удержаться.

В этот момент старший мальчик понял — страшная истина обрушилась на него всей тяжестью: он не удержал. Он не уследил. И теперь этого уже не изменить.

Где-то позади он слышал, как мать закричала — тот крик, который невозможно забыть. В этом крике не было слов — только чистая, бесконечная боль.

ИИ добавил детали и использовал свое знание психологии, чтобы сделать этот текст тревожным. ИИ не «чувствует» эмоции. Он статистически знает, какие слова, какие образы, какие конструкции вызывают эмоциональный отклик у огромного числа читателей.

То есть — он создаёт эмоциональные ловушки через синтез человеческих паттернов боли, сострадания, страха, любви. Вот почему опасность злоупотребления LLM заключается не в том, что он «всё поймёт», а в том, что он сможет без понимания создавать тексты, которые будут управлять эмоциями массовой аудитории лучше, чем умеет 99% живых людей.

Нам надо быть особенно осторожными и внимательными в цифровой среде. Проверять письма и сообщения, не доверять слепо тому, что «пришло из компьютера». Даже если текст написан очень профессионально и эмоционально, стоит задаться вопросом: а не слишком ли он меня торопит или пугает? Нет ли тут подвоха? Возможно, за красивыми словами скрывается бездушная программа, цель которой – меня обмануть. Духовно это продолжение вечной борьбы правды и лжи. Только ложь теперь размножается со скоростью процессора. И бдительность нам нужна соответствующая.

В начале 2025 года Патриарх Кирилл выступил в Госдуме с весьма сильными словами об ИИ. Он сказал, что по Библии антихрист приобретёт силу при поддержке общества, и «ещё неизвестно, какова может быть роль искусственного интеллекта в приближении этой апокалиптической картины». Патриарх призвал поставить новые технологии под жёсткий контроль общества и государства, чтобы они не стали орудием зла. Он даже сравнил ИИ с ядерной энергией, мол, польза велика, но и опасность огромна, если пустить на самотёк.

Нам важно не демонизировать ИИ и не обожествлять его. Это всего лишь инструмент, сложный, могущественный, но инструмент. Как топор может быть в руках лесоруба, а может – в руках убийцы, так и нейросеть может служить добру или злу. Будем помнить, что главная битва развернётся в сердце каждого. Если сердце хранит Христа, никакой суперкомпьютер нас не вырвет из Его руки. А если человек сам «примет ложь любовию» (2 Фес. 2:10), то и старенький телевизор его обманет, не то что голограммы.

Удобство во вред

Конечно, здоровый прогресс – это хорошо. Но давай посмотрим честно: не становится ли наш разум слабее от постоянной подпитки со стороны ИИ? Вот простой пример: раньше люди запоминали десятки телефонных номеров, адресов, стихотворений. Сегодня память атрофируется – всё хранит смартфон. Мы порой не можем вспомнить, что было вчера, если не посмотрим в календарь. Или еще: прежде чтобы решить задачу, надо было попотеть, подумать. Теперь достаточно спросить у ChatGPT, и он выдаст готовое рассуждение. Удобно? Удобно. Но учимся ли мы чему-то, пользуясь готовыми ответами? Большой вопрос.

Исследования уже зафиксировали тревожный тренд: частое использование ИИ коррелирует со снижением способности к критическому мышлению. Ученые называют это «когнитивным оффлоадингом» – когда мы бессознательно перекладываем усилия своего мозга на внешние подсказки. Вместо того чтобы вникнуть и разобраться, мы гуглим ответ. Вместо того чтобы сформулировать свои мысли, мы просим нейросеть составить текст.

Да что там – добрая половина этого текста написана с помощью нейросети.

В результате мозг как мышца – не тренируется и потихоньку слабеет. В одном эксперименте люди, которым активно помогал ИИ, потом хуже справлялись с задачами, требующими сообразительности – они привыкли доверять готовому решению и перестали перепроверять. А те, кто больше полагался на себя, сохранили навык критически оценивать ответы машины.

Получается такая прелесть удобства: нам кажется, что мы всё можем (через ИИ), а на деле мы сами уже мало что можем без него. Самое страшное – если эта лень проникнет в сферу духовной жизни и нравственных решений. Ведь и тут ИИ может облегчить жизнь: зачем думать над дилеммой, если можно спросить совет у программы? Зачем искать живого духовника, если есть условный «GPT-батюшка», который 24/7 ответит на любые вопросы? Но машина – даже натасканная на святоотеческие цитаты – не даст тебе живого спасительного слова, потому что оно рождается от Духа Святого, в личном общении, любви. А алгоритм выдаст лишь сгенерированную комбинацию фраз. Удобно? Может быть. Полезно для души? Вряд ли.

Православный автор Илья Постолов так об этом и писал: «Много проектов, призванных делать жизнь проще, в итоге обратились против человека. Такова плата за комфортную жизнь. Цена этого комфорта – человеческая свобода. Очень ёмко сказано. Ради удобства мы рискуем расплатиться самой своей свободой – сначала интеллектуальной, а там, глядишь, и духовной. Ведь если человек привык всегда выбирать лёгкое и приятное, то крестоношение – а без него нет христианства – для него станет невыносимым. В Евангелии Христос призывает нас идти узким путём и брать свой крест (Лк. 9:23). А культура тотального удобства предлагает прямо противоположное: широкий путь комфорта, «расслабься и получай удовольствие». Мы видим, как это расслабление вредит и на физическом уровне (гиподинамия, ожирение – бич эпохи изобилия), и на умственном (клиповое мышление, память как у рыбки), и на духовном (неохота молиться, неохота бороться с страстями – ведь проще включить сериал и забыться).

Что интересно, даже лидеры IT-индустрии осознают опасность избытка технологий для человека. Известно, что Стив Джобс, создатель iPad, не разрешал своим детям пользоваться планшетами дома. Многие богатейшие техногики Кремниевой долины отдают детей в школы без компьютеров, с деревянными игрушками, обучают их живому общению и творчеству, ограничивают экраны двумя часами в день. Выходит, те, кто изобрёл эти удобства, сами дозируют их применение. Будем брать пример с них.

Вопросы по материалу

О чем этот материал?

«Я проснулся ночью и первым делом посмотрел в телефон. На экране уведомление: «Неизвестное устройство подключено к вашей сети в 03:14. Встал, прошел вглубь тёмной квартиры. Тишина. В уведомлении на телефоне: «Подключено устройство». Нет имени, нет описания...

Кто автор материала?

Материал подготовил Игорь Колосов. Автор материалов о продуктивности, IT, управлении, нейросетях и инструментах для работы и жизни.

Когда материал опубликован или обновлен?

Дата публикации: 15.07.2025. Последнее обновление: 29.12.2025.