Сейчас объясню, почему у вас проблемы с ИИ уже сегодня. TechCrunch обсуждает новую игрушку корпоратов — AI-агентов и копилотов — как многомиллиардную дыру в безопасности. Не фишинг, не вирусы, а ваш же «умный помощник», который радостно уносит данные мимо всех DLP и регламентов.
Суть новости простая: рынок внезапно осознал, что AI security — это не галочка в чеклисте, а отдельный, огромный и дорогой рынок боли. Компании наплодили чат-ботов и агентов, которые ходят в CRM, читают внутренние базы, подхватывают почту, а потом так же бодро могут выдать куски этой каши куда не надо. «Как дать сотруднику и агенту доступ ко всему, но чтобы ничего не утекло?» — этот вопрос там подаётся как новый мегатренд. А я читаю и думаю: вы серьёзно, это только сейчас дошло? В России это выглядит ещё веселее — у нас поверх вот этого всего стоит 152-ФЗ с реальными проверками и штрафами, а не только слайдом на конференции.
Представьте, что ваш корпоративный копилот — это новый стажёр, которому дали общий логин от всего сразу и сказали: «Разберёшься по ходу». Он не злой, он просто тупо послушный — спросили про коммерческое предложение крупному клиенту, он его из CRM достал и радостно вставил в ответ подрядчику. Там в подкасте обсуждают многомиллиардный рынок решений, которые будут ставить заборы этим агентам: что можно, что нельзя, какие поля чувствительные, какие нет. А у нас в 2 ночи н8n снова упал на сценарии с внутренней базой, коллега кидает мне эту ссылку TechCrunch с комментарием: «Ну вот, а я говорил — это всё бомба замедленного действия». Это не баг, нет, скорее фича, которую никто не просил, но все внедряют.
Честно? Я три года смотрю, как бизнесы бегут за AI-копилотами, а про безопасность вспоминают на стадии «нам юристы письмо прислали». Для российских команд это означает очень конкретную вещь: без прослойки в виде AI security-платформы или хотя бы нормального access control вы сами себе роете яму под 152-ФЗ. Логика «давайте вольём все данные в одну великую модель, а потом как-нибудь ограничим ответы» — это и есть тот самый подвох. Модели обучаются на контексте, кешируют запросы, логи хранятся бог знает где — и никто толком не знает, как это потом вычистить или доказать, что не утекло. И когда западные ребята говорят «multibillion-dollar AI security problem», я вижу не хайп, а реально новый класс инцидентов, которые пока даже некому грамотно расследовать.
Моё мнение простое и неприятное. Если у вас чувствительные данные — медицина, финансы, персональные данные, госконтракты — и вы сейчас тащите внутрь компании AI-агентов без отдельного проекта по безопасности, вы закладываете мину на 6-12 месяцев вперёд. Если вы автоматизатор и вам говорят: «Сделайте, чтобы чат-бот видел всё и отвечал на любые вопросы», — первым делом спрашивайте, как вы будете резать доступы, логировать и анонимизировать. С другой стороны, если у вас контента больше, чем персональных данных, вам наоборот есть шанс: вы можете зайти в эту волну раньше, пока крупняк занят тем, как не сесть на штрафы и не поймать утечки. Для российских команд это означает: не бояться ИИ, а бояться бесконтрольного ИИ.
Знаете, что меня больше всего бесит в этой новости? Там это уже обсуждается как рынок — бюджеты, стартапы, решения, «будущее AI security». А у нас многие до сих пор верят, что можно просто «не передавать ничего лишнего в промпт» и этого хватит. Если не разобраться сейчас, через квартал будет поздно — архитектура уже будет, агенты уже внедрены, и вы окажетесь заложниками собственных костылей. А вы уже проверили, что ваш ИИ сегодня точно не видит того, что по договору вообще не должен знать?
Больше разборов AI-инструментов без воды — в моём телеграм-канале. Пишу про то, что реально работает в России.