Meta* столкнулась с масштабной утечкой данных из-за ошибки ИИ

Meta* подтвердила утечку, заявив, что данные пользователей не пострадали

Meta* столкнулась с крупной утечкой данных. Инцидент произошёл из-за некорректной инструкции, которую предложил ИИ-ассистент для решения внутренней задачи. В результате доступ к информации получили все инженеры компании.

В Meta* подтвердили факт утечки, но заявили, что пользовательские данные не были скомпрометированы.

Внедрение ИИ повышает риски утечек данных

Случай стал не первым инцидентом, связанным с активным внедрением ИИ-агентов в крупных технологических компаниях. Ранее о сбоях при использовании ИИ-инструментов сообщали в Amazon. Тогда сотрудники компании отмечали, что быстрый переход к ИИ сопровождается ошибками, снижением качества кода и нестабильной работой систем.

По мнению участников рынка, которых опросил The Guardian, компании находятся на экспериментальной стадии внедрения агентного ИИ и не всегда проводят достаточную оценку рисков. ИИ может допускать ошибки, связанные с отсутствием контекста — в отличие от человека, он не всегда учитывает последствия своих действий в сложных системах.

Инцидент в Meta* показал уязвимость новых ИИ-инструментов при работе с критическими данными. По мере масштабирования агентных систем количество подобных ошибок может расти, что усиливает требования к контролю и безопасности.

Контекст

В 2025 году российские компании передали в открытые ИИ-сервисы в 30 раз больше чувствительных данных, чем годом ранее. Ключевым источником утечек стали сами сотрудники: они активно используют ChatGPT и аналогичные сервисы для решения рабочих задач — анализа данных, подготовки саммари, автоматизации расчётов и написания кода. Для этого в нейросети загружаются презентации, стратегические документы, аналитические таблицы, финансовые отчёты и клиентские базы, зачастую без оценки возможных рисков.

Через ChatGPT проходит 46% всех файлов, которые сотрудники отправляют в ИИ-сервисы, что делает его крупнейшим каналом передачи корпоративной информации.

При этом около 60% российских организаций до сих пор не регулируют использование нейросетей сотрудниками, из-за чего персонал фактически становится одним из главных источников утечек данных.

*Meta признана экстремистской организацией и запрещена на территории РФ