За первые полгода 2026-го Meta удалила 33,2 миллиона единиц контента, связанного с сексуальной эксплуатацией детей на Facebook и Instagram. 97% из них система нашла сама, до того как кто-то успел пожаловаться. В Индии цифры схожие: 5,3 млн единиц контента, 98% выявлено проактивно. Аплодировать тут нечему — масштаб проблемы пугает сам по себе, — но цифры показывают, что автоматическое обнаружение работает быстрее человеческих жалоб.
Новая угроза, с которой теперь борется компания, хитрее прежней: объявления, которые выглядят совершенно безобидно, но ведут на сторонние сайты с запрещённым контентом. Meta называет это «signposting» — своего рода цифровые указатели, замаскированные под обычную рекламу. Чтобы их ловить, компания развернула новую языковую модель, которая анализирует не только содержание объявления, но и то, куда оно фактически приводит пользователя. Если место назначения нарушает правила — блокируется не только ссылка, но и аккаунт, который её разместил.
Ещё один инструмент — red-teaming AI agent, цифровая «красная команда», которая сама ищет дыры в защитных системах Meta, пытаясь обойти их раньше, чем это сделают настоящие злоумышленники. Параллельно компания учится распознавать пользователей, которые возвращаются на платформу под новыми аккаунтами после банов.
Контекст здесь имеет значение. В августе Meta согласилась выплатить до $18 млрд по иску 29 штатов США из-за вреда, который социальные сети наносят детям. Новые AI-инструменты — часть более широкой программы, куда в этом году уже вошли родительский контроль в Meta AI, подростковые аккаунты с привязкой к родителям в WhatsApp и уведомления родителям при поиске подростками контента о самоповреждении в Instagram. Остаётся открытым вопрос, насколько быстро обновляемые схемы обхода защиты будут опережать способность компании их выявлять — игра в кошки-мышки здесь идёт без права на паузу.
Во что углубиться:
- Иск 29 штатов против Meta на $18 млрд: за что именно компанию привлекли к ответственности
- Как работают red-team практики в AI-безопасности крупных платформ
- Родительский контроль в WhatsApp и Instagram: что реально могут видеть и ограничивать родители в 2026 году
