За первые полгода 2026-го Meta удалила 33,2 миллиона единиц контента, связанного с сексуальной эксплуатацией детей на Facebook и Instagram. 97% из них система нашла сама, до того как кто-то успел пожаловаться. В Индии цифры схожие: 5,3 млн единиц контента, 98% выявлено проактивно. Аплодировать тут нечему: масштаб проблемы пугает сам по себе, но цифры показывают, что автоматическое обнаружение работает быстрее человеческих жалоб.
Новая угроза, с которой теперь борется компания, хитрее прежней: объявления, которые выглядят совершенно безобидно, но ведут на сторонние сайты с запрещённым контентом. Meta называет это «signposting»: своего рода цифровые указатели, замаскированные под обычную рекламу. Чтобы их ловить, компания развернула новую языковую модель, которая анализирует не только содержание объявления, но и то, куда оно фактически приводит пользователя. Если место назначения нарушает правила: блокируется не только ссылка, но и аккаунт, который её разместил.
Ещё один инструмент: red-teaming AI agent, цифровая «красная команда», которая сама ищет дыры в защитных системах Meta, пытаясь обойти их раньше, чем это сделают настоящие злоумышленники. Параллельно компания учится распознавать пользователей, которые возвращаются на платформу под новыми аккаунтами после банов.
Контекст здесь имеет значение. В августе Meta согласилась выплатить до $18 млрд по иску 29 штатов США из-за вреда, который социальные сети наносят детям. Новые AI-инструменты: часть более широкой программы, куда в этом году уже вошли родительский контроль в Meta AI, подростковые аккаунты с привязкой к родителям в WhatsApp и уведомления родителям при поиске подростками контента о самоповреждении в Instagram. Остаётся открытым вопрос, насколько быстро обновляемые схемы обхода защиты будут опережать способность компании их выявлять: игра в кошки-мышки здесь идёт без права на паузу.
Хотите такого помощника у себя? Заказать разработку AI-агента можно у нас.
