Пока одни решают, как пускать агентов на сайты, другие думают, как быстро и дёшево разбирать миллионы сообщений, которые эти же платформы генерируют ежедневно. Компания Musubi предложила свой ответ: модель PolicyLM-1.7B, созданную специально для модерации контента в реальном времени.
Идея простая: берёте правило платформы, написанное обычным человеческим языком, и модель применяет его к сообщению меньше чем за 50 миллисекунд, без переобучения, без привлечения инженеров. Поменялась политика: просто переписали текст правила, модель тут же начинает судить по-новому. Для соцсетей, где контента становится экспоненциально больше, а правила меняются постоянно, это снимает главную головную боль: раньше под каждое изменение политики нужно было заново тренировать классификатор.
PolicyLM: часть более широкого тренда на так называемые decision models, модели решений. Обычные языковые модели генерируют текст, а decision model выдаёт вероятность исхода, по сути, бинарный вердикт: подходит контент под категорию или нет. Урезанный набор возможных ответов позволяет такой модели работать в разы быстрее и дешевле полноценной LLM, при этом сохраняя гибкость трансформерной архитектуры. Тренд набрал обороты после сентябрьского релиза модели Jev от TypeSafe AI, следом свои версии показали OpenAI и Amazon. Musubi выпустила PolicyLM с открытыми весами: скачать и запустить может кто угодно.
Интерес к decision models у Musubi появился задолго до Jev: сооснователь компании Филип Янкович прослеживает идею к проекту GLiNER 2024 года, посвящённому распознаванию именованных сущностей. Сейчас команда открыто признаёт параллель с Jev и даже использует её в маркетинге: мол, если вас впечатлила та модель, вот её аналог, заточенный именно под модерацию.
Смысл здесь шире, чем просто технический трюк. Модерация соцсетей годами была узким местом, либо дорогие люди-модераторы, либо грубые классификаторы, которые приходится переобучать при каждом изменении правил. Модель, понимающая правила на лету из простого текста, меняет экономику всей задачи. Вопрос в том, насколько надёжно она справится с нюансами: сарказмом, культурным контекстом, попытками обойти фильтр перефразировкой. Это покажет только практика на реальных платформах.
Нужен агент под ваши процессы? Разработка AI-агентов под ключ: от аудита до запуска за 3-6 недель.
