Во вторник компания Musubi представила PolicyLM-1.7B — облегчённую модель для модерации контента в реальном времени, выпущенную с открытыми весами. Модель применяет политику контента, написанную простым английским языком, к сообщениям менее чем за 50 миллисекунд.
Идея состоит в том, чтобы взять политику контента, написанную на простом английском языке, и применить ее к сообщениям менее чем за 50 миллисекунд. Модель Musubi разработана для того, чтобы быть похожей по стоимости и скорости на системы классификаторов ИИ, которые обеспечивают модерацию на большинстве социальных платформ, но поскольку она обладает гибкостью современного LLM, она может применять сложные политики без специальной подготовки. Что еще более важно, модель не будет нуждаться в новой подготовке, когда политика изменится, что позволит людям, определяющим политику, повторять столько, сколько им нужно.
По мнению соучредителя Musubi и главного директора по ИИ Филипа Янковича, это дает менеджерам платформ возможность активно маркировать контент.
«Команды по продуктам просто хотят лучше понять, что происходит на их платформе, тем более, что количество контента экспоненциально увеличивается, — говорит Янкович. — Возможность маркировать все это очень масштабируемым, настраиваемым способом чрезвычайно полезна».
Что за модели принятия решений у TypeSafe AI?

Модели принятия решений стали горячей темой в мире искусственного интеллекта с момента выпуска TypeSafe AI Jev в сентябре, за которым вскоре последовали конкурирующие модели принятия решений от OpenAI и Amazon. Вместо того, чтобы выводить текст, модель решения выводит вероятности результата, хотя в этом случае модель выводит двоичное суждение: либо содержание находится в категории, либо нет. Ограничивая выход модели набором заранее определенных вариантов, модели принятия решений могут работать быстрее и дешевле, чем большие языковые модели, сохраняя при этом гибкость архитектуры трансформатора.
Одним из ранних примеров использования является обуздание плохого поведения агентов ИИ, поэтому вполне естественно применять ту же технологию к плохому поведению человека.
Откуда у Янковича интерес к таким моделям?
Примечательно, что Янкович говорит, что его интерес к моделям принятия решений предшествовал Джеву, прослеживая его до проекта 2024 года под названием GLiNER (Generalist Model for Named Entity Recognition), который использовал многие из тех же методов.
Тем не менее, Мусуби не опасается сравнения. Во всяком случае, компания стремится использовать новый интерес к моделям принятия решений, чтобы пролить свет на модерацию контента. «Если Джев попался вам на глаза, PolicyLM-1.7B — это та же модель, специально обученная модерации контента, которую вы можете запустить самостоятельно», — говорится в объявлении продукта.
Вопросы и ответы
Сколько времени нужно, чтобы PolicyLM-1.7B обработала сообщение?
Модель применяет политику контента к сообщениям менее чем за 50 миллисекунд. Это сопоставимо по скорости и стоимости с классификаторами, которые используют большинство социальных платформ для модерации.
Что произойдёт, если правила модерации изменятся?
Модель не потребует новой подготовки при изменении политики. Люди, определяющие политику, смогут повторять её столько раз, сколько нужно, поскольку PolicyLM-1.7B написана на простом английском языке.
Как связаны GLiNER и текущая работа Янковича?
Интерес Филипа Янковича к моделям принятия решений возник до Jev. Он прослеживает его до проекта 2024 года GLiNER (Generalist Model for Named Entity Recognition), который использовал многие из тех же методов, что и нынешняя разработка.











