Roblox научился «смягчать» чат: ИИ переписывает грубые сообщения на лету
Платформа Roblox внедрила новую систему модерации чата на базе искусственного интеллекта. Вместо обычной фильтрации запрещённых слов алгоритм теперь переписывает сообщения игроков прямо во время отправки, заменяя грубые или агрессивные фразы на более нейтральные.
Система сохраняет общий смысл сообщения, но убирает ненормативную лексику и резкие выражения. Например, фраза «Hurry TF up!» автоматически преобразуется в «Hurry up!». При этом участники чата получают уведомление о том, что текст был изменён системой ради поддержания вежливого общения.
Функция работает в чатах между пользователями, прошедшими возрастную проверку и находящимися в близких возрастных категориях. Нововведение стало частью политики по усилению безопасности на платформе: ранее сервис ввёл обязательное подтверждение возраста для доступа к общению.
Также были пересмотрены правила взаимодействия между разными возрастными группами. Теперь игроки 9-12 лет могут общаться с пользователями 13-15 лет, однако их сообщения проходят дополнительную обработку и модерацию, чтобы снизить риск токсичного общения.
Новая система призвана сделать чаты более дружелюбными и безопасными, особенно для младших игроков.