¿Qué es Sentinel? La inteligencia artificial de Roblox, que protegerá a los niños de los depredadores

Roblox ha lanzando Sentinel, su inteligencia artificial que ayuda a detectar señales de posibles peligros para los niños.

Acá te compartimos qué es Sentinel, sus objetivos y cómo funciona.

¿Qué es Sentinel? La IA de Roblox contra el acoso

Sentinel es el nombre de un sistema de inteligencia artificial que Roblox implementó desde finales de 2024; ésta ayuda a detectar -de manera temprana- los peligros para los niños, como el acoso.

Este sistema, una vez identificado el problema, permitirá investigar y, cuando sea relevante, informar a las autoridades.

El propósito de esta inteligencia artificial es brindar seguridad y confianza para sus más de 111 millones de usuarios.

¿Cómo funciona Sentinel, la IA de Roblox?

Sentinel ejecuta todo el proceso de análisis casi en tiempo real, a gran escala, en más de 6 mil millones de mensajes de chat diarios en Roblox.

Con patrones y entrenamiento autosupervisado, se analizan de manera automática los mensajes con el único fin de identificar posibles daños, como la manipulación o posible peligro de menores.

Asimismo, se basaron en moderadores humanos para ayudar a encontrar evidencia de infracciones de la política.

Sentinel analiza mensajes que parecerían inofensivos, como “¿Qué tal?” o ¿De dónde eres?“; éstos clasificados como posible amenaza; ya que coinciden con patrones de posibles conversaciones de acoso.

Resultados de Sentinel han dado frutos durante el primer semestre de 2025

De acuerdo a un comunicado emitido por Roblox, durante el primer semestre de 2025, Sentinel ayudó a presentar aproximadamente mil 200 denuncias de posibles intentos de explotación infantil al Centro Nacional para Niños Desaparecidos y Explotados.

La comunidad de Roblox envía un promedio de 6.100 millones de mensajes de chat y genera 1,1 millones de horas de comunicación de voz en decenas de idiomas.

Esta comunicación refleja el mundo real, donde la gran mayoría son conversaciones cotidianas; sin embargo, un pequeño número busca causar daño.