Roblox, una de las plataformas de videojuegos más populares entre niños y adolescentes, ha intensificado su sistema de moderación automática de avatares con el objetivo de reducir contenido inapropiado y fortalecer la seguridad digital. La compañía informó que ahora cada modificación de avatar será analizada en tiempo real para detectar combinaciones que vulneren sus normas, incluso si los elementos individuales están permitidos.
Moderación en tiempo real para prevenir abusos
Según Roblox, en 2025 los usuarios realizaron en promedio 274 millones de actualizaciones de avatar por día, lo que generaba miles de combinaciones potencialmente problemáticas. Antes, muchos casos se detectaban solo tras reportes de otros jugadores, lo que retrasaba la acción. Con el nuevo sistema, cada vez que un usuario modifica su avatar, la plataforma escanea automáticamente ropa, accesorios y objetos equipados. Si la combinación infringe las políticas, el avatar se restablece a uno predeterminado y se notifica al jugador sobre la norma vulnerada.
La empresa sostiene que esta medida permitirá frenar representaciones sexualizadas o con referencias inapropiadas que, aunque armadas con piezas permitidas, podían resultar problemáticas en conjunto. Además, el sistema incluye la opción de que los usuarios reporten errores de moderación para que el algoritmo continúe mejorando.
Alianzas y estudios para un entorno digital más seguro
Como parte de su estrategia, Roblox también anunció alianzas con organizaciones como Prosocial Design Network, el Young and Resilient Research Centre de la Western Sydney University y PROJECT ROCKIT. Estas colaboraciones buscan impulsar estudios sobre comportamiento positivo y relaciones saludables en espacios digitales.
El informe “Diseñando para conexiones sociales positivas” reúne recomendaciones dirigidas a diseñadores tecnológicos y responsables de políticas públicas, con el fin de equilibrar innovación y seguridad en plataformas frecuentadas por menores. Roblox señala que la moderación automatizada, la cooperación con expertos y la educación digital forman parte de un enfoque integral para construir comunidades virtuales más seguras.
