Robloxel juego en línea que es enormemente popular entre los niños, enfrenta los crecientes dolores de la moderación a medida que implementa bots artificialmente inteligentes para barrer la plataforma en busca de contenido desagradable.
Si no conoces Roblox, estoy seguro de que un niño en tu vida sí lo sabe. El atractivo del mundo en línea es doble: los usuarios pueden explorar un mundo abierto y crear sus propios juegos dentro de Roblox. Roblox experimentó un crecimiento constante desde su lanzamiento en 2006, pero la popularidad se disparó cuando la plataforma se convirtió en un elemento básico en la cultura de los memes de 2010, así como en una importante fuente de entretenimiento para los niños durante la pandemia de covid-19. Como puede imaginar, una plataforma tan grande con una audiencia tan impresionable seguramente verá algunos malos actores, y el científico jefe de Roblox, Morgan McGuire, ha expresado los obstáculos de la compañía. en la moderación de la plataforma.
«Es un gran desafío moderar 3D», dijo McGuire ayer en la conferencia Momentum de Reuters en Austin, Texas, mientras citado por Reuters. “Esto es más como cerrar los bares clandestinos”.
Roblox está utilizando bots para patrullar el juego en busca de cualquier contenido que considere inapropiado o controvertido, específicamente monitoreando cualquier contenido y juegos generados por el usuario. McGuire continuó explicando que la compañía puede eliminar este contenido desagradable en unos minutos gracias al software de inteligencia artificial de la compañía, así como a los moderadores humanos, y dijo que lo que se escapa no es «terriblemente malo».
Una demanda reciente, sin embargo, puede comenzar a diferir. La demanda fue presentada en California por demandantes anónimos, quienes alegan que la plataforma permitió que un hombre adulto se conectara con una niña (que ahora tiene 13 años, según la demanda). Luego, el hombre la persuadió para que descargara Discord y Snapchat, donde supuestamente la convenció de beber alcohol y tomar medicamentos recetados mientras le presentaba a otros hombres adultos. McGuire no ofreció comentarios durante la conferencia sobre el papel de Roblox en la demanda.