\n<\/p>\n
ha sido uno de los temas m\u00e1s espinosos en Internet durante d\u00e9cadas. Es un tema dif\u00edcil de abordar para cualquier persona, teniendo en cuenta la subjetividad que va de la mano con la determinaci\u00f3n de qu\u00e9 contenido deber\u00eda estar permitido en una plataforma determinada. maker cree que puede ayudar y ha estado poniendo a prueba las habilidades de moderaci\u00f3n de contenido. Est\u00e1 utilizando el gran modelo multimodal \u00abpara construir un sistema de moderaci\u00f3n de contenido que sea escalable, consistente y personalizable\u00bb.<\/p>\n
La compa\u00f1\u00eda que GPT-4 no solo puede ayudar a tomar decisiones de moderaci\u00f3n de contenido, sino que tambi\u00e9n puede ayudar a desarrollar pol\u00edticas e iterar r\u00e1pidamente los cambios de pol\u00edticas, \u00abreduciendo el ciclo de meses a horas\u00bb. Afirma que el modelo puede analizar las diversas regulaciones y matices en las pol\u00edticas de contenido y adaptarse instant\u00e1neamente a cualquier actualizaci\u00f3n. Esto, afirma OpenAI, da como resultado un etiquetado de contenido m\u00e1s consistente.<\/p>\n
<\/p>\n \u00abCreemos que esto ofrece una visi\u00f3n m\u00e1s positiva del futuro de las plataformas digitales, donde la IA puede ayudar a moderar el tr\u00e1fico en l\u00ednea de acuerdo con la pol\u00edtica espec\u00edfica de la plataforma y aliviar la carga mental de una gran cantidad de moderadores humanos\u00bb, Lilian Weng, Vik Goel y OpenAI de OpenAI. Andrea Vallone escribi\u00f3. \u00abCualquier persona con acceso a la API de OpenAI puede implementar este enfoque para crear su propio sistema de moderaci\u00f3n asistido por IA\u00bb. OpenAI afirma que las herramientas de moderaci\u00f3n GPT-4 pueden ayudar a las empresas a realizar alrededor de seis meses de trabajo en aproximadamente un d\u00eda.<\/p>\n Est\u00e1 bien documentado que la revisi\u00f3n manual de contenido traum\u00e1tico puede tener un impacto significativo en la salud mental de los moderadores humanos, particularmente cuando se trata de material gr\u00e1fico. En 2020, Meta pagar\u00e1 a m\u00e1s de 11,000 moderadores al menos $1,000 cada uno en compensaci\u00f3n por problemas de salud mental que puedan haberse derivado de revisar material publicado en Facebook.<\/p>\n El uso de IA para aliviar parte de la carga de los revisores humanos podr\u00eda ser muy beneficioso. Meta, por su parte, ha estado empleando IA durante varios a\u00f1os. Sin embargo, OpenAI dice que, hasta ahora, los moderadores humanos han recibido ayuda de \u00abmodelos de aprendizaje autom\u00e1tico espec\u00edficos verticales m\u00e1s peque\u00f1os. El proceso es inherentemente lento y puede generar estr\u00e9s mental en los moderadores humanos\u00bb.<\/p>\n Los modelos de IA est\u00e1n lejos de ser perfectos. Las principales empresas llevan mucho tiempo utilizando la IA en sus procesos de moderaci\u00f3n y, con o sin la ayuda de la tecnolog\u00eda, . Queda por ver si el sistema de OpenAI puede evitar muchas de las principales trampas de moderaci\u00f3n en las que hemos visto caer a otras empresas a lo largo de los a\u00f1os.<\/p>\n En cualquier caso, OpenAI est\u00e1 de acuerdo en que los humanos a\u00fan deben involucrarse en el proceso. \u201cSeguimos teniendo revisi\u00f3n humana para verificar algunos de los juicios modelo\u201d, dijo Vallone, que trabaja en el equipo de pol\u00edticas de OpenAI. <\/em>.<\/p>\n \u00abLos juicios por modelos de lenguaje son vulnerables a sesgos no deseados que podr\u00edan haberse introducido en el modelo durante el entrenamiento. Al igual que con cualquier aplicaci\u00f3n de IA, los resultados y la salida deber\u00e1n monitorearse, validarse y refinarse cuidadosamente manteniendo a los humanos al tanto\u00bb, el blog de OpenAI. la publicaci\u00f3n lee. \u00abAl reducir la participaci\u00f3n humana en algunas partes del proceso de moderaci\u00f3n que pueden ser manejadas por modelos de lenguaje, los recursos humanos pueden enfocarse m\u00e1s en abordar los casos complejos m\u00e1s necesarios para el refinamiento de pol\u00edticas\u00bb.<\/p>\n<\/div>\n