Una nueva investigación realizada por un grupo de investigadores afiliados a Stanford ha descubierto que las herramientas de IA que generan código, como Github Copilot, pueden presentar más riesgos de seguridad de lo que muchos usuarios pueden darse cuenta.
El estudio analizó específicamente Codex, un producto de OpenAI, del cual Elon Musk se encuentra entre los cofundadores.
Codex impulsa la plataforma GitHub Copilot, propiedad de Microsoft, que está diseñada para hacer que la codificación sea más fácil y accesible al traducir el lenguaje natural en código y sugerir cambios basados en evidencia contextual.
Problemas de codificación de IA
El coautor principal del estudio, Neil Perry, explica que «los sistemas de generación de código actualmente no reemplazan a los desarrolladores humanos».
El estudio pidió a 47 desarrolladores de diferentes habilidades que usaran Codex para problemas relacionados con la seguridad, utilizando los lenguajes de programación Python, JavaScript y C. Llegó a la conclusión de que los participantes que confiaron en Codex tenían más probabilidades de escribir código inseguro en comparación con un grupo de control.
Perry explicó: “Los desarrolladores que utilizan [coding tools] para completar tareas fuera de sus propias áreas de especialización, y aquellos que los utilizan para acelerar tareas en las que ya son expertos deben verificar cuidadosamente los resultados y el contexto en el que se utilizan en el proyecto general”.
Esta no es la primera vez que las herramientas de codificación impulsadas por IA están bajo escrutinio. De hecho, una de las soluciones de GitHub para mejorar la calidad del código en Copilot hizo que la empresa propiedad de Microsoft se enfrentara a acciones legales por no atribuir el trabajo de otros desarrolladores. El resultado fue una demanda de $9 mil millones por 3,6 millones de infracciones individuales de la Sección 1202.
Por ahora, las herramientas de generación de código impulsadas por IA se consideran mejor como una mano amiga que puede acelerar la programación en lugar de un reemplazo total, sin embargo, si el desarrollo en los últimos años es algo a seguir, es posible que pronto reemplacen codificación tradicional.
Vía TechCrunch (se abre en una pestaña nueva)