Europol ha emitido una severa advertencia sobre los delincuentes que utilizan ChatGPT con fines nefastos.
La agencia europea de aplicación de la ley ha publicado un informe que detalla cómo los delincuentes están utilizando la tecnología naciente para el fraude, el delito cibernético e incluso el terrorismo.
«Ya se puede anticipar el impacto que este tipo de modelos podría tener en el trabajo de las fuerzas del orden», dice el informe. (se abre en una pestaña nueva) estados «Por lo general, los delincuentes explotan rápidamente las nuevas tecnologías y se les vio rápidamente con explotaciones criminales concretas, lo que brindó los primeros ejemplos prácticos apenas unas semanas después del lanzamiento público de ChatGPT».
Cuarta versión, mismos problemas
En las últimas semanas, OpenAI lanzó GPT-4, la cuarta iteración del chatbot impulsado por IA, que también es más poderoso en todos los sentidos de la palabra. También debería ser mejor para negarse a generar contenido potencialmente dañino, pero parece que los delincuentes pudieron sortear esos obstáculos con relativa facilidad.
“En algunos casos, las respuestas potencialmente dañinas de GPT-4 fueron aún más avanzadas. ChatGPT se destaca por proporcionar al usuario información lista para usar en respuesta a una amplia gama de indicaciones”, dice Europol.
Para los ciberdelincuentes, así como para aquellos que operan en el mundo físico, Chat-GPT es el educador perfecto, ya que reduce la barrera de entrada a muchos tipos diferentes de delitos. Lo están usando para aprender cómo ingresar a una casa, realizar actos terroristas, delitos cibernéticos, robo de identidad. (se abre en una pestaña nueva)e incluso abuso sexual infantil, dice la organización.
“Los casos de uso identificados que surgieron de los talleres que Europol llevó a cabo con sus expertos no son de ninguna manera exhaustivos. Más bien, el objetivo es dar una idea de cuán diversos y potencialmente peligrosos pueden ser los LLM como ChatGPT en manos de actores malintencionados”.
La pregunta más importante que surge de este informe es: ¿qué hay de nuevo? De todos modos, toda la información ya estaba disponible en Internet. Es cierto, dice Europol, pero la diferencia clave es que la herramienta proporciona «pasos específicos», ya que los delincuentes pueden hacer preguntas contextuales. Al final del día, con Chat-GPT, todo es significativamente más fácil.
Vía: El Registro (se abre en una pestaña nueva)