escritores de IA y los chatbots han tenido un gran éxito en los últimos meses luego del auge iniciado por ChatGPT desde su lanzamiento en noviembre de 2022.
Con su última encarnación ahora sobre nosotros – el multi-modal GPT-4 modelo, capaz de manejar medios como imágenes: los modelos de lenguaje extenso (LLM) han estado mejorando la eficiencia de los trabajadores y aprovechando la creatividad, pero no están exentos de riesgos.
Con ese fin, el Centro Nacional de Seguridad Cibernética (NCSC) del Reino Unido ha emitido una advertencia general en un entrada en el blog (se abre en una pestaña nueva), exponer algunos de los riesgos asociados a la ciberseguridad de los LLM.
Peligros de ChatGPT
Los directores técnicos y autores David C y Paul J comienzan desacreditando algunos mitos: por ejemplo, una creciente preocupación de que ChatGPT y herramientas similares aprendan y almacenen la información que les proporcionan los usuarios finales. Esto no es cierto, con entrenamiento realizado en un ambiente controlado por los creadores de tales modelos.
Sin embargo, la información sobre las consultas se envía a las empresas relevantes, lo que significa que OpenAI, la empresa detrás de ChatGPT, podrá determinar el tipo de preguntas que hacen los usuarios para mejorar sus servicios. Por esta razón, el NCSC recomienda no compartir información personal o confidencial en ningún lugar en línea, incluso con chatbots.
Fuera del ámbito de los usuarios cotidianos, los autores también señalan el uso por parte de actores maliciosos que pueden llevar a cabo ataques cibernéticos más allá de su alcance habitual, lo que sugiere que corremos un mayor riesgo de ataques más sofisticados.
A medida que crece el interés por la inteligencia artificial, también crece el escepticismo sobre la tecnología de punta. Recientemente, Bloomberg (se abre en una pestaña nueva) informó que el gigante bancario JP Morgan había introducido restricciones contra el uso de ChatGPT por parte del personal debido al temor de tener que confiar un software externo. Los establecimientos educativos de todo el mundo también han impuesto restricciones sobre su uso en actos de deshonestidad académica.