El concepto de inteligencia artificial no es nada nuevo. De hecho, es muy probable que haya usado algo que dependa de la IA en las últimas 24 horas. Pero cuando OpenAI lanzó ChatGPT la semana pasada, redujo los requisitos de entrada para usar IA.
ChatGPT es un chatbot al que se puede acceder a través de cualquier navegador web. Está diseñado para interactuar con el uso de un lenguaje natural que se siente como una conversación.
La infraestructura de supercomputación Azure AI de Microsoft se utiliza para entrenar los modelos GPT-3.5 que impulsan ChatGPT. OpenAI y Microsoft anunció una asociación en 2019, que incluyó una inversión de $ 1 mil millones de Microsoft y OpenAI utilizando exclusivamente Azure como su proveedor de nube.
Con ChatGPT en vista previa, tenemos ejemplos del mundo real de cómo la gente común usará la IA, y eso es a la vez inspirador y aterrador. Esta semana, BleepingComputer ha compartido algunos ejemplos del mejor y el peor cosas que se pueden hacer con ChatGPT. Los siguientes ejemplos fueron compartidos por BleepingComputer e ilustran el alcance de la nueva herramienta de chat de IA.
Usar la IA para el bien
Como cualquier herramienta, ChatGPT se puede usar para el bien, el mal y cualquier otra cosa. OpenAI diseñó ChatGPT para poder depurar código y parece hacerlo muy bien. Incluso sugirió una solución y explicó por qué se necesitaba esa solución en el primer ejemplo a continuación. ChatGPT también puede detectar vulnerabilidades de seguridad.
ChatGPT podría ser un buen compañero de depuración; no solo explica el error, sino que lo soluciona y explica la solución ? pic.twitter.com/5x9n66pVqj30 de noviembre de 2022
De ninguna manera ?, OpenAI puede detectar vulnerabilidades XSS en muestras de código. pic.twitter.com/Ti8x91nxSY1 de diciembre de 2022
La IA no se trata solo de codificar y hacer el trabajo. El experto en seguridad Ken Westin jugó con la capacidad de ChatGPT para escribir mientras se hace pasar por el estilo de una persona.
La desventaja de la IA
Por supuesto, hay aspectos negativos y peligrosos de la inteligencia artificial. El presidente de Microsoft, Brad Smith, ha discutido a menudo la necesidad de regular y legislar la IA. Su argumento parece tener mérito después de ver algunos ejemplos del lado más oscuro de ChatGPT.
El poder de que la IA sea tan accesible abre varias latas de gusanos. Por ejemplo, los estafadores pueden usar IA para crear correos electrónicos de phishing convincentes. Con las mismas herramientas que se pueden usar para crear software beneficioso, ChatGPT se puede usar para escribir malware.
AI también tiene un problema con el sesgo. El sexismo, el racismo y otros tipos de intolerancia se pueden trabajar en modelos de IA.
Sí, ChatGPT es asombroso e impresionante. No, @OpenAI no se ha acercado a abordar el problema del sesgo. Los filtros parecen pasarse por alto con trucos simples y enmascarados superficialmente. Y lo que está al acecho en el interior es atroz. @Abebab @samatw racismo, sexismo. pic.twitter.com/V4fw1fY9dY4 de diciembre de 2022
OpenAI es abierto sobre algunos de los problemas relacionados con el sesgo. «Si bien nos hemos esforzado para que el modelo rechace solicitudes inapropiadas, a veces responderá a instrucciones dañinas o exhibirá un comportamiento sesgado». explicó OpenAI.
«Estamos usando el API de moderación para advertir o bloquear ciertos tipos de contenido no seguro, pero esperamos que tenga algunos falsos negativos y positivos por ahora. Estamos ansiosos por recopilar comentarios de los usuarios para ayudar en nuestro trabajo continuo para mejorar este sistema».
ChatGPT también puede generar respuestas ofensivas, hirientes o engañosas. Estos pueden variar desde respuestas al estilo de Ultrón acerca de que los humanos son inferiores y desean la extinción de la raza humana hasta escribir letras de canciones ofensivas.
Estas situaciones requieren intervención humana, por supuesto, pero las poderosas herramientas proporcionadas por ChatGPT hacen que ciertas cosas sean más fáciles de crear. El usuario de Twitter Front Runner compartió un ejemplo de un ensayo escrito por ChatGPT que presenta un argumento inmoral (advertencia de contenido sensible).
Una industria que se mueve rápidamente
La IA se mueve tan rápido, si no más, que cualquier otra industria. La tecnología en el espacio mejora a un ritmo asombroso, posiblemente más rápido de lo que la legislación o la moderación pueden manejar. La semana que siguió al lanzamiento de ChatGPT ilustra la amplia gama de tareas para las que se puede utilizar la IA.
Asegurar el futuro de la IA requerirá que quienes están detrás de la tecnología creen herramientas para mantener las cosas bajo control, así como la restricción por parte de las personas que utilizan la inteligencia artificial.