Hermano farmacéutico deshonrado convertido en cómplice criptográfico Martin Shkreli está girando hacia una nueva empresa: la IA médica. Shkreli dice que su nuevo chatbot médico llamado “Dr. Gupta” puede responder una amplia gama de preguntas médicas y algún día podría convertirse en un “reemplazo de toda la información de atención médica”.
Gizmodo probó al Dr. Gupta, y aunque definitivamente no parecía una tecnología revolucionaria por ningún tramo de la imaginación, hizo parecer una inevitable pesadilla ética y de privacidad.
Shkreli, quien salió de prisión el año pasado después de pasar siete años tras las rejas por fraude de valores, revelado su nueva herramienta de inteligencia artificial en Twitter esta semana. Durante un evento de Twitter Spaces atendido por Semafor, afirmó que su nuevo modelo de lenguaje grande se entrenó con datos extraídos de la web y revistas médicas en línea. Según los informes, la tecnología que impulsa la IA se basa en una versión modificada de El popular ChatGPT de OpenAI. Docenas de otras compañías en este punto, incluyendo Quebrar, ya han lanzado su propio tema o alternativas de IA centradas en la industria impulsadas por ChatGPT. En cuanto al nombre “Dr. Gupta”, que supuestamente fue elegido porque incluye las letras GPT. Sí, es tonto, pero también lo son la mayoría de los otros nombres para LLM hasta este punto.
“WebMD está básicamente muerto en el agua”, dijo Shkreli, según Semafor. No respondió de inmediato a una solicitud de comentarios.
¿Cómo funciona el Dr. Gupta de Shkreli?
El discurso del Dr. Gupta es bastante simple: pregúntele cualquier información o consejo médico y le dará una respuesta. Los usuarios pueden hacerle a Gupta hasta 5 preguntas gratuitas. Después de eso, deberán pagar una suscripción de $20 por mes para mantener el acceso. El sitio utiliza un chatbot que será familiar para cualquiera que haya jugado con un LLM, pero también tiene una lista desplegable de información médica donde los usuarios pueden enviar su edad, signos vitales y resultados de pruebas de laboratorio a cambio de «más sugerencias personalizadas e informativas.”
Gizmodo probó Dr. Gupta usando la versión de prueba gratuita. Como muchas personas en esta época del año, este escritor sufría de un caso particularmente desagradable de alergias estacionales. Después de explicar mis síntomas y pedirle consejo al Dr. Gupta, inmediatamente se me presentó una ventana emergente que decía: “Dr. Gupta NO ES un médico de verdad”. La alerta continuó diciendo que la herramienta estaba destinada a servir como una alternativa a un motor de búsqueda y «NO» estaba destinada a usos médicos o clínicos. Más abajo, la alerta decía que el Dr. Gupta “puede proporcionar respuestas potencialmente poco confiables”. Todo muy tranquilizador.
Después de unos 30 segundos, Gupta respondió con una respuesta estilo ChatGPT reconociendo cortésmente mi sufrimiento mocoso antes de recomendar algunos antihistamínicos y descongestionantes nasales básicos de venta libre. Gupta continuó diciendo que es «esencial» limpiar mi espacio vital con regularidad, lo que sin duda es bastante difícil. Continué preguntándole a Gupta si tenía alguna recomendación específica de antihistamínicos y me dijo que debería probar con Zyrtec o Claritin.
Cambiando de tema, le pregunté a Gupta si era seguro o no comer pollo que había estado abandonado en el refrigerador durante cuatro días. Gupta respondió diciendo que, en general, es seguro comer pollo que ha estado en el refrigerador hasta por cuatro días, pero me aconsejó que verificara si tenía olor desagradable, moho o baba. En general, Gupta funcionó según lo previsto en mis pruebas extremadamente limitadas, pero en realidad no parecía muy diferente de ChatGPT. En el primer caso de alergias. Llevó más tiempo encontrar esas respuestas básicas que buscar la misma pregunta en WebMD.
Pharma Bro salta de una tendencia tecnológica a otra
Era solo cuestión de tiempo antes de que alguien intentara modificar ChatGPT para obtener resultados médicos. Sin embargo, es un poco irónico, por decir lo menos, que la persona que lidera ese cargo sea un mercachifle farmacéutico caído en desgracia una vez. apodado “el hombre más odiado de Estados Unidos”. Shkreli se ganó ese apodo tan cacareado después de que su compañía farmacéutica en ese momento adquiriera los derechos de un medicamento para el tratamiento del Parkinson llamado Daraprim y rápidamente aumentó su precio en más del 5,000% de $ 13.50 por dosis a $ 750 por una píldora. Shkreli cabreado a la gente aún más al gastar $ 2 millones para adquirir una sola copia del disco Wu-Tang Clan de 2015.
Shkreli se convirtió en el símbolo de lo que muchos percibieron como una industria farmacéutica descontrolada y especulativa, sin embargo, su arresto en 2017 y la posterior prisión de siete años en realidad provinieron de cargos de fraude de valores no relacionados. El año pasado, un juez federal finalmente determinado De hecho, Shkreli había violado las normas antimonopolio cuando intentó mantener el monopolio de Daraprim. Shkreli se vio obligado a pagar 64,6 millones de dólares y se le prohibió vivir en la industria farmacéutica.
Desde entonces, Shkreli trató de reinventarse brevemente, como muchos lo hacencomo Crypto Bro al comenzar como una droga, una empresa que dice querer democratizar los costos del descubrimiento de fármacos a través de la computación descentralizada. Sin embargo, a menos de un año de salir de la cárcel, Shkreli ya está nuevamente en el punto de mira de los reguladores y la FTC le pidió recientemente a un juez federal que detuviera a Pharma Bro. desacato al tribunal por no darles la información que necesitaban para determinar si realmente estaba volviendo a la industria médica. Los viejos hábitos, al parecer, son difíciles de romper.
El Sr. Gupta podría enfrentar el escrutinio regulatorio
Para decirlo suavemente, hay muchos problemas potenciales con la nueva aventura de IA de Pharma Bro. Para empezar, es difícil ver cómo el lanzamiento de una herramienta de inteligencia artificial que brinda asesoramiento médico y recomienda ciertos medicamentos no violaría la prohibición de la industria farmacéutica de Shkreli. Luego está el tema de la precisión. Descargo de responsabilidad o no, el Dr. Gupta podría encontrarse rápidamente con algunos problemas reales al recomendar a sus usuarios información falsa o dañina. Los modelos de idiomas grandes, incluido ChatGPT, son bien conocidos por “alucinar” o básicamente inventar respuestas a preguntas que podrían no tener una base real de hecho. Eso es molesto cuando le pides que cree un cóctel, pero es potencialmente mortal si le pides que te informe sobre una dosis médica. Sin embargo, las preocupaciones sobre la precisión médica de Gupta no parecían molestar a Shkreli.
“¿Cómo evitas que un médico haga lo mismo?” dijo en Twitter.
Luego está el problema de toda esa información médica confidencial que el Dr. Gupta potencialmente está engullendo cada vez que un usuario envía una consulta. La Ley de Portabilidad y Responsabilidad de Seguros Médicos (HIPAA) y otras protecciones reglamentarias imponen normas más estrictas sobre cómo las empresas pueden usar y compartir datos de salud. Esas restricciones podrían parecer minas terrestres. Gupta tendrá que luchar constantemente para bailar. Shkreli resumió su pensamiento sobre esas preocupaciones en una respuesta a un usuario en Twitter.
“Lea los términos”, dijo Shkreli. “¡Si no quieres usarlo, no lo uses!”