UnitedHealthcare, la compañía de seguros de salud más grande de EE. UU., supuestamente está utilizando un algoritmo de inteligencia artificial profundamente defectuoso para anular los juicios de los médicos y negar injustamente cobertura de salud crítica a pacientes de edad avanzada. Esto ha resultado en que los pacientes sean expulsados de los programas de rehabilitación y centros de atención demasiado pronto, obligándolos a agotar los ahorros de toda su vida para obtener la atención necesaria que debería estar cubierta por su plan Medicare Advantage financiado por el gobierno.
Todo eso es según una demanda presentada esta semana en el Tribunal de Distrito de los Estados Unidos para el Distrito de Minnesota. La demanda es presentada por los patrimonios de dos personas fallecidas a quienes UnitedHealth les negó la cobertura médica. La demanda también busca el estatus de demanda colectiva para personas en situaciones similares, de las cuales puede haber decenas de miles en todo el país.
La demanda coincide con una investigación de Stat News que respalda en gran medida las afirmaciones de la demanda. Los hallazgos de la investigación surgen de documentos internos y comunicaciones que obtuvo el medio, así como de entrevistas con ex empleados de NaviHealth, la subsidiaria de UnitedHealth que desarrolló el algoritmo de inteligencia artificial llamado nH Predict.
«Al final de mi tiempo en NaviHealth me di cuenta: no soy una defensora, solo soy una fuente de ingresos para esta empresa», dijo a Stat Amber Lynch, terapeuta ocupacional y exadministradora de casos de NaviHealth. «Se trata de dinero y datos», añadió. «Le quita la dignidad al paciente, y eso lo odié».
Negaciones basadas en IA
Según la demanda, UnitedHealth comenzó a utilizar nH Predict al menos en noviembre de 2019 y todavía está en uso. El algoritmo estima cuánta atención posaguda necesitará un paciente con un plan Medicare Advantage después de una lesión, enfermedad o evento agudo, como una caída o un derrame cerebral. La atención posaguda puede incluir cosas como terapia y atención especializada de agencias de atención médica domiciliaria, hogares de ancianos especializados y centros de rehabilitación para pacientes hospitalizados.
No está claro cómo funciona exactamente nH Predict, pero supuestamente estima la atención post-aguda extrayendo información de una base de datos que contiene casos médicos de 6 millones de pacientes. Los administradores de casos de NaviHealth ingresan cierta información sobre un paciente determinado (incluida la edad, la situación de vida y las funciones físicas) y el algoritmo de IA genera estimaciones basadas en pacientes similares en la base de datos. El algoritmo estima las necesidades médicas, la duración de la estancia hospitalaria y la fecha de alta.
Pero Lynch señaló a Stat que el algoritmo no tiene en cuenta muchos factores relevantes en la salud y el tiempo de recuperación de un paciente, incluidas las comorbilidades y las cosas que ocurren durante las estadías, como si desarrollan neumonía mientras están en el hospital o contraen COVID-19 en una enfermería. hogar.
Según la investigación de Stat y la demanda, las estimaciones suelen ser draconianas. Por ejemplo, en un plan Medicare Advantage, los pacientes que permanecen en un hospital durante tres días generalmente tienen derecho a hasta 100 días de atención cubierta en un hogar de ancianos. Pero con nH Predict, los pacientes rara vez permanecen en hogares de ancianos durante más de 14 días antes de recibir una denegación de pago por parte de UnitedHealth.
Cuando los pacientes o sus médicos solicitaron ver los informes de nH Predict, UnitedHealth negó sus solicitudes, diciéndoles que la información es privada, según la demanda. Y, cuando los médicos que prescriben no están de acuerdo con la determinación de UnitedHealth sobre cuánta atención posaguda necesitan sus pacientes, sus juicios quedan anulados.
Fallos favorables
El uso de IA defectuosa no es nuevo para la industria del cuidado de la salud. Si bien los chatbots de IA y los generadores de imágenes actualmente acaparan los titulares y causan alarma, la industria de la atención médica en los EE. UU. tiene un historial más largo de uso problemático de la IA, incluido el establecimiento de sesgos raciales algorítmicos en la atención al paciente. Pero lo que distingue a esta situación es que las estimaciones dudosas que escupe nH Predict parecen ser una característica, no un error, de UnitedHealth.
Desde que UnitedHealth adquirió NaviHealth en 2020, los exempleados dijeron a Stat que el enfoque de la compañía pasó de la defensa del paciente a las métricas de desempeño y a mantener la atención posaguda lo más breve y sencilla posible. Varias declaraciones de ejecutivos de UnitedHealth se hicieron eco de este cambio, señaló Stat. En particular, el ejecutivo de UnitedHealth que supervisa NaviHealth, Patrick Conway, fue citado en un podcast de la compañía diciendo: «Si [people] van a un asilo de ancianos, ¿cómo los sacamos lo antes posible?»