27 de junio de 2024
Cómo un plan de salud sin fines de lucro trabaja para eliminar los prejuicios de la IA
Para garantizar que los miembros reciban la atención que necesitan, los investigadores analizan sus algoritmos para detectar desigualdades
El plan de salud más importante de Massachusetts está tomando medidas de avanzada para evitar potenciales prejuicios en la inteligencia artificial y para garantizar que el uso de la tecnología optimice el acceso a la atención por parte de los pacientes.
"En un mundo de desigualdad, no podemos tomar la información al pie de la letra", dice la Dra. Deborah Peikes, vicepresidente de medición y evaluación en Blue Cross Blue Shield of Massachusetts. "Debemos tener una perspectiva más integral y familiarizarnos con los datos que incorporamos a nuestros modelos porque pueden generarse consecuencias no deseadas que empeoren las desigualdades en la atención".
Cómo enfrentarse al desafío
La inteligencia artificial, también denominada IA, se utiliza en muchas áreas, entre ellas, la atención médica, y en este campo ofrece la posibilidad de brindar una atención mucho más sofisticada y personalizada. La IA utiliza sistemas informáticos, o "algoritmos", para analizar y aprender a partir de grandes cantidades de datos, y se vuelve "más inteligente" mientras lo hace, al igual que los humanos.
Sin embargo, las investigaciones han demostrado que los algoritmos pueden fomentar los prejuicios porque se nutren de información que refleja desigualdades raciales o de otro tipo.
Por ejemplo, un estudio clave llevado a cabo en 2019 demostró que un algoritmo utilizado en el sistema de un importante hospital indicó que los pacientes afroamericanos requerían menos atención de seguimiento.
El modelo había sido diseñado para evaluar la cantidad de dinero que se gastaba en cada uno de los pacientes registrados en el sistema del hospital y para calificar a los pacientes cuya atención generaba un alto costo como pacientes de "alto riesgo", con una potencial necesidad de atención de seguimiento.
Sin embargo, según lo que este estudio identificó, la información fue desvirtuada por desigualdades estructurales del sistema de atención médica: "La desigualdad en el acceso a la atención médica implica que gastamos menos dinero en la salud de los afroamericanos que en la de los blancos. En consecuencia, el algoritmo llegó a la falaz conclusión de que los pacientes afroamericanos tienen un mejor estado de salud que las personas blancas con las mismas enfermedades".
"El estudio nos llevó a comprender que, aunque ciertos sectores de la población hagan un menor uso de la atención médica, no significa que tengan menos necesidades o estén menos enfermos", dice Peikes. "También nos sirvió como catalizador para que la comunidad dedicada a la atención médica examinara continuamente nuestros algoritmos".
En este caso particular, los investigadores descubrieron que las desigualdades podían eliminarse modificando el algoritmo de tal manera que evaluara la complejidad y gravedad de las enfermedades de los pacientes, no el costo de la atención médica que recibían.
Búsqueda de soluciones
Blue Cross utiliza la IA para brindar a los pacientes un mayor acceso a la atención médica, lo cual se evidencia en medidas como hacer recomendaciones personalizadas para consultas con médicos de atención primaria y especialistas en salud mental, combatir el fraude en el ámbito de la atención médica y garantizar a los miembros vulnerables el apoyo que necesitan.
"Al igual que las demás organizaciones de atención médica, sabemos que en ocasiones, los modelos generados por computadora pueden arrojar resultados no deseados, incluso prejuiciosos", dice el Dr. Mark Friedberg, internista y vicepresidenta sénior de medición y mejora de desempeño en Blue Cross.
El plan de salud sin fines de lucro hace "audiciones sobre equidad" de manera regular en todos sus programas impulsados por la inteligencia artificial, a fin de corroborar que estos modelos estén fomentando una atención equitativa entre sus casi 3 millones de miembros, independientemente de su raza u origen étnico.
Nuestro objetivo es usar toda la información a la que tenemos acceso para ofrecer a nuestros miembros una experiencia excepcional y para ayudarles a gozar de una salud plena. Sabemos que la información puede estar influenciada por prejuicios, por lo que trabajamos arduamente para detectar en nuestros modelos la mayor cantidad posible de prejuicios y eliminarlos.
- Himanshu Arora, director de datos y analítica de Blue Cross
Por ejemplo, indica Friedberg, un modelo puede indicar que los pacientes blancos están más enfermos que los pacientes afroamericanos e hispanos porque los pacientes blancos hacen un mayor uso de la atención médica, en promedio.
"Durante muchos años, hemos hecho evaluaciones regulares de nuestros modelos para verificar que los miembros afroamericanos e hispanos no se vieran perjudicados", dice.
El plan de salud presta particular atención a los algoritmos que identifican a los miembros que podrían beneficiarse con los programas orientados a brindar asistencia con afecciones como la diabetes, la enfermedad renal y las cardiopatías.
Por ejemplo, el plan compara regularmente el porcentaje de miembros afroamericanos e hispanos que sus algoritmos eligen para programas cardiovasculares con el porcentaje general de afroamericanos e hispanoamericanos que tienen enfermedades cardiovasculares para garantizar que los algoritmos no eliminen del conteo a estos miembros. Si el equipo identifica un problema, actúa rápidamente para solucionar cualquier disparidad.
Un mayor esfuerzo
La detección de prejuicios en sus algoritmos, junto con su eliminación, es uno de los recursos de Blue Cross para eliminar las desigualdades en la atención médica.
El plan de salud recopila información sobre raza, origen étnico e idioma de sus miembros y la usa para publicar un Informe sobre equidad en la salud anualmente. También ha otorgado subsidios por $25 millones a grupos de proveedores grandes y pequeños para que fomenten la inversión en equidad en la salud, y ha firmado contratos sin precedentes con proveedores, mediante los cuales se vinculan los incentivos económicos a la obtención de mejoras cuantificables en la equidad de la salud.
Esta iniciativa es solo una manera más de asumir nuestra responsabilidad de brindar una atención médica más equitativa a todos nuestros miembros.
Dr. Mark Friedberg
Obtenga más información sobre cómo Blue Cross ha utilizado la inteligencia artificial, los datos y la analítica para combatir el fraude de atención médica y ayudar a los miembros vulnerables durante la pandemia.