IA en la medicina: ¿hay algún riesgo?

El Dr. Dan Perri (MD) es profesor titular de medicina en la Facultad de Medicina de la McMaster University, con actividades asistenciales y de investigación en los Servicios de Medicina Interna General, de Medicina Crítica, y de Farmacología Clínica y Toxicología. Es también Jefe de Informática Médica del St. Joseph’s Healthcare Hamilton, donde su objetivo es optimizar los cuidados al paciente, ofreciendo una asistencia sanitaria segura y adecuada, mediante el uso innovador de tecnologías digitales.

¿Cuáles considera que son los mayores riesgos de la inteligencia artificial (IA) en la medicina?

Hay algunos riesgos relacionados con la IA en la medicina. El primero, y quizás el que más nos preocupa, es que la relación médico-paciente pueda verse alterada: que la IA pueda asumir el control o que una verdadera interacción humana entre el paciente y el médico se vuelva incómoda por la presencia de la tecnología.

La siguiente preocupación sería la posibilidad de desinformación o de errores diagnósticos generados por la IA, con todas sus repercusiones. La otra cuestión es el sesgo: la IA es solo tan buena como su entrenamiento. Si la IA fue entrenada con información sesgada o con datos de mala calidad, puede que los resultados sean inválidos. Así que nos preocupamos por el sesgo, por el uso de información derivada de un grupo de pacientes que puede no ser aplicable a otro grupo ligeramente diferente (debido a diferencias culturales y/o de estilo de vida). Por lo tanto, el sesgo es una preocupación importante.

Por fin, otro problema importante es la privacidad. Con toda esta potencia informática, muchas tareas no podrán realizarse localmente y la mayoría de los futuros modelos de IA se desarrollarán en la nube. Es decir, los datos muy específicos sobre los pacientes tendrían que enviarse a la nube para ser procesados y luego volver en forma de información útil. Los riesgos de privacidad son preocupantes, sin duda.