Sobre la confianza y la ética en la IA sanitaria

Aumentar la confianza de los profesionales, pacientes y ciudadanos en la Inteligencia Artificial será la clave para su adopción masiva. Pero, ¿cómo conseguirlo? Analizo algunas iniciativas.


Contenidos “Knowledge eHealth” seleccionados para nuestros colaboradores


CONSULTE NUESTROS CURSOS DE SALUD DIGITAL


Sobre la confianza y la ética en la IA sanitaria (I). Derechos y libertades

Hace unas semanas el Ministerio de Asuntos Económicos y Transformación Digital difundió una consulta pública. El objetivo es la elaboración de una carta de derechos digitales en la que se quiere desarrollar la protección de los derechos de los ciudadanos en entornos digitales. Por supuesto, esta necesidad surge del impacto de nuevas tecnologías como la Inteligencia Artificial.

Con esta consulta pública se quiere recabar información de la ciudadanía sobre su percepción alrededor de cómo creemos que las nuevas tecnologías digitales afectan a nuestros derechos y libertades. Sobre consideraciones éticas, e incluso sobre las medidas legislativas o políticas que propondríamos.

Participación pública en proyectos normativos. Consulta pública derechos digitales
Participación pública en proyectos normativos. Consulta pública derechos digitales

Como no podría ser de otra manera, el texto cita específicamente a la inteligencia artificial y al big data. Estas son las tecnologías en las cuales nos deberíamos inspirar para responder a la consulta.

Iniciativas semejantes son también habituales en otros países europeos como la Cumbre de Ciudadanos celebrada en Londres (OneLondon Citizens’ Summit). En este caso una participación ciudadana que permitía expresar su opinión y deliberar sobre políticas y prácticas en la gestión de las nuevas tecnologías. Sesiones, como la centrada en el uso de datos clínicos para la investigación de los centros hospitalarios, permitían preguntar a los responsables de NHS. Y se mostro preocupación por cuál era el mecanismo que utilizaba para valorar la confianza de la organización con la que comparte datos asistenciales.


Sobre la confianza y la ética en la IA sanitaria (II). Factores

Al final, casi sin proponerlo, los conceptos de Inteligencia Artificial y confianza se unen. Lo cual nos reafirma en que sin ella (la confianza) no se producirá la adaptación masiva de la tecnología por parte de profesionales, ni tampoco por parte de ciudadanos o pacientes.

En el caso de los profesionales asistenciales son muchos los estudios que destacan la necesidad de mejorar la calidad y efectividad de los sistemas. Pero muy pocos se acercan a responder cómo se podría aumentar la confianza de un profesional en un sistema basado en inteligencia artificial y cuáles son los factores que incluyen en esa confianza.

Un informe de JMIR trata de responder a estas preguntas y surgen ideas alrededor de la educación o conocimiento que el profesional tenga sobre esta tecnología. Sus experiencias previas con IA, sus prejuicios hacia la digitalización y la automatización, su capacidad de controlar el sistema de IA, la transparencia, la complejidad del modelo, etc.

Factores humanos y confianza en la Inteligencia Artificial
Factores humanos y confianza en la Inteligencia Artificial. Fuente JMIR

Por su parte, la población tiene en general una actitud positiva hacia la inteligencia artificial en salud, sobre todo como ayuda a los profesionales sanitarios. Aunque si vemos un estudio de social media recientemente publicado y realizado en China (con todas las diferencias culturales entre oriente y occidente) encontramos que aun así, la falta de confianza y una posible ausencia de factores humanos en la tecnología hacen que la inteligencia artificial provoque reticencias.

El estudio considera que hacer hincapié en mensajes y políticas que faciliten esa confianza hará progresar más los proyectos que centrándose en comunicar únicamente cuestiones técnicas. Un consejo que, creo es realmente útil.

Pero, en general la actitud del ciudadano es más optimista que la de los profesionales médicos. Y, obviamente, más conservadora que la de los expertos en inteligencia artificial.


Sobre la confianza y la ética en la IA sanitaria (III). Ética

Quizá uno de los elementos que más favorecería mejorar la aceptación de la inteligencia artificial sería la aplicación de una ética de la cual se lleva hablando mucho tiempo. La ética desarrollada actualmente analiza las limitaciones y trabaja sobre problemas concretos, pero según la investigadora de la Universidad de Cambridge, Jess Whittlestone, no se no se anticipa a los nuevos problemas y dice que necesitamos una ética más proactiva.

Según sus ideas, una buena receta serían equipos de trabajo que sean conscientes de que la ética debe formar parte de los sistemas tecnológicos desde su propio diseño. Personas que entiendan los detalles de la tecnología para trabajar junto a personas que comprendan la ética, porque, poniendo un ejemplo, el concepto de privacidad para un tecnólogo o para un abogado puede ser muy diferente.


Sobre la confianza y la ética en la IA sanitaria (IV). Estrategia

Por su parte los proveedores tecnológicos también son conscientes de que la confianza es una de las bases de la transformación digital y en concreto de la inteligencia artificial.

Ante una supuesta pregunta de quién quiere interactuar con un sistema en el que no confía, los proveedores tecnológicos aconsejan realizar “best practices” que en gran medida depende de los datos ya que ellos condicionan el rendimiento del sistema.

Cómo de fiable sea el modelo y la confianza que el usuario final tenga en los resultados forma un binomio fundamental. Ante esta tesitura, empresas expertas como Nuance aconsejan que las organizaciones tengan respuestas a preguntas clave. Quién tiene acceso a los datos, dónde se almacenan, por cuánto tiempo, cómo intervienen en el sistema…

Algo que debe estar incluido en cualquier estrategia de datos masivos, como la de Unión Europea (para así cerrar el círculo de este artículo)

O, como último apunte, los principios FAIR (principios rectores para la gestión y administración de datos científicos. Findability, Accessibility, Interoperability, and Reuse.).


CONSULTE NUESTROS CURSOS DE SALUD DIGITAL


Autor: José Miguel Cacho. LinkedIN

Si te ha gustado, compártelo

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

Uso de cookies

Este sitio web utiliza cookies para que usted tenga la mejor experiencia de usuario. Si continúa navegando está dando su consentimiento para la aceptación de las mencionadas cookies y la aceptación de nuestra política de cookies, pinche el enlace para mayor información.plugin cookies

ACEPTAR
Aviso de cookies