El ámbito de la salud es uno más de los muchos espacios en los que la inteligencia artificial (IA) parece imponerse de forma irreversible.
Analizando sus implicaciones, no nos cabe la duda de que este tipo de desarrollos técnicos van a suponer numerosas ventajas para nuestro sistema sanitario, como, por ejemplo, el aumento de las posibilidades de asistencia a pacientes ante las crecientes presiones de escasez de recursos, la posibilidad de ampliar la oferta de atención sanitaria, la precisión de los diagnósticos, la reducción márgenes de error o una mayor prevención de las enfermedades. Cuestiones que hemos de recibir como algo positivas, sin olvidar que estos logros deberían venir avalados por una rigurosa regulación que introduzca limitaciones a la tecnología dentro de un marco ético.
Y esto es así porque, aunque la IA se presente como una herramienta para mejorar nuestra calidad de vida y nuestra salud, seguro que ya habremos tenido la oportunidad de escuchar que su uso también puede suponer un elevado riesgo, pudiendo llegar a producir resultados muy negativos a nivel social. Entre ellos, además de la desinformación, la ruptura de privacidad, el incorrecto uso de datos, etc. El que genera mayor desasosiego es el de la posible desigualdad y discriminación que puede conllevar su utilización.
Desigualdad porque siguen existiendo brechas digitales, brechas de uso, así como una falta de uniformidad en la implantación de la llamada industria 4.0 en las diferentes administraciones sanitarias. Y discriminación porque puede que los datos utilizados para entrenar los algoritmos sean erróneos, estén manipulados, malinterpretados, o contengan sesgos, el más común, sesgo masculino, raza blanca, por lo que los resultados extraídos pueden no servir para otros individuos con diferentes características.
¿Es el avance de la IA una pandemia?
Por todo ello, no es de extrañar que la velocidad que está adquiriendo el desarrollo de la IA nos genere temor y desconfianza, lo que recordemos que llevó incluso a más de un millar de expertos como Sam Altman, Harari o Elon Musk a solicitar una suspensión temporal de seis meses en su avance, alegando la ausencia de suficientes sistemas de control, y calificando esta técnica como de "profundo riesgo para la humanidad" por su evolución descontrolada y ausencia de regulación, llamamiento al que se han sumado posteriormente algunas instituciones como la propia OMS, así como altos ejecutivos de las principales empresas de IA como OpenAI, Google, DeepMind o Antropic, que el pasado mes de mayo, en una carta abierta, comparaban el avance de esta tecnología con una pandemia.
Pero más allá de las advertencias apocalípticas, lo cierto es que en nuestro país carecemos de una normativa jurídica sobre estas importantes cuestiones que dé respuesta a los problemas que se plantean, si exceptuamos la Carta de los Derechos Digitales de 2021, las disposiciones de los códigos deontológicos, documentos que hacen referencia a la IA como la Guías de la AEPD u otras normas que hacen alusión de forma indirecta como la reciente Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, que contiene preceptos sobre el uso de la inteligencia artificial por las administraciones públicas y las empresas.
Hemos de recordar, que la mayor parte de nuestra normativa sanitaria actualmente vigente data de hace más de una década (Ley de Autonomía del Paciente de 2002, Ley de Ordenación de las Profesiones Sanitarias de 2003...) por lo que se hace imprescindible la actualización de las mismas para su adaptación a estas nuevas realidades, cuestiones que, por circunstancias históricas, no pudieron contemplarse en el momento de su redacción o posteriores modificaciones, pero que ahora reclaman la necesaria proyección en el marco al que nos referimos.
Por su parte, en el ámbito europeo desde hace años se muestran especialmente sensibles a la necesidad de fomentar el uso de la IA abogando por un enfoque coordinado en torno a las implicaciones éticas y humanas de la misma y analizando cómo mejorar la utilización de los macro datos dentro del ámbito sanitario. Ello se refleja en documentos como la Recomendación del Consejo de Europa de 2019 sobre protección de datos de salud, el Libro Blanco sobre la IA de 2020 etc.
¿Pero, esta regulación es suficiente? Claramente, es insuficiente. Se hace imprescindible y urgente la formulación de un marco regulador único y vinculante, más allá del conjunto de recomendaciones, libros blancos, cartas de derechos digitales… Es decir, de todo aquello que conforma el denominado soft law normativo.
Si bien hemos de reconocer que el ritmo del desarrollo de la IA hace prácticamente imposible acompasar la normativa a los avances de la tecnología por lo que, en esta materia, la regulación parece destinada a ir tras sus pasos, quedando desfasada casi al mismo tiempo de su formulación.
El esfuerzo de regulación europeo
Este es el caso de lo que está ocurriendo con la propuesta estrella de la Unión Europea para la IA, esto es, el Reglamento del Parlamento Europeo y del Consejo en materia de inteligencia artificial, también conocido como Ley de Inteligencia Artificial, presentado en abril de 2021, y votado a favor por amplia mayoría de los eurodiputados el pasado mes de mayo. Dicha normativa, que recordemos será directamente aplicable en todos los estados miembros y obligatorio en todos sus elementos desde su entrada en vigor, establece un sistema de clasificación que determina el nivel de riesgo que una tecnología de IA podría suponer para la salud y la seguridad o los derechos fundamentales de una persona. El marco incluye cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo.
Entre otras cuestiones se prohíben los sistemas que desplieguen técnicas manipulativas, aquellos que exploten vulnerabilidades de las personas, la identificación biométrica, los sistemas de puntuación social o social scoring, se restringe aquellos que impliquen la elaboración de perfiles, etcétera. Y clasifica como de riesgo limitado a los chatbots (asistentes de texto) debiendo únicamente cumplir algunos requisitos de transparencia como que los usuarios deben ser conscientes de que están interactuando con una máquina.
La llegada de 'ChatGPT'
Sin embargo, como consecuencia de la cuestionable deriva tomada por el famoso ChatGPT desde su lanzamiento a finales de noviembre, bloqueado en países como Italia por la sospecha de la obtención de datos de forma ilegal, este Reglamento se ha visto obligado a añadir nuevas disposiciones al texto original propuesto por la Comisión Europea, basadas fundamentalmente en mayores obligaciones sobre los llamados modelos generativos de base, como el chatbot desarrollado por OpenAI.
Circunstancias que nos llevan a concluir que dicha normativa está abocada a numerosas modificaciones antes y después de su nacimiento por el ritmo que lleva esta tecnología, teniendo en cuenta además que su entrada en vigor está prevista para la segunda mitad de 2024, por lo que podemos imaginar el amplio margen de desarrollo de la IA hasta entonces.
via Noticias de diariomedico.... https://ift.tt/Fh5ISWZ
No hay comentarios:
Publicar un comentario