Horizonte Ético de la Inteligencia Artificial: Más Allá de los Algoritmos (2a parte)

Como ya se hizo mención en la primera parte del tema abordado de reflexión, volvemos a insistir en la necesidad de contar con políticas y regulaciones adecuadas para gobernar y gestionar el desarrollo y uso de la IA. Implica, entonces, analizar el estado actual de las políticas y regulaciones relacionadas con la IA a nivel global, es justo lo que, por ejemplo, en la Comunidad Europea, a través de la Comisión y Parlamento Europeo, se crea una visión estratégica para mejorar el desarrollo y uso legal, seguridad y confianza en los sistemas de inteligencia artificial, tal como queda expresado en el comunicado publicado el 24 de enero del presente año. 

En dicho documento, se expresa la necesidad de aprobar una aproximación de acta de riesgo sobre el uso de la IA, especialmente que asegure la adopción de confianza establecida en dicha Comisión. Significa, en gran medida, se especifica el énfasis en considerar la posibilidad de automatizar tareas repetitivas que consumen mucho tiempo, que, junto con el análisis de documentos a gran escala y el aumento de competencias laborales, podrá permitir al personal en las empresas e instituciones públicas y privadas, ganar eficiencia, lograr mayor concentración en tareas más estratégicas, creativas y de valor añadido que requieren de las personas involucradas, adquirir pensamiento crítico que les permita resolver problemas y establecer relaciones (trabajo colaborativo en equipo). Por lo tanto, la Comisión ha identificado una serie de áreas prioritarias donde se logren aportar mayores beneficios: mejorar la capacidad para resumir documentos; agilizar la preparación de las sesiones informativas y las respuestas a las preguntas; introducir una plataforma conversacional que admita diálogos no clasificados de tipo humano; y, proporcionar servicios de IA generativa para aprovechar la vasta base de datos, información y conocimientos que contiene el sistema administrativo europeo en diversas áreas de negocios. Demuestra que existe un interés por afianzar y fortalecer el proceso de automatización de manera disruptiva. 

Esto quedó expresado en el acta publicada al final del 2023, como instrumento legislativo horizontal de la Unión Europea, donde quedó plasmado, la serie de diferentes requisitos y obligaciones que deberán ser adaptados a un enfoque basado en riesgos mínimos, de transparencia, alto riesgo y los que pueden ser considerados como inaceptables, porque existen sistemas IA que presentan esa situación en particular, por tener impacto perjudicial en la salud, la seguridad o los derechos fundamentales de las personas, por lo que se requiere, que existan requisitos de información y transparencia, así como normas específicas para modelos IA de propósito general (GPAI), tales como software basado en aprendizaje automático, sistemas basados en la lógica y el conocimiento y enfoques de carácter estadístico, requieren de requisitos más estrictos de su uso.

Esto también lo podemos observar en el caso del poder creciente de China en materia de desarrollo de sistemas IA, de acuerdo a un documento publicado en 2017 de parte del Consejo de Estado de China, adopta una estrategia nacional para el uso de la IA, la cual consideran como una tecnología disruptiva que puede afectar la estabilidad social, repercutir en la ley y en la ética social, violar la privacidad personal lo que da lugar a riesgos de seguridad, por ese motivo se recomienda fortalecer la prevención avanzada y minimizar dicho riesgo (Coeckelbergh, 2021). 

Otro país asiático que ha venido a contribuir en la creación de políticas y reglamentaciones internacionales de uso de los sistemas tecnológicos basados en IA, lo podemos revisar, también, en el documento de gobernanza que publicó el gobierno de Singapur (2020), el cual se estructura sobre una metodología que permite identificar los riesgos asociados con el funcionamiento de los sistemas IA, y se propone desarrollar una estrategia para identificar los diferentes grados de integración de la intervención humana que ejerce control absoluto sobre el proceso automatizado de toma de decisiones (human in the loop/HITL). Es decir, cuando los humanos se involucran en el ciclo de funcionamiento del sistema, para supervisar, corregir o mejorar las decisiones tomadas de la IA. Esto comprende, el acceso digital (evaluar conectividad y acceso a dispositivos digitales); habilidades digitales esenciales (programa Seniors Go Digital); actitudes y percepciones hacia las tecnologías digitales (preocupación por los riesgos asociados con la digitalización).

En el caso de la región latinoamericana y del Caribe (ALC), de parte de un documento publicado de parte del Banco de Desarrollo de América Latina y el Caribe (CAF, 2024), que en cooperación con la UNESCO (2022), como parte de un proyecto de cooperación técnica, el cual busca impulsar el desarrollo, uso y despliegue inclusivo y ético de la IA, mediante el desarrollo de capacidades y la constitución de un organismo de gobernanza supranacional, a fin de atender las tensiones éticas y desde ese aspecto atender medidas efectivas para gestionar e impulsar la investigación, desarrollo e innovación (I+D+i) en materia de tecnologías de vanguardia y fortalecer las instancias de cooperación internacional.

A través de esta iniciativa, da pie para establecer el diseño de herramientas y metodologías  en gobiernos nacionales y subnacionales en cuanto a: diseño de una herramienta de análisis para definir marcos institucionales de gobernanza, implementación y sostenibilidad de políticas públicas o estrategias de IA y elaboración de una herramienta de desarrollo de sandboxes (herramientas regulatorias) sobre IA; la construcción de un modelo conceptual para el diseño de un laboratorio para el uso ético y responsable de la IA, implementada en dos regiones en Argentina (municipio de Vicente López) y México (Jalisco); el diseño de una herramienta con lineamientos para la formulación de una política pública integral de talento para la IA, misma que va a desarrollar el gobierno de Chile; y, finalmente, la elaboración de un modelo conceptual para el diseño del llamado data trusts (fideicomisos de datos), dicha herramienta aún no ha sido implementada en ninguna jurisdicción.

Sin embargo, la región presenta varios desafíos que tendrán que ser atendidos al respecto. Así tenemos que, si bien existen oportunidades de mejora al desarrollo de marcos regulatorios y políticas públicas relacionadas con la IA, se señala que solo el 18% de los países de la región, cuentan con una estrategia vigente en materia de IA, pocos son de parte de la sociedad civil que han participado en su construcción, algunos presentan problemas de sostenibilidad motivada por cambios políticos. Otra brecha se presenta en el caso concreto de la inversión en I+D+i, lo cual muestran desafíos de madurez de la industria tecnológica y la academia, reflejado en las solicitudes de patentes y la generación de conocimiento a través de fuentes abiertas, caso particular de Brasil, Chile y México. Un siguiente reto al desarrollo del talento para la IA, a partir de un enfoque integral que permita incorporar un modelo de formación a lo largo de la vida, y frente a grupos sociales que considere medidas que plantea esta tecnología, de acuerdo al llamado Índice latinoamericano de inteligencia artificial 2023, de manera especial en la penetración de habilidades tecnológicas como disruptivas acompañadas de una ausencia de capacitación y reconvención laboral, según lo señala el Centro Nacional de Inteligencia Artificial (CENIA, 2023). A estos desafíos tenemos otros relacionados con la falta de visión e institucionalidad que se traduce con la falta de estrategias nacionales para impulsar proyectos de IA.

El caso de México, lo podemos analizar respecto a lo que ha venido realizando la llamada Alianza Nacional de Inteligencia Artificial (ANIA), la cual presenta un documento reciente, Propuesta de Agenda Nacional de la Inteligencia Artificial para México (2024-2030), se expone la situación del país de acuerdo a lo que reporta el ILA 2023 (CENIA) mencionado anteriormente. En dicho documento señala que existen varios desafíos y retos por atender en el ámbito de la IA, como es el hecho del acceso y uso del internet, en el ámbito del talento (alfabetización IA) ha tenido mayor impacto en la ciudad de México (CDMX) y en el estado de México. Ello representa que existe una brecha geográfica de habilidades tecnológicas, en relación con la cantidad de personas que se forman profesionalmente como licenciados en computación y habilidades disruptivas (CEPAL, 2023). También en materia de investigación y desarrollo, sobresale el país, pero presenta deficiencias en productividad, calidad de código abierto y adopción empresarial de la IA. En gobernanza, el país está debajo del promedio, porque carece de una estrategia actualizada.

De acuerdo al documento "Global AI Adoption Index 2022", señala que México, empresas como IBM han implementado tecnologías IA, y que en cuanto a percepción de dichas tecnologías, existen dos grupos, el 55% de usuarios de internet, señalan que la IA es una herramienta útil, mientras el 22% comenta sus preocupaciones sobre sus posibles impactos negativos, ello indica que si bien existe un entusiasmo por estas tecnologías, su innovación y desarrollo, existe una cautela hacia los riesgos éticos, económicos, sociales, de dependencia tecnológica y de ciberseguridad (ANIA, 2024-2030). Es entonces dicha propuesta como parte de la plataforma para el siguiente periodo de gobierno. Ello va a requerir de la participación de la sociedad en su conjunto, de las academias, de las empresas y de las instituciones del gobierno en su totalidad.

Queda aún mucho por diseñar, establecer y construir marcos regulatorios que fortalezcan el diseño de políticas públicas en IA, especialmente para la región latinoamericana y del Caribe, mucho trabajo que realizar y replantear en los siguientes años y para la próxima década por comenzar a su tiempo. No solo dependera de las buenas voluntades de  gobernanza de los agentes sociales involucrados y de los tomadores de decisión, también lo será de la fortaleza democrática de las instituciones y de la sociedad misma que integren y sumen y sean inclusivos y recilientes sustentables, que no dividan por el bien común de todos y con ello se logre un estado de armonía y mejoría en la calidad de vida de los ciudadanos y de las próximas generaciones.

La importancia de contar con un marco regulatorio internacional sobre el uso y aplicaciones de los sistemas tecnológicos basados en IA, requieren por lo tanto, de la cooperación y colaboración internacional, de la participación de las múltiples partes interesadas y la posible adaptabilidad a los avances tecnológicos.

En la tercera parte, centraremos la reflexión hacia un modelo ético en la interacción mente-máquina, estableciendo un andamiaje que permita servir de equilibrio entre la innovación y la creatividad como aspectos prioritarios y relevantes en el contexto mismo de la IA que desafía y plantea si estos sistemas tecnológicos pueden o no favorecer, complementar y potenciar las capacidades humanas o limitar sin reglas estos mismos procesos.