Horizonte Ético de la Inteligencia Artificial: Más Allá de los Algoritmos (1a parte)

Lo que ahora, en estos momentos, compete como tema de discusión, análisis y reflexión, es parte, también, de una preocupación latente acerca de lo que esperamos como meros observadores y participantes activos de los cambios acelerados que se suceden en el día a día, especialmente en el campo de las tecnologías  de esta era digital y de la revolución que ha traído consigo la llamada inteligencia artificial (IA), y obviamente lo que nos toca experimentar. El tema que vamos a desarrollar en tres apartados, nos abre la (s) ventana (s) hacia múltiples y diversos horizontes sobre la dimensión ética como concepto y enfoque teórico relevante de su perspectiva y visión al futuro inmediato como primer apartado de una reflexión tecno-pedagógica, sobre todo, el poder destacar la importancia de mirar más allá de lo que se podría concebir lo que puede visualizarse de fondo en el bosque oscuro de los algoritmos junto con sus arquitecturas de lenguaje, siendo la base fundamental de la IA, y, sin embargo, con la posibilidad de lo que hay a la vista de otros aspectos clave a considerar tales como: a) determinar y evaluar beneficios, problemas y riesgos de los sistemas IA; b) rendir cuentas en la forma que impactan los sistemas IA respecto a derechos humanos; c) aplicar medidas adecuadas para vigilar los sistemas de IA en un marco de evaluación ética; d) anticipar las repercusiones, atenuar riesgos, evitar consecuencias perjudiciales, facilitar participación de la ciudadanía frente a desafíos sociales; y, e) sobre la pertinencia de los Estados que deberán vigilar mecanismos de gobernanza inclusivos, transparentes, multidisciplinarios y multilaterales, etc. (Unesco, 2023), esto incluye también, la parte ética administrativa (evaluación y supervisión de un ecosistema digital).

Nos lleva a analizar, en ese sentido, sobre los avances recientes que dichas máquinas artificiales han logrado transformar desde la década de los años 50 (s. XX), en cuanto a la creación de los modelos de procesamiento de lenguaje, que puede  ser empleado de diferente forma para crear o traducir textos, capturar y crear imagenes y videos, reproducir voces, etc. y todo lo que puede traer consigo como parte de la enorme cantidad de datos que llegan a producir estas máquinas todo basado en  la ciencia de datos, sus formas de extracción y minería como parte fundamental de un proceso necesario de refinación (Crawford, 2021), y en el ámbito particular de la ética, ahora se considera pertinente que exista una ética profesional como parte de un estándar derivado de la tecnología informacional (Müller, 2019), y en el caso particular de la llamada IA generativa y su propia configuración multimodal que nos presentan de manera reciente, empresas corporativas como Open AI, Google, Microsoft, Facebook, la XI-A de Elon Musk y otras que se suben a esta carretera de las innovaciones tecnológicas del presente siglo. 

Son ejemplos claros de la tendencia competitiva que existe entre estas grandes corporaciones y la estrepitosa carrera para llegar y establecerse como parte de un macrosistema rector automatizado que va a intentar en la medida de sus capacidades y posibilidades, regular, en gran medida, los patrones y comportamientos individuales y colectivos de consumo, los procesos de la economía en general y financiera basada en la concepción de un modelo de productividad digitalizada y automatizada de los individuos y de las instituciones, sobre los impactos y cambios acelerados en la sociedad, la educación y la cultura, empleada como parte de un sistema de vigilancia supervisada y monitoreada (Müller, 2019).

Desde un punto de vista de reflexión ética sobre la IA, según lo plantea Mark Coeckelberg (2021), al cuestionar sobre la supuesta moralidad de las IA superinteligentes, si en efecto,  se les llega a reconocer un estatus moral, si debería también otorgárseles derechos, y si estás máquinas inteligentes pueden obtener dicho estatus moral, en todo caso, si se reconoce que puedan adquirir la capacidad para el razonamiento moral, el juicio y la toma de decisiones. Abre la brecha de discusión entre los que se inclinan por esta postura, y aquellos que se restringen en pensar esa posibilidad, aun cuando existan otros pensadores que piensan que esto podría materializarse a través de una posible mediación tecnológica o intencionalidad que implica una transformación de la percepción desde un punto de vista fenomenológico tecnológico o postfenomenológico (Verbeek, 2006).   

De acuerdo a la Unesco (2023), habrá que enfrentar el problema de empobrecimiento digital que impera en varias regiones del mundo, y, por lo tanto, tendrá que atenderse de manera prioritaria como parte de una estrategia iterativa pedagógica para: satisfacer necesidades humanas, responder a una motivación intrínseca, controlado por docentes y estudiantes, como parte de la responsabilidad humana para que el uso de la IA oriente los contenidos generados para la enseñanza y el impacto en el comportamiento humano, es decir, preservar el conocimiento generado por humanos.

El hecho de hablar sobre la ética para los tiempos contemporáneos, es en aquellos ámbitos propicios para que se configuren sociedades capitalistas digitales donde ya impera de manera subrepticia, la vigilancia, el control y monitoreo de personas, empresas y demás instituciones del Estado y del sector privado comercial, incluyendo el militar y de los propios sistemas de vigilancia policíacos y de espionaje, estas basadas en la utilización de algoritmos, datos y máquinas de aprendizaje en acelerado ritmo de intercambio de datos e información con la que se puede medir, por ejemplo, ya de manera muy detallada, de acuerdo a parámetros de sondeo mercantil, sobre el nivel de consumo de cada persona, por edad, sexo, nivel socioeconómico y nivel de escolaridad, cuya función primordial es lo que bajo instrucciones previas de programadores expertos, las IA convierten, traducen, interpretan y pueden pronosticar y predecir hechos y acontecimientos en el corto, mediano y largo plazo, pero mostrando restricciones por fallos presentados en su ejecución, como "errores de las máquinas", que distorsionan al modo como entienden su realidad creada en laboratorios de estas corporaciones de la información digital. 

Nos pone en el entredicho, que la proliferación del uso de lenguajes cada vez más expertos y veloces que emulan en parte la estructura racional cognitiva humana, crean sus propios estructuras y esquemas mentales, con todo y sesgos acompañados de errores y alucinaciones, y a quién debería responsabilizar a la IA o a los que crearon y programaron su arquitectura informática computacional. Es un momento para exponer pros y contras de lo que se ha logrado potenciar y adquirir, y de los riesgos a la vuelta de la esquina, expuestos por académicos y periodistas investigadores, por agentes de la política en los círculos exclusivos de los gobiernos, los tomadores de decisión, por analistas expertos que piensan y creen que es necesario poner frenos y reglamentaciones ante estos cambios de gran calado, y por su parte, opositores que alertan de cierta manera lo que para estas máquinas artificiales puede ser la parte sustantiva de lo que intentan comprender y mapear como parte de una realidad fabricada con millones de tokens (unidades de información), se convierten en potenciales bienes de capital y son parte sustantiva de las cadenas de producción en el mundo, especialmente en los sectores financieros con mayor impacto comercial y mercadológico, basados hoy en día en monedas electrónicas (bitcoins y sus derivados), ponen en desventaja a países con menor capacidad económica y desarrollo industrial-tecnológico. 

La pregunta sería, qué es lo que tenemos que aprender sobre el tipo de ética que quisiéramos impere en una sociedad automatizada. Cabe señalar también, que esto se ha acelerado de manera exponencial a cómo se presentaban las innovaciones tecnológicas hace apenas  una década. Hoy en día, observamos que existen fusiones entre empresas y corporativos, entre firmas y estructuras del poder capital digital, existe una competencia entre países con distinta ideología y modelos de economía.

¿Por qué es importante que esto abra espacios de diálogo y comunicación reflexiva crítica, y de intercambio de experiencias entre investigadores, expertos y académicos de las universidades y centros interdisciplinarios de investigación, con las empresas y los gobiernos?, ¿Qué se podría derivar e inferir de estos intercambios sustantivos?, ¿Cuáles serían los logros esperados, que puedan beneficiar y asegurar que en ese horizonte ético, pueda prevalecer la cordura, la vigilancia y seguimiento puntual regulado mediante sistemas eficaces de evaluación continua y permanente? Entonces, ¿cuáles deberían ser los criterios de enfoque ético que tendrían que establecerse como códigos factibles, viables y verificables integrados estos a un proceso continuo de búsqueda de satisfacción y de gestión de calidad sobre la innovación, la creatividad y el desarrollo alcanzado en los países con mayor potencial científico tecnológico, respecto a países con menor nivel de desarrollo? Son preguntas que en el aire tendrán que ser consideradas en los foros presenciales internacionales y en los espacios virtuales en línea.

Es parte fundamental para comprender y explorar qué sucede, por ejemplo, en el caso de las áreas emergentes de la IA, es decir, donde se comienza a desarrollar prototipos relacionados con la parte consciente de las máquinas, sus diversas formas y formatos extendidos e integrados en lo que hasta ahora se concibe como la parte general, y la apuesta ambiciosa y arriesgada de crear un modelo o modelos de superinteligencia (Bostrom, 2014), cuyas repercusiones todavía, por fortuna, solo son parte de planteamientos teóricos en marcha de proyectos por realizar en los centros de investigación tecnológica para la creación de prototipos tendientes a la fabricación de robots y androides, entre otros tantos artilugios con capacidad superiormente veloces para crear arquitecturas neuronales artificiales de pensamiento y memoria respecto a la humana, derivados de dicha propuesta en ciernes.

Todo lo anterior, plantea, por lo pronto, un abordaje de los posibles desafíos éticos, sociales, legales de cómo estas grandes corporaciones vislumbran escenarios de futuro donde tenga que tomarse en cuenta aspectos relacionados con la transparencia, la rendición de cuentas, y la privacidad de las personas y en las propias organizaciones (públicas, privadas), deja pues, la ventana abierta que sirva de guía y observatorio de poder resaltar la importancia de mirar más allá de los algoritmos (datos), y considerar de lleno el impacto holístico de la IA en la sociedad.

En los siguientes apartados revisaremos, por qué existe la necesidad de contar con políticas y regulaciones adecuadas para gobernar el desarrollo y uso de la IA, y finalmente, la necesidad de desarrollar un modelo ético que equilibre la interacción entre la mente humana y la máquina en el contexto de la IA. Por lo pronto tenemos mucho que desenmadejar al respecto de ir más allá de los algoritmos como vía para emancipar nuestra existencia, supervivencia y permanencia en el planeta.