El lado oscuro de la IA: Sesgos y espionaje en la era digital (1a parte)

 Un nuevo tema de interés, en tiempos donde la competencia de empresas y corporaciones dedicadas a la creación de productos y aplicaciones diversas de la inteligencia artificial, toman nuestra reflexión y análisis en el escenario mundial, mediante sus espectaculares exhibiciones mediáticas y en redes sociales, se conjuga toda esta mezcla de ingredientes, propicia para también desvelar por así decirlo, la parte oscura que no se muestra a los clientes potenciales, y ni siquiera a muchos de los empleados que laboran en dichas organizaciones de alta tecnología de vanguardia y frontera. Nos referimos, a lo que ya algunos expertos en el campo de la IA han venido exponiendo en diversas publicaciones y entrevistas. Nos referimos a la parte delicada que aún tienen que seguir mejorando y ajustando en sus respectivos laboratorios de cómputo e informática, los denominados sesgos, que en anteriores publicaciones ya lo habíamos abordado, pero ahora, con un énfasis hacia lo que puede ya estar provocando estas tecnologías artificiales. Analizamos, por ejemplo, cómo en dichos sesgos alucinatorios puede la IA, establecer diferencias de género o raciales presentes en su arquitectura de algoritmos; a la influencia de los prejuicios y estereotipos creados por la IA; o el impacto en la toma de decisiones y en la justicia, cuando se trata de incriminar a personar o a instituciones en particular, trae consigo graves implicaciones, jurídicas, políticas, económicas y culturales entre otras.

Aunado al punto anterior, también, se puede adjudicar que el mal uso de la IA, con fines de espionaje en la era digital, establece un estatus quo propio de un sistema de vigilancia por parte de agencias gubernamentales, militares y de seguridad nacional, pero el peor de los posibles escenarios sería que esto cayera en manos de las organizaciones del crimen organizado, porque el nivel de riesgo y alta peligrosidad, daría pie para denotar que actualmente nos encontramos en una situación extrema que implica entre tantas cosas, que las amenazas de ciberseguridad y hackeo sean altamente sensibles para ser usadas como instrumentos del terrorismo internacional. Y en esos mismos términos, las agencias de vigilancia policíacas, militares y de espionaje, en sus diferentes y diversas manifestaciones y acciones, rompen con las brechas de privacidad en redes sociales y ya, no digamos en las distintas aplicaciones que son utilizadas por los usuarios consumidores en sus celulares, móviles (smartphones), etc.

Así tenemos ejemplos concretos de varios documentos, reportes e investigaciones que han abordado el problema de la ciberseguridad. De acuerdo al Informe Global de Ciberseguridad 2024 Hays, menciona al respecto de este tópico que, existe una escasez de candidatos para las áreas de ciberseguridad dada la demanda potencial de problemas a ser atendidos en las empresas e instituciones de los gobiernos; existe una falta de conocimientos profundos en ciberseguridad; falta de experiencia; y una marcada competencia de otras empresas. En ese sentido, la recomendación sería, entonces, una solución sostenible que comience por los departamentos cibernéticos y que, sus respectivas organizaciones, pasen de considerarse simplemente como meros consumidores de cibertalentos a ser espacios creadores de cibertalentos, expertos en la ciberseguridad de las empresas e instituciones públicas. Un dato peculiar sobre los problemas identificados de ciberseguridad, dice el informe, el 89% está centrado en la preocupación por los riesgos potenciales de las amenazas de la IA. 

De ahí, la propuesta de Ley emitida por el Parlamento Europeo en materia de regularización sobre los usos de la IA que presente situación de alto riesgo. Según Julia Dúdenlo (2024), experta de CISO, se debe elaborar una hoja de ruta a fin de detectar y encontrar el equilibrio de aprovechar los beneficios, así como orientar, por ejemplo, sobre lo que pueden hacer con la IA en la empresa. Por su parte, Jason Yuen, socio de consultoría tecnológica y líder de ciberseguridad en Malasia, argumenta que es necesario que en las empresas aprendan a detectar dónde es más probable que ataquen los delincuentes la infraestructura, dónde están los puntos débiles, qué es lo que hay que arreglar de dicha infraestructura.

Las recomendaciones del informe, por lo tanto, se centran en varios puntos de interés y seguridad: 1) fijarse en el talento no tradicional (personas con aptitudes transferibles); 2) diseñar una estrategia de formación para garantizar un éxito sostenible; 3) adoptar las tecnologías emergentes y asegurarse de que el equipo esté informado de las ventajas e inconvenientes; 4) explorar la posibilidad de incorporar contratistas o asesores cibernéticos; y 5) garantizar la flexibilidad y las oportunidades de trabajo a distancia para retener el talento.

En el Informe Global sobre Ciberdelincuencia, se indica que los casos de ciberdelincuencia se presentan en diferente forma en los países, así por ejemplo, el caso del denominado phishing (robo de identidad digital y datos), y la filtración de datos es materia común en las empresas e instituciones como en las personas que se ven afectadas por estos actos ilícitos. Lo que se pudo detectar en el periodo del Covid-19, el panorama de los ciberataques tuvo una gran tasa en el 2020, en el empeoramiento de la seguridad de software en línea y de los sistemas financieros, lo que ha conducido, en parte, a una década de mayor incertidumbre económica. Desde el Centro de Estudios Estratégicos e Internacionales (CSIS), se realiza un seguimiento de dichos ciberataques a organismos gubernamentales, a las agencias de defensa y a empresas de alta tecnología. En ese sentido, las empresas del sector privado, principalmente, han desarrollado sistemas de vanguardia, basadas en el desarrollo de soluciones de ciberseguridad, y promulgado leyes destinadas a frenar la ciberdelincuencia. El informe señala que países como Bélgica, Finlandia y España, tienen una puntuación alta de ciberseguridad, en cambio, países como Afganistán, Birmania y Namibia, son los que tienen una puntuación baja en su ciberseguridad.

Otro corporativo que ha brindado reportes de ciberseguridad lo tenemos con CISCO, en su reciente reporte, describe la situación actual sobre el uso del conocido e investigado malware denominado ramsoware, el cual emplean los ciberdelincuentes de distinta manera: suplantación de identidad por correo electrónico, contraseña robada, o uso de fuerza bruta, cifrado de archivos o carpetas, evitar el acceso al disco duro y manipular el registro de arranque principal para interrumpir su proceso. Dicho malware ha sido utilizado para atacar organizaciones bancarias, instituciones gubernamentales, empresas tecnológicas, e inclusive hasta bases militares, esto lo tienen bien escaneado las empresas de ciberseguridad privada, pública y por las agencias de seguridad nacional y de ciberespionaje militar, muchas de ellas localizadas en E.U., Europa con la OTAN, Canadá, Japón, Corea del Sur, etc., este bicho digital ya representa en esa clasificación, como un acto de ciberterrorismo, por lo que el Instituto Nacional de Normas y Tecnologías (NIST), bajo instrucción del actual presidente Joe Biden, se confirma tomar medidas inmediatas para implementar una arquitectura de confianza cero, es decir, es ya parte de la reglamentación requerida y obligatoria en las empresas para asumir la responsabilidad de ciberseguridad en las instituciones. 

En la segunda parte, se abordará en ese sentido, la imperiosa necesidad de atender los riesgos y consecuencias: la discriminación y perpetuación de las desigualdades sociales, la pérdida de privacidad y vulnerabilidad de los datos personales, y, por lo tanto, la posible suplantación de la identidad digital de las personas, la manipulación de la información y su relación con la opinión pública. Asimismo, será importante reflexionar sobre la regulación y la ética de nueva cuenta, sobre el desarrollo de la IA, la necesidad de establecer estándares éticos en su uso, y la responsabilidad de las empresas tecnológicas y de los propios gobiernos en el tema de la ciberseguridad como materia prioritaria para salvaguardar la democracia de los países en esta era digital subdividida de regiones y multipolaridad internacional.