Edición n° 2747 . 30/05/2024

La sociedad algorítmica: IA, Datos y Ciberseguridad

Especial/ #motorcumple7

( Especial de Alfredo Moreno para Motor Económico ) Es cotidiano encontrar notas periodísticas que hacen referencia a los algoritmos. Las secciones de economía, tecnología o estilos de vida, muestran estos procesos de base matemática que se han convertido en poco tiempo en moneda corriente en nuestra vida.

Se define algoritmo como «un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema. Estas operaciones se especifican (se escriben) en un lenguaje de programación que se denomina software (líneas de código o codear para los programadores); estos softwares se entrenan con datos para obtener conclusiones y conocimientos.

A medida que los algoritmos son los agentes inteligentesinvisibles en la redefinición del mundo digital, urge plantar la cuestión de cómo alertar a los ciudadanos de los impactos producidos por los sistemas de información que toman decisiones sobre nuestras oportunidades, derechos y posibilidades vitales.

En el marco de la llamada era de los datos, los impactos sociales, culturales políticos y jurídicos y las tensiones en materia de derechos relativas a las aplicaciones que hacen uso de modelos de la inteligencia artificial como el aprendizaje automático (machine learning), aprendizaje profundo (deeplearning), redes neuronales, procesamiento del lenguaje natural (NPL), regresión y clasificación, etc.

Si un día nos niegan la prestación de un empleo, la atención médica, el ingreso al sistema bancario, el acceso a becas de estudio o contratos de tu vida laboral porque lo dicta un algoritmo, ¿a quién podemos acudir?

Los efectos de la aplicación de agentes invisibles se vinculan con el marco de derechos protectorios que requerimos como individuos a la hora de defender nuestra privacidad, la protección y seguridad de nuestros datos. Atender, en particular, las problemáticas de los sesgos y la discriminación en los algoritmos y los datos, la instauración del derecho al anonimato y la autodeterminación informativa dinámica se proponen como límites de protección frente a la dependencia algorítmica. 

Los algoritmos al igual que los datos con los que se entrena, pueden estar sesgados desde su propia conceptualización. ¿La sociedad algorítmica reproduce los conceptos del modelo de distribución de la riqueza y la desigualdad en el acceso a los conocimientos?

El advenimiento de la sociedad algorítmica ha puesto de manifiesto la dificultad de materializar un mundo en el que cualquier persona, en cualquier lugar pueda expresar sus creencias, sin importar cuán singulares sean; sin miedo a ser coaccionado al silencio o capturado como un consumidor a satisfacer.

Varios autores, como Cathy O’ Neil en su libro “Armas de destrucción Matemática”, han denunciado que los desarrollos de estos modelos embebidos en el software no cuentan con regulación de los Estados. Así, van creando una sociedad dual en la que los ricos cuentan con el privilegio de una atención personalizada, humana y regulada mientras que a los grupos vulnerables se les condena a los resultados de “máquinas inteligentes”, en el que no existe transparencia, derechos ni procedimientos claros para apelar las decisiones algorítmicas.

Muchas de estas cuestiones merecen una articulación de consensos tecno políticos y sociales sobre qué es y qué no es aceptable y deseable. Pero para empezar a articular estos consensos hacen falta herramientas que nos ayuden a entender qué es lo que está ocurriendo. ¿Contar con visibilidad pública sobre los algoritmos y los datos de entrenamiento puede ser esa herramienta?

Esta sociedad, caracterizada por la aparición de grandes plataformas tecnológicas basadas en software y datos que se han ubicado entre los Estados y los ciudadanos presentan complejidades y falsedades para la libertad de expresión de las personas. La utilización de la inteligencia artificial (IA), los algoritmos y los datos en la toma de decisiones oscurecen el camino con destino a lo común; solo iluminan las rutas globales de las grandes corporaciones digitales.

La moderación en la regulación del intermediario, las debilidades en Ciberseguridad, acentúa una curiosa paradoja: mientras que por un lado las plataformas actúan como auténticos promotores de la libertad de expresión al crear amplios foros de debate para los ciudadanos; por otro lado, interfieren en ella al retirar aquellos contenidos que son considerados como ilegales o inapropiados y disponer de los datos recolectados en función de sus propios criterios e intereses.

Las plataformas no son meros intermediarios del discurso, sino que contribuyen a crear dicho discurso a través de la moderación, sobre la base de sus reglas internas y de conformidad con las exigencias derivadas de su modelo de negocio.

La redefinición del mundo digital

La aceptación de verdad absoluta de los contenidos que se visualizan en las pantallas de nuestros dispositivos que se conectan a internet, están debilitando nuestro pensamiento crítico, si no dudamos y ejercemos un pensamiento crítico perdemos capacidad de libertad.

Comprender los alcances de los algoritmos y sus contextos de aplicación, nos ayudará a conocer cómo la digitalización de la vida cotidiana y nuestra relación con las plataformas y servicios digitales está orientada por una infraestructura de cómputos que motorizan los procesos de los algoritmos. Por ello, se hace necesario comprender, discutir y criticar la manera como los algoritmos, que no conocemos, marcan nuestros días y quienes son los dueños de estas infraestructuras es decir los dueños de internet.

La expansión de los métodos de cálculos expresados como algoritmos, algunos disponibles desde 1950, se debe en gran parte al encuentro con el software (aplicaciones APP), las capacidades de procesamiento a gran escala y el ancho de banda creciente de internet, variables que hoy configuran el territorio del Big Data.

Los cálculos penetran tan íntimamente en nuestras vidas, que no logramos percibir con claridad cómo conducen nuestros datos a infraestructuras de procesamiento ubicadas en lejanos centros de datos. Así, un número creciente de dominios de conocimientos como la cultura, el conocer y la información, la salud, la ciudad, el trasporte, el trabajo, las finanzas e incluso las posibles relaciones personales son mediados por algoritmos.

La primer gran expansión de Facebook coincidió con la primera crisis económica del año 2007, que potenció el desarrollo de servicios de plataformas digitales orientados a la individualización, orientación y guía de cada navegante de internet. En el 2015 Facebook tenía 1.350 millones de usuarios registrados, que se comunicaban en 70 idiomas y utilizaban 50.000 servidores (computadoras de alta capacidades de procesamiento y almacenamiento). Facebook se ha constituido así en uno de los dueños de Internet controlando Instagram desde el 2012 y Whatsapp desde el 2014; un enorme negocio que representa más de 25.000 millones de dólares anuales y un volumen de datos muchísimo mayores a los millones de dólares estimados.

El valor político del flujo de datos permanente de esta plataforma digital, fue visible en el 2013 cuando la Agencia de Seguridad Nacional de USA reconoció la utilización de Facebook para el seguimiento de ciudadanos que aportaban sus datos “inocentemente”, información que durante años había sido un objetivo de los trabajos de inteligencia.

Algo similar sucede con los buscadores como Google que llevan cookies (pequeños softwares con algoritmos invisibles) que permite identificar al usuario y trazar un mapa de su navegación por las webs y profundidad de penetración en cada una, estos datos configuran nuevos productos del negocio digital.

Dos dinámicas avanzan para hacernos entrar en la sociedad algorítmica. La primera es la creciente de los ciudadanos de ser incluidos; la segunda el desarrollo de los procesos que entregan a las computadoras mediante softwares las instrucciones matemáticas para clasificar, ordenar, agrupar, predecir, tratar, agregar y representar la información por medio de datos cada vez más desapercibidos.

Los desplazamientos de personas, los tickets de compras, los clics en Internet, el consumo en línea, el tiempo de lectura de un libro digital, el tiempo de escucha de música y permanencia en video por demanda; son cifrados por algoritmos que clasifican y predicen nuestro consumo presente y futuro.

Omnipresentes en nuestras vidas, los algoritmos son presentados como “misteriosos” a nuestros conocimientos por no saber de su existencia y funcionalidad. Una nueva religión con nuevos actos de fe. Raramente nos cuestionamos cómo estos procesos de lógica y cálculo se producen y la visión de mundo que conllevan.

La sociedad digital nos ubicó a los ciudadanos en el lugar del consumidor digital, sabemos operar dispositivos y consumimos los contenidos a través de las aplicaciones. No conocemos los procesos y los procedimientos que regulan la sociedad digital. Por ejemplo, que los algoritmos usados por los gigantes tecnológicos, conocidos como GAFAM (Google, Amazon, Facebook, Apple y Microsoft), no sean siempre justos en las decisiones que toman.

Los algoritmos operan dentro de «cajas negras», no conocemos sus funcionalidades. El valor que mueve el cálculo algorítmico no es otro que el de la personalización, el del individualismo.

El sesgo en la confección del software que implementa el algoritmo responde a modelos políticos y culturales de relaciones sociales y distribución del conocimiento y la riqueza. Esos sesgos también pueden afectar a decisiones como el seguro médico u obra social o prepaga, la escolaridad o el registro criminal, la aceptación a una candidatura laboral. Los datos no hablan más que en función de los cuestionamientos e intereses de quienes los interrogan.

De HAL 9000 a “El joystick es Usted”

Los protocolos digitales gracias a sus recientes aptitudes senso-recreativas conversan de manera fluida con los humanos, tal como sucedía con HAL y la tripulación o en la generalización contemporánea vía el comando de voz. Son juegos comunicativos que operan bajo una mínima interfaz y que permiten la comprensión de deseos o de gestos a través de sensores, particularmente emblemático en el videojuego Kinect desarrollado por Microsoft cuyo eslogan publicitario dice: “El joystick es usted”.[i]

En 1968 Odisea del espacio, Stanley Kubrick; la supercomputadora HAL 9000 (HeuristicallyProgrammedAlgorithmic) guía a un equipo de tres astronautas en un viaje en el que buscan descubrir los orígenes de la humanidad.La convergencia del mundo físico y el mundo digital configura un ecosistema cuya dinámica redefine el modelo de desarrollo económico, social condicionando lo cultural y político. Así, la ciencia ficción se ha convertido en la ciencia de mercado, donde Kubrick por suerte, queda en la referencia de la imaginación, ahora hecha realidad. Desarrollos tecnológicos para innovadores modelos de negocios como la Internet de las cosas, las cadenas de bloques y la inteligencia artificial, irrumpen con su potencial transformador sostenido por los dueños de Internet.[ii]

Decisiones embebidas en códigos de software

El momento fundacional de esta dimensión está fechado en el desarrollo y aplicación de sistemas de información para el pilotaje automático de los aviones comerciales en los años 1960, sistemas de automatización para operar el plan de vuelo. Luego vinieron la automatización de las líneas de producción automotrices y de medicamentos basadas en robots con líneas de código que posibilitaron libre licencia para la toma de decisiones; hasta este presente de autos autónomos, conducidos por inteligencia artificial que se desplazan por las calles de San Francisco California. Esta independencia decisional basada en código de softwares hoy configura y decide áreas cada vez más amplias de la sociedad que habitamos.

Esta facultad de juicio algorítmico computacional caracteriza la particularidad de sentido futurista de la condición actual y el devenir embriagador de la “virtualidad tecnológica” promoviendo una soberanía que le es permitida que se potencia con el triunfo de Deep Blue a Garry Kasparov en 1997.

En la cultura actual, los algorítmicos atrapan deseos de libertades y servicios personales; donde los individuos por medio de sus representaciones, ambiciones y proyectos, se piensan como sujetos autónomos, por fuera de modelos políticos incluyentes o excluyentes.

Es necesario construir otras políticas públicas para la sociedad de los algoritmos. Los procesos y sesgos deben estar explicitados para los ciudadanos, como alertas en el mundo de internet y en la Estadística Estatal. El Estado tiene que garantizar a los ciudadanos la visibilidad de los algoritmos y los datos de entrenamiento.

Es necesario conocer la visión política y cultural que se implementa en los procesos algorítmicos y el sesgo de los datos que arrojan resultados como verdades. Hay que instalar una mirada crítica al funcionamiento de los softwares ocultos. Es necesario conocer qué sentido y objetivo implementan los algoritmos. Estos sentidos configuran un posible mundo donde el reconocimiento de los méritos no encuentra trabas; donde la autoridad se obtiene únicamente en torno a la calidad y a la resiliencia.

Las GAFAM persiguen instalar un ambiente tecnológico invisible que permita a las personas orientarse, sin contrariarlos. Gran parte de nuestras elecciones diarias, son efectuadas por una infraestructura socio-técnica; comprar un pasaje de avión, traducción automática de lenguajes, encontrar el mejor restaurante, conseguir una cita personal, llenar la heladera o cargar la SUBE (tarjeta digital para utilizar transporte público en Argentina).

Con el GPS hemos perdido el paisaje. Los algoritmos guían nuestras preferencias y atan nuestras elecciones. Vuelven realidad el sueño liberal de la elección sin ataduras, pero este sueño esconde también su contracara. Una libertad algorítmicamente pautada.

En tiempos de COVID-19 asistimos a una valorización de los números, los porcentajes, cuadros que muestran curvas, análisis de datos estadísticos, en definitiva, frente a “la pantalla” vamos tomando cuenta para que sirven las Matemáticas y tal vez en particular el análisis de los datos.

Nunca como antes la humanidad depende de las infraestructuras de telecomunicaciones y las plataformas de software que brindan servicios en internet. La cuarentena global fue posible porque pudimos conectarnos a internet e interactuar con los servicios en la red.

Muchas de estas cuestiones merecen una reflexión profunda sobre el rol del Estado y la articulación de consensos tecno políticos y sociales sobre qué es y qué no es aceptable y deseable. Para empezar a articular estos consensos hacen falta herramientas que nos ayuden a entender qué es lo que está ocurriendo. ¿Contar con visibilidad pública sobre los algoritmos y los datos de entrenamiento puede ser esa herramienta?

El gran articulador de derechos de los ciudadanos es el Estado através de sus políticas públicas, cuando este no asoma su presencia solo queda el mercado es decir las corporaciones y de esto conocemos sus consecuencias. Necesitamos un País socialmente humano, económicamente justo y políticamente soberano. Qué sea el País que vienepos elecciones.

Alfredo Moreno, Profesor TIC en Universidad Nacional de Moreno, Ingeniero TIC en ARSAT e Integrante de la red PLACTS


[i]Éric Sadin La Humanidad Aumentada, editorial Caja Negra 2017.

[ii]https://www.alainet.org/es/articulo/196681