¿Puede realmente una IA contemporánea, bien entrenada y con suficientes recursos, gobernarnos?
( Por Alfredo Moreno *) En 1955 Isaac Asimov escribió un cuento de ciencia ficción llamado «Sufragio Universal». La historia se ubica en un futuro año 2008, en las vísperas de las elecciones presidenciales de Estados Unidos. Asimov imagina para entonces (inicio del desarrollo electro/digital en California) que en el momento que toda la población expresa su voluntad a través del voto, habría dado lugar a otro mecanismo en el cual el presidente sería elegido por un único elector en representación de todo el país.
En el cuento, una supercomputadora de más de un kilómetro de extensión y tres pisos de alto, llamada Multivac (la primera computadora producida en California se llamó UNIVAC), posee los datos completos del padrón y las variables de todas las elecciones que se realizaron en el país hasta entonces.
Luego de un proceso secreto que tiene en suspenso a toda la nación, Norman Muller, empleado de un comercio de una pequeña ciudad del interior, es elegido entre 50 millones de personas como el votante universal. El día de la elección, la policía lo lleva entre medidas de seguridad hasta el sótano del hospital local, donde el jefe de informática le explica qué sucederá y por qué será conectado a una serie de sensores y dispositivos:»Multivac ya tiene toda la información que necesita para decidir todas las elecciones nacionales, estatales y locales. Sólo necesita verificar ciertas actitudes mentales imponderables, y lo utilizará a usted para eso. No podemos predecir qué preguntas le hará, pero quizá no tengan mucho sentido para usted y ni siquiera para nosotros.»
Los científicos le aclaran que Multivac basará su análisis no en la información de las respuestas de Norman sino sus sentimientos.
Asimov se basó en Univacpara su imaginaría Multivac, Univac fue el primer computador que se fabricó de forma comercial en Estados Unidos y en 1952 la CBS la usó para predecir la elección presidencial, con una muestra del 1% de la población predijo que ganaría Eisenhower, como finalmente sucedió.
La ciencia ficción es una realidad
El papel de la inteligencia artificial (IA) y de la ciencia de datos es cada vez más importante en el curso de las elecciones democráticas. Las campañas electorales de Barack Obama el Partido Sintético de Dinamarca, la campaña de Macron en Francia,Donald Trump en Estados Unidos, Bolsonaro en Brasil y Macri en Argentina son buenos ejemplos y configuran una práctica que debilita la democracia.
Monitorización de la opinión, el “análisis de sentimiento”
Uno de los primeros casos de éxito en el uso de técnicas de big data y análisis de redes sociales para ajustar una campaña electoral fue el de Barack Obama para las presidenciales de Estados Unidos en 2012. En su campaña (y en muchas otras después), las encuestas tradicionales de intención de voto, basadas en llamadas telefónicas o entrevistas personales, se complementaron con el análisis de redes sociales.
Estos análisis ofrecen un método barato y casi en tiempo real de medir la opinión de los votantes. Para ello se aplican técnicas de Procesamiento del Lenguaje Natural (PLN), en particular las dedicadas al análisis de sentimiento. Dichas técnicas analizan los mensajes contenidos en Twitter, Instagram, Facebook, blogs, etc. y tratan de medir si las opiniones vertidas en ellos son positivas o negativas con respecto a un cierto político o a un cierto mensaje electoral o a una situación social y política.
El principal problema que tienen es el sesgo muestral, pues los usuarios más activos en redes sociales suelen ser jóvenes y tecnófilos, y no representan a toda la población. Por eso estas técnicas tienen limitaciones a la hora de predecir resultados electorales, aunque resultan muy útiles para estudiar las tendencias de voto y el estado de opinión de las personas.
Intervención en campañas electorales: el caso Donald Trump y Macron
Más inquietante que el estudio de las emociones en redes sociales resulta su uso para influenciar estados de opinión y configurar el voto. Un caso bien conocido es el de la campaña de Donald Trump en las presidenciales de EE UU de 2016. El big data y los perfiles psicográficos tuvieron mucho que ver con una victoria que no habían logrado predecir las encuestas.
No se trató de una manipulación en masa, sino que diferentes votantes recibieron diferentes mensajes basados en predicciones sobre su susceptibilidad a diferentes argumentos, recibiendo información sesgada, fragmentada y a veces contradictoria con otros mensajes del candidato.
La tarea fue encomendada a la empresa CambrideAnalytica, que se vio implicada en una polémica por la recopilación no autorizada de información sobre millones de usuarios de Facebook.
El método de CambrideAnalytica se basó en los estudios de psicometría de Kosinski, que comprobó como con un número limitado de likes se puede obtener un perfil del usuario tan acertado como si lo hicieran sus familiares o amigos[i].
El problema no está en el uso de la tecnología sino en la naturaleza “encubierta” de la campaña, la manipulación psicológica a votantes susceptibles a través de apelaciones directas a sus emociones o la difusión deliberada de noticias falsas a través de bots. Un bot es un software (aplicación) que efectúa automáticamente tareas reiterativas mediante Internet y posee capacidad de interacción, cambiando de estado para responder a un estímulo.
Fue el caso de Emmanuel Macron en las presidenciales francesas de 2017. Su campaña sufrió un robo masivo de correos electrónicos a sólo dos días de las elecciones. Multitud de bots se encargaron de difundir evidencias de comisión de delitos supuestamente contenidos en la información, que luego resultaron falsas.
El Partido Sintético
Dinamarca abrió el debate en sus últimas elecciones legislativas, a las que concurrió el Partido Sintético liderado por una aplicación de IA (Inteligencia Artificial). Un chatbot(los bot de charla o bot conversacional, son aplicaciones basadas en software que simulan mantener una conversación con una persona al proveer respuestas automáticas, las cuales son previamente establecidas por un conjunto de expertos)llamado Leader Lars, con la aspiración de entrar en el parlamento. Detrás del chatbot hay humanos, naturalmente, en particular la fundación MindFuture de arte y tecnología.
Leader Lars fue entrenado con los programas electorales de partidos daneses marginales desde 1970 para configurar una propuesta que representara al 20 % de la población danesa que no acude a las urnas.
Si bien el Partido Sintético parece una extravagancia (con propuestas como una renta básica universal superior a 13.400 € al mes, el doble del salario medio en Dinamarca), ha servido para estimular el debate sobre la capacidad de una IA para gobernarnos.
Si analizamos el pasado reciente de la IA, vemos que los avances se suceden uno tras otro, particularmente en el campo del procesamiento del lenguaje natural tras la aparición de las arquitecturas basadas en transformers.
Los transformers son enormes redes neuronales artificiales(uno de los métodos de la IA) entrenadas para aprender a generar textos, pero fácilmente adaptables a muchas otras tareas. Estas redes aprenden la estructura general del lenguaje humano y acaban teniendo un conocimiento del mundo a través de lo que han “leído”.
Uno de los ejemplos más avanzados lo ha desarrollado OpenIA y se llama ChatGPT. Se trata de un chatbot capaz de responder de manera coherente a casi cualquier pregunta formulada en lenguaje natural, de generar texto o de efectuar tareas tan complicadas como escribir programas informáticos a partir de unas pocas indicaciones.
El caso Brasil
Las relaciones del clan Bolsonaro con Steve Bannon convirtieron al “mano derecha” de Trump en un referente del bolsonarismo e inspiró una táctica de activismo digital al estilo brasileño.
La relación entre Bannon y la familia Bolsonaro se consolidó el mismo año en que Brasil eligió por primera vez a un presidente de extrema derecha. En vísperas de la campaña electoral, Eduardo Bolsonaro conoció personalmente al estratega que ayudó a llevar a Donald Trump a la presidencia de Estados Unidos.[ii]
El asesor de políticas globales para debilitar las democracias locales, Steve Bannon, fue fundador de Breitbart News, un sitio de extrema derecha famoso por difundir noticias falsas y contenido racista.
Entre las técnicas para viralizar publicaciones, el sitio web centró sus esfuerzos en difamar a los políticos demócratas y difundir teorías sobre una hipotética conspiración global marxista contra lo que denominó “valores estadounidenses tradicionales”.
El inicio de 2019 también estuvo marcado por el anuncio de Eduardo Bolsonaro como embajador sudamericano de El Movimiento, articulación creada por Bannon y encabezada por Marine Le Pen (Francia), Matteo Salvini (Italia) y ViktorOrbán (Hungría) para unir a líderes mundiales de ultraderecha.
El caso Argentina
Fue demostrada la negociación que mantuvo en 2016 el gobierno de Mauricio Macri con Cambridge Analytica (CA), la empresa acusada de utilizar datos personales de Facebook para perpetrar campañas en diferentes países a través de la manipulación del electorado en las elecciones legislativas de 2017.
Alexander Nix, el ex CEO de Cambridge Analytica, admitió que su empresa trabajó en una “campaña antikirchnerista” durante las elecciones presidenciales de 2015. Interpelado por la Comisión de Asuntos Digitales, Cultura, Medios y Deporte del Parlamento británico, que investiga el uso ilegal de los datos de la red social Facebook por parte de la consultora. Nix manifestó desconocer el asunto de la campaña en la Argentina, aunque finalmente debió admitir que estaba al tanto, sin mencionar la identidad de su contratador: “No nos gusta hablar de clientes específicos, simplemente porque hay una confidencialidad con el cliente”, sostuvo en su comparecencia, que fue transmitida por el canal C-Span 2.
Los parlamentarios denuncian “alarmantes pruebas” en su informe sobre la presunta injerencia ilícita de la empresa consultora británica SCL Group en operaciones políticas en el extranjero, incluida una maniobra realizada en 2015 contra la entonces presidenta argentina Cristina Fernández de Kirchner.
“El comité ha visto evidencia confidencial de una reunión entre los directores del Grupo SCL con el PRO Cambiemos el 27 de mayo de 2015, en relación a una campaña anti-Kirchner en Argentina”, afirmaron los miembros del Comité Digital, Cultura, Medios y Deportes de la Cámara de los Comunes del Parlamento británico en su informe sobre “Desinformación y falsas noticias”.
Sin transparencia
Las ventajas de usar una IA para la acción de gobierno serían varias. Por una parte, su capacidad de procesar datos y conocimiento para la toma de decisiones es muy superior a la de cualquier humano. Pero, al día de hoy, los chatbots sólo reaccionan, se alimentan de los datos que alguien les proporciona y dan respuestas. No tiene aún autonomía de lenguaje no pueden reaccionar “espontáneamente” en tomar la iniciativa. Es más adecuado ver estos sistemas como oráculos, capaces de responder a preguntas del tipo “qué crees que pasaría si…”, “que propondrías en caso de…”, más que como agentes activos.
Los posibles problemas y peligros de este tipo de inteligencias, basadas en grandes redes neuronales es el de la falta de transparencia (“explicabilidad”) de las decisiones que toman. En general actúan como “cajas negras” sin que podamos saber qué razonamiento han llevado a cabo para llegar a una conclusión. El “experto” es un humano que define los procesos de aprendizaje y orienta los resultados. No olvidemos que detrás de la máquina están personas que definen o adecúan las estructuras de datos y los algoritmos para los procesos de aprendizaje (el entrenamiento del algoritmo). Estas decisiones y acciones permiten introducir ciertos sesgos en la IA a través de los datos que han usado para entrenarla. Por otro lado, la IA no está libre de dar datos o consejos erróneos, como muchos usuarios de ChatGPT han podido experimentar.
La Soberanía sobre los datos y la transparencia sobre los procesos de la IA continúa a la espera de políticas más firmes a manos del Estado. Políticas como la exigencia de almacenamiento local de los datos para aplicación de leyes contra monopólicas y visibilidad ciudadana sobre los algoritmos y los procesos de aprendizaje permitirían garantizar transparencia democrática en el contexto digital.
La Democracia está en riesgo, la manipulación de las personas mediante el uso indebido de datos personales y la propagación de noticias falsas es un hecho demostrado.
El debate y las acciones aún pendientes: Democracia o Corporaciones,debería moverse urgente a lo político, ético y social.
Alfredo Moreno
Profesor TIC en UNM, Ing. TIC en ARSAT
Integrante de la Red Plactshttps://blogs.ead.unlp.edu.ar/catedracps/red-placts/
[i]https://www.eldiariodecarlospaz.com.ar/informes-especiales/2019/1/13/politizar-las-tics-argentina-campana-2019-62420.html
[ii]https://brasil-elpais-com.translate.goog/brasil/2019/10/13/politica/1570994671_481129.html?_x_tr_sl=pt&_x_tr_tl=es&_x_tr_hl=es&_x_tr_pto=sc
