Edición n° 2803 . 25/07/2024

Fuentes Seguras. El Papa y la IA/ Fascinante y tremendo

Presentamos el planteo de Francisco sobre la Inteligencia Artificial. Es preciso darse el tiempo y leerlo bien a fondo porque contiene trascendencia. En los renglones previos: cómo el espacio anglosajón impidió la paz en Ucrania, la nueva propuesta rusa, el deambular del G7, la Cumbre en Suiza. Y el cierre, a toda orquesta.

Por Gabriel Fernández *

Un año después de la presentación pública realizada por la Federación de RusiaThe New York Times publicó ayer el acuerdo de paz que esa nación y Ucrania debatieron en 2022 en Estambul y no llegaron a firmar debido a la intromisión de Gran Bretaña. La última versión del texto es del 15 de abril de 2022. “Los documentos fueron proporcionados por fuentes ucranianas, rusas y europeas, y confirmados como auténticos por participantes en las conversaciones y otras personas cercanas a ellos”, apunta el diario estadounidense.

El borrador señala que el Reino Unido, China, Rusia, los Estados Unidos y Francia debían actuar cual garantes de “la seguridad de Ucrania como Estado neutral”, mientras que Moscú insertaba en ese papel a BielorrusiaKiev sugirió añadir a Turquía. Aunque el lector de nuestras Fuentes ya sabe quienes necesitan la paz y quiénes se benefician con la guerra, la difusión del material, tras la reunión del Grupo de los 7 (G7) y en medio del Encuentro convocado en Suiza, configura un impacto global.

La credibilidad occidental, ya bastante licuada luego de la ruptura unilateral de los pactos Minsk 1 y Minsk 2, está padeciendo ahora un nuevo deterioro. Vale la pena repasar los aspectos salientes del acuerdo trunco. Fueron evidenciados por el presidente Vladimir Putin en junio del año 2023 y por la publicación estadounidense este sábado.

En ese documento, Kiev se comprometía a:

  • No participar en “conflictos armados en el lado de un Estado garante y/o de cualquier tercer Estado”.
  • No adherirse a uniones militaresy no alcanzar acuerdos militares que contradigan su estatus neutral.
  • No permitir el despliegue de armas y tropas extranjeras en su territorio.
  • No permitir la creación de bases y otras infraestructuras militares extranjeras en su territorio.
  • No celebrar ejercicios militares con tropas extranjeras en su territorio sin la aprobación de Estados garantes, mientras que Moscú insistía en que todos los países garantes debían aprobar las maniobras.
  • No entrenar a sus tropas para usar armas nucleares y no autorizar el despliegue de armas nucleares en su territorio.

Además, el proyecto establecía “un número máximo de personal, armas y equipo militar de Ucrania”. No obstante, ambos bandos tenían posturas divergentes al respecto. La Federación propuso que las Fuerzas Armadas ucranianas tuvieran 85.000 militares como máximo, mientras que Kiev pretendió estirar la cifra hasta 250.000 soldados. Moscú y Kiev tenían también posturas diferentes en lo que se refería a tanques, lanzacohetes múltiples y morteros, entre otras armas.

En respuesta, los Estados garantes prometían, entre otros puntos:

  • Respetar la soberanía de Ucrania.
  • No interferir en los asuntos internos de Ucrania.
  • No emplear la fuerza contra Ucrania.
  • No desplegar sus armas y tropas y no crear bases militares en territorio ucraniano.

Ambos lados acordaron que las disposiciones no se debían aplicar a Crimea, y The New York Times detalla que este punto establecía que la península quedaba bajo el control ruso. El acuerdo incluía las disposiciones sobre la declaración del idioma ruso como oficial en Ucrania, junto con el ucraniano, y la prohibición del nazismo y el fascismo en el país. Hasta el cierre del diálogo, Kiev no abordó estos factores.

Putin muestra el acuerdo pactado con Ucrania tras el inicio del conflicto, que Kiev firmó y luego violó - RT

GARANTES SIN GARANTÍA. La iniciativa en circulación por estas horas confirma las declaraciones previas del gobierno ruso, que no fueron desmentidas por Ucrania. Cabe recordar que en junio del año pasado el presidente Putin, mostró el texto físico del acuerdo y su contenido es, precisamente, el documento publicado por The New York Times“Se llama así: Tratado de Neutralidad Permanente y Garantías de Seguridad para Ucrania. Precisamente sobre garantías. 18 artículos”, afirmó en aquel entonces el líder ruso. “Además, también tiene un anexo. Todo está detallado, hasta las unidades de equipo de combate y el personal de las Fuerzas Armadas. Este es el documento”, comentó Putin, añadiendo que había sido rubricado por la delegación ucraniana. “Pero después de que hubiéramos retirado nuestras tropas como prometimos, las autoridades de Kiev y sus amos lo tiraron a la papelera de la historia”, subrayó.

Sin embargo, lo más interesante de la cuestión es que varios garantes del Acuerdo de Paz operaron en contra del mismo. En febrero, Putin, declaró que las negociaciones que Moscú y Kiev entablaron poco después del inicio del operativo militar ruso en febrero de 2022 “llegaron a un nivel muy alto” en cuanto al acuerdo sobre las posiciones de ambas partes y “estaban casi terminadas”. “Pero, después de que retiráramos las tropas de Kiev, […] Ucrania desechó todos estos acuerdos y tuvo en cuenta las instrucciones de los países occidentales —países europeos, en especial el Reino Unido, y los Estados Unidos— de luchar contra Rusia hasta el final”, destacó.

Uno de los negociadores ucranianos que participó en las conversaciones de paz con Rusia, David Arajamia, reveló en noviembre del año pasado que la cláusula que impedía un estatus de neutralidad que niegue a Ucrania unirse a la Organización del Tratado del Atlántico Norte (OTAN), así como la presión del entonces primer ministro británico, Boris Johnson, fueron los factores que obligaron a la parte ucraniana a retirarse del proceso de paz. “Además, cuando volvimos de Estambul, Boris Johnson vino a Kiev y dijo que no firmaríamos nada con ellos en absoluto. Y que ‘vamos a la guerra’”, recordó. Es decir, el primer ministro británico ordenó a la administración de Kiev que dejara de lado un acuerdo que la involucraba directamente.

Por su parte, otro miembro de la delegación ucraniana de aquél entonces, el diplomático Alexánder Chaly, declaró que Moscú y Kiev estaban “muy cerca” de llegar a un acuerdo en abril de 2022. “Estábamos muy cerca a mediados de abril para finalizar nuestra guerra con algún acuerdo pacífico. Por algunas razones se pospuso”, reveló a finales de diciembre del año pasado. Y sorprendió a la presidencia de Volodimir Zelenski tanto como a las autoridades británicas y norteamericanas al enfatizar que “Putin trató de hacer todo lo posible para concluir un acuerdo con Ucrania”.

Culmina la cumbre de la OTAN sin calendario preciso sobre la adhesión de Ucrania

¿Y AHORA? Este viernes, el jefe de Estado ruso dio a conocer las condiciones que “permitirán realmente poner fin a la guerra en Ucrania”, subrayando que tan pronto como Kiev las acepte, Moscú estará dispuesta a negociar sin demora. Claro, las exigencias en cuestión son similares al proyecto de acuerdo recién citado. Entre las condiciones propuestas figuran: “la neutralidad, la no alineación, la desnuclearización de Ucrania, así como su desmilitarización y desnazificación”; el reconocimiento de las nuevas realidades territoriales, es decir, Crimea, Sebastopol, las repúblicas populares de Donetsk y Lugansk, las provincias de Zaporozhie y Jersón deben ser reconocidos como sujetos de Rusia; y la cancelación de todas las sanciones occidentales.

La propuesta del Oso llegó con advertencias para quienes se tapan los oídos. Occidente y el régimen de Kiev serán los responsables de la prolongación del conflicto ucraniano si se niegan a aceptar la propuesta ofrecida por el presidente de Rusia para iniciar negociaciones de paz, dijo 48 horas antes del cierre de este artículo, el representante permanente de Rusia ante las Naciones Unidas, Vasili Nebenzia, en una reunión del Consejo de Seguridad de la Organización de las Naciones Unidas (ONU) convocada a petición de Moscú“Si Occidente y Kiev rechazan esta propuesta de paz, entonces la responsabilidad política y moral por la continuación del derramamiento de sangre será suya”, afirmó el diplomático.

Nebenzia añadió que Rusia no dejará sin respuesta “los crímenes” en los que esté involucrado Occidente. De acuerdo con sus palabras, Moscú tiene constancia de que personal militar occidental está dirigiendo de manera directa el uso de armas modernas de alta tecnología, alta precisión y largo alcance —de fabricación británica, estadounidense y francesa— por parte del régimen de Kiev. No solo están al mando de los ataques, sino que también determinan sus objetivos finales, denunció. “Es decir, que los países de la OTAN están profundamente involucrados en las hostilidades en Ucrania y son cómplices de los crímenes de guerra del régimen de Kiev, es un hecho conocido desde hace mucho tiempo”, agregó.

Enseguida, la portavoz de la Cancillería rusa, María Zajárova, destacó en una conferencia de prensa, que Washington no necesita una Europa pacífica. “El concepto del caos controlado ha ido demasiado lejos, ahora los ideólogos del Estado profundo en EE.UU. demandan más sangre, quieren verter sangre en todo el continente europeo”. La elegante funcionaria subrayó que “los Estados Unidos empujan al abismo a los europeos”, en vez de ayudarlos a “sobrevivir el actual colapso de su política interior”, con rasgos económicos y culturales. “Los anglosajones incentivan al régimen de Kiev a cometer atentados, parece que les faltan destrucciones, exigen al régimen de Kiev más y más, fomentan los ataques al territorio de Rusia”, subrayó, para luego añadir que, a diferencia de OccidenteRusia nunca tuvo ni tiene ningún plan agresivo hacia la OTAN y sus Estados miembros.

Cabe destacar que Jens Stoltenberg, el secretario general de la OTAN, dijo el martes pasado que Ucrania tiene derecho legítimo a atacar los objetivos en el territorio de Rusia. “Ucrania tiene derecho a la autodefensa y este derecho contiene el de atacar objetivos militares legítimos en el territorio del agresor”, recalcó. Este periodista se pregunta qué implicará legítimos en su léxico. Fue el mismo noruego quien insistió dos días después en que la Alianza debe “ayudar a Ucrania a defender este derecho”. Como había expresado un mes atrás, en su opinión, semejante sugerencia bélica no convierte a los países del bloque atlantista en parte del conflicto.

Nuevo confuso episodio de Joe Biden: se lo vio completamente desorientado durante la Cumbre del G7 | Canal 26

EL G7 Y CHINA. Es que el panorama se ha convertido en un lío. En el reciente cónclave del G7, sus miembros cerraron aseverando que el apoyo de China a Rusia está “posibilitando” la guerra en Ucrania, al tiempo que amenazaron con más sanciones a los actores que apoyen a nivel material a Moscú. La dura observación, lanzada en la cumbre anual efectuada en Italia, se produce en un momento en el que los Estados Unidos están intensificando sus esfuerzos diplomáticos para convencer a Europa de que adopte una postura más dura contra el coloso asiático. En estas páginas se entiende que el hostigamiento está en línea con la preocupación norteña por el crecimiento intenso del Dragón, y muy especialmente de su elaboración de semiconductores; pero el argumento público se asienta en “la ayuda al complejo militar-industrial ruso”.

“El apoyo continuo de China a la base industrial de defensa de Rusia está posibilitando a este país mantener su guerra ilegal en Ucrania y tiene implicaciones significativas y de amplio alcance para la seguridad”, afirmaron los jefes del G7 en el comunicado del viernes. “Pedimos a China que cese la transferencia de materiales de doble uso, incluidos componentes de armas y equipamientos, que son insumos para el sector de defensa de Rusia”. Los funcionarios también amenazaron con nuevas acciones, incluidas sanciones, para castigar a las entidades chinas que, según ellos, están ayudando a Rusia a eludir los embargos occidentales. Si alguien cree haber escuchado eso antes, no se equivoca: es un texto equivalente al empleado hace pocas semanas para disciplinar a los países asiáticos que cooperan con la fabricación de los famosos chips.

Lula y Petro abogan por la integración de una Latinoamérica que enfrenta tensiones

CUMBRE DE BARRO. La pomposa Cumbre por la Paz en Ucrania congrega, por estas horas, a todo el mundo con la excepción de los involucrados. Hasta el presidente norteamericano, Joseph Biden, dejó de lado la cita tras haberla impulsado con ahínco. Junto a su curioso despiste, que lo pone en las gateras para rumbear con el argentino Javier Milei hacia un neuropsiquiátrico, debe mencionarse la impotencia de la convocatoria. Tampoco se presentaron el brasileño Luiz Inacio Lula da Silva y el colombiano Gustavo Petro, entre otros. No asiste Xi Jingpin, que además de haber sido imputado de sostén científico técnico del Eje del Mal, como vimos, comprende que no se debería analizar una salida al conflicto sin alguno de los enzarzados. Las ausencias pretenden compensarse con la vice Kamala Harris y los aliados de siempre, listos para acusar a los multipolares.

Resulta demasiado ostensible que la Federación de Rusia no ha sido invitada porque debe ser acusada de continuar la guerra, y porque la guerra debe continuar para satisfacer a las corporaciones financieras que comandan el atlantismo; porque la Unión Europea en caída obedece esa dirección, aunque la perjudique, porque si llega a aparecer Putin podrá hablar al mundo y explicar qué sucede en realidad, porque los opacos referentes europeos no están en condiciones de afrontar un debate abierto. En una evocación de su exitosa trayectoria humorística, Zelenski abrió el juego así: “Todo lo que se acuerde en la cumbre será parte del proceso de paz que todos necesitamos”, dijo en una conferencia de prensa con la presidenta de Suiza, Viola Amherd“Creo que aquí seremos testigos de cómo se hace historia”. añadió.

El papa Francisco durante su alocución en la cumbre del G7 sostiene un papel en la mano.

A partir de ahora este narrador se apartará, en apariencia, de los asuntos que explican las nuevas relaciones de fuerza y las perspectivas de las zonas en litigio, para adentrarse en un debate fuerte, aunque todavía incipiente.

PAPA. FASCINANTE Y TREMENDOFrancisco, se sabe, no se arredra ante los temas filosóficos que tienen vínculo directo con la realidad material que la humanidad debe enfrentar. Después de mucho rumiar y tras unas cuantas mateadas, el argentino elaboró una consideración bien honda sobre el tema que cautiva, con razón, a las distintas miradas sobre el futuro cercano: la Inteligencia Artificial. Con su bagaje, se acercó al cónclave del G7 y emitió el siguiente discurso, sin desperdicio:

“Un instrumento fascinante y tremendo

Estimadas señoras, distinguidos señores:

Me dirijo hoy a ustedes, líderes del Foro Intergubernamental del G7, con una reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad.

«La Sagrada Escritura atestigua que Dios ha dado a los hombres su Espíritu para que tengan “habilidad, talento y experiencia en la ejecución de toda clase de trabajos” ( Ex 35,31)». La ciencia y la tecnología son, por lo tanto, producto extraordinario del potencial creativo que poseemos los seres humanos.

Ahora bien, la inteligencia artificial se origina precisamente a partir del uso de este potencial creativo que Dios nos ha dado.

Dicha inteligencia artificial, como sabemos, es un instrumento extremadamente poderoso, que se emplea en numerosas áreas de la actividad humana: de la medicina al mundo laboral, de la cultura al ámbito de la comunicación, de la educación a la política. Y es lícito suponer, entonces, que su uso influirá cada vez más en nuestro modo de vivir, en nuestras relaciones sociales y en el futuro, incluso en la manera en que concebimos nuestra identidad como seres humanos.

El tema de la inteligencia artificial, sin embargo, a menudo es percibido de modo ambivalente: por una parte, entusiasma por las posibilidades que ofrece; por otra, provoca temor ante las consecuencias que podrían llegar a producirse. A este respecto podríamos decir que todos nosotros, aunque en diferente medida, estamos atravesados por dos emociones: somos entusiastas cuando imaginamos los progresos que se pueden derivar de la inteligencia artificial, pero, al mismo tiempo, nos da miedo cuando constatamos los peligros inherentes a su uso.

No podemos dudar, ciertamente, de que la llegada de la inteligencia artificial representa una auténtica revolución cognitiva-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas transformaciones de época. Por ejemplo, la inteligencia artificial podría permitir una democratización del acceso al saber, el progreso exponencial de la investigación científica, la posibilidad de delegar a las máquinas los trabajos desgastantes; pero, al mismo tiempo, podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas, poniendo así en peligro la posibilidad de una “cultura del encuentro” y favoreciendo una “cultura del descarte”.

La magnitud de estas complejas transformaciones está vinculada obviamente al rápido desarrollo tecnológico de la misma inteligencia artificial.

Es precisamente este poderoso avance tecnológico el que hace de la inteligencia artificial un instrumento fascinante y tremendo al mismo tiempo, y exige una reflexión a la altura de la situación.

En esa dirección tal vez se podría partir de la constatación de que la inteligencia artificial es sobre todo un instrumento. Y resulta espontáneo afirmar que los beneficios o los daños que esta conlleve dependerán de su uso.

Esto es cierto, porque ha sido así con cada herramienta construida por el ser humano desde el principio de los tiempos.

Nuestra capacidad de construir herramientas, en una cantidad y complejidad que no tiene igual entre los seres vivos, nos habla de una condición tecno-humana. El ser humano siempre ha mantenido una relación con el ambiente mediada por los instrumentos que iba produciendo. No es posible separar la historia del hombre y de la civilización de la historia de esos instrumentos. Algunos han querido leer en todo eso una especie de privación, un déficit del ser humano, como si, a causa de esa carencia, estuviera obligado a dar vida a la tecnología. Una mirada atenta y objetiva en realidad nos muestra lo contrario. Vivimos una condición de ulterioridad respecto a nuestro ser biológico; somos seres inclinados hacia el fuera-de-nosotros, es más, radicalmente abiertos al más allá. De aquí se origina nuestra apertura a los otros y a Dios; de aquí nace el potencial creativo de nuestra inteligencia en términos de cultura y de belleza; de aquí, por último, se origina nuestra capacidad técnica. La tecnología es así una huella de nuestra ulterioridad.

Sin embargo, el uso de nuestras herramientas no siempre está dirigido unívocamente al bien. Aun cuando el ser humano siente dentro de sí una vocación al más allá y al conocimiento vivido como instrumento de bien al servicio de los hermanos y hermanas, y de la casa común (cf. Gaudium et spes, 16), esto no siempre sucede. Es más, no pocas veces, precisamente gracias a su libertad radical, la humanidad ha pervertido los fines de su propio ser, transformándose en enemiga de sí misma y del planeta. La misma suerte pueden correr los instrumentos tecnológicos. Solamente si se garantiza su vocación al servicio de lo humano, los instrumentos tecnológicos revelarán no sólo la grandeza y la dignidad única del ser humano, sino también el mandato que este último ha recibido de “cultivar y cuidar” el planeta y todos sus habitantes (cf. Gn 2,15). Hablar de tecnología es hablar de lo que significa ser humanos y, por tanto, de nuestra condición única entre libertad y responsabilidad, es decir, significa hablar de ética.

De hecho, cuando nuestros antepasados afilaron piedras de sílex para hacer cuchillos, los usaron tanto para cortar pieles para vestirse como para eliminarse entre sí. Lo mismo podría decirse de otras tecnologías mucho más avanzadas, como la energía producida por la fusión de los átomos, como ocurre en el Sol, que podría utilizarse para producir energía limpia y renovable, pero también para reducir nuestro planeta a cenizas.

Qué podemos aprender de cómo Japón utiliza los robots - BBC News Mundo

Pero la inteligencia artificial es una herramienta aún más compleja. Yo diría que es una herramienta sui generis. Así, mientras que el uso de una herramienta simple —como un cuchillo— está bajo el control del ser humano que lo utiliza y su buen uso depende sólo de él, la inteligencia artificial, en cambio, puede adaptarse de forma autónoma a la tarea que se le asigne y, si se diseña de esa manera, podría tomar decisiones independientemente del ser humano para alcanzar el objetivo fijado.

Conviene recordar siempre que la máquina puede, en algunas formas y con estos nuevos medios, elegir por medio de algoritmos. Lo que hace la máquina es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que podríamos definir el más estratégico de una elección y requiere una evaluación práctica. A veces, frecuentemente en la difícil tarea de gobernar, también estamos llamados a decidir con consecuencias para muchas personas. Desde siempre la reflexión humana habla a este propósito de sabiduría, la phronesis de la filosofía griega y, al menos en parte, la sabiduría de la Sagrada Escritura. Frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida. Condenaríamos a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas. Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de inteligencia artificial. Está en juego la misma dignidad humana.

Precisamente sobre este tema, permítanme insistir en que, en un drama como el de los conflictos armados, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas “armas autónomas letales” para prohibir su uso, empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano.

Hay que añadir, además, que el buen uso, al menos de las formas avanzadas de inteligencia artificial, no estará plenamente bajo el control ni de los usuarios ni de los programadores que definieron sus objetivos iniciales en el momento de elaborarlos. Y esto es tanto más cierto cuanto que es muy probable que, en un futuro no lejano, los programas de inteligencias artificiales puedan comunicarse directamente entre sí, para mejorar su rendimiento. Y, si en el pasado, los seres humanos que utilizaron herramientas simples vieron su existencia modelada por estos últimos —el cuchillo les permitió sobrevivir al frío pero también desarrollar el arte de la guerra—, ahora que los seres humanos han modelado un instrumento complejo, verán que este modelará aún más su existencia.

Holograma de computadora y pantalla táctil de un hombre de negocios con análisis de datos, codificación y programación digital por la noche, superposición de software holográfico de TI, investigación de tecnología de

El mecanismo básico de la inteligencia artificial

Permítanme ahora detenerme brevemente sobre la complejidad de la inteligencia artificial. Básicamente, la inteligencia artificial es una herramienta diseñada para resolver un problema y funciona mediante un encadenamiento lógico de operaciones algebraicas, realizado en base a categorías de datos, que se comparan para descubrir correlaciones y mejorar su valor estadístico mediante un proceso de autoaprendizaje basado en la búsqueda de datos adicionales y la automodificación de sus procedimientos de cálculo.

La inteligencia artificial está diseñada de este modo para resolver problemas específicos, pero para quienes la utilizan la tentación de obtener, a partir de las soluciones puntuales que propone, deducciones generales, incluso de orden antropológico, es a menudo irresistible.

Un buen ejemplo es el uso de programas diseñados para ayudar a los magistrados en las decisiones relativas a la concesión de prisión domiciliaria a presos que están cumpliendo una condena en una institución penitenciaria. En este caso, se pide a la inteligencia artificial que prevea la probabilidad de reincidencia del delito cometido por un condenado a partir de categorías prefijadas (tipo de delito, comportamiento en prisión, evaluación psicológica y otros) lo que permite a la inteligencia artificial tener acceso a categorías de datos relacionados con la vida privada de la persona detenida (origen étnico, nivel educativo, línea de crédito, etc.). El uso de tal metodología —que a veces corre el riesgo de delegar de facto en una máquina la última palabra sobre el destino de una persona— puede llevar implícitamente la referencia a los prejuicios inherentes a las categorías de datos utilizados por la inteligencia artificial.

El ser clasificado en un cierto grupo étnico o, más prosaicamente, el haber cometido hace años una pequeña infracción —el no haber pagado, por ejemplo, una multa por aparcar en zona prohibida—, influirá, de hecho, en la decisión acerca de la concesión de la prisión domiciliaria. Por el contrario, el ser humano está siempre en evolución y es capaz de sorprender con sus acciones, algo que la máquina no puede tener en cuenta.

Hay que evidenciar también que aplicaciones análogas a ésta de la que estamos hablando se multiplicarán gracias al hecho de que los programas de inteligencia artificial estarán cada vez más dotados de la capacidad de interactuar directamente con los seres humanos (chatbots), sosteniendo conversaciones y estableciendo relaciones de cercanía con ellos, con frecuencia muy agradables y tranquilizadoras, en cuanto tales programas de inteligencia artificial están diseñados para aprender a responder, de forma personalizada, a las necesidades físicas y psicológicas de los seres humanos.

Olvidar que la inteligencia artificial no es otro ser humano y que no puede proponer principios generales, es a veces un gran error que parte de la profunda necesidad de los seres humanos de encontrar una forma estable de compañía, o bien de un presupuesto subconsciente, es decir, de la creencia de que las observaciones obtenidas mediante un mecanismo de cálculo estén dotadas de las cualidades de certeza indiscutible y de universalidad indudable.

Esta suposición es, sin embargo, descabellada, como demuestra el examen de los límites intrínsecos del cálculo mismo. La inteligencia artificial usa operaciones algebraicas que se realizan según una secuencia lógica (por ejemplo, si el valor de X es superior al de Y, multiplica X por Y; si no divide X por Y). Este método de cálculo —denominado algoritmo— no está dotado ni de objetividad ni de neutralidad. Al estar basado en el álgebra puede examinar sólo realidades formalizadas en términos numéricos.

No hay que olvidar, además, que los algoritmos diseñados para resolver problemas muy complejos son sofisticados de tal manera que hacen muy difícil a los propios programadores la comprensión exacta de cómo estos sean capaces de alcanzar sus resultados. Esta tendencia a la sofisticación corre el riesgo de acelerarse notablemente con la introducción de los ordenadores cuánticos que no operan con circuitos binarios (semiconductores o microchips), sino según las leyes, bastante articuladas, de la física cuántica. Por otra parte, la continua introducción de microchips cada vez más eficaces es la causa del predominio del uso de la inteligencia artificial por parte de las pocas naciones que disponen de ella.

La calidad de las respuestas que los programas de inteligencia artificial pueden dar, sean más o menos sofisticadas, depende en última instancia de los datos que manejan y de cómo estos los estructuran.

Finalmente, me gustaría señalar un último ámbito en el que emerge claramente la complejidad del mecanismo de la llamada inteligencia artificial generativa (Generative Artificial Inteligence). Nadie duda de que hoy en día están a disposición magníficos instrumentos de acceso al conocimiento que permiten incluso el autoaprendizaje (self-learning) y la autotutoría (self-tutoring) en una gran cantidad de campos. Muchos de nosotros nos hemos quedado sorprendidos por las aplicaciones fácilmente accesibles en línea para componer un texto o producir una imagen sobre cualquier tema o materia. Esto atrae de forma especial a los estudiantes que, cuando deben preparar los trabajos, hacen un uso desmedido.

Estos alumnos, que a menudo están mucho más preparados y acostumbrados al uso de la inteligencia artificial que sus profesores, olvidan, sin embargo, que la denominada inteligencia artificial generativa, en sentido estricto, no es propiamente “generativa”. En realidad, lo que esta hace es buscar información en los macrodatos (big data) y confeccionarla en el estilo que se le ha pedido. No desarrolla conceptos o análisis nuevos. Repite lo que encuentra, dándole una forma atractiva. Y cuanto más repetida encuentra una noción o una hipótesis, más la considera legítima y válida. Más que “generativa”, se la podría llamar “reforzadora”, en el sentido de que reordena los contenidos existentes, contribuyendo a consolidarlos, muchas veces sin controlar si tienen errores o prejuicios.

De este modo, no sólo se corre el riesgo de legitimar la difusión de noticias falsas y robustecer la ventaja de una cultura dominante, sino de minar también el proceso educativo en ciernes ( in nuce). La educación, que debería dar a los estudiantes la posibilidad de una reflexión auténtica, corre el riesgo de reducirse a una repetición de nociones, que se considerarán cada vez más incontestables, simplemente a causa de ser continuamente presentadas.

Los robots de patrullaje inteligentes contra el covid-19

Poner de nuevo al centro la dignidad de la persona en vista de una propuesta ética compartida

A lo que ya hemos dicho se añade una observación más general. La época de innovación tecnológica que estamos atravesando, en efecto, se acompaña de una particular e inédita coyuntura social, en la que cada vez es más difícil encontrar puntos de encuentro sobre los grandes temas de la vida social. Incluso en comunidades caracterizadas por una cierta continuidad cultural, se crean con frecuencia encendidos debates y choques que hacen difícil llegar a acuerdos y soluciones políticas compartidas, orientadas a la búsqueda de lo que es bueno y justo. Además de la complejidad de las legítimas visiones que caracterizan a la familia humana, emerge un factor que parece acomunar estas distintas instancias. Se registra una pérdida o al menos un oscurecimiento del sentido de lo humano y una aparente insignificancia del concepto de dignidad humana. Pareciera que se está perdiendo el valor y el profundo significado de una de las categorías fundamentales de Occidente: la categoría de persona humana. Y es así que en esta época en la que los programas de inteligencia artificial cuestionan al ser humano y su actuar, precisamente la debilidad del ethos vinculada a la percepción del valor y de la dignidad de la persona humana corre el riesgo de ser el mayor daño (vulnus) en la implementación y el desarrollo de estos sistemas. No debemos olvidar que ninguna innovación es neutral. La tecnología nace con un propósito y, en su impacto en la sociedad humana, representa siempre una forma de orden en las relaciones sociales y una disposición de poder, que habilita a alguien a realizar determinadas acciones impidiéndoselo a otros. Esta dimensión de poder que es constitutiva de la tecnología incluye siempre, de una manera más o menos explícita, la visión del mundo de quien la ha realizado o desarrollado.

Esto vale también para los programas de inteligencia artificial. Con el fin de que estos instrumentos sean para la construcción del bien y de un futuro mejor, deben estar siempre ordenados al bien de todo ser humano. Deben contener una inspiración ética.

La decisión ética, de hecho, es aquella que tiene en cuenta no sólo los resultados de una acción, sino también los valores en juego y los deberes que se derivan de esos valores. Por esto he acogido con satisfacción la firma en Roma, en 2020, de la Rome Call for AI Ethics y su apoyo a esa forma de moderación ética de los algoritmos y de los programas de inteligencia artificial que he llamado “algorética”. En un contexto plural y global, en el que también se muestran las distintas sensibilidades y plurales jerarquías en las escalas de valores, parecería difícil encontrar una única jerarquía de valores. Pero en el análisis ético podemos recurrir además a otros tipos de instrumentos. Si nos cuesta definir un solo conjunto de valores globales, podemos encontrar principios compartidos con los cuales afrontar y disminuir eventuales dilemas y conflictos de la vida.

Por esta razón ha nacido la Rome Call. En el término “algorética” se condensa una serie de principios que se revelan como una plataforma global y plural capaz de encontrar el apoyo de las culturas, las religiones, las organizaciones internacionales y las grandes empresas protagonistas de este desarrollo.

La política que se necesita

No podemos, por tanto, ocultar el riesgo concreto, porque es inherente a su mecanismo fundamental, de que la inteligencia artificial limite la visión del mundo a realidades que pueden expresarse en números y encerradas en categorías preestablecidas, eliminando la aportación de otras formas de verdad e imponiendo modelos antropológicos, socioeconómicos y culturales uniformes. El paradigma tecnológico encarnado por la inteligencia artificial corre el riesgo de dar paso a un paradigma mucho más peligroso, que ya he identificado con el nombre de “paradigma tecnocrático”. No podemos permitir que una herramienta tan poderosa e indispensable como la inteligencia artificial refuerce tal paradigma, sino que más bien debemos hacer de la inteligencia artificial un baluarte precisamente contra su expansión.

Y es precisamente aquí donde urge la acción política, como recuerda la encíclica Fratelli tutti. Ciertamente «para muchos la política hoy es una mala palabra, y no se puede ignorar que detrás de este hecho están a menudo los errores, la corrupción, la ineficiencia de algunos políticos. A esto se añaden las estrategias que buscan debilitarla, reemplazarla por la economía o dominarla con alguna ideología. Pero, ¿puede funcionar el mundo sin política? ¿Puede haber un camino eficaz hacia la fraternidad universal y la paz social sin una buena política?».

Nuestra respuesta a estas últimas preguntas es: ¡no! ¡La política sirve! Quiero reiterar en esta ocasión que «ante tantas formas mezquinas e inmediatistas de política […], la grandeza política se muestra cuando, en momentos difíciles, se obra por grandes principios y pensando en el bien común a largo plazo. Al poder político le cuesta mucho asumir este deber en un proyecto de nación y más aún en un proyecto común para la humanidad presente y futura».

Estimadas señoras, distinguidos señores:

Mi reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad nos lleva así a la consideración de la importancia de la “sana política” para mirar con esperanza y confianza nuestro futuro. Como he dicho en otra ocasión, «la sociedad mundial tiene serias fallas estructurales que no se resuelven con parches o soluciones rápidas meramente ocasionales. Hay cosas que deben ser cambiadas con replanteos de fondo y transformaciones importantes. Sólo una sana política podría liderarlo, convocando a los más diversos sectores y a los saberes más variados. De esa manera, una economía integrada en un proyecto político, social, cultural y popular que busque el bien común puede “abrir camino a oportunidades diferentes, que no implican detener la creatividad humana y su sueño de progreso, sino orientar esa energía con cauces nuevos” ( Laudato si’, 191)».

Este es precisamente el caso de la inteligencia artificial. Corresponde a cada uno hacer un buen uso de ella, y corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero.

Gracias”.

Como observará, lector, vale detenerse y pensar. Hay demasiadas cosas en juego.

  • Area Periodística Radio Gráfica / Director La Señal Medios / Sindical Federal