En su mensaje con motivo de la 58ª Jornada Mundial de las Comunicaciones Sociales, Francisco reflexiona sobre las oportunidades y los riesgos de la inteligencia artificial y de las nuevas tecnologías que están «cambiando radicalmente la información». Un pensamiento para todos los reporteros de guerra: “El uso de la IA no cancela el papel del periodismo en el terreno. Sólo tocando el sufrimiento de primera mano podemos entender lo absurdo de las guerras.»
(vaticannews.va/it).-Fake news y deep fakes , cámaras de eco, aprendizaje automático, redes sociales. Nuevas herramientas, nuevos canales, nuevas oportunidades pero, al mismo tiempo, nuevas «patologías» y trampas, especialmente para el campo de la comunicación, que corre el riesgo de acabar siendo objeto de una «contaminación cognitiva», es decir, de la alteración de la realidad a través de narrativas falsas, de mensajes falsos. mensajes de voz y fotografías falsas (incluso el Papa fue el tema), o la cancelación del precioso papel de los reporteros sobre el terreno, particularmente en escenarios de guerra. El Papa Francisco vuelve a reflexionar sobre la IA en su Mensaje para la 58ª Jornada Mundial de las Comunicaciones Sociales sobre el tema Inteligencia artificial y sabiduría del corazón: para una comunicación plenamente humana . En el documento firmado en San Juan de Letrán el 24 de enero, fiesta de San Francisco de Sales, patrón de los periodistas, Francisco mira con admiración y preocupación la evolución de sistemas que están «modificando radicalmente también la información y la comunicación» y , “algunas bases de convivencia civil”.
Este es un cambio que afecta a todos, no sólo a los profesionales
La importancia de los periodistas.
El pensamiento del Papa se dirige en particular al mundo del periodismo, a la información sobre las guerras y a esa «guerra paralela» a través de campañas de desinformación. «Cuántos periodistas son heridos o mueren en el campo para permitirnos ver lo que sus ojos han visto», escribe Francisco, «sólo tocando el sufrimiento de los niños, de las mujeres y de los hombres, podemos comprender el absurdo de las guerras».
El uso de la inteligencia artificial podría contribuir positivamente en el campo de la comunicación si no anula el papel del periodismo en el campo, sino por el contrario lo apoya; si potenciará la profesionalidad de la comunicación, responsabilizando a cada comunicador; si devolverá a cada ser humano el papel de sujeto, con capacidad crítica, de la propia comunicación
No te pongas rígido ante lo nuevo, sino sé sensible a lo que no es humano.
Ante la aceleración de la difusión de «inventos maravillosos» que suscitan «un asombro que oscila entre el entusiasmo y la desorientación», el Papa nos invita a preguntarnos: «¿Cómo podemos seguir siendo plenamente humanos y orientar hacia el bien el cambio cultural en curso?». .
Mientras tanto, «es mejor limpiar el terreno de lecturas catastróficas y de sus efectos paralizantes»; por lo tanto, como afirmó Romano Guardini, «no endurecerse contra lo ‘nuevo’ en un intento de preservar un mundo bello condenado a desaparecer». Al mismo tiempo, sin embargo, debemos permanecer «sensibles» a todo lo que es «destructivo» y «no humano». Es decir, hay que empezar de nuevo desde el corazón «en esta era que corre el riesgo de ser rica en tecnología y pobre en humanidad». Necesitamos sabiduría, afirma nuevamente Francisco, y no podemos esperarla de las máquinas.
No se trata de exigir que las máquinas parezcan humanas. Se trata más bien de despertar al hombre de la hipnosis en la que cae debido a su delirio de omnipotencia, creyéndose un sujeto totalmente autónomo y autorreferencial, separado de todo vínculo social y olvidadizo de su criatura.
El peligro de las noticias falsas
De hecho, la tentación del hombre de «llegar a ser como Dios sin Dios» es una tentación antigua. Y «toda extensión técnica del hombre puede ser un instrumento de servicio amoroso o de dominación hostil», subraya el Papa. «Los sistemas de inteligencia artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de información entre diferentes pueblos y generaciones». Sin embargo, también pueden ser herramientas de «contaminación cognitiva», es decir, esas fake news que se sirven de deep fakes , la «creación» y la «difusión de imágenes que parecen perfectamente verosímiles pero que son falsas (yo también fui el asunto del mismo)”, o “mensajes de audio que utilizan la voz de una persona diciendo cosas que esa persona nunca ha dicho”. La simulación subyacente «se vuelve perversa cuando distorsiona la relación con los demás y la realidad», advierte el Pontífice.
Oportunidades y riesgos de las redes sociales
Seguidamente se centra en las redes sociales, que también son «herramientas que, en malas manos, podrían abrir escenarios negativos». “Como todo lo que surge de la mente y de las manos del hombre, los algoritmos no son neutrales”, señala el Papa, pidiendo “actuar preventivamente”, proponiendo modelos de regulación ética. Una vez más se hace un llamamiento a la comunidad internacional para que formule «un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas».
Grandes posibilidades de bien conllevan el riesgo de que todo se transforme en un cálculo abstracto, que reduzca a las personas a datos, el pensamiento a un esquema, la experiencia a un caso, el bien a la ganancia, y sobre todo que terminemos negando la unicidad de cada persona y su historia, disolviendo la concreción de la realidad en una serie de datos estadísticos
«La revolución digital puede hacernos más libres», añade el Pontífice, subrayando que, sin embargo, «no es aceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a una acumulación de datos no certificados, a una desresponsabilidad editorial colectiva». La representación de la realidad en big data corre el riesgo de «dañar nuestra propia humanidad».
Preguntas cruciales
De ahí una serie de preguntas para reflexionar sobre el presente y el futuro, punto central de todo el Mensaje:
¿Cómo podemos proteger la profesionalidad y la dignidad de los trabajadores en el campo de la comunicación y la información, junto con la de los usuarios de todo el mundo? ¿Cómo garantizar la interoperabilidad de las plataformas? ¿Cómo podemos lograr que las empresas que desarrollan plataformas digitales asuman sus responsabilidades respecto de lo que difunden y lucran, similar a lo que ocurre con los editores de medios tradicionales? ¿Cómo podemos hacer que los criterios que subyacen a los algoritmos de indexación y desindexación y a los motores de búsqueda sean más transparentes, capaces de exaltar o borrar personas, opiniones, historias y culturas?
Nuevamente el Papa pregunta:
¿Cómo garantizar la transparencia de los procesos de información? ¿Cómo podemos hacer evidente la autoría de los escritos y rastreables las fuentes, evitando el riesgo del anonimato? ¿Cómo dejar claro si una imagen o vídeo retrata un evento o lo simula? ¿Cómo evitar que las fuentes se reduzcan a una sola, a un único pensamiento elaborado algorítmicamente? ¿Y cómo podemos promover un entorno adecuado para preservar el pluralismo y representar la complejidad de la realidad? ¿Cómo podemos hacer sostenible esta herramienta poderosa, costosa y que consume mucha energía? ¿Cómo podemos hacerlo accesible también a los países en desarrollo?
Nuevas esclavitudes y conquistas de la libertad
A partir de las respuestas a estas preguntas, «comprenderemos si la inteligencia artificial acabará construyendo nuevas castas basadas en el dominio de la información, generando nuevas formas de explotación y desigualdad» o, insiste Francisco, si «traerá más igualdad», promoviendo una correcta información y mayor conciencia sobre el paso de las eras.
Por un lado se vislumbra el espectro de una nueva esclavitud, por el otro la conquista de la libertad; por un lado, la posibilidad de que unos pocos influyan en el pensamiento de todos, por otro, la posibilidad de que todos participen en la elaboración del pensamiento.
La respuesta no está escrita, depende de nosotros: «Corresponde al hombre decidir si convertirse en alimento de algoritmos o alimentar su corazón de libertad».
