La inteligencia artificial “no es neutral”, advierte el papa León XIV en su primera encíclica “Magnifica Humanitas”, dedicada a la protección de la dignidad humana en la era de la IA, donde alerta del peligro de que esta tecnología “se concentre en pocas manos”.
Le puede interesar: California, en alerta por fuga de un tanque de químicos altamente tóxico: podría causar una explosión masiva
En el primer gran documento de su pontificado, publicado este lunes, León XIV, matemático y canonista, sigue los pasos de la Rerum Novarum de León XIII para actualizar la Doctrina Social de la Iglesia ante uno de los principales retos de la época contemporánea: la inteligencia artificial.
Ante esta nueva revolución, el papa reclama “un orden social justo en la era digital”, “marcos jurídicos adecuados”, “reglas justas” y “mecanismos de protección eficaces”.
Entre sus primeras reflexiones en las 110 paginas del documento sostiene que “las innovaciones tecnológicas —incluida la inteligencia artificial— no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”.
Sobre la IA advierte de “usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad”, y también de un engaño más sutil cuando los sistemas, “presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado”.
Lea también: Presos comunes toman una cárcel de Venezuela y se reportan heridos, según una ONG
El texto no es un tratado técnico sobre la IA ni tampoco una condena a las nuevas tecnologías, de las que aprecia su valor, sino una relectura de la Doctrina Social de la Iglesia aplicada a esta nueva revolución digital ante el riesgo de que se extienda el transhumanismo.
El pontífice estadounidense subraya que las nuevas tecnologías —patentes, algoritmos, plataformas digitales, infraestructuras, datos— “quedan concentrados en las manos de unos pocos, sin adecuadas formas de intercambio y de acceso”.
Le sugerimos: Maduro envía otro mensaje desde la cárcel en Nueva York: “Sabiduría para actuar, humildad para reconciliarnos”
Son empresas y plataformas que absorben esas competencias, datos y capacidad decisional quienes definen “condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”.
“Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”, advierte.
En otras noticias: Evo Morales dice que a Paz “solo le queda” militarizar Bolivia o llamar a elecciones
Considera que “los estados y las instituciones supranacionales están llamados a garantizar reglas justas y mecanismos de protección eficaces para que las comunidades locales, los cuerpos intermedios, las escuelas y las universidades, así como las realidades eclesiales y asociativas puedan tener voz y contribuir al discernimiento de las decisiones que inciden en la vida de las personas: trabajo, acceso a los servicios, gestión de los datos y ambientes digitales”.
Y aboga por “un orden social justo en la era digital” que garantice “acceso igualitario a las oportunidades, proteja a los más pequeños y a los más frágiles, se oponga al odio y a la desinformación, y someta a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos”.
No deje de leer: Ejército israelí aprueba mantener la ofensiva en Líbano pese a las negociaciones con Irán
Indica el peligro de que “la imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal”.
Para que la IA respete la dignidad humana, el papa reclama “responsabilidades” claras de quienes la crean y también “marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”, porque si no “el cambio será gobernado sólo por lógicas tecnocráticas”.
También aquí: Estados Unidos envía asistencia alimentaria de emergencia y apoyo logístico a Bolivia
Advierte además de “fenómenos de captación, chantaje y explotación sexual de menores, que se vuelven más insidiosos por el uso de perfiles falsos, de algoritmos que amplifican contactos peligrosos y de herramientas de IA capaces de manipular imágenes y vídeos”.
Señala que “tener un teléfono móvil personal demasiado pronto y utilizarlo sin el control de los adultos puede acentuar la fragilidad y favorecer las adicciones en los jóvenes”, exponiéndolos a aislamiento, acoso, ciberacoso y presiones para compartir imágenes íntimas o datos sensibles, por lo que pide límites de edad y mayor responsabilidad de los proveedores.
No olvide leer: Cuatro muertos y casi cien heridos en un bombardeo ruso a Ucrania con hipersónico Oréshnik
También aborda el mundo del trabajo, donde “contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales de la tecnología pueden paradójicamente desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas”.
Por ello, insta a que “toda introducción de automatización y de IA debería ir acompañada de medidas verificables de protección del empleo, de recualificación y de participación de los trabajadores, para que la tecnología se oriente a liberar tiempo y capacidades humanas, no a generar exclusión”.
