Actualidad
El papa Francisco advierte sobre los peligros de la IA
No habrá esperanza para la humanidad si depende de las decisiones de las máquinas, sostiene el sumo pontífice.
El papa Francisco, quien el viernes se convirtió en el primer jefe de la Iglesia católica en participar en una cumbre del G7, reflexionó sobre los desafíos que el rápido desarrollo de la inteligencia artificial (IA) plantea para el futuro de la humanidad.
Francisco inició su discurso, que pronunció en el lujoso hotel Borgo Egnazia de Apulia (Italia), ponderando los beneficios de la IA, al decir que "representa una auténtica revolución cognitiva industrial" que "podría permitir una democratización del acceso al saber, el progreso exponencial de la investigación científica y la posibilidad de delegar a las máquinas los trabajos desgastantes".
Sin embargo, al mismo tiempo señaló que, por otro lado, "podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vía de desarrollo, entre clases sociales dominantes y clases sociales oprimidas". "Depende de todos hacer un buen uso de la IA, pero corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero", subrayó el jefe de la Iglesia católica.
Las decisiones siempre en manos humanas
La IA es un "instrumento fascinante y tremendo al mismo tiempo" que necesita una estricta supervisión humana, comentó el pontífice a los líderes de Canadá, Francia, Alemania, Italia, Japón, el Reino Unido, Estados Unidos, la Unión Europea y otros invitados. Los algoritmos "solo pueden examinar realidades formalizadas en términos numéricos", mientras que los humanos, que tienen sabiduría y pueden escuchar la Sagrada Escritura, "no solo eligen, sino que en su corazón son capaces de decidir", afirmó.
Por esta razón "debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con la que esta se presenta en nuestra vida", insistió el papa Francisco. "Condenaríamos a la humanidad a un futuro sin esperanza si le quitáramos la capacidad a las personas de tomar decisiones sobre sí mismas y sus vidas, condenándolas a depender de las elecciones de las máquinas", afirmó.
Las máquinas no son neutrales
Según Francisco, un algoritmo no es "neutral", ya que siempre está moldeado por "la visión del mundo de quienes lo inventaron y desarrollaron". El papa indica que la IA y la tecnología en general siempre deben estar ordenados "al bien de todos los seres humanos" sobre la base de la ética.
El papa exhortó específicamente a los líderes del G7 a prohibir el uso de sistemas de armas letales autónomas, argumentando que "ninguna máquina debería elegir jamás poner fin a la vida de un ser humano". También instó a la creación de "un espacio para un control humano significativo sobre las decisiones tomadas por los programas de inteligencia artificial", subrayando que "está en juego la dignidad humana misma".
comentarios