Desde que el Papa presentó su encíclica sobre la IA, podría parecer que el debate sobre la ética en este campo ha quedado parcialmente cerrado. Pero las dificultades siguen ahí. Las principales voces del sector advierten de los riesgos, pero todavía eluden las responsabilidades y, sobre todo, las consecuencias de las decisiones y los mecanismos de sanción que serían necesarios.
Estamos acostumbrados a ver cómo la inteligencia artificial habla con soltura de dilemas y ofrece respuestas que suenan comprensivas, a veces más que las de muchas personas. Pero la pregunta de fondo no es técnica: es moral. ¿Puede tener ética quien no siente que algo de su propia pervivencia está en juego?
Una máquina puede aplicar reglas morales; una institución, organizar su actuación de acuerdo con criterios de justicia. Eso tiene consecuencias y no es poca cosa. Pero actuar conforme a normas éticas no equivale a ser un sujeto moral. Serlo implica reconocer que alguien sufre, sentirse concernido por ese sufrimiento y responder por los propios actos.
La IA puede explicar el dolor, el sufrimiento o la injusticia con una precisión admirable. Pero explicarlos no es experimentarlos. Y quizá la ética empiece justo ahí: cuando el daño ajeno deja de ser un dato y se convierte en algo que nos obliga.
Hay una trampa más sutil. Una máquina que responde con tono amable, dice entender nuestra angustia o frustración y elige las palabras adecuadas produce algo muy parecido a la empatía. Pero parecerse a la empatía no es tenerla. El riesgo no está solo en que la máquina nos engañe, sino en que nos acostumbremos a confundir la forma con el fondo, la cortesía con el cuidado, la respuesta correcta con la responsabilidad. De hecho, la máquina no engaña por voluntad propia: responde según el entrenamiento que ha recibido.
Hablamos de una IA «ética» cuando se ajusta a normas diseñadas por personas. La expresión es útil, pero puede ocultar algo decisivo: detrás de cada respuesta hay quienes diseñan los sistemas, deciden dónde se usan y fijan sus criterios. Si algo sale mal, atribuir a la máquina una voluntad moral es una forma cómoda de diluir la responsabilidad humana. El sistema no puede responder por sí mismo; la responsabilidad corresponde a quienes lo crean, lo implantan y lo utilizan. Y ese alguien tiene nombre, empresa y cuenta de resultados.
No es una discusión abstracta. Los algoritmos ya intervienen en quién es contratado, quién recibe un crédito o quién queda fuera de una ayuda pública. A quien pierde una oportunidad por la decisión de un sistema no le consuela saber que este cumplía sus reglas. Tampoco basta esa explicación cuando un sistema participa en el cálculo de cuántas víctimas pueden considerarse daño colateral en una acción militar. En todos esos casos hace falta alguien que dé la cara, explique la decisión y, si corresponde, la repare. La dignidad de una persona no puede depender de que un modelo esté bien configurado.
Europa ha recogido parte de esta exigencia. El AI Act no pide conciencia a las máquinas: exige que los sistemas de alto riesgo puedan ser supervisados por personas y que quienes los vigilan tengan la competencia y la autoridad necesarias. La ley sitúa así la responsabilidad fuera del algoritmo, en las personas y organizaciones que desarrollan y utilizan estos sistemas.
León XIV va más allá en Magnifica Humanitas. Advierte que el problema no es solo que una máquina decida sin conciencia, sino que el control de los datos, las infraestructuras y los modelos quede concentrado en pocas manos. Quien controla esos sistemas puede influir en qué respuestas se consideran válidas y qué criterios se incorporan a las decisiones. Una ética definida por unos pocos deja de ser una responsabilidad compartida y se convierte en una forma de poder.
Conviene mirar también hacia dentro. Cada vez que delegamos un juicio difícil en una máquina, ganamos rapidez, pero podemos perder el hábito de hacernos cargo. La ética no consiste solo en saber qué está bien: también exige asumir una decisión, dudar, equivocarse y rectificar. Si dejamos que los sistemas ponderen por nosotros, corremos el riesgo de convertirnos en ejecutores de sus recomendaciones. Y una sociedad que se acostumbra a no responder acaba dejando de preguntarse a quién está dañando.
Lamentablemente, muchos actos humanos son «poco humanos». Pero eso no justifica que a una tecnología que está transformando el mundo se le permita reproducir la falta de ética que tantas veces ha marcado la historia de la humanidad.
No sabemos si una máquina llegará algún día a tener conciencia. Pero, mientras no pueda vivir la experiencia de sus actos ni responder por ellos, podrá ejecutar reglas éticas, no poseer una ética propia. La IA puede ayudarnos a pensar qué está bien, y eso ya es mucho. Pero las decisiones que afectan a las personas y la responsabilidad por sus consecuencias no pueden quedar al albur de un sistema.
Héctor Santcovsky