El presente artículo fue escrito por John E. Kelly III, vicepresidente ejecutivo de IBM.

Como alguien educado en ciencia e ingeniería, siempre he considerado la búsqueda de nuevas tecnologías como un llamado superior. Como alguien criado católico romano, también tiendo a prestar atención cuando llega otra llamada importante -como la del Vaticano.

El año pasado, el Vaticano contactó a nuestra empresa, IBM. El Papa Francisco estaba preocupado por los efectos de la tecnología en la sociedad y en las familias de todo el mundo, y su potencial para ampliar la brecha entre ricos y pobres. De particular preocupación: la inteligencia artificial, la tecnología más adepta en imitar las mejores y peores cualidades humanas. ¿Cómo podría el mundo aprovechar la IA para el bien común, mientras reduce su potencial para ser una fuerza para el mal?

El líder de los 1.300 millones de católicos romanos del mundo había dirigido a su  Academia Pontificia por la Vida a estudiar el problema. Esta semana en Roma, llegan los resultados de ese esfuerzo: IBM, junto con las Naciones Unidas y el Vaticano, firmará un llamado papal para la ética en el uso de la IA.

IBM nunca antes había firmado una llamada papal. Pero estos no son tiempos comunes en tecnología.

A pesar del verdadero bien que puede resultar del uso responsable de la IA, como mejorar la comprensión médica y los tratamientos, o hacer que todo tipo de actividad humana sea menos difícil, más eficiente y amable con el entorno natural, el mundo también ha visto lo que sucede cuando los malos actores usan la tecnología para fines nefastos. Es entonces cuando los trolls políticos generan noticias falsas que son difíciles de distinguir de las reales. O las empresas monetizan datos personales para sus propios fines egoístas. O los gobiernos autoritarios utilizan el reconocimiento facial y otras formas de IA para la vigilancia de ‘Gran Hermano’.

Y así, las instituciones privadas y públicas necesitan urgentemente poner barandales alrededor de la tecnología como la IA. Eso no solo incluye pautas éticas, como las que pide el Vaticano, sino que también incluye pautas regulatorias legalmente vinculantes, como la regulación de precisión para IA que IBM y otros han propuesto recientemente. E incluye esfuerzos como el reciente documento de la Unión Europea sobre la regulación de la IA, que IBM también apoya.

Una mirada sincera en el Espejo

Las máquinas no son malas. Y no hay nada inherentemente malo en la IA. Las máquinas que los humanos crean simplemente reflejan quiénes somos como personas y como sociedad. Las máquinas de IA aprenden de nuestros datos y son entrenados por nosotros. Entonces, mirarlos es como verse en el espejo. La pregunta entonces es cómo se usan esas máquinas. Eso es una cuestión de elección humana. También lo es la elección de cómo las personas pueden y deben regular esas máquinas.

El documento del Vaticano hace un llamado a la cooperación internacional en el diseño y planificación de sistemas de IA en los que el mundo pueda confiar -llegando a un consenso entre los responsables políticos, los investigadores, los académicos y las organizaciones no gubernamentales sobre los principios éticos que deberían incorporarse a estas tecnologías.

Pero no creemos que este llamado a la acción deba terminar con el Vaticano. Los líderes de todas las grandes religiones del mundo, así como las empresas, gobiernos y organizaciones de mentalidad correcta en todas partes, deberían unirse a esta discusión y esfuerzo.

Manteniendo a las personas a cargo

IBM, que ha estado inventando e introduciendo nuevas tecnologías durante más de un siglo para satisfacer de manera responsable las necesidades de la sociedad, tiene décadas de experiencia con IA. En 1997, nuestra tecnología fue lo suficientemente avanzada como para que nuestra computadora Deep Blue venciera al gran maestro de ajedrez, Garry Kasparov. Catorce años después, Watson -nuestro sistema de IA- pudo acumular, analizar y aprender lo suficiente de un vasto tesoro de conocimiento humano, ¡para ganar el concurso de televisión Jeopardy!,respondiendo preguntas complejas en lenguaje natural humano.

Ahora, aproximadamente una década más tarde en 2020, la IA ha logrado increíbles –y potencialmente horribles– capacidades. Es por lo que, IBM cree que cada vez que una empresa u organización está utilizando IA, el usuario debe ser notificado. También es la razón por la cual, a pesar de las capacidades similares a las humanas de la IA, también debería haber un ser humano real que tome la determinación final. Eso debería ser de ese modo siempre que un médico determine el curso de tratamiento de un paciente, así como cuando un líder militar decide cuándo se utilizará el arma habilitada con IA en el campo de batalla.

En ese contexto tecnológico y humano, el escéptico podría preguntar: ¿Cuál es el valor de firmar un compromiso liderado por el Vaticano sobre el uso ético de la IA? Idealmente, tiene el poder de cualquier profesión pública de fe: un compromiso de buscar el bien mayor, incluso cuando todos reconocen que los seres humanos no son infalibles.