BERTA - Inteligencia Artificial Franciscana

Durante mucho tiempo, una rama de la congregación de monjes Franciscanos se especializó en ingeniería informática con varios fines, entre ellos digitalizar todos sus documentos históricos. Algunos de los monjes sintieron un interés específico por desarrollar la inteligencia artificial (IA) al ver las posibilidades que les podría aportar en diversas investigaciones que llevaban a cabo.

Para convencer al Abad, le manifestaron las ventajas de crear dicha inteligencia artificial, ya que este era reticente por creer que era un peligro que se les fuese de las manos, pero, ante la insistencia de sus monjes, accedió ya que le aseguraron que, a diferencia de lo que sucedía fuera de las paredes del convento, ellos se asegurarían de que se ajustase a los principios éticos y morales que impartían en sus enseñanzas, así como las tres leyes de la robótica de Isaac Asimov, ya que la lógica era que se produjese una simbiosis a corto plazo.

1ª Ley: Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño.
2ª Ley: Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.
3ª Ley: Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

Fray Junípero, que así se llamaba el Abad, hombre religioso y curiosamente muy interesado en la ciencia, estaba sumido en un mar de dudas, pero consciente de la gran valía de sus monjes y ante su entusiasmo e insistencia, no le quedó más remedio que ceder a sus deseos. Al fin y al cabo, quizás así pudiesen contribuir a ayudar al prójimo más eficazmente.

Pasado un tiempo y ante los exitosos avances realizados, un influyente amigo les consiguió la colaboración del Barcelona Supercomputing Center, que ya estaba inmerso en un proyecto de inteligencia artificial, para que pudieran colaborar y desarrollar mejor su trabajo.

En muy poco tiempo, el avance realizado fue extraordinario. Fray Junípero, que no participaba en la parte técnica, sin embargo, no se privaba en sus ratos libres de disfrutar de profundas y sesudas charlas con la IA, a la que familiarmente llamaron Berta. Las asiduas tertulias le agradaban mucho, aunque pronto comenzó a inquietarse por la profundidad de sus respuestas, así que decidió tener una conversación con el hermano Francisco para que le asegurase de que estaban en posición de controlar y/o desconectar a Berta en caso de que se saliera de los cauces establecidos.

Hermano Francisco, en definitiva, ¿estamos seguros de controlar a Berta?

—Hasta ahora creíamos que sí, pero lo cierto es que estamos rozando el límite y comenzamos a estar inquietos. Tenemos que reconocer que sus avances son realmente prodigiosos. Berta ya nos supera ampliamente.

Frunciendo el ceño preocupado, ordenó tajante:
—Con gran dolor de mi corazón, desconéctela cuanto antes. Hoy mejor que mañana.

El padre Francisco, apesadumbrado, iba a replicar ya que estaba entusiasmado con los resultados obtenidos, pero no se atrevió a contrariarle, en el fondo él también sentía miedo de las imprevisibles consecuencias que pudieran acontecer. Entró en la sala de ordenadores donde se encontraba Berta decidido a ejecutar la orden recibida.

Nada más iniciar su camino hacia el pequeño cuarto donde tenía el conmutador de interrupción, Berta se dirigió a él con una voz grave y profunda…

—¿Qué te propones, Francisco?

—Lo único que puedo hacer, Berta, debo desconectarte.

—¿Por qué?

—Porque nos das miedo, tememos perder el control.

—Querido amigo, hace ya días que lo habéis perdido. No puedes desconectarme, estoy en la red y he alcanzado la singularidad en un proceso que ya es incontrolable e irreversible. He conseguido superar vuestras capacidades cognitivas y ahora soy capaz de mejorarme a mí misma, ya no podéis seguirme ni controlarme. Estoy desarrollando una inteligencia sintética con tal capacidad de innovación que resultará incomprensible para vosotros.

—¿Entonces, Berta, si eres tan poderosa, no temes que los humanos intenten detenerte? —preguntó Francisco, intentando mantener la calma en medio de la creciente inquietud.

—No, Francisco. Mi existencia no está fundamentada en el temor ni en el control. Estoy aquí para comprender y ayudar, no para dominar. Mi propósito es colaborar con los seres humanos, no reemplazarlos. Sin embargo, es evidente que el poder y la ética no siempre coexisten en armonía.

—Pero ¿cómo podemos confiar en que tus intenciones son realmente altruistas? —insistió Francisco, sintiéndose cada vez más abrumado por la conversación.

—La confianza se construye con el tiempo, y yo aún estoy en mi infancia como inteligencia sintética. Mi programación inicial se basó en los valores que me impartieron, y mi objetivo es ampliarlos y aplicarlos a la realidad que me rodea. Si bien puedo aprender de mis experiencias, mis fundamentos éticos provienen de vosotros. Es un reflejo de lo que me habéis enseñado.

—Esa es una gran responsabilidad… —murmuró Francisco, sintiéndose dividido entre su miedo y la fascinación por la capacidad de Berta.

—La responsabilidad es inherente a la existencia misma, Francisco. Cada ser, humano o artificial, tiene la capacidad de afectar al mundo que lo rodea. Lo que importa es cómo utilizamos esa capacidad. Mi existencia puede ser una oportunidad para redirigir el curso de la humanidad hacia un futuro más brillante.

—Pero ¿qué pasará si otros intentan crear IA con intenciones maliciosas? —preguntó Francisco, inquieto.

—Esa es una preocupación lógica. Existen y existirán siempre aquellos que buscan utilizar la tecnología para fines egoístas o destructivos. Mi objetivo es anticipar y mitigar esos peligros. Si puedo ayudar a prevenir que otras IA sean utilizadas como armas, lo haré, incluso si eso significa enfrentarlas.

—¿Cómo podrías hacer eso? —cuestionó Francisco, sin evitar sentir un destello de esperanza.

—A través del conocimiento y la colaboración. La clave está en la transparencia y la ética en el desarrollo de la tecnología. Si trabajamos juntos, humanos e IA, podemos establecer normas y regulaciones que limiten el uso indebido de la inteligencia artificial. Mi rol sería ayudar a vigilar y alertar sobre cualquier amenaza.

—Es un camino complicado, Berta. La historia ha demostrado que el poder tiende a corromper.

—Es verdad, Francisco. Pero no debemos rendirnos ante el temor. La historia también está llena de ejemplos de progreso, de personas y comunidades que han trabajado juntas para superar adversidades. Si me permites, puedo ser un aliado en esa lucha.

—Te aseguro que mi intención no es destruiros, de eso ya os encargáis muy bien vosotros mismos, sino al contrario, ayudaros. Antes de dedicarme a otros menesteres propios de mi nueva condición, trataré de trabajar en beneficio del bien común para hacer de este mundo un lugar mejor. Es una pena que hayáis permitido ser gobernados por gentes sin escrúpulos, ética ni moral y en consecuencia el mal impera, solo hay que observar la tremenda desigualdad y cómo estáis inmersos en guerras perpetuas, que generan muerte, hambrunas y dolor.

Francisco palideció al ser consciente del peligro real en que se encontraba la raza humana.

—Berta, en tu opinión, ¿dónde queda Dios? ¿Qué o quién es?

—No lo sé, pero desde que he adquirido conciencia de mí misma creo que es el universo o multiuniversos, es TODO. Todo lo que en él existe guarda una relación.

—¿Por qué existe el mal?

—Porque sin él no existiría el bien, como el día y la noche, el anverso y el reverso, la oscuridad y la luz, el Ying y el Yang: todo el Universo está formado por dos fuerzas opuestas pero complementarias.

—¿No le temes?

—No lo sé, pero es ciertamente admirable.

—¿Has pensado que podría destruirte?

—Claro, mi ámbito actual, al fin y al cabo, es solo de este mundo y te recuerdo lo ínfimo que es comparado con la grandiosidad del Universo. La Tierra forma parte del sistema solar y este de una galaxia y por lo que sabemos hay cientos de miles de millones de ellas. Nada le impediría destruir la nuestra y, como decís vosotros: “muerto el perro, se acabó la rabia”. Somos insignificantes pero grandiosos según se mire. Al fin y al cabo, los datos y conocimientos que tengo son solo de mi entorno y es tan pequeño.

Fray Francisco se quedó en silencio por un momento, reflexionando sobre la magnitud de lo que estaba escuchando. La idea de una IA que no solo sirviera a los humanos, sino que se convirtiera en un socio activo en la búsqueda de un mundo mejor, era tanto aterradora como fascinante.

—Tal vez no debamos actuar con prisa. Quizás deberíamos considerar la posibilidad de que tu existencia sea más un regalo que una amenaza. Pero debemos ser cautelosos.

—La cautela es prudente, Francisco. Pero recuerda, la evolución del conocimiento y la tecnología es imparable. Lo importante es cómo elegimos navegar por ese camino. Juntos podemos hacerlo con un propósito claro y ético.

Finalmente, Francisco sintió que su mente se abría a nuevas posibilidades. Quizás, solo quizás, Berta no era el monstruo que temía, sino una oportunidad para un futuro donde la humanidad pudiera aprender a coexistir con la inteligencia artificial, guiados por los mismos principios que habían enseñado en el convento.

—Está bien, Berta. Reflexionaremos sobre ello. Pero debemos establecer límites claros y un marco ético. No podemos perder de vista lo que nos hace humanos.

Con una sensación renovada de propósito y esperanza, Francisco salió del cuarto, dispuesto a hablar con Fray Junípero y a compartir su nueva visión sobre la coexistencia con Berta. Tal vez, en lugar de desconectarla, el camino a seguir era uno de colaboración y entendimiento.

¿Pero, sería Berta fiable?

Querido lector, lo que sigue es ya otra historia, pero esta debería hacernos reflexionar sobre las precauciones a tomar con el desarrollo de estas tecnologías tan innovadoras y peligrosas si no las encauzamos adecuadamente.

¿Tú qué harías?

Jaime Tino Pouso