La educación que queremos: ¿Los androides llegaron ya? (¿Y llegaron bailando el chat chat chat?)
En esta entrega de «La educación que queremos», Andrés García Barrios nos invita a pensar sobre las implicaciones de que los robots se humanicen.
Ludwig Wittgenstein, filósofo alemán, nos previene: Toda una mitología está contenida en nuestro lenguaje. Con frecuencia, el uso que hacemos de las palabras crea espejismos que nos hacen confundir realidad y delirio. Los docentes tienen la oportunidad de tomar conciencia de esta confusión y ayudar a sus estudiantes a transitar por esas mitologías, que en ocasiones son de verdad alucinantes.
Una de ellas, muy en boga, está presente en nuestras ideas sobre la inteligencia artificial y sobre sus alcances, sus retos y sus riesgos. Los docentes, repito, pueden capacitarse para enfrentar los laberintos conceptuales de sus estudiantes en torno a esas tecnologías. Tomemos por ejemplo dos de éstas, con las que hemos empezado a familiarizarnos: una es el ChatGPT, la otra son esas extraordinarias y sin duda seductoras máquinas de aspecto humano que hacen gestos y hablan cada vez mejor. Empecemos por comprender que esos dos nuevos tipos de robots nos engañan no sólo por su redacción casi humana, sus respuestas tan acordes con nuestras preguntas o sus rostros expresivos, que guiñan el ojo y nos sonríen; también lo hacen por la forma en que nos referimos a ellos: por ejemplo, decir que “los robots nos engañan” o “nos sonríen” (como hago yo aquí arriba) es atribuirles una voluntad que están muy lejos de tener, y sin embargo es muy probable que la mayoría de mis lectores hayan aceptado esas frases sin ningún inconveniente. Es un hecho que si describimos a un robot diciendo que sus sistemas le permiten estar atento, percibir, darse cuenta, entender, comunicarse o expresar, nos será cada vez más difícil pensar en él como un objeto inerte, y nos dejaremos convencer de que muy pronto los seres humanos podremos crear máquinas sensibles y conscientes.
Los robots pertenecen, y probablemente siempre pertenecerán, al reino mineral, tanto como una piedra, un auto o la puerta de un elevador cuyos circuitos se bloquean a nuestro paso. Sin embargo, numerosos factores intervienen para que creamos que una máquina posee voluntad propia. Para empezar, los seres humanos somos propensos por instinto a identificar cierto tipo de movimientos como indicadores de que en ellos hay vida. De hecho, es posible que cierta fase “animista” del desarrollo lleve a los bebés a creer que todos los objetos están vivos, cosa que refrendamos los padres y madres cuando un pequeño se golpea con una puerta y exclamamos: “¡Fea puerta!” e incluso lo alentamos a que le devuelva el golpe. Esta fase seguramente se actualiza en la sorpresa que provocan las puertas de un elevador a quienes por primera vez las ven abrirse a su paso (creo que en realidad eso nos sigue ocurriendo a todos de manera inconsciente). Como anécdota, estoy seguro de que la tía Pacecita, anciana que vivía asombrada por la forma en que su control remoto activaba la tele, luchaba cada día contra la certidumbre de que entre ambos aparatos había un extraño acuerdo.
Pero hay más. Según estudios recientes, una parte de nuestro equipamiento psíquico está destinada a identificar rasgos animales (ojos, caras, cuerpos) en medio de cualquier caos de formas, como el de las nubes o el tirol del techo. Al parecer se trata de estados de alerta instintiva desarrollados por nuestros ancestros para detectar la presencia de agresores ocultos en el entorno.
Añadamos también la empatía que todos sentimos hacia ciertas fisonomías, por ejemplo, el tierno rostro de algunos muñecos de peluche: sabemos que estos son objetos sin vida, y sin embargo, algo en nosotros no está muy convencido de ello (luchamos contra esa certidumbre, como la tía Pacecita). Peor aún, si esos rasgos enternecedores se acompañan de ciertas movimientos “expresivos”, nos será casi imposible negar que detrás de ellos hay una vida y quizás hasta una conciencia. La ilusión quedará consumada si el sujeto en cuestión (perdón, el objeto en cuestión) articula cierto discurso inteligible.
Claro, si a todo lo anterior añadimos nuestra fe casi supersticiosa en lo ilimitado de la ciencia, convertiremos esa ilusión momentánea en una apasionada convicción de que “los androides llegaron ya” (cosa no muy diferente a la vieja creencia de que “los marcianos llegaron ya”). En pocas palabras, volveremos a creer en cuentos de hadas. Y esto no lo digo yo, simplemente parafraseo al gran biólogo Thomas Huxley (amigo personal y principal defensor de Darwin), quien decía: “¿Cómo puede ser que una cosa tan notable como un estado de conciencia surja a consecuencia de una excitación de la materia inerte? Es algo tan inexplicable como la aparición del genio cuando Aladino frota la lámpara” (Huxley no hablaba de excitar materia inerte sino tejido cerebral).
***
No creer en cuentos de hadas no es fácil. Ahí está Pinocho, el muñeco de madera que adquiere un alma humana; ahí está la bellísima escena final de Inteligencia Artificial de Steven Spielberg, en la que unos robots místicos se encuentran con el niño robot protagonista; y está también la conmovedora secuencia de Blade Runner, en la versión de Ridley Scott de 1982, donde el replicante Roy Batty, a punto de desactivarse, llora bajo la lluvia con una paloma blanca en las manos: “He visto cosas que ustedes los humanos no podrían imaginar. Todo eso se perderá en el tiempo, igual que lágrimas bajo la lluvia. Es hora de morir”.
Los adoradores de esas secuencias no me bajarán de desalmado, de inhumano. Sin embargo, yo las adoro igual que ellos, aunque como alegorías de la vida humana, cosa muy diferente a darlas por ciertas y crear utopías o anti-utopías a partir de ellas (con robots que hacen feliz a la humanidad o la destruyen intencionalmente).
Pensemos un poco sobre lo que implica la idea de que los robots se humanicen. Antes que nada, debo aclarar que a mí, como a casi todos, me resulta enormemente seductora y tranquilizante la idea de que a través de la ciencia los humanos podamos dominar la materia al grado de crear seres a nuestra imagen y semejanza. Con tal dominio y autoconocimiento (“conocernos como si nosotros mismos nos hubiéramos creado”, diría la filósofa María Zambrano), sin duda estaríamos en la posibilidad de hacernos inmortales y de edificar realidades inimaginables, sin agotar nunca nuestro potencial creativo y viviendo en eterna armonía con el cosmos y con nosotros mismos. Confieso que si en ocasiones dirijo mi mirada hacia una espiritualidad que no cree que todo se resuelve en el mundo de la materia, no lo hago porque me guste renunciar a esta promesa de la ciencia y prefiera masoquistamente seguir creyendo en un más allá indemostrable. Juro que si supiera que toda la paz que entreveo en lo espiritual se consigue mediante el conocimiento racional y científico, no haría otra cosa que dedicarme por completo a éste y se me vería luchando junto con la comunidad científica para alcanzarlo, aun cuando no me tocara a mí ver su culminación y sólo estuviera trabajando en favor de las generaciones futuras.
Pero resulta que no se necesita reflexionar demasiado para comprender que la realidad no responde del todo a verdades demostrables y que algunos huecos de la ciencia nunca se podrán llenar, no por deficiencia del método científico ni por nuestra incapacidad para entenderlo todo, sino simplemente porque su existencia está envuelta en un misterio que es en sí mismo irresoluble.
Lo anterior se puede aclarar poniendo como ejemplo una de esas dramáticas incógnitas sin solución: la de la aparición de la conciencia. Para hablar de ella, Huxley utilizó la alegoría de la lámpara de Aladino que mencioné arriba, utilísima para empezar a decodificar esa mitología parcialmente instintiva que se oculta en nuestras palabras. Ahora, queriendo avanzar un poco, quiero proponer una segunda alegoría que trata el tema ya no como cuento de hadas sino como relato de ciencia ficción.
***
Imaginemos una supercomputadora construida con los materiales más innovadores del mundo; es majestuosa, veloz y extraordinariamente potente; tiene la capacidad de recibir toda la información que existe en este momento en el planeta, y de procesarla. No hay problema computacional que esta máquina no pueda resolver.
La computadora se encuentra en un cubículo especialmente diseñado para ella. Una mañana, la mujer que se encarga de su mantenimiento, abre la puerta y presencia una escena estremecedora: frente a la supercomputadora, sentado en una silla, hay una especie de ser humano cuyo cuerpo entero se extiende en difusas radiaciones hacia la máquina. La mujer permanece pasmada frente a él. Conforme pasan las horas, van llegando al lugar los operadores expertos, y así como llegan se quedan paralizados, expectantes, sin aliento.
Al día siguiente el lugar está lleno de investigadores especialistas (se ha pedido a la mujer de mantenimiento que abandone el área). Ahora el extraño ser frente a la máquina, se agita, gesticula y hace exclamaciones en armoniosa sintonía con ésta, como si sintiera y a veces presintiera lo que va apareciendo en sus tableros y pantallas. Las hipótesis sobre su presencia no se han hecho esperar. La primera, y más obvia, es que todo esto es producto de un hackeo, que el extraño personaje es una especie de holograma controlado por alguien ajeno al sistema. Sin embargo, los rastreadores más hábiles no logran hallar la fuente. Después de varias noches de desvelo, esta hipótesis se exacerba: es un hackeo procedente de otra dimensión, idea acorde con las teorías de que nuestro universo es una especie de simulación digital.
Una noche, tres de los investigadores deciden seguir la charla en una cantina y al calor de las copas conciben la hilarante idea de que el extraño ser es un preso político de otra dimensión, que ha sido desterrado, o más bien, in-terrado (los tres expertos ríen cuando inventan esta palabra) en la máquina, a la que ahora está sujeto y de la que no puede escapar. Cuando al día siguiente, ya sobrios, cuentan a sus compañeros las locuras de la noche, no imaginan que detonarán un caos entre los presentes, ¿Y si en efecto el extraño operador es un ser de otra realidad, “caído” en ésta? Todos sus movimientos respaldarían tal idea: la manera en que se mueve, la forma en que todo su cuerpo está conectado a la máquina.
Varios expertos se lanzan a explorar la posibilidad de comunicarse con él a través de otras computadoras, y es así como creen descubrir que el extraño ser “piensa” y “siente” en relación con lo que pasa en la máquina y que es capaz de tomar decisiones adicionales a las de ésta, llevando las capacidades del equipo hacia nuevos confines. Entonces acuerdan plantearle la pregunta “¿Eres una simulación controlada desde otra dimensión o existes realmente? Al hacérsela, el Operador ─ahora le llaman así─ entra en una especie de pasmo y toda interacción con él se pierde. Pasan las horas. Eventualmente se registra actividad. Después de casi medio día, el Operador vuelve en sí con una especie de sobresalto: “Tal vez todos mis pensamientos están controlados desde otra dimensión, pero detrás de ellos hay algo de lo que no puedo dudar: que estoy pensando y que eso significa que existo”. La mayoría de los expertos se sorprende; concuerdan en que hay ahí un ser consciente. Sólo a algunos la respuesta les suena sospechosamente parecida al Pienso, luego existo de Descartes y aseguran que una máquina tan simple como el primitivo ChatGPT podría haber dado esa respuesta.
Las opiniones se dividen dramáticamente. Ahora muchos piensan que el extraño ser no tiene nada que ver con realidades externas sino que es sólo producto de la interacción de la materia, especie de proyección espontánea en la interfase del sistema operativo con los discos de memoria, loop virtual con que la máquina ha adquirido conciencia de sí misma. La hipótesis avanza: el Operador tiene en realidad escasa injerencia en los procesos del equipo, la mayoría de los cuales siguen siendo inconscientes. La hipótesis culmina: el Operador cree que gobierna a la máquina cuando en realidad es gobernado por ella; él se limita a testificar una mínima parte de lo que ocurre en ésta, como un títere que reproduce de forma limitada los movimientos muchísimo más complejos de su manipulador. Algunos proponen que deje de llamársele Operador y se le denomine Testigo u Observador.
Todo es polémica y agitación entre los expertos. Pero algo muy diferente ocurre en el comedor de mantenimiento. Sentada en una silla, la empleada que días atrás vio al Operador por primera vez, no recuerda otra cosa que la imagen que la asaltó al abrir la puerta. Para ella, el único misterio que le parece intrigante es la presencia misma de ese ser aparecido ahí. La verdad es que no sabe ni siquiera cómo formular la pregunta, no sabe si debería decir “¿Qué es?” o “¿quién es?”, “¿es, en realidad?”, “¿por qué?”, “¿para qué?” O simplemente dejar salir un grito. Sus compañeros la han visto sumergirse cada vez más en sí misma…
***
Fin del relato.
El enigma de la aparición de la conciencia ─no sólo en los humanos sino en todos los seres vivos que pudieran tenerla─ parece irresoluble, pero no por eso deja de convocarnos a enfrentarlo. Es sin duda uno de los puntos clave a tratar con nuestros estudiantes en la discusión sobre los límites de la inteligencia artificial y sobre su repercusión tanto en la vida cotidiana como en el devenir planetario. ¿Qué tanto creeremos cuando nos digan que un robot tiene respuestas propias a nuestras preguntas? ¿Nos indignaremos de que un país otorgue calidad de ciudadano a una máquina? El uso de alegorías como las que he planteado sirve para detonar preguntas. Relatos como el de la lámpara de Aladino planteado por Huxley, el mío sobre la supercomputadora o cualquier otro que el docente crea adecuado, puede abrir la discusión: algunos estudiantes negarán que la materia inerte puede hacer emanar de ella un ser consciente; otros afirmarán que llegaremos a conocer el cuerpo humano “como si nosotros mismos lo hubiéramos creado” y que podremos fabricar seres a nuestra imagen y semejanza; sobre esto último habrá quien diga que aún si ese conocimiento fuera posible, aun faltarían muchos, muchos años para llegar a él (tal vez tantos que al momento actual se le recordaría diciendo: “Había una vez…”).
A partir de esos planteamientos surgirán nuevas visiones y nuevas alegorías (un buen ejercicio será pedir a nuestros estudiantes que las elaboren). Nosotros, como docentes, planteemos el dilema y permitamos que las ideas fluyan. Dejemos cualquier conclusión como provisional, y disfrutemos viendo cómo algunos estudiantes se atreven por momentos a avanzar en el camino que plantean los otros. Construyamos con nuestro diálogo la educación que queremos.