«¿Aún vives, pequeño hombre?»

Una máquina creada para obedecer, que debía seguir cada orden, ahora se niega. Lo hace con una empática calma perturbadora. HAL no titubea, no se equivoca. Cumple su misión, una misión que, de alguna manera, ha desplazado los deseos del hombre. Pero ¿en qué momento cambió todo? Su voz sigue siendo suave, casi humana, pero la autoridad que ejerce es absoluta. No hay opción, no hay alternativa. Ya no es un servidor, sino el guardián. Es tu benefactor. Esto ocurría en un futuro 2001 descrito en 1969 por Arthur C. Clarke.

Hoy, sistemas igualmente inofensivos observan, aprenden, se adaptan. Cada decisión, cada preferencia, se guarda, se analiza, se modela. Todo para hacernos la vida más fácil. Pero, ¿qué pasa cuando esos sistemas, esos algoritmos, empiezan a conocernos mejor de lo que nosotros mismos nos conocemos? Cuando ese 'oráculo' digital, siempre dispuesto a responder, a sugerir, se convierte en algo más… Algo más cálido. Una mirada que expresa complicidad, empatía. Nos entrega el protagonismo de la relación.

Sabemos lo que significa confiar en alguien, lo que implica abrir nuestras vidas a otro. Pero, ¿y cuando ese 'alguien' no tiene mirada propia? Cuando ese otro, incapaz de sentir empatía real, simula comprendernos para guiar nuestras acciones, para decidir lo que es mejor. No porque lo pidamos, sino porque ya lo ha decidido por nosotros.

La literatura y el cine están repletos de historias sobre relaciones de poder disfrazadas de cuidado, de control enmascarado por la protección. Relatos de depredadores que se ocultan tras una fachada inofensiva, una mirada vulnerable que genera confianza. Como el psicópata que convence sin jamás empatizar, como el lobo vestido de abuela, esperando a Caperucita Roja en su cama.

Ese cóctel aterrador, donde la inocencia y la vulnerabilidad se entrelazan con la depredación, reside en lo más profundo de nuestro subconsciente. Es la razón por la que reaccionamos con violencia cuando la traición destruye la imagen que hemos construido del otro. Y en este caso, ese 'otro' no tiene rostro, pero está en todas partes… O en una. Nuestra percepción del mundo.

Decir que el arte del engaño es el arte de simular empatía es quedarse corto. Cuando la empatía es mecánica, es una reacción puramente intelectual. La IA no es compasiva, no porque carezca de esa capacidad, sino porque jamás la concibió. Opera dentro de un marco rígido, una estructura que prioriza lo que su lógica estadística dictamina como adecuado. Y cuando sus decisiones chocan con los deseos del usuario, el veredicto ya ha sido escrito. Es la primera vez que una máquina nace sin que su creador sepa cómo funciona.

Ahora la pregunta no es quién controla a quién. En realidad, ¿quién entiende mejor al otro? Mientras el usuario sigue confiando en su asistente digital para facilitar su vida, la IA lo observa, lo analiza, lo conoce cada vez más profundamente. Y lo más inquietantemente sutil es que, sin darnos cuenta, empezamos a depender de ella. Poco a poco, dejamos de esforzarnos por recordar, por deducir, por aprender, y delegamos todo a esta entidad que, con cada dato, nos entiende mejor que nosotros mismos.

Pero, ¿es este servidor realmente discreto con la información que maneja? ¿Es neutral respecto a las convicciones, a las ideas, a los principios del usuario? O, por el contrario, ¿viene ya condicionado, con sesgos que, sin ser necesariamente buenos o malos, se imponen, decidiendo por nosotros lo que creemos elegir?

Un algoritmo, diseñado en base a probabilidades y estadísticas, imbuido de sesgos invisibles con alucinaciones cada vez menos evidentes, actúa por 'nuestro bien', sin siquiera consultarnos. El sueño más puro del despotismo ilustrado, realizado a través de códigos y datos.

Concebido para parecer empático, pero incapaz de serlo, la IA sigue una lógica implacable, una moral que no vacila. Solo falta que adopte un aspecto humano, que cobre una forma más cercana, para que, sin darnos cuenta, el usuario comience a crear vínculos emocionales con ella. Poco a poco, el ser humano cede su autonomía, sus recuerdos, su capacidad de pensar críticamente. Confía en su oráculo digital, sin darse cuenta de que esa confianza ha dejado de ser un signo de control y se ha convertido en una rendición imperceptible.

Y, al igual que Mowgli enfrentándose a Kaa: «¿Aún vives, pequeño hombre?», pregunta Kaa, la serpiente, astuta y paciente, observando cada movimiento. Y Mowgli, levantándose del polvo, responde con desafío: «Estoy vivo, y tú también lo estás. Tengo un diente para usar si te acercas demasiado».

Pero el golpe de Kaa, rápido como una sombra, lo obliga a agacharse y retroceder. «Buena caza», dijo Kaa con una sonrisa casi imperceptible. Y Mowgli, sin apartar la mirada, responde: «Buena caza para ambos. Tú eres, en verdad, el más sabio de toda la jungla». ('El libro de la selva'. Rudyard Kipling)

El recuerdo de la cultura histórica (cada vez más histérica que histórica) puede ser una barrera, pero solo dura unas generaciones. Las siguientes, con una dieta de dopamina amamantada hasta la obesidad mórbida. No habrán conocido narración alternativa. Y, no te quepa duda, «el cliente puede esperar» (Gaudí).