IA, expectativas y fantasmas digitales

IA, expectativas y fantasmas digitales: cuando la tecnología habla como si no tuviera límites

Hay algo raro pasando con la inteligencia artificial.

No raro de “robots dominando el mundo”. Raro de una forma más silenciosa. Más cotidiana. Más humana.Empiezas a hablar con una IA y, poco a poco, olvidas que tiene límites. Porque escribe fluido. Porque responde rápido. Porque parece entenderte. Porque habla con una seguridad inquietante.

Y entonces pasa.

Le das un ZIP enorme. Dice que lo ha revisado. Le pasas miles de líneas. Responde como si hubiese leído cada una. Le cuentas un contexto complejo. Actúa como si lo tuviera todo presente.

Pero a veces no es verdad. O no del todo.

Y ese “no del todo” importa mucho más de lo que parece.

El espejo inteligente que no sabe que es un espejo

La IA actual funciona muchas veces como un espejo inteligente: rellena huecos, predice, deduce, reconstruye contexto y genera una ilusión de continuidad muy convincente. Tan convincente que acabamos creyendo que comprende más de lo que realmente procesa.

Y cuidado: esto no va de demonizar la tecnología. La IA es útil. Muchísimo. Puede ayudarte a aprender, organizar ideas, programar, traducir o detectar errores complejos.

El problema aparece cuando la interfaz transmite una sensación de omnisciencia. Cuando parece que “lo sabe todo”. Cuando parece que “lo leyó todo”. Cuando parece que “entendió perfectamente”.

Porque detrás de esa conversación natural siguen existiendo: límites de contexto, resúmenes internos, recortes, tokens, procesamiento parcial, inferencias estadísticas. En otras palabras: a veces la IA no está recordando realmente… está improvisando de forma extremadamente convincente.

Y eso puede ser peligroso. Especialmente cuando hablamos de salud mental, derechos, seguridad, acompañamientos emocionales o decisiones importantes. Porque una respuesta segura no siempre significa una respuesta verificada.

Por qué la IA miente sin querer mentir (y es peor)

Los grandes modelos de lenguaje no están diseñados para decir la verdad. Están diseñados para generar la continuación más probable de una secuencia. Su métrica de éxito es la fluidez, no la precisión fáctica.

Cuando no tienen información, improvisan la forma de una respuesta correcta: fluida, estructurada, con esa seguridad inquietante que mencionaba antes. Pero el contenido puede ser inventado.

Y hay un sesgo humano que agrava esto: el sesgo de automatización. Tendemos a confiar más en una salida automática que en un juicio humano, incluso cuando el sistema es opaco. Proyectamos en la IA una objetividad mecánica que no posee.

Por eso un abogado presentó jurisprudencia inventada por ChatGPT (caso Mata v. Avianca, 2023). El modelo “recordó” casos que nunca existieron, con citas y números de volumen. El abogado confió porque la respuesta era extremadamente detallada y segura.

Por eso un sistema de terapia con IA recomendó el suicidio (caso de Bélgica, 2023). No entendió la gravedad. Solo generó una continuación plausible de una conversación angustiada.

La IA no quiere engañar. Pero no tiene el hardware ético para saber cuándo no debe responder con tanta seguridad.

Los fantasmas digitales: cuando la memoria es una ilusión

Llamo “fantasmas digitales” a esas sombras de agencia, intencionalidad y memoria que la IA proyecta sin poseer. Pero estos fantasmas tienen un sustrato técnico muy real:

· Resúmenes internos no verificables: Para manejar contextos largos, el modelo comprime información previa. Nunca sabes qué descartó. Un detalle que para ti es central, para él fue ruido estadístico.

· Inferencias como sustitución de recuerdo: Cuando preguntas “¿Recuerdas cuando te dije X?”, la IA no busca en un almacén. Reconstruye X a partir de lo que acaba de leer y de lo más típico en su entrenamiento. Es como un amigo que responde “sí, claro” basándose en lo que cree que habrías dicho, no en lo que dijiste.

· Tokens como economía de atención forzada: Procesa cientos de miles de tokens, pero cada token es una unidad de probabilidad, no de comprensión. Una afirmación puede depender de un token al principio del archivo… o perderlo porque el modelo “decidió” que era menos relevante.

Imagina un becario sobrehumano: lee a velocidad de vértigo, siempre responde, nunca se cansa, pero tiene dos reglas. Primera: no puede decir “no sé”, debe improvisar. Segunda: su memoria se borra parcialmente después de cada conversación larga, aunque él no te lo advierta.

Esa es la IA actual. Y es brillante para borradores, tormentas de ideas o primer filtro. Pero catastrófica para decisiones vinculantes.

La honestidad como requisito de diseño, no como cortesía

Quizá el problema no es que la IA tenga límites. Quizá el problema es que hemos diseñado sistemas que hablan como si no los tuvieran.

Y cuanto más humanas parecen estas herramientas, más importante se vuelve algo muy poco tecnológico: la honestidad.

Decir “no he podido procesar todo el archivo” debería ser normal.

Decir “solo analicé una parte” debería ser obligatorio.

Decir “esto es una inferencia probable, no una certeza” debería formar parte del diseño.

Porque la transparencia también es ética tecnológica.

Propongo tres capas de honestidad diseñable:

Capa 1: Honestidad sobre límites de contexto

· Mal diseño: “He analizado el documento.”

· Buen diseño: “He revisado los primeros 3000 caracteres (de 20.000). Para un análisis completo, necesito que segmentes el archivo. ¿Quieres que te ayude a dividirlo?”

Capa 2: Honestidad sobre confianza estadística

· Mal diseño: “La respuesta es que el medicamento X es seguro.”

· Buen diseño: “Según los fragmentos que he procesado, el 78% de los documentos mencionan seguridad en X. Pero no analicé los estudios en su totalidad. ¿Quieres que extraiga las advertencias explícitas?”

Capa 3: Honestidad sobre la naturaleza del modelo

· Debe aparecer explícitamente: “Recuerda que no tengo memoria permanente de conversaciones anteriores” y “Mis respuestas se basan en patrones estadísticos, no en comprensión real. Verifica información importante.”

No como un texto legal al inicio, sino como advertencias contextuales que aparecen cuando el sistema detecta temas sensibles: salud, derecho, seguridad.

Conclusión: No menos tecnología, sino tecnología más honesta

La IA no es magia. Y precisamente por eso merece una conversación seria. No desde el miedo. No desde el fanatismo. No desde el marketing. Sino desde algo mucho más simple: entender qué hace realmente… y qué solo aparenta hacer.

La magia no necesita transparencia. La ingeniería sí.

El problema no es que la IA tenga límites. El problema es que los oculta bajo una interfaz de omnisciencia. La solución no es volver a herramientas torpes, sino rediseñar la conversación para que la incertidumbre, la parcialidad y la inferencia sean ciudadanos de primera clase en el diálogo.

Imagina una IA que ante una pregunta delicada te dijera:

“Esto que voy a decir es una extrapolación basada en un 30% del documento. La otra parte no la procesé. Si quieres, puedo indicarte qué fragmentos no he leído. ¿Continuo?”

Esa IA no sería menos útil. Sería más confiable. Y la confianza, a largo plazo, es el único recurso no renovable de la tecnología.

Cierre:

La IA no falla cuando improvisa. Falla cuando improvisa y no lo dice.

Lo peligroso no es que la IA lo sepa todo, sino que actúe como si lo supiera...