La IA que escribe parece pensar. Lo que hace en realidad es más simple — y más extraño
Un modelo de lenguaje —la tecnología detrás de ChatGPT, Claude o Gemini— no piensa como una persona: aprende, leyendo cantidades enormes de texto, qué palabra suele seguir a otra. Con eso alcanza para escribir cartas, resumir documentos o traducir. Pero también explica sus errores: cuando no sabe algo, lo inventa con total seguridad, porque su oficio es continuar el texto, no decir la verdad. Saber esto te protege más que cualquier manual.
Una máquina de continuar frases
Imagina a alguien que ha leído casi todo lo que existe en internet: libros, periódicos, foros, recetas, leyes. No memorizó cada texto, pero sí aprendió los patrones: después de “había una” casi siempre viene “vez”; después de una pregunta sobre medicina suele venir una respuesta con cierto tono. Un modelo de lenguaje (LLM, por sus siglas en inglés) es eso: un sistema matemático entrenado para predecir la siguiente palabra.
Cuando le escribes una pregunta, no busca la respuesta en una base de datos. La genera, palabra por palabra, eligiendo cada vez la continuación más probable según todo lo que leyó. Que el resultado suene inteligente no es magia: es que el lenguaje humano tiene muchísima estructura, y la máquina la aprendió.
Por qué a veces acierta tanto
La escala cambia las cosas. Con suficientes datos y suficiente cómputo, “predecir la siguiente palabra” produce habilidades que sorprenden a los propios investigadores: traducir, resumir, escribir código, explicar un tema en palabras simples. Por eso estas herramientas se sienten útiles de verdad: para redactar un oficio, entender un contrato o preparar una clase, ahorran horas.
Por qué a veces falla tan feo
El mismo mecanismo explica sus fallas. El modelo no distingue entre lo que sabe y lo que no: si le preguntas por una ley que no existe, es capaz de “citarla” con artículo y todo, porque su tarea es continuar el texto de forma plausible. A esto se le llama alucinación, y no es un defecto raro: es parte del diseño. También hereda los sesgos de los textos con los que fue entrenado — y la mayoría de esos textos están en inglés y vienen de una parte pequeña del mundo.
Lo que esto significa para ti
Tres reglas prácticas: primero, úsalo como borrador, nunca como fuente final — verifica datos, fechas, leyes y medicinas con fuentes reales. Segundo, no le entregues información privada tuya o de otras personas: lo que escribes puede usarse para entrenar futuros modelos. Tercero, recuerda quién responde: no es un sabio neutral, es un espejo estadístico de los textos de internet, con sus aciertos y sus prejuicios.
La IA que escribe no es ni un oráculo ni un fraude: es una herramienta nueva, potente y con bordes filosos. Conocer el mecanismo —predecir la siguiente palabra— es la mejor protección para usarla sin que te use.