Las cadenas de Markov son un concepto bastante viejo (de principios del siglo XX) que se ha usado como una forma simple de generar texto o predecir secuencias, y son la base conceptual de algunas cosas que después evolucionaron hacia lo que hoy llamamos IA generativa.

La idea central

Una cadena de Markov es un modelo matemático que dice: “el siguiente estado depende solo del estado actual, no de todo el historial pasado”. Esto se llama la “propiedad de Markov” o “falta de memoria”.

Aplicado a texto, funciona así:

  1. Analizás un montón de texto (por ejemplo, todos los libros de un autor)
  2. Contás qué palabra (o letra) tiende a seguir a cada palabra
  3. Construís una tabla de probabilidades: “después de ’el’, hay 40% de probabilidad de que venga ‘perro’, 20% ‘gato’, etc.”
  4. Para generar texto nuevo, empezás con una palabra y vas eligiendo la siguiente palabra al azar, pero respetando esas probabilidades