Fundamentos de IA Generativa — de la predicción de palabras a la decisión de negocio
Un LLM es una red neuronal entrenada para predecir la palabra siguiente en una secuencia de texto. Todo lo demás — código, resúmenes, traducción, razonamiento — emerge de repetir esa única tarea a escala masiva.
Lee miles de millones de páginas (libros, web, código) y aprende patrones estadísticos del lenguaje. Sin supervisión humana.
Se especializa con ejemplos curados y feedback humano.
Tú das instrucciones en lenguaje natural. No entrenas nada.
Frase: "El gato persiguió al ratón porque tenía hambre" — peso de atención al generar "hambre", sobre cada palabra anterior:
Sin self-attention, el modelo no tendría forma de saber si "tenía hambre" describe al gato o al ratón. el peso más alto va a "gato", el sujeto real
Con métrica discreta (todo/nada) — Wei et al. (2022):
Con métrica continua (parcial) — Schaeffer et al. (2023), mismo modelo:
Córrelo en LM Studio (Llama 3.1 8B Instruct, Q4) y después en ChatGPT o Claude. El objetivo es auditar CÓMO llega cada uno al resultado.
Una tienda vendió esta semana: - Producto A: 17 unidades a 12,50 € cada una - Producto B: 23 unidades a 7,90 € cada una - Producto C: 9 unidades a 34,00 € cada una Política: si el importe total supera 500 €, se aplica un 8% de descuento sobre el total. Calcula paso a paso: 1) Importe de cada producto 2) Importe total antes de descuento 3) Si aplica el descuento, y el importe final tras aplicarlo 4) El precio medio por unidad, usando el importe ANTES del descuento, sobre las 49 unidades vendidas en total (17+23+9) Muestra cada paso de tu razonamiento, no solo el resultado.