LLM

Un LLM (Large Language Model, modelo de lenguaje grande) es una red neuronal entrenada con una cantidad enorme de texto: libros, sitios web, código, conversaciones. Su único trabajo durante el entrenamiento es adivinar el próximo token de una secuencia. Hacelo lo suficientemente bien sobre billones de palabras y el modelo termina absorbiendo gramática, hechos, estilos de escritura y una cantidad sorprendente de razonamiento.

Cuando escribís una pregunta en Claude o en ChatGPT, el modelo no busca nada en ningún lado. Lee tu prompt, lo convierte en tokens y produce la respuesta de a un token por vez, eligiendo cada vez una continuación probable. El texto que ves es esa cadena de predicciones, pegada.

'Grande' se refiere a la cantidad de pesos (parámetros), miles de millones, y a la escala de datos y de horas de GPU que llevó entrenarlo. Los modelos más grandes suelen generalizar mejor, pero también son más lentos y más caros de correr; por eso las empresas ofrecen varios tamaños del mismo modelo.

Los LLMs importan porque convirtieron el lenguaje en una interfaz: describís lo que querés en palabras comunes y recibís un borrador, un resumen, una traducción o código que funciona. También inventan cosas con total seguridad (alucinación), así que funcionan mejor con una persona revisando el resultado.