Fine-tuning
Entrenamiento extra que adapta un modelo de IA existente a una tarea o un estilo.
El fine-tuning (ajuste fino) consiste en tomar un modelo que ya fue entrenado con una cantidad enorme de datos generales y entrenarlo un poco más con un conjunto chico y específico de ejemplos. Entrenar un modelo grande desde cero cuesta cantidades enormes de datos y de cómputo; el fine-tuning reaprovecha todo ese conocimiento general y solo empuja los números internos del modelo (sus parámetros) hacia lo que necesitás.
Usos típicos: que un modelo responda siempre en cierto formato, que escriba con el tono de una empresa, que clasifique tickets de soporte en tus propias categorías o que maneje la jerga de un área como el derecho o la radiología. Preparás cientos o miles de pares de ejemplo ('ante esta entrada, la salida ideal es esta'), corrés el entrenamiento y obtenés una versión nueva del modelo. Técnicas como LoRA lo abaratan entrenando solo un agregado chico en lugar del modelo entero.
El fine-tuning es también la forma en que se hacen los asistentes de chat: un modelo base que solo sabe continuar texto se ajusta con conversaciones para que aprenda a seguir instrucciones y a responder de forma útil. Para los problemas cotidianos de una empresa, igual, no suele ser la primera herramienta. Si lo que querés es darle al modelo datos actualizados o tus propios documentos, la recuperación (RAG) suele ser más simple y más fácil de mantener al día; si lo que querés es un comportamiento, un buen prompt a veces te lleva casi todo el camino. El fine-tuning brilla cuando tenés muchos buenos ejemplos de una tarea que repetís mucho.
Para quedarse
- Arranca de un modelo preentrenado en vez de entrenar desde cero.
- Necesita un buen conjunto de ejemplos de la tarea exacta que buscás.
- Sirve sobre todo para estilo, formato y tareas especializadas repetidas.
- Para datos frescos o documentos privados, RAG suele ser mejor opción.
Para seguir leyendo
- Ajuste fino (aprendizaje profundo) en Wikipedia
- ¿Qué es el fine-tuning? (IBM)
- Ajuste fino de un modelo, curso de Hugging Face