Cómo elegir un modelo, y por qué no es la primera decisión
La dirección correcta
Si incluso el modelo potente falla, has descubierto barato que el problema no es la elección del modelo sino la definición de la tarea, los datos o la indicación. Si tiene éxito, tienes una línea de base de calidad, y ahora puedes bajar y encontrar el punto donde la calidad cae por debajo del umbral.
Cuatro ejes
Calidad en tu tarea, no en las tablas públicas que prueban otras.
Coste por operación, impulsado principalmente por el texto que entra, no el que sale.
Velocidad: crítica en una interfaz en vivo, casi irrelevante en el procesamiento en segundo plano.
Dónde corren los datos: una cuestión de regulación y riesgo, no de calidad.
Cuándo entrenar
Casi nunca, y no al principio. La mejora de la indicación, buenos ejemplos y conectar con la fuente de información correcta resuelven la mayoría de las brechas. El ajuste fino vale la pena cuando tienes miles de ejemplos de calidad y el objetivo es bajar el coste o el tiempo de respuesta.
En profundidad
Envuelve la llamada al modelo en una capa que controles, para que cambiar de proveedor sea un cambio de configuración. Y lleva un registro por llamada: modelo, versión de indicación, cantidades de texto y tiempo, o preguntas como '¿cuándo cayó la calidad?' se vuelven imposibles de responder.