L'IA en pratique · Avancé

Architecture d'un système basé sur un modèle

En une ligne : Le modèle est un composant à l'intérieur d'un système ordinaire — et le système autour de lui est la majeure partie du travail et du risque.

Les composants fixes

Une couche d'entrée qui valide et nettoie ; une couche de récupération qui apporte du contexte avec des permissions ; une couche d'appel au modèle avec des réessais, un délai d'expiration et un prestataire de secours ; une couche de validation de la sortie contre un schéma ; et une couche de journalisation et de mesure.

Chacune existe aussi dans les systèmes ordinaires. Ce qui change, c'est que la sortie n'est pas déterministe, donc la validation et la mesure comptent bien plus.

Synchrone contre asynchrone

Si la réponse prend plus de quelques secondes, passez à un processus d'arrière-plan avec un identifiant de tâche et des mises à jour d'état. Garder une requête ouverte une minute est une recette pour les délais et une mauvaise expérience utilisateur.

Des frontières qu'on ne doit pas franchir

La sortie du modèle ne va pas directement à l'exécution — ni une requête, ni une commande, ni un appel externe — sans validation et une liste d'actions autorisées.

Pour aller plus loin

Construisez la couche du modèle pour qu'elle puisse tourner en mode sec : le même système, sans appel réel, avec des réponses sauvegardées. Cela accélère le développement, stabilise les tests et permet de reproduire un incident exactement comme il s'est produit.