Deux manières d'utiliser un modèle d'intelligence artificielle
Certains modèles peuvent être exécutés directement sur une station de travail ou un serveur.
D'autres sont uniquement ou principalement accessibles par un service distant ou une API.
Les deux approches peuvent avoir leur place dans un workflow professionnel.
Exécution locale
Exécuter un modèle localement permet notamment de contrôler :
- l'installation ;
- les fichiers ;
- les versions ;
- les modèles utilisés ;
- les workflows ;
- certaines automatisations ;
- le stockage des données ;
- les performances de la machine.
Cette approche nécessite cependant du matériel et de la maintenance.
API et services distants
Une API permet d'utiliser un modèle exécuté sur l'infrastructure de son fournisseur.
Il n'est alors pas nécessaire de disposer du GPU capable de faire fonctionner le modèle.
En revanche, il faut tenir compte :
- du coût ;
- des conditions d'utilisation ;
- de la disponibilité du service ;
- des limites de l'API ;
- des données envoyées ;
- des possibilités d'intégration.
Un workflow peut mélanger les deux
Il n'est pas nécessaire de choisir définitivement un camp.
Un pipeline peut utiliser un modèle local pour certaines opérations et un modèle distant pour d'autres.
ComfyUI permet également aujourd'hui d'intégrer certains services distants dans un workflow.
L'approche Axiris
Nous choisissons l'infrastructure en fonction du travail.
Local lorsque le contrôle et l'intégration le justifient.
Distant lorsqu'un service apporte une capacité réellement utile.
L'objectif reste le pipeline de production