IA dans le cloud ou sur infrastructure dédiée : comment évaluer les contraintes réelles

« Je veux une intelligence artificielle privée » est presque toujours la réponse à une préoccupation précise : que les données de l'entreprise finissent là où elles ne devraient pas. C'est une préoccupation légitime, mais elle ne suffit pas à choisir entre un service dans le cloud, une infrastructure dédiée et un serveur en entreprise. Le choix se fait sur des exigences écrites, comparées à ce que chaque solution demande en compétences, maintenance et coûts récurrents. Ce guide sert à construire cette liste.

Ce que vous devez vraiment décider

« Où se trouve le modèle » est la conséquence, pas la question de départ. Les questions à se poser d'abord sont au nombre de quatre.

• Quelles données le système touchera-t-il, et lesquelles ne peuvent pas sortir de votre périmètre. C'est souvent une petite partie du total : certaines catégories de documents, pas l'archive entière.
• Ce qui se passe si le service est indisponible pendant une demi-journée. Si le travail s'arrête, l'exigence de continuité change tout le reste.
• Qui le maintiendra, avec un nom et un prénom, dans les trois prochaines années. C'est l'exigence la plus souvent ignorée et celle qui pèse le plus dans la décision.
• À quel point l'usage est prévisible. Une charge constante et une charge par pics se paient de façon très différente.

Les trois modalités, et ce qu'elles demandent en retour

En simplifiant, il existe trois options. Le tableau compare ce que chacune exige, pas ce qu'elle promet.

Aucune colonne n'est meilleure dans l'absolu : chacune déplace le travail et le risque vers un point différent. Le cloud les déplace vers le contrat, l'infrastructure dédiée vers la relation avec le prestataire, le serveur local vers vous.

Les compétences qui restent à votre charge

Un serveur en entreprise n'est pas un ordinateur allumé. Ce sont des activités que quelqu'un doit exercer en continu, et qui ne disparaissent pas quand cette personne change d'emploi.

• Mises à jour système et de sécurité, avec une fenêtre où elles peuvent être faites sans arrêter personne.
• Sauvegardes des données et des configurations, avec au moins une restauration testée.
• Gestion des accès : qui peut utiliser le système, qui peut en modifier le comportement, qui lit les journaux.
• Remplacement du matériel en panne, avec les délais que cela implique pour se le procurer.
• Mise à jour des modèles, qui n'est ni automatique ni indolore : ce qui fonctionnait peut se comporter différemment, et doit être retesté.

Si ces activités retombent sur une personne qui en a déjà vingt autres, le système restera à la version du jour de l'installation. Ce n'est pas du pessimisme : c'est le destin ordinaire des serveurs oubliés dans une armoire.

Contrats et flux des données

Avec un service externe, les garanties se trouvent dans le contrat et dans la documentation technique, pas dans les pages commerciales. Les points à vérifier par écrit sont peu nombreux et précis.

• Où sont traitées et conservées les données, et si cela peut changer sans préavis.
• Combien de temps elles restent, et ce qui se passe quand vous résiliez le service.
• Si vos contenus peuvent être utilisés pour entraîner des modèles, et comment s'en exclure.
• Qui, du côté du prestataire, peut y accéder et dans quels cas.
• Ce qui est enregistré de vos usages, et pendant combien de temps.

Il faut aussi regarder la chaîne : de nombreux services en utilisent d'autres en dessous. Un prestataire qui ne sait pas vous dire de qui il dépend ne vous cache pas nécessairement quelque chose, mais ne peut rien vous garantir non plus.

Le test sur le même cas d'usage

Le choix se conclut par un test, pas par une comparaison sur le papier. La condition est qu'il s'agisse de la même tâche, avec les mêmes données et le même étalon.

1. Choisissez une tâche réelle et circonscrite, avec de vrais documents, y compris les plus difficiles.
2. Préparez un ensemble d'exemples dont vous connaissez déjà la bonne réponse. Sans cela, la comparaison reste une impression.
3. Testez chaque option sur le même ensemble, en mesurant la qualité des réponses, le temps d'attente et le comportement quand l'information est absente.
4. Estimez le coût sur un volume réaliste d'un an, pas sur celui du test : c'est là que les options se séparent vraiment.
5. Ajoutez au calcul les heures internes, celles du test et celles de la maintenance future.

Un test honnête dure quelques semaines et peut se conclure par « aucune des trois, le problème n'est pas celui du modèle ». C'est un résultat aussi utile que les autres.

« Local » ne veut pas dire sûr

L'équivalence entre données conservées chez soi et données protégées est le raccourci qui mène aux mauvais achats.

Le choix n'est même pas obligatoirement unique. Une répartition fréquente et sensée garde à l'intérieur les documents les plus sensibles, avec un système local qui les recherche, et envoie à l'extérieur les tâches qui ne nécessitent pas de données confidentielles. Le coût de cette solution est la complexité : deux systèmes à maintenir et une règle sur ce qui peut passer de l'un à l'autre. Si la règle ne s'écrit pas en trois lignes compréhensibles pour celui qui utilisera le système, elle sera contournée.

Ce que ce guide ne couvre pas

Il s'agit ici de choisir où faire fonctionner un système basé sur des modèles, en partant des contraintes. Les postes de coût récurrent d'un assistant déjà en service — consommations liées à l'usage, révision des réponses, mises à jour — sont traités à part, tout comme la gestion des permissions, des journaux et des sauvegardes d'un système de gestion d'entreprise, ici seulement effleurée.