AI in cloud o su infrastruttura dedicata: come valutare i vincoli reali

«Voglio un’intelligenza artificiale privata» è quasi sempre la risposta a una preoccupazione precisa: che i dati aziendali finiscano dove non dovrebbero. È una preoccupazione legittima, ma non basta a scegliere fra un servizio in cloud, un’infrastruttura dedicata e un server in azienda. La scelta si fa su requisiti scritti, confrontati con ciò che ogni soluzione richiede in competenze, manutenzione e costi ricorrenti. Questa guida serve a costruire quell’elenco.

Che cosa dovete decidere davvero

«Dove sta il modello» è la conseguenza, non la domanda di partenza. Le domande da porsi prima sono quattro.

• Quali dati toccherà il sistema, e quali di questi non possono uscire dal vostro perimetro. Spesso è una parte piccola del totale: alcune categorie di documenti, non l’intero archivio.
• Che cosa succede se il servizio non è disponibile per mezza giornata. Se il lavoro si ferma, il requisito di continuità cambia tutto il resto.
• Chi lo manterrà, con nome e cognome, nei prossimi tre anni. È il requisito che viene ignorato più spesso ed è quello che decide più di ogni altro.
• Quanto è prevedibile l’uso. Un carico costante e un carico a picchi si pagano in modo molto diverso.

Le tre modalità, e che cosa chiedono in cambio

Semplificando, le opzioni sono tre. La tabella confronta ciò che ciascuna richiede, non ciò che promette.

Nessuna colonna è migliore in assoluto: ognuna sposta lavoro e rischio in un punto diverso. Il cloud li sposta sul contratto, l’infrastruttura dedicata sul rapporto con il fornitore, il server locale su di voi.

Le competenze che restano a voi

Un server in azienda non è un computer acceso. Sono attività che qualcuno deve svolgere con continuità, e che non spariscono quando quella persona cambia lavoro.

• Aggiornamenti di sistema e di sicurezza, con una finestra in cui si possono fare senza fermare nessuno.
• Copie di sicurezza dei dati e delle configurazioni, con almeno un ripristino provato.
• Gestione degli accessi: chi può usare il sistema, chi può cambiarne il comportamento, chi legge i registri.
• Sostituzione dell’hardware guasto, con i tempi che comporta procurarselo.
• Aggiornamento dei modelli, che non è automatico e non è indolore: quello che funzionava può comportarsi diversamente, e va riprovato.

Se queste attività ricadono su una persona che ne ha già altre venti, il sistema resterà alla versione del giorno dell’installazione. Non è pessimismo: è il destino ordinario dei server dimenticati in un armadio.

Contratti e flussi dei dati

Con un servizio esterno le garanzie stanno nel contratto e nella documentazione tecnica, non nelle pagine commerciali. Le cose da verificare per iscritto sono poche e precise.

• Dove sono trattati e conservati i dati, e se questo può cambiare senza preavviso.
• Per quanto tempo restano, e che cosa succede quando chiudete il servizio.
• Se i vostri contenuti possono essere usati per addestrare modelli, e come si esclude.
• Chi, dal lato del fornitore, può accedervi e in quali casi.
• Che cosa viene registrato dei vostri utilizzi, e per quanto tempo.

Va guardata anche la catena: molti servizi ne usano altri sotto. Un fornitore che non sa dirvi da chi dipende non vi sta necessariamente nascondendo qualcosa, ma non può nemmeno garantirvi niente.

La prova sullo stesso caso d’uso

La scelta si chiude con una prova, non con un confronto sulla carta. La condizione è che sia lo stesso compito, con gli stessi dati e lo stesso metro.

1. Scegliete un compito reale e circoscritto, con documenti veri, compresi quelli difficili.
2. Preparate un insieme di esempi di cui conoscete già la risposta giusta. Senza questo, il confronto resta un’impressione.
3. Provate ogni opzione sullo stesso insieme, misurando qualità delle risposte, tempo di attesa e comportamento quando l’informazione non c’è.
4. Stimate il costo su un volume realistico di un anno, non su quello della prova: è qui che le opzioni si separano davvero.
5. Aggiungete al conto le ore interne, quelle della prova e quelle della manutenzione futura.

Una prova onesta dura poche settimane e può concludersi con «nessuna delle tre, il problema non è di modello». È un risultato utile quanto gli altri.

«Locale» non vuol dire sicuro

L’equivalenza fra dati in casa e dati protetti è la scorciatoia che porta agli acquisti sbagliati.

La scelta non è nemmeno obbligatoriamente unica. Una divisione frequente e sensata tiene dentro i documenti più sensibili, con un sistema locale che li cerca, e manda all’esterno i compiti che non richiedono dati riservati. Il costo di questa soluzione è la complessità: due sistemi da mantenere e una regola su che cosa può passare dall’uno all’altro. Se la regola non si scrive in tre righe comprensibili a chi userà il sistema, verrà aggirata.

Quello che questa guida non copre

Qui si sceglie dove far funzionare un sistema basato su modelli, partendo dai vincoli. Le voci di costo ricorrente di un assistente già in esercizio — consumi legati all’uso, revisione delle risposte, aggiornamenti — sono trattate a parte, così come la gestione di permessi, registri e copie di sicurezza di un gestionale aziendale, qui solo sfiorata.