Vertex AI: come usare modelli ML end-to-end dall'addestramento al monitoraggio

Le delicate fasi di addestramento e deployment, in particolare, possono essere affrontate facendo leva su un'ampia gamma di strumenti, ciascuno adatto a eseguire con la massima efficacia i vari tipi di task. AutoML, per esempio, è perfetto per chi ha l'esigenza di addestrare dati tabulari, di immagini, testo o video senza scrivere codice o preparare le suddivisioni dei dati. Con AutoML si può creare e addestrare un modello con il minimo sforzo tecnico, sia dando rapidamente vita a prototipi sia esplorando nuovi set di dati prima di investire tempo e risorse nello sviluppo vero e proprio.

L'addestramento personalizzato, d'altra parte, assicura il controllo completo sul processo di addestramento, incluse quindi la scelta del framework ML preferito, la scrittura di codice di training ad hoc e la selezione delle opzioni di ottimizzazione degli iperparametri. Con l'addestramento personalizzato si può, tra le altre cose, costruire un'applicazione ottimizzata per il risultato target, sia utilizzando algoritmi esistenti, sia sviluppando in autonomia funzioni o metriche ritagliate su misura.

Sul piano del deployment, invece, Model Garden consente di preparare, testare, personalizzare ed eseguire agevolmente l'operazione. L'utilizzo di modelli e asset open source conferisce massima libertà agli sviluppatori, che possono declinare le componenti di intelligenza artificiale generativa in molteplici modalità (testo, codice, immagini, parlato). Il che implica la facoltà di ottimizzare gli LLM di Google in base ad esigenze specifiche.

Una volta ultimata la fase di deployment dei modelli, è poi possibile utilizzare gli strumenti MLOps end-to-end di Vertex AI per automatizzare e scalare i progetti durante il ciclo di vita delle applicazioni. La suite MLOps viene eseguita su un'infrastruttura completamente gestita, da personalizzare in base alle esigenze di prestazioni e budget.

Addestramento e deployment sono solo le fasi centrali di un flusso di lavoro molto più complesso: un processo composto da 5 passaggi ben definiti che grazie a Vertex AI possono essere omogeneizzati e migliorati in modo coerente. Vediamoli nel dettaglio.

• Preparazione dei dati: dopo aver estratto e ripulito il set di dati, si esegue l'analisi esplorativa degli stessi per comprendere lo schema degli input e le caratteristiche previste dal modello di ML. Si applicano quindi al modello le trasformazioni dei dati e il feature engineering e si suddividono gli input in set di addestramento, convalida e test.
• Addestramento di un modello: si sceglie un metodo (automatico o personalizzato) per addestrare un modello e ottimizzarlo per le prestazioni.
• Valutazione e iterazione del modello: si valuta il modello addestrato, apportando aggiustamenti ai dati in base alle metriche di valutazione. Quindi si esegue l'iterazione del modello. Vengono poi utilizzate le metriche di valutazione (che possono essere create tramite Vertex AI Model Registry e incluse nel flusso di lavoro di Vertex AI Pipelines), come precisione e richiamo, per misurare e confrontare le prestazioni ottenute.
• Pubblicazione del modello: si esegue il deployment del modello in produzione utilizzando container prebuilt o personalizzati per ricevere previsioni online in tempo reale.
• Monitoraggio del modello: una volta distribuito il modello, se ne monitorano le prestazioni sfruttando i dati di previsione in arrivo. L'obiettivo è quello di riaddestrarlo e migliorarne continuamente le performance. Un ruolo essenziale in quest'ultima fase è ricoperto da Vertex AI Model Monitoring, che tiene sotto controllo i modelli per l'eventuale disallineamento tra addestramento e produzione e per la deviazione della previsione, inviando avvisi quando i dati di previsione in arrivo si discostano troppo dalla base di addestramento.

Rispetto all'ultima fase, nell'ottica di aumentare ulteriormente l'efficienza dei costi, Vertex AI permette infine di impostare una frequenza di campionamento delle richieste di previsione per monitorare un sottoinsieme di input di produzione per un modello. La frequenza di monitoraggio determina l'intervallo di tempo, ovvero le dimensioni della finestra di monitoraggio, dei dati analizzati in ogni esecuzione di screening. Si possono quindi specificare le soglie di avviso per ogni funzionalità da monitorare e ottimizzarle man mano che si perfeziona il modello.