Benvenuti alla nostra nuova rubrica aziendale, “Game Changers in Tech“, dove mettiamo sotto i riflettori le brillanti menti di Bitrock e il loro impegno nell’affrontare sfide tecnologiche innovative tipiche di in un settore in continua evoluzione come quello dell’IT. Rimanere all’avanguardia non è solo una necessità, ma dimostra la nostra volontà di poter offrire sempre il meglio ai nostri clienti. I nostri Bitrocker incarnano questo pensiero, padroneggiando tecnologie all’avanguardia e dimostrando capacità tecniche eccellenti nell’adattarsi a nuove situazioni e nell’affrontare nuovi trend tecnologici.
In ogni intervista, scopriremo le storie di coloro che rendono Bitrock leader nel campo dell’innovazione tecnologica. Esploreremo le loro esperienze, le sfide che hanno superato e le competenze che hanno sviluppato per soddisfare le esigenze dei nostri clienti e realizzare progetti all’avanguardia. Attraverso esempi pratici, capiremo come queste persone si preparano ad affrontare le richieste del mercato e a guidare la nostra azienda verso il futuro.
Il nostro primo “ game changer” è Giovanni Vacanti, Data Scientist, che passando per Singapore e molti altri luoghi del mondo è approdato in Bitrock per arricchire il nostro Data, AI & ML Engineering Team.
Conosciamolo meglio!
Qual è la tua posizione e il percorso di carriera che ti ci ha portato?
Dopo aver conseguito la laurea magistrale in Fisica presso l’Università di Palermo nel 2007, la mia passione per la comprensione dei sistemi complessi mi ha portato a conseguire un dottorato di ricerca in Fisica presso il Center for Quantum Technologies della National University of Singapore, dove mi sono laureato nel luglio 2013. Ho poi approfondito la mia ricerca in fisica quantistica con una borsa di studio post-dottorato presso l’Institut Neel di Grenoble, in Francia, fino a giugno 2015.
Dopo il periodo trascorso nel mondo accademico e il mio interesse per l’IA, nel 2016 sono entrato a far parte di una start-up con sede a Londra che si occupa di soluzioni di Machine Learning per le aziende. Durante il mio periodo di lavoro, durato quasi 7 anni, ho contribuito alla crescita dell’azienda e della comunità AI nel Regno Unito attraverso vari progetti, tra cui lo sviluppo della libreria open-source Alibi, Alibi-detect e seldon-core.
Nel 2022 ho iniziato una nuova fase della mia carriera in Italia, entrando in Bitrock. In Bitrock lavoro su diversi progetti che coinvolgono modelli di ML “tradizionali”, ad esempio sistemi di previsione o di raccomandazione, anche se la mia attenzione principale è rivolta all’AI generativa alimentata da soluzioni LLM.
Qual è stata la sfida tecnologica più impegnativa che hai affrontato in Bitrock?
Nei progetti di Machine Learning e AI è sempre necessario utilizzare tecnologie all’avanguardia. La comunità open-source sta rendendo disponibili strumenti di ricerca utilizzabili da tutti molto rapidamente, quindi dobbiamo sempre cercare gli strumenti più avanzati.
La sfida più difficile che ho affrontato è stato un progetto in cui, dati i requisiti rigorosi del cliente (fondamentalmente tutto on premise, quindi niente API ChatGPT), abbiamo messo a punto un LLM da 3 miliardi di dati su un cluster di 4 GPU. Ho imparato che l’addestramento o la messa a punto di un LLM è più complicato di quanto si possa pensare, anche per modelli “piccoli” con pochi miliardi di parametri. E anche costoso, dato che l’ utilizzo delle GPU richiede ingenti risorse.
D’altra parte, OpenAI, Anthropic e sempre più aziende offrono un servizio API a pagamento per accedere ai loro LLM, cioè ai loro grandi cervelli artificiali. Questo è molto meno costoso, sia in termini di costi che di impegno, e strumenti open-source come LangGraph rendono molto semplice sfruttare tutta la potenza di questi enormi modelli.
Quali sono le tendenze che ritieni più rilevanti per il futuro del nostro settore?
In primo luogo, il progresso dell’IA generativa, soprattutto attraverso i modelli linguistici di grandi dimensioni (LLM), sta già ridefinendo la risoluzione dei problemi in tutti i settori. Inoltre, l’IA etica e l’explainability, in quanto gli stakeholder richiedono trasparenza. Non dobbiamo dimenticare che queste tendenze guideranno l’innovazione nei prossimi anni.
Un’altro trend rilevante è l’evoluzione delle risorse delle GPU. I servizi GPU basati sul cloud consentono alle organizzazioni di accedere a risorse di elaborazione ad alte prestazioni a costi ragionevoli. Inoltre, le innovazioni nelle architetture delle GPU consentono un’elaborazione più efficiente, fondamentale per gestire le richieste di calcolo delle applicazioni di intelligenza artificiale su larga scala.
Tuttavia, con l’aumento delle dimensioni dei LLM, l’implementazione richiede sempre più risorse GPU, con costi che potrebbero essere significativamente più elevati rendendo più conveniente l’utilizzo di servizi API a pagamento come OpenAI o Anthropic.
Come ti tieni aggiornato su questi trend e come Bitrock ti supporta in questo apprendimento continuo?
Come ho detto prima, al giorno d’oggi l’open-source è al passo con la ricerca quasi in tempo reale e i progressi sono stati esponenziali. Ciò significa che qualsiasi nuovo strumento, software o tecnica può diventare obsoleto nel giro di pochi mesi.
Il mio apprendimento è sempre guidato dalla curiosità di esplorare nuove tendenze e tecnologie. Mi tengo aggiornato leggendo articoli scientifici e blog specializzati, poiché le scoperte accademiche vengono rapidamente implementate in strumenti open-source pronti per la produzione.
Bitrock supporta questo processo fornendo l’accesso a piattaforme come Coursera e DeepLearningAI, con corsi sempre aggiornati. Per chi vuole specializzarsi, è fondamentale selezionare fonti affidabili e sviluppare discernimento, e Bitrock favorisce questa mentalità offrendoci strumenti e opportunità di crescita continua.
Che consiglio daresti a chi vuole tenersi aggiornato sull’IA?
Il mio consiglio è di avere un approccio di “apprendimento continuo”. La comunità open-source è molto attiva nell’offrire corsi, blog e strumenti gratuiti. Credo che i progressi nell’elaborazione del linguaggio naturale e nell’IA generativa a cui abbiamo assistito negli ultimi due anni stiano innescando un cambiamento di paradigma nel modo di lavorare dei ricercatori e dei software engineer.
Per essere all’avanguardia in questo panorama in rapida evoluzione, è essenziale abbracciare la collaborazione e condividere le conoscenze con gli altri operatori del settore. Naturalmente è importante stabilire una routine di studio e aggiornamento, magari dedicando qualche ora alla settimana allo sviluppo personale. A mio parere, il modo migliore per farlo è imparare “sul campo”, cioè imparare a usare gli strumenti più recenti che il vostro progetto richiede. Ad esempio, strumenti come LangChain non esistevano uno o due anni fa, ma ho imparato a usarlo in un progetto recente e l’ho trovato estremamente utile.
Infine, la partecipazione attiva a comunità online, forum e gruppi di discussione può fornire preziose intuizioni e opportunità di networking.
Grazie a Giovanni Vacanti, Senior Data Scientist @ Bitrock, per questa intervista.
Se volete conoscere altri Bitrockers e scoprire le loro sfide… Stay tuned!
