L’Intelligenza Artificiale, talvolta, può sbagliare in modo molto convincente: codice pulito, spiegazioni coerenti, risposte senza apparenti esitazioni. Il problema, tuttavia, risiede nella fiducia che spesso le concediamo prima ancora di controllare.
Di questo abbiamo discusso con Michele Ridi, Chief Presale Officer per Bitrock e Fortitude Group, in una recente puntata del nostro podcast della Bitrock Tech Radio. Da questo confronto nascono le riflessioni che seguono: quali trappole scattano proprio quando siamo convinti di lavorare meglio e quali metodi, abitudini e strumenti possono aiutare le aziende a ridurle.
Perché ci fidiamo dell’AI anche quando sbaglia
Spesso ci si fida dell’AI perché una spiegazione ordinata, con i termini giusti e un tono sicuro, trasmette competenza. Una sensazione che, con i moderni tool AI, arriva spesso prima della verifica.
Questo succede anche con il codice software: variabili coerenti, commenti chiari e una struttura elegante lo fanno sembrare un buon punto di partenza. Tuttavia, al suo interno, possono spesso nascondersi una vulnerabilità o una funzione che non esiste.
Uno scenario che si ripete poi in generale nei contesti aziendali, anche fuori dallo sviluppo: il riassunto di una riunione generato dall’AI è quasi sempre ottimo a prima vista, eppure una proposta può trasformarsi in decisione (ad esempio, “potremmo consegnare a novembre” diventa “consegneremo a novembre”).
Nel 2023 un gruppo di ricercatori di Stanford ha osservato proprio questo: nei compiti di sicurezza esaminati, i partecipanti con un assistente AI scrivevano codice meno sicuro ed erano più propensi a considerarlo sicuro. Il caso è specifico e legato agli strumenti di allora, ma il meccanismo resta: all’errore si aggiunge una falsa tranquillità.
La prima difesa nasce quindi da una domanda semplice: se questa risposta fosse sbagliata, ce ne accorgeremmo? E con quali conseguenze? È su questo che va calibrata la fiducia, in base all’impatto di un possibile errore – e non all’eleganza del testo.
La trappola della produttività percepita
La produttività diventa una trappola quando viene misurata dalla sensazione che lascia. Una prima bozza che compare in pochi secondi impressiona e può dare l’idea di aver fatto metà del lavoro: poi, però, bisogna verificare i dati, correggere le imprecisioni, adattare il risultato al contesto. Questi compiti fanno parte del lavoro e vanno considerati.
Nel 2025 METR ha studiato 16 sviluppatori esperti al lavoro su progetti che conoscevano bene. Avvalendosi degli strumenti AI disponibili allora, è emerso come costoro impiegavano il 19% di tempo in più, ma continuavano ad avere la percezione di averne risparmiato. Il risultato va ovviamente contestualizzato: riguarda quei compiti, quelle persone e quegli strumenti. METR ha poi segnalato che, con strumenti successivi, il quadro stava cambiando, pur con difficoltà nel misurarlo. Il punto d’attenzione resta comunque la distanza tra sentirsi più produttivi ed esserlo davvero.
Per un’azienda questo significa guardare il processo completo: quanto serve per arrivare a un documento approvato, a una modifica funzionante o a un problema risolto? Se una persona genera dieci documenti in un’ora e un collega impiega due giorni per controllarli, l’attività individuale è accelerata, questo sì, ma l’intero processo potrebbe essersi appesantito.
C’è poi il tema dell’allenamento: chi delega sistematicamente la prima analisi rischia di perdere familiarità con i passaggi che servono proprio per verificare il risultato. Per evitare questo rischio, è quindi preferibile avvalersi dell’AI per confrontare alternative e far emergere nuove ipotesi, lasciando spazio per capire perché una soluzione funziona e in quali condizioni smette di funzionare.
Abitudini pratiche e cultura dell’obiezione
Difendersi non significa trasformare ogni risposta in un controllo infinito. Bastano infatti poche abitudini, applicate nei punti giusti:
- Distinguere i fatti dalle deduzioni. Se una risposta contiene un dato importante, bisogna poter risalire alla fonte e verificare che dica davvero quella cosa. Se contiene una conclusione, occorre capire su quali ipotesi si basa. Chiedere al modello di dichiararle aiuta, ma anche la sua spiegazione va valutata.
- Non lasciare che la prima risposta definisca il problema. Chiedere “come possiamo introdurre un chatbot per ridurre le richieste all’assistenza?” significa aver già scelto la soluzione. Prima conviene chiedersi quali richieste arrivano, perché arrivano e quali si potrebbero evitare migliorando il servizio. L’AI è efficiente nel sviluppare una direzione: per questo va controllato che sia quella giusta. Chiederle di sostenere una tesi alternativa o di trovare obiezioni allarga il ragionamento, ma non sostituisce una verifica indipendente.
- Decidere prima come riconoscere un miglioramento. Quando si sperimenta un assistente AI, va scritto in anticipo cosa ci si aspetta: meno tempo per completare una pratica, meno errori, meno passaggi manuali. E vanno misurate anche le correzioni necessarie. Altrimenti si rischia di giudicare il progetto dalle due risposte riuscite meglio durante la demo.
Non da ultimo, un’altra abitudine da allenare, forse la più importante, è di stampo culturale: poter obiettare. Se mettere in discussione una risposta costa troppo, le persone smettono di farlo; questo vale per l’AI come per una decisione del collega più autorevole.
Per un’azienda tutto ciò significa creare le condizioni affinché chiunque possa dire “questa risposta non mi convince” senza attriti. Alla fine il controllo vero resta nelle mani delle persone: sono infatti loro a stabilire i criteri, a riconoscere quando un risultato non torna e a decidere quanto affidarsi al modello.
Governance dell’AI in azienda
Quando l’AI entra nelle applicazioni aziendali, la tecnologia deve rendere praticabili i controlli descritti finora. Una persona che usa un assistente può fermarsi, leggere e verificare. Quando più applicazioni chiamano modelli diversi servono regole comuni: chi può accedere, quali servizi può usare, quali dati possono transitare e quanto si sta spendendo.
Qui si colloca il Radicalbit AI Gateway, parte del Product Portfolio di Fortitude Group, punto di passaggio controllato tra le applicazioni e i modelli, che permette di:
- centralizzare gli accessi e applicare regole condivise;
- raccogliere informazioni su richieste, risposte e utilizzo;
- monitorare costi e prestazioni;
- proteggere i dati, ad esempio con il mascheramento delle informazioni personali.
Si pensi a un’azienda in cui più team sviluppano funzionalità basate sull’AI. In assenza di una gestione comune, ciascun team tende a configurare accessi, limiti e monitoraggio secondo criteri propri. Radicalbit AI gateway consente di ricondurre questi controlli a un livello condiviso e coerente.
È tuttavia necessario un chiarimento: la tracciabilità di una risposta non ne dimostra la correttezza. Un gateway, da solo, non può garantire che un modello non generi informazioni inesatte. La valutazione della qualità richiede anche controlli sulle fonti, test sul caso d’uso specifico e verifiche proporzionate alle conseguenze di un possibile errore. Il contributo del gateway consiste nel fornire all’azienda visibilità e strumenti di governance: in caso di anomalie, permette di ricostruire l’interazione e intervenire, e consente di applicare le regole in modo sistematico, senza affidarsi alla memoria del singolo.
Questi aspetti assumono un’importanza ancora maggiore con l’AI Agentica, ovvero con sistemi in grado di compiere azioni in autonomia. In questo scenario è necessario definire con chiarezza quali operazioni l’AI può svolgere autonomamente, in quali circostanze deve fermarsi e chi è autorizzato a intervenire. È qui che metodo e architettura si incontrano: le persone definiscono i criteri, la tecnologia ne garantisce un’applicazione continua e coerente.et: people define the criteria, and technology ensures they are applied continuously and consistently.
Conclusione: definire e conservare i criteri di giudizio
Le trappole dell’AI non dipendono soltanto dai limiti dei modelli. Derivano dall’incontro tra risposte molto convincenti e il nostro modo di valutarle: ci fidiamo della forma, misuriamo la produttività dalla sensazione di velocità, lasciamo che la prima risposta orienti l’intero ragionamento.
Per questo il controllo deve articolarsi su due livelli. Il primo riguarda il modo di lavorare delle persone: verificare le fonti, distinguere i fatti dalle deduzioni, definire in anticipo cosa significa “migliorare” e coltivare una cultura in cui obiettare è normale. Il secondo riguarda invece i sistemi che le aziende costruiscono: dove servono regole comuni, tracciabilità e strumenti di governance che non dipendano dalla memoria del singolo.
In entrambi i casi, il controllo deve essere concreto, con informazioni utili e reali possibilità di intervento. Solo così il valore dell’AI si vede nei risultati e non soltanto nelle demo. Con sistemi agentici sempre più autonomi, quel margine di intervento servirà ancora di più.
Definire questi criteri e tradurli in architetture solide è il punto in cui metodo e tecnologia devono procedere insieme. È su questo equilibrio che Bitrock affianca le aziende, mettendo a disposizione competenze consulenziali e tecnologiche per accompagnarle dalla definizione delle regole di governance alla realizzazione di soluzioni AI sicure, osservabili e pronte per la produzione.
Contattaci per una consulenza personalizzata.
FAQ – Frequently Asked Questions
La fiducia eccessiva in risposte ben scritte ma errate e la produttività percepita, che non coincide sempre con quella reale misurata sull’intero processo.
Distinguendo fatti e deduzioni, non accettando la prima formulazione del problema, definendo metriche di successo prima della sperimentazione e promuovendo una cultura in cui obiettare è possibile.
Guardando il processo completo, non solo la velocità della prima bozza: per esempio, quanto tempo serve per arrivare a un documento approvato, a una modifica funzionante o a un problema risolto, incluse tutte le correzioni e revisioni necessarie.
È un contesto in cui mettere in discussione una risposta dell’AI non ha, di fatto, costi. Se obiettare costa troppo, infatti, le persone smettono di farlo e gli errori passano inosservati.