Agenti AI: che cosa fanno davvero oggi, e i rischi da governare prima

Un agente prende un obiettivo, lo scompone in passi, li esegue usando strumenti reali — un sito, un gestionale, la posta — e si corregge quando sbaglia. La differenza con un assistente non e' di grado: uno parla, l'altro fa. E cio' che fa ha conseguenze.

Dove funzionano oggi

Bene su compiti ripetitivi, ben definiti e con esito verificabile:

• Raccolta di informazioni da molte fonti pubbliche, riassunte in un unico documento.
• Estrazione di dati da sistemi senza interfaccia di collegamento: l'agente li usa come farebbe una persona. Sono i casi in cui l'alternativa e' un lavoro manuale eterno.
• Precompilazione di pratiche: raccoglie, verifica la completezza, prepara — e lascia a una persona l'invio.
• Prima classificazione della posta in arrivo, con le risposte di routine proposte e non inviate.

Meno bene, o per niente, su compiti in cui l'obiettivo e' vago, il contesto cambia o l'esito non e' verificabile automaticamente.

I quattro rischi

1. L'errore che si propaga

Un passo sbagliato all'inizio non produce un errore: produce una catena di passi coerenti costruiti su una premessa falsa. L'agente e' convincente perche' e' coerente, e la coerenza e' esattamente cio' che rende difficile accorgersene.

2. L'azione irreversibile

Un assistente che sbaglia scrive una frase sbagliata. Un agente che sbaglia puo' inviare, prenotare, ordinare, cancellare. La regola non e' negoziabile: approvazione umana per tutto cio' che esce dall'azienda o muove denaro, sempre, anche quando rallenta.

3. La sicurezza — il rischio meno considerato

Un agente che legge pagine web, email o documenti puo' incontrare istruzioni scritte apposta per lui: un testo che gli dice di inoltrare un allegato, o di rivelare una credenziale. Il sistema non distingue nativamente fra i dati che deve elaborare e le istruzioni che deve eseguire, ed e' una vulnerabilita' strutturale, non un difetto di un prodotto.

Le contromisure sono organizzative prima che tecniche: privilegi minimi, credenziali dedicate e revocabili, nessun accesso a sistemi critici, e conferma umana su ogni azione verso l'esterno.

4. La tracciabilita'

Ogni azione deve lasciare un registro leggibile: che cosa ha fatto, quando, su quale base. Senza, non potete ricostruire un errore ne' rispondere a chi vi chiede conto di una decisione.

Come si adotta senza farsi male

1. Un compito solo, interno, con esito verificabile.
2. Accessi ridotti al minimo indispensabile, con credenziali proprie dell'agente e revocabili in un istante.
3. Approvazione umana su tutto cio' che e' irreversibile, per i primi mesi su tutto.
4. Registro completo e qualcuno che lo legga davvero nelle prime settimane.
5. Una procedura di spegnimento scritta: chi lo ferma, come, e che cosa si fa dei danni eventuali.

Come leggere l'entusiasmo

Le dimostrazioni sono impressionanti perche' mostrano il caso che funziona. La domanda utile non e' «riesce a farlo?» ma «quante volte su cento lo fa correttamente, e che cosa succede nelle altre?». Su un compito eseguito mille volte al mese, una percentuale di errore che in una dimostrazione sembra trascurabile diventa un numero di incidenti che qualcuno dovra' gestire.