Molti team, pensando all'EU AI Act, pensano al riconoscimento facciale, ai veicoli autonomi e al social scoring. A sistemi che non li riguardano. Ciò che viene trascurato: l'EU AI Act definisce categorie di rischio — e i sistemi di IA utilizzati nel contesto lavorativo non finiscono automaticamente nella categoria "non critico."
Questo non significa che ogni tool di coaching sia classificato come sistema ad alto rischio. Significa che le aziende che utilizzano il coaching con IA devono effettuare una classificazione consapevole — e che i fornitori che non rendono trasparente questa classificazione rappresentano un rischio.
Questo articolo non costituisce consulenza legale. Fornisce invece una panoramica pragmatica: dove si posiziona il coaching con IA nel quadro normativo? Quali domande dovrebbero porre le aziende adesso? E come si presenta una governance minimale che non sia né burocratica né ingenua?
L'EU AI Act non è un tema da rimandare. Influenza già oggi il modo in cui i team Procurement valutano i tool di IA. Chi non è in grado di fornire una chiara classificazione del rischio del proprio tool di coaching, perde nel processo di approvvigionamento — non in tribunale, ma nella selezione dei fornitori.
Dove si posiziona il coaching con IA nel framework di rischio
L'EU AI Act distingue quattro livelli di rischio: inaccettabile, alto rischio, rischio limitato e rischio minimo. La classificazione non dipende dal tool, ma dallo scopo d'uso.
Il confine critico: contesto lavorativo. I sistemi di IA utilizzati nell'area "Employment, workers management and access to self-employment" possono essere classificati come ad alto rischio — in particolare se vengono utilizzati per decisioni di assunzione, valutazione delle prestazioni o assegnazione di compiti.
Coaching come spazio di apprendimento vs. sistema di valutazione. Qui diventa decisiva la distinzione centrale anche nel contesto del comitato aziendale: il tool viene utilizzato come strumento di formazione — o come sistema di valutazione i cui risultati influenzano le decisioni sul personale? Un tool di coaching concepito esclusivamente come safe space per l'apprendimento individuale ha una posizione normativa diversa da un sistema che genera report per il management con punteggi di performance individuali.
La conseguenza pratica: La classificazione non è binaria. Dipende da come il tool viene effettivamente utilizzato — e da come il fornitore ha progettato l'architettura. Per questo le domande al fornitore sono importanti almeno quanto le domande al legislatore.
Dieci domande che i team DACH dovrebbero porre ora ai fornitori
Invece di analizzare completamente l'EU AI Act — compito dell'ufficio legale — ecco le dieci domande che rendono sostanziale il dialogo con i fornitori:
Scopo e limiti. Per quale scopo d'uso è progettato il sistema? Esistono limiti documentati su cosa il sistema non dovrebbe fare?
Classificazione del rischio. Il fornitore ha effettuato una propria classificazione del rischio secondo l'EU AI Act? Se sì: su quale base? Se no: perché no?
Human Oversight. Quali meccanismi esistono affinché un essere umano possa intervenire? Gli admin o gli utenti possono correggere risultati, adattare scenari o fermare il sistema?
Trasparenza e spiegabilità. Come viene motivato il feedback? Gli utenti possono comprendere perché un punteggio è stato assegnato? Esiste un livello di spiegazione oltre al numero?
Logging e audit. Cosa viene protocollato? Per quanto tempo? Chi ha accesso ai log? Possono essere esportati per un audit?
Tipi di dati e trattamento. Quali tipi di dati tratta il sistema? Testo, audio, video, metadati? Dove avviene il trattamento?
Bias e fairness. Come si garantisce che il feedback sia equo — indipendentemente da genere, lingua, accento o stile comunicativo? Esistono test o monitoraggio?
Cambio modello e aggiornamenti. Cosa succede quando il modello linguistico sottostante viene sostituito? Il comportamento del sistema cambia? I clienti vengono informati?
Residenza dati e sicurezza. Dove si trovano i dati? Quale crittografia? Quali certificazioni?
Modello dei ruoli. Chi vede quali dati? Il modello dei ruoli è configurabile? Corrisponde al principio Employee-First?
Chi vuole ampliare queste domande con gli aspetti specifici sulla protezione dei dati trova nell'articolo GDPR e coaching con IA: cosa conta davvero ulteriori dodici domande.
Safe Space come principio di design — anche dal punto di vista normativo
Il principio del Safe Space non è solo un argomento per il comitato aziendale. È anche un principio di design normativo:
Chiara limitazione di scopo. Il sistema viene utilizzato esclusivamente per finalità di formazione individuale. Nessun uso secondario, nessun profiling, nessuna decisione sul personale basata su dati di coaching.
Volontarietà. L'utilizzo è basato sull'opt-in, non sull'obbligo. Questo riduce considerevolmente il rischio normativo — perché uno strumento di apprendimento utilizzato volontariamente viene classificato diversamente da un sistema di valutazione obbligatorio.
Aggregazione invece di individualizzazione. Il management vede i trend del team, non i dati del singolo. Questa scelta architettonica è al contempo una scelta normativa: impedisce che il sistema venga qualificato come strumento di monitoraggio individualizzato delle prestazioni.
Governance minimale senza burocrazia
Non ogni organizzazione ha bisogno di un AI Governance Board. Ma ogni organizzazione che utilizza il coaching con IA ha bisogno di tre cose:
Un responsabile. Una persona che sappia quali sistemi di IA sono in uso, quali dati trattano e chi vi ha accesso. Non un comitato, ma un nome.
Una policy. Un breve documento — basta una pagina — che stabilisca: quali sistemi utilizziamo? Per quale scopo? Quali dati vengono trattati? Chi ne è responsabile? Qual è il modello dei ruoli? Questa policy non deve essere perfetta. Deve esistere.
Un ritmo di revisione. Una volta al trimestre: la classificazione è ancora valida? Lo scopo d'uso è cambiato? Ci sono nuovi requisiti normativi? Una revisione di trenta minuti impedisce che la governance diventi lettera morta.
Come impostare il primo pilota in modo conforme alla governance è illustrato nell'articolo Pilota AI Sales Coaching: il piano d'azione di 90 giorni.
Conclusione
L'EU AI Act non è una normativa lontana che riguarda solo i produttori. Influenza già oggi il modo in cui i team Procurement valutano i fornitori, quali domande compaiono nelle RFP e quali evidenze vengono richieste.
Per i tool di coaching con IA nella regione DACH questo significa: chi può presentare una chiara classificazione del rischio, offre un modello dei ruoli trasparente e documenta in modo pulito lo scopo d'uso ha un vantaggio — non solo dal punto di vista normativo, ma nel processo di vendita. E chi non può farlo, verrà escluso sempre più spesso dalle shortlist.
La buona notizia: la maggior parte dei requisiti non è lavoro aggiuntivo. È ciò che un buon product design richiede comunque — trasparenza, limitazione di scopo, spiegabilità e controllo.
sales-coach.ai documenta classificazione del rischio, limitazione di scopo e modello dei ruoli secondo l'EU AI Act. Il pacchetto governance comprende: documentazione di sistema, panoramica dei flussi dati, architettura Employee-First e ritmo di revisione trimestrale per i clienti. Richiedi il pacchetto governance →