L’ambito di applicazione dell’Intelligenza Artificiale sta conoscendo una notevole espansione, in particolar modo in ambito bancario, per il quale, in un’ottica di efficienza operativa, si prospetta un’importante evoluzione dei modelli di investimento sempre più tesi all’automazione. L’ESMA, con il Public Statement del 30 maggio 2024, ha offerto ai prestatori di servizi di investimento importanti indicazioni sull’utilizzo dell’intelligenza artificiale negli investimenti retail, alla luce degli obblighi prescritti dalla MiFID II, delineando un panorama ricco di nuove sfide, dove i potenziali benefici derivanti dall’utilizzo dell’IA impongono il confronto con peculiari criticità.

• Le linee guida dell’ESMA sull’IA nei servizi di investimento e la conformità alla MiFID II

Con il Public Statement del 30 maggio 2024, l’Autorità Europea degli Strumenti finanziari e dei Mercati (ESMA, o anche “Autorità”) ha pubblicato delle linee guida indirizzate agli intermediari che utilizzano l’intelligenza artificiale (di seguito anche solo “IA”) nei servizi di investimento, col fine di garantire conformità agli obblighi derivanti dalla Markets in Financial Instruments Directive II (MiFID II). A fronte di un mercato che muove circa 119,5 trilioni di dollari[1], l’Autorità ha posto particolare attenzione agli obblighi di compliance e soprattutto all’esigenza di perseguire in via prioritaria il miglior interesse del cliente finale.

La comunicazione in esame si colloca nel più ampio quadro di regolamentazione dell’IA, che trova il suo approdo nel regolamento europeo, approvato dal Parlamento europeo il 13 marzo scorso e dal Consiglio UE il 14 maggio u.s., l’Artificial Intelligence Act (di seguito “AI Act”). L’esigenza avvertita dal legislatore europeo di regolamentare un fenomeno in forte sviluppo come quell’intelligenza artificiale nasce da una duplice valutazione. Sotto un profilo squisitamente economico, il mercato dell’IA ha conosciuto uno sviluppo repentino nell’ultimo anno, in cui si è registrato un valore di 760 milioni di euro, pari a una crescita del 50% rispetto al 2022 [fonte: Osservatorio Artificial Intelligence della School of Management del Politecnico di Milano]. D’altra parte, se da un lato l’utilizzo dell’IA presenta notevoli vantaggi, derivanti anzitutto dalla capacità di raccolta, analisi ed elaborazione di ingenti quantità di informazioni, dall’altro non sono pochi i rischi paventati in assenza di adeguati controlli. Basti pensare ai potenziali bias dell’IA, alla qualità dei dati utilizzati come input che potrebbe risultare non ottimale, nonché alla carenza di trasparenza nelle operazioni (black box).

La comunicazione in esame è un primo intervento diretto a rileggere i servizi di investimenti implementati con l’IA, alla luce della disciplina di cui alla MiFID II, senza tuttavia pregiudicare le disposizioni previste nell’AI Act.

• L’IA nei servizi di investimento: i vantaggi…

L’ESMA ha preliminarmente evidenziato i potenziali ambiti applicativi dell’IA nei servizi di investimento e relativi vantaggi, anzitutto sotto il profilo dell’assistenza ai clienti/investitori. Infatti, è agevole apprezzare come, primo fra tutti, il rapporto istituto bancario/clientela manifesti mutamenti significativi a seguito dell’avvento dell’IA.  Si fa riferimento, in particolare, all’assistenza implementata dall’utilizzo dei c.d. chat-bot e assistenti virtuali basati sull’IA, ma non solo.

L’Autorità ha rilevato il ruolo particolarmente incisivo dell’IA sulle scelte di investimento dei singoli clienti. Basti pensare all’attività di profilatura che, laddove sia ottimizzata dall’IA, giungerebbe ad analizzare le informazioni del cliente utili a elaborare raccomandazioni personalizzate sulle scelte di investimento in maniera pressocché autonoma (come il grado di tolleranza del rischio, il livello di conoscenza degli strumenti finanziari e la situazione finanziaria in cui versa il cliente stesso).

Finanche l’attività stessa di compliance può essere agevolata dall’utilizzo dell’IA. L’ESMA ha evidenziato come l’IA può essere uno strumento efficace per analizzare le fonti normative e regolamentari e quindi valutare l’adeguatezza delle policy interne degli intermediari, nonché segnalare le eventuali condotte in contrasto con i precetti di cui alla MiFID II.

Da ultimo, il potenziale uso dell’IA per la rilevazione di frodi e l’efficienza operazionale presenta notevoli vantaggi. Il pervasivo controllo che l’IA può esercitare sulle operazioni e comunicazioni interne tra dipendenti e clienti consente di monitorare e segnalare eventuali modelli comportamentali inusuali, sintomatici di attività fraudolente. D’altra parte, è possibile anche prospettare come l’automatizzazione di talune procedure più semplici ad opera dell’IA (come la redazione di comunicazioni di marketing, e-mail dirette alla clientela ecc.) consentirebbe di rimettere alle risorse umane la risoluzione delle mansioni più complesse, con un conseguente efficientamento del timing.

• …e i principali rischi

Ciò premesso, le linee guida hanno enucleato i principali rischi intrinseci nell’utilizzo dell’IA, che nel mercato degli investimenti destano non poche perplessità.

Si registra, infatti, una tendenza a sovrastimare le decisioni elaborate dall’IA, tanto che l’ESMA giunge a parlare di una vera e propria “lack of accountability and oversight”, in quanto di fronte a un’apparente infallibilità dei risultati elaborati artificialmente si tende a trascurare l’importanza del giudizio umano.

Tuttavia, proprio nell’ambito particolarmente complesso come quello dei mercati finanziari, le risultanze frutto dell’analisi dell’IA potrebbero rivelarsi non sempre accurate. Basti pensare alle c.d. “allucinazioni” che alcuni sistemi di IA possono provocare e alle conseguenze che ne deriverebbero in sede di una errata profilatura o gestione del portafogli del cliente.

Un ulteriore profilo meritevole di attenzione è l’opacità dei processi di elaborazione delle decisioni dell’IA. L’ESMA evidenzia infatti come molti sistemi di IA (in particolare quelli basati sull’apprendimento automatico) siano delle vere e proprie black box, con riferimento alle quali sussiste un rilevante problema di ricostruzione dei processi decisionali. Invero, questi sistemi si distinguono nettamente da quelli tradizionali c.d. algoritmici, per i quali è possibile risalire al percorso di ragionamento seguito per il raggiungimento dell’output. In tema di investimenti, una tale carenza di trasparenza determina l’impossibilità di migliorare, laddove necessario, le strategie di investimento delineate non performanti.

Inoltre, la quantità massiva di dati e informazioni – anche personali – di cui l’IA si serve solleva rilevanti criticità in ambito di data protection.

• Gli obblighi di compliance alla MiFID II

Premessi quindi brevi cenni al panorama dell’IA in ambito bancario, l’Autorità ha inteso vagliare l’applicazione dell’intelligenza artificiale sotto la lente dei precetti di cui alla MiFID II.

In forza dell’imperante obbligo per gli intermediari di perseguire il miglior interesse del cliente, l’ESMA sollecita la massima trasparenza, tanto nel ruolo dell’IA nel processo decisionale di investimento, quanto nell’uso dell’IA nei servizi di assistenza. In particolare, al fine di rendere noto al cliente l’utilizzo dell’IA nelle interazioni, gli intermediari sono chiamati a fornire idonee informazioni in maniera chiara, corretta e non fuorviante.

D’altro canto, la MiFID II impone stringenti requisiti di governance, che l’Autorità ha riferito principalmente all’esigenza che gli impiegati stessi degli intermediari acquisiscano una solida conoscenza del funzionamento dell’IA e che siano costituite strutture di governance idonee a testare, monitorare e valutare i risultati e l’impatto dell’utilizzo dell’IA nei servizi offerti. È rilevante quindi osservare come le misure contenute nello statement sono rivolte anche ai dipendenti degli intermediari, i quali potrebbero utilizzare sistemi di IA in qualsiasi forma (come ad esempio Chat GPT, Google Bard e altri), anche senza il consenso della dirigenza.

Nel prestare i servizi di investimenti, gli intermediari dovrebbero inoltre garantire da un lato che i dati utilizzati come input per i sistemi di IA siano rilevanti, sufficienti e significativi, e dall’altro che gli algoritmi utilizzati siano sufficientemente addestrati e convalidati su set di dati accurati, completi e ampi. L’ESMA dispone l’adozione di un approccio meticoloso al reperimento dei dati, anche e soprattutto quando siano acquisiti da terzi services provider, sollecitando accurate due diligence in grado di garantire l’integrità e le prestazionidelle applicazioni IA.

Al fine di garantire elevati standard qualitativi, in una prospettiva di interventi ex ante, si osserva invece la necessità di elaborare controlli idonei a garantire l’accuratezza delle informazioni fornite e/o utilizzate dai sistemi di IA. In forza degli obblighi di salvaguardia dei clienti contro informazioni inaccurate o fuorvianti imposti dalla MiFID II, l’ESMA promuove una impostazione di controlli preventivi, supportati anche da controlli effettuati ex post su ogni processo che implichi l’utilizzo di IA.

Sul versante dei requisiti di condotta aziendali, offrire investimenti e strumenti finanziari adeguati alla clientela integra un obbligo imperante per gli intermediari. L’IA in tale ambito assume una rilevanza notevole: in tema di product governance è fondamentale la predisposizione di controlli idonei affinché i sistemi di IA distribuiscano prodotti in relazione al target market di riferimento; con riguardo invece alla valutazione dell’adeguatezza, è cruciale che i sistemi di IA forniscano raccomandazioni ed elaborino decisioni in materia di investimenti in considerazione della situazione finanziaria, della conoscenza ed esperienza del cliente.

Con specifico riferimento al monitoraggio, testing e valutazione, l’ESMA auspica l’applicazione del principio di proporzionalità, nel senso che tali attività sia svolte in maniera proporzionale alla dimensione, alla complessità e ai potenziali rischi cui il sistema di IA è associato, fornendo altresì adeguata documentazione e meccanismi di report idonei a garantire la trasparenza e il controllo.

Con riferimento all’attività di “record keeping”, l’Autorità richiede che gli intermediari finanziari tengano traccia dell’utilizzo dell’IA, nonché degli eventuali reclami dei client, mediante la redazione di precisi record. Il tracciamento deve riguardare l’intera attività relativa all’IA, dalle fasi di implementazione, passando ai processi decisionali e le fonti di dati utilizzati, sino a ogni modificazione intervenuta nel tempo.

• Conclusioni

Le linee guida così offerte costituiscono una prima fondamentale bussola per gli intermediari che si servono dell’IA in materia di investimenti. L’ESMA ha puntualmente esaminato luci e ombre dell’applicazione dell’intelligenza artificiale, fornendo tuttavia indicazioni alquanto ampie, contenute in formule generiche che pongono inevitabilmente problemi interpretativi.

Restano infatti oscuri i criteri per cui un’informazione possa dirsi comunicata in modo chiaro, corretto e non fuorviante, ma anche quale sia il grado di conoscenza che gli intermediari debbano avere dell’IA perché risulti appropriata.

È notevole, inoltre, come l’Autorità abbia sin dal principio, sebbene in via incidentale, imputato eventuali profili di responsabilità derivanti dalle decisioni assunte dagli intermediari agli organi di governo stessi, a prescindere dal fatto che dette decisioni siano adottate dall’IA o meno. Una tale previsione potrebbe costituire un incentivo per gli intermediari interessati ad adottare tutte le misure riepilogate nella comunicazione.

Se sotto un profilo applicativo, l’IA apre la strada a una nuova frontiera degli investimenti, occorre comunque considerare gli obblighi di compliance a cui gli intermediari devono sottostare. È ragionevole, infatti, ipotizzare che l’adempimento a tali obblighi dilaterebbe i tempi necessari a rendere effettivo l’utilizzo dell’IA nei servizi di investimento. I fornitori dei servizi si ritroverebbero invero a fronteggiare i costi e i tempi necessari a integrare le procedure idonee a formare il personale competente e a costituire quei meccanismi di controllo, test e tracciamento richiesti.

Le linee guida così formulate potrebbero condurre a importanti determinazioni su un duplice piano: con riferimento infatti al quadro europeo, si riveleranno fondamentali le valutazioni da parte dell’ESMA per comprendere se vi saranno ulteriori interventi in materia; per quanto concerne invece il nostro ordinamento nazionale, non resta che attendere le eventuali decisioni che la Consob poterebbe adottare sulla scorta delle linee guida acquisite.

[1] Il riferimento è agli asset gestiti a fine 2020 dalle 500 società di gestione del risparmio più grandi al mondo. Fonte: Thinking Ahead Institute.