Si è conclusa in questi giorni la consultazione pubblica sul progetto di guida per l'uso dei sistemi di intelligenza artificiale in ambito sanitario che l'autorità sanitaria francese (HAS) e la CNIL hanno elaborato congiuntamente. L'iniziativa nasce in un contesto in cui l'IA è già ampiamente diffusa nelle strutture sanitarie pubbliche francesi (65% secondo il barometro della Federazione ospedaliera di Francia), ma solleva ancora numerose questioni. In particolare,  sul piano della governance, l'adozione di un sistema di IA viene presentata come una decisione organizzativa che richiede il coinvolgimento di direzione, professionisti sanitari, uffici legali, DPO etc., non come una scelta puramente tecnica; sul piano della trasparenza, viene raccomandata una mappatura sistematica dei sistemi di IA per garantire una gestione più solida dei rischi e degli adempimenti normativi; quanto all'informazione degli interessati, nel contesto ordinario di cura l'uso dell'IA non è soggetta a un consenso aggiuntivo, ma la guida richiede che venga data un'informazione chiara e, nei casi pertinenti, che venga riconosciuto il diritto di opposizione.

Il punto più rilevante della guida riguarda la supervisione umana: ogni decisione supportata da IA deve rimanere soggetta a un controllo umano effettivo e documentabile, e la validazione di documentazione clinica generata da IA non dovrebbe essere affidata a chi non ha assistito direttamente all'atto sanitario, per evitare che errori o "allucinazioni" del sistema entrino stabilmente nel fascicolo del paziente.

La guida, quindi, si rivolge a tutti gli attori del settore sanitario — istituti, professionisti liberali — che utilizzano sistemi di IA con impatto diretto sulla gestione dei pazienti, ad esclusione di quelli, ad esempio, per la gestione HR o la fatturazione e  nella fase di sviluppo dei sistemi stessi.

‍