E tu gliela dai la cartella clinica alla IA?

Microsoft sta lanciando Copilot Health, una funzione che ti permette di collegare cartelle cliniche da più fornitori, dati del tuo Apple Watch, bracciali, smart ring e compagnia, per dirti come stai.
Il messaggio è accattivante: “ti aiutiamo a capirci qualcosa in un sistema sanitario complicato, costoso e spesso inaccessibile”. E onestamente, su questo toccano un nervo scoperto, sappiamo quanto sia frustrante inseguire referti e dati sanitari in giro per portali che, se va bene, vanno male.
Il problema è che insieme alla comodità stiamo impilando rischi giganteschi in un unico punto, mettere tutte le cartelle cliniche in un solo “cervellone”, che tra l’altro non sappiamo dove sia e quali regole segua, crea un bersaglio perfetto per attacchi informatici e per chiunque voglia mettere il naso nella nostra vita sanitaria, dalle forze dell’ordine alle assicurazioni. Di fatto non sono fornitori sanitari, quindi possono muoversi con regole molto più… elastiche, diciamo così.

Le aziende, per ora, dicono le cose giuste: dati crittografati, niente uso per addestrare i modelli, niente pubblicità mirata sulla base delle patologie, accesso alle forze dell’ordine solo con richieste legali valide. Ma se abbiamo imparato qualcosa dal digitale è che la frase “fidati di noi” non è una policy di sicurezza. È marketing.

E poi, solo per capire, ma sta roba è affidabile?
Ufficialmente questi strumenti non sostituiscono il medico, servono solo per informare e prepararti alla visita. Bello, sulla carta, ma peccato che in realtà sappiamo che le persone chiederanno diagnosi, e terapie: i chatbot non sono risultati migliori di una banale ricerca web con l’aggiunta che, a seconda di come scrivi una domanda, possono cambiare drasticamente risposta, fino a fornire indicazioni sbagliatissime e pericolose.
Non è teoria, se ti ricordi ti ho già raccontato casi di persone finite nei guai, come l’uomo trattenuto settimane in psichiatria dopo aver seguito alla lettera un consiglio assurdo su un sale “alternativo” da usare nella dieta.

Ultimo ma non ultimo, l’ansia. Un sistema che ti smolla un riepilogo di problemi potenziali può aiutarti a prendere in mano la tua salute, ma può anche farti prendere malissimo. Il solito mal di testa da allergia può trasformarsi in “potrebbe essere una roba bruttissima” e spingerti alla paranoia o al pronto soccorso. È il vecchio Dr. Google, solo con più dati e una voce più sicura di sé.

A me viene da pensare se siamo davvero disposti a pagare, in privacy e in serenità mentale, per una notifica in più sul battito cardiaco o sul sonno con poca fase REM.