Sintesi tradotta di un post sul sito del britannico "The Guardian"
Google rimuove alcuni dei suoi riassunti IA (detti anche AI Overviews) su problemi medici hanno rischiato di mettere far correre rischi di salute ai pazienti
Da qualche tempo quando si usa il motore di ricerca di Google compaiono in testa delle "comode" sintesi, prodotte dalla IA di Google: le cosiddette “AI Overviews”
Ma il quotidiano The Guardian si è accorto che esse fornivano informazioni imprecise e-o false quando interrogate su esami medici: in particolare su esami del sangue riferiti al fegato.
Google ha dichiarato che le sue AI Overviews, che utilizzano l’intelligenza artificiale generativa per offrire “istantanee” di informazioni su un argomento o una domanda, sono “utili” e “affidabili”. Tuttavia, secondo The Guardian. alcune di queste sintesi, visualizzate in cima ai risultati di ricerca, hanno fornito dati sanitari errati, mettendo gli utenti a rischio.
• La situazione più grave scoperta da The Guardian riguarda la domanda “qual è il valore normale dei test del sangue epatici ?” In risposta le AI Overviews hanno mostrato una lunga lista di numeri senza contestualizzare fattori importanti come nazionalità, sesso, etnia o età. Gli esperti hanno definito questa risposta “pericolosa” e “allarmante”, poiché in questo modo pazienti con gravi patologie epatiche avrebbero potuto credere erroneamente di essere sani.
• il Guardian ha individuato ulteriori esempi in cui le AI Overviews fornivano informazioni errate su cancro e salute mentale, giudicate “sbagliate” , “davvero pericolose”. Google ha difeso tali sintesi affermando che le risposte rinviano a fonti affidabili e includono avvisi di consultare un professionista.
• Comunque, Google, dopo l’indagine del The Guardian, ha rimosso le AI Overviews per la query “qual è il valore normale dei test del sangue epatici? ” e “qual è il valore normale dei test di funzionalità epatica?”.
• Dopo queste notizie del Guardian e alla successiva rimozione di quelle query sui test epatici da parte di Google sono intervenuti diversi esperti medici ed associazioni di cittadini.
o In particolare Vanessa Hebditch, direttrice della comunicazione della British Liver Trust, ha accolto positivamente la rimozione ma ha avvertito che varianti della stessa domanda potrebbero ancora generare risposte fuorvianti. Ha sottolineato che sembra che le AI Overviews non spieghino la complessità dei test epatici né avvertono che risultati “normali” possono coesistere con malattie gravi.o Sue Farrington, presidente del Patient Information Forum, ha anche lei riconosciuto il passo positivo (la rimozione di queste specifiche AI overview) ma ha rimarcato che l'azione di Google è solo l’inizio di quello che serve per ristabilire la fiducia nelle informazioni sanitarie fornite da Google.
È necessario un approccio più sistematico da parte di Google nel monitorare e correggere le AI Overviews su temi sanitari, assicurando che venga sempre indicato l' avviso di consultare un medico e, infine, che le fonti siano affidabili.
D'altra parte crediamo che bisogna educare i cittadini a non affidarsi integralmente alla "comodità" di queste Google AI overviews che galleggiano su tutto il resto dei link esplorabili dal paziente . Non è per altro necessario usare solo il motore di ricerca di Google. Ve ne sono diversi che hanno funzioni simili e che sono meno profilanti ( ad es startpage o duckduckgo )
Nessun commento:
Posta un commento