Author: Le news di Hardware Upgrade
Il sito web Stat News è entrato in possesso di alcuni documenti interni ad IBM che lasciano sollevare qualche perplessità sull’efficacia del supercomputer Watson nel supporto alle cure oncologiche, con una serie di esempi di suggerimenti che vengono definiti “sbagliati e rischiosi”.
I documenti erano inclusi in due presentazioni condotte nei mesi di giugno e luglio 2017 da Andrew Norden, allora Deputy Health Chief di IBM, per illustrare agli executive della società le critiche mosse da svariati medici di diverse cliniche che hanno riscontrato suggerimenti terapeutici del tutto fuori luogo in alcuni casi.
Un esempio contenuto nei documenti è il caso di un 65 con diagnosi di cancro ai polmoni, assieme ad una grave emorragia. Watson avrebbe suggerito, oltre alla chemioterapia, anche la somministrazione di un farmaco tra i cui effetti collaterali vi possono essere episodi di emorragia, e quindi non adatto per il paziente.
All’interno dei documenti si evidenzia però un problema di metodo: quando nel 2012 i medici del Memorial Sloan Kettering Cancer Center hanno collaborato con IBM alle operazioni di allenamento dell’intelligenza artificiale, hanno somministrato a Watson non dati reali dei pazienti in cura, ma solamente informazioni teoriche, o dati “sintetici” dei casi reali. Ciò significa che quando altri ospedali hanno usato Watson, potrebbero aver ricevuto suggerimenti di trattamento elaborati sulla base delle preferenze dei medici dell’MSK, invece di un’interpretazione dell’Intelligenza Artificiale dei dati reali di un paziente.
Norden non ha rilasciato commenti poiché non lavora più in IBM: ha lasciato la sua posizione qualche settimana dopo le presentazioni cui abbiamo fatto cenno poco sopra. Un portavoce di IBM ha dichiarato che il programma Watson for Oncology è allenato per aiutare gli oncologi a trattare 13 tipi di cancro e viene usato in 230 ospedali nel mondo, supportando le cure di oltre 84 mila pazienti.
Caitlin Hool, portavoce del Memorial Sloan Kettering, ha dichiarato che i punti critici contenuti nei documenti interni riflettono la “robusta natura del processo di sviluppo” di un software come quello di Watson for Oncology, precisando inoltre che i suggerimenti errati sono solamente degli esempi e non sono stati chiaramente utilizzati nelle terapie effettive. “Watson for Oncology offre opzioni di trattamento sicure, ma le decisioni richiedono in ultima istanza l’intervento e il giudizio clinico di un medico. Nessuna tecnologia può sostituire un dottore e la sua conoscenza del singolo paziente” ha sottolineato Hool.
Episodi di questo tipo sono particolarmente rivelatori di quanto importante sia, nella fase di allenamento di un’intelligenza artificiale, somministrare dati di qualità per evitare inferenze che possano condurre a decisioni o intuizioni completamente fuori strada.
