La US Food and Drugs Administration (FDA) ha dichiarato che vuole accelerare lo spiegamento di intelligenza artificiale nei suoi centri. Il commissario della FDA Martin A. Makary ha annunciato una sequenza temporale aggressiva per scalare l'uso dell'IA entro il 30 giugno 2025 e sta scommettendo alla grande sulla tecnologia per cambiare i processi di approvazione dei farmaci per gli Stati Uniti.
Ma il rapido implementazione dell'intelligenza artificiale presso la FDA solleva importanti domande sul fatto che l'innovazione possa essere bilanciata con la supervisione.
Leadership Strategic Leadership Drive: FDA Nomes First AI Capo
La base per l'ambizioso distribuzione della FDA AI è stata posta con la nomina di Jeremy Walsh come primo ufficiale Chief AI in assoluto. Walsh aveva precedentemente guidato gli schieramenti tecnologici su scala aziendale nelle agenzie federali per la salute e l'intelligence e proveniva dall'appaltatore del governo Booz Allen Hamilton, dove ha lavorato per 14 anni come capo tecnologo.
La sua nomina, annunciata poco prima dell'annuncio di lancio dell'8 maggio, segnala il serio impegno dell'agenzia per la trasformazione tecnologica. Il tempismo è significativo: l'assunzione di Walsh ha coinciso con i tagli alla forza lavoro presso la FDA, inclusa la perdita di talenti tecnologici chiave.
Tra le perdite c'era Sridhar Mantha, l'ex direttore dei programmi strategici presso il Center for Drug Valutation and Research, che aveva co-presieduto il Consiglio di intelligenza artificiale presso il CDER e contribuito a sviluppare politiche sull'uso dell'IA nello sviluppo dei farmaci. Ironia della sorte, Mantha ora sta lavorando al fianco di Walsh per coordinare il lancio a livello di agenzia.
Il programma pilota: risultati impressionanti, dettagli limitati
Ciò che sta guidando il rapido implementazione dell'intelligenza artificiale è il successo riportato del programma pilota dell'agenzia che ha sperimentato il software. Il commissario Makary ha dichiarato di essere stato “spazzato via dal successo del nostro primo pilota di revisione scientifica assistita da AI”, con un ufficiale che afferma che la tecnologia gli ha permesso di svolgere compiti di revisione scientifica in pochi minuti che richiedevano tre giorni.
Tuttavia, l'ambito, il rigore e i risultati dello schema pilota rimangono inediti.
L'agenzia non ha pubblicato rapporti dettagliati sulla metodologia del pilota, le procedure di validazione o i casi d'uso specifici testati. La mancanza di trasparenza riguarda la natura ad alto contenuto di poste della valutazione dei farmaci.
Quando viene premuta per i dettagli, la FDA ha promesso che ulteriori dettagli e aggiornamenti sull'iniziativa saranno condivisi pubblicamente a giugno. Per un'agenzia responsabile della protezione della salute pubblica attraverso una rigorosa revisione scientifica, l'assenza di dati pilota pubblicati solleva domande sulla base di prove a sostegno di una cronologia così aggressiva.
Prospettiva del settore: l'ottimismo cauto soddisfa le preoccupazioni
La reazione dell'industria farmaceutica alla distribuzione dell'IA FDA riflette una miscela di ottimismo e apprensione. Le aziende hanno cercato a lungo processi di approvazione più rapidi, con Makary che chiede chiaramente: “Perché ci vogliono più di 10 anni perché un nuovo farmaco arrivi sul mercato?”
“Mentre l'IA si sta ancora sviluppando, sfruttarlo richiede un approccio ponderato e basato sul rischio con i pazienti al centro. Siamo lieti di vedere la FDA intraprendere azioni concrete per sfruttare il potenziale dell'IA”. disse Il portavoce della PHRMA Andrew Powaleny.
Tuttavia, gli esperti del settore stanno sollevando preoccupazioni pratiche. Mike Hinckle, un esperto di conformità della FDA di K&L Gates, ha messo in evidenza un problema chiave: le aziende farmaceutiche vorranno sapere come saranno garantiti i dati proprietari che inviano.
La preoccupazione è particolarmente acuta, dai rapporti secondo cui la FDA era nelle discussioni con Openi su un progetto chiamato CDERGPT, che sembra essere uno strumento di intelligenza artificiale per il Center for Drug Valutation and Research.
Avvertenze di esperti: il dibattito Rush vs Rigor
I principali esperti del settore stanno esprimendo preoccupazione per il ritmo della distribuzione. Eric Topol, fondatore dello Scripps Research Translational Institute, Assios: “L'idea è buona, ma la mancanza di dettagli e la” corsa “percepita sono preoccupanti.”
Ha identificato le lacune critiche nella trasparenza, comprese le domande su quali modelli vengono utilizzati per addestrare l'IA e quali input sono forniti per la messa a punto specializzata.
L'ex commissario della FDA Robert Califf ha colpito un tono equilibrato: “Non ho altro che entusiasmo temperato dalla cautela della sequenza temporale”. Il suo commento riflette il sentimento più ampio tra gli esperti che supportano l'integrazione dell'IA, ma si chiedono se la scadenza del 30 giugno consente di implementare il tempo sufficiente per l'implementazione di una corretta convalida e salvaguardie.
Rafael Rosengarten dell'Alleanza per l'IA nell'assistenza sanitaria supporta l'automazione ma sottolinea la necessità di governance, affermando che è necessaria una guida politica su quale tipo di dati vengono utilizzati per formare i modelli di intelligenza artificiale e quale tipo di prestazione del modello è considerata accettabile.
Contesto politico: visione deregolatoria di Trump
Lo spiegamento della FDA AI deve essere compreso nel più ampio contesto dell'approccio dell'amministrazione Trump alla governance dell'IA. La revisione di Trump della politica federale di intelligenza artificiale-abbandonare i guardrail dell'era Biden a favore della velocità e del dominio internazionale nella tecnologia-ha trasformato il governo in un terreno di test tecnologici.
L'amministrazione ha esplicitamente dato la priorità all'innovazione rispetto alla precauzione. Il vicepresidente JD Vance ha delineato quattro priorità politiche chiave dell'intelligenza artificiale, tra cui incoraggiare “politiche di intelligenza artificiale a favore della crescita” invece di “eccessiva regolamentazione del settore dell'IA” e ha preso provvedimenti per garantire il prossimo piano d'azione della Casa Bianca AI “eviterebbe un regime di regolamentazione eccessivamente precauzionale”.
La filosofia è evidente nel modo in cui la FDA si sta avvicinando al suo dispiegamento di intelligenza artificiale. Con Elon Musk che conduce una carica sotto una bandiera “Ai-First”, i critici avvertono che le impugnature affrettate contro le agenzie potrebbero compromettere la sicurezza dei dati, automatizzare le decisioni importanti e mettere a rischio gli americani.
Salvaguardie e governance: cosa manca?
Mentre la FDA ha promesso che i suoi sistemi di intelligenza artificiale manterranno una rigorosa sicurezza delle informazioni e agiranno in conformità con la politica della FDA, i dettagli specifici sulle garanzie rimangono scarsi. Le affermazioni dell'agenzia secondo cui l'IA è uno strumento per supportare, non sostituire, competenza umana e può migliorare il rigore normativo aiutando a prevedere tossicità ed eventi avversi. Ciò fornisce una certa rassicurazione ma manca di specificità.
L'assenza di quadri di governance pubblicati per quello che è un processo interno contrasta nettamente con la guida della FDA per l'industria.
L'agenzia ha precedentemente emesso un progetto di guida per le società farmaceutiche, fornendo raccomandazioni sull'uso dell'IA destinata a sostenere una decisione normativa sulla sicurezza, l'efficacia o la qualità di un prodotto biologico o di un prodotto biologico. La sua bozza di guida pubblicata in quell'istanza si basava sul feedback di oltre 800 commenti esterni e sulla sua esperienza con oltre 500 proposte di droga che coinvolgono componenti di intelligenza artificiale nel loro sviluppo dal 2016.
Il più ampio paesaggio di intelligenza artificiale: agenzie federali come prove
L'iniziativa della FDA fa parte di una più ampia ondata di adozione dell'IA federale. L'amministrazione dei servizi generali sta pilotando un chatbot di intelligenza artificiale per automatizzare le attività di routine e l'amministrazione della previdenza sociale prevede di utilizzare il software AI per trascrivere audizioni ai candidati.
Tuttavia, i funzionari della GSA hanno notato che il suo strumento è stato in fase di sviluppo per 18 mesi, evidenziando il contrasto con la sequenza temporale accelerata della FDA, che al momento della stesura, è una questione di settimane.
La rapida adozione federale riflette la convinzione dell'amministrazione Trump che l'America è ben posizionata per mantenere il suo dominio globale nell'IA e che il governo federale deve capitalizzare i vantaggi dell'innovazione americana. Mantiene inoltre l'importanza di forti protezioni per la privacy, i diritti civili e le libertà civili degli americani.
Innovazione a un crocevia
L'ambiziosa sequenza temporale della FDA incarna la tensione fondamentale tra promessa tecnologica e responsabilità normativa. Mentre l'intelligenza artificiale offre chiari benefici nell'automazione di compiti noiosi, la corsa all'implementazione solleva domande critiche sulla trasparenza, la responsabilità e l'erosione del rigore scientifico.
La scadenza del 30 giugno verificherà se l'agenzia può mantenere la fiducia pubblica che è stata a lungo la sua pietra miliare. Il successo richiede più delle capacità tecnologiche: richiede la prova che la supervisione non è stata sacrificata per la velocità.
La distribuzione della FDA AI rappresenta un momento determinante per la regolamentazione farmaceutica. Il risultato determinerà se l'adozione rapida dell'intelligenza artificiale rafforza la protezione della salute pubblica o funge da racconto di cautela sulla priorità dell'efficienza rispetto alla sicurezza in materia di vita e morte. La posta in gioco non potrebbe essere più alta.
Vedi anche: AI vs Covid-19: ecco gli strumenti e servizi di AI che combattono il coronavirus
Vuoi saperne di più sull'intelligenza artificiale e sui big da parte dei leader del settore? Guardare AI e Big Data Expo si svolge ad Amsterdam, in California e a Londra. L'evento completo è co-localizzato con altri eventi principali tra cui Conferenza di automazione intelligente, Blockx, Settimana di trasformazione digitaleE Cyber Security & Cloud Expo.
Esplora altri prossimi eventi tecnologici aziendali e webinar alimentati da TechForge Qui.
Fonte: www.artificialintelligence-news.com
