I dipartimenti di sanità pubblica negli Stati Uniti testeranno gli strumenti di intelligenza artificiale generativa nell’ambito di un nuovo programma che coinvolge Coalition for Health AI, OpenAI, Anthropic e Accenture.
Il caso d’uso della sanità pubblica e il motore di scalabilità dell’apprendimento, noto come PULSE, supporterà sperimentazioni in 10 giurisdizioni statali, locali, tribali o territoriali. Il programma ha lo scopo di produrre una guida all’implementazione per le agenzie sanitarie pubbliche che considerano implementazioni simili.
OpenAI e Anthropic hanno donato 10 licenze aziendali con una capacità fino a 2.000 operatori sanitari pubblici. Accenture supervisionerà l’onboarding dei partecipanti e aiuterà a sviluppare playbook basati sulle prove.
Il programma consentirà agli operatori sanitari pubblici di accedere ai prodotti di intelligenza artificiale aziendale di OpenAI e Anthropic. CHAI non ha identificato i prodotti, le versioni dei modelli o le configurazioni che verranno utilizzati, né ha spiegato come verranno assegnati i due fornitori durante i progetti pilota.
“Ogni grande trasformazione tecnologica ha successo o fallisce sulla base della fiducia, della governance e dell’esecuzione”, ha affermato il dottor David Lakey, ex commissario sanitario del Texas. “PULSE supporterà le agenzie in questo sforzo ed è specificamente progettato per l’implementazione pratica”.
Cinque casi d’uso nella sanità pubblica
Il consiglio direttivo della Coalition for Health AI selezionerà le giurisdizioni partecipanti e assegnerà i professionisti alle comunità focalizzate su cinque casi d’uso. Questi includono la biosorveglianza e la previsione delle ondate di farmaci, i determinanti sociali della salute e la mappatura SDoH, le operazioni, l’efficienza e l’analisi del feedback della comunità, le comunicazioni pubbliche e un hub di traduzione multilingue, il recupero automatizzato di dati clinici e un motore di query FHIR.
Il quadro di gestione del rischio AI del NIST raccomanda di valutare i sistemi di intelligenza artificiale in base all’uso previsto, all’ambiente operativo, alle parti interessate e alle potenziali conseguenze. CHAI non ha pubblicato requisiti separati di valutazione, privacy, sicurezza o revisione umana per i cinque casi d’uso di PULSE.
FHIR è uno standard HL7 utilizzato per scambiare elettronicamente informazioni sanitarie tra sistemi compatibili.
PULSE include un recupero automatizzato di dati clinici e un motore di query FHIR, sebbene l’annuncio non definisca il ruolo dell’intelligenza artificiale generativa in tale flusso di lavoro. Non indica se i modelli genereranno query, recupereranno record, riepilogheranno le informazioni restituite o combineranno tali funzioni.
L’annuncio inoltre non spiega se le domande errate, i recuperi incompleti o i riepiloghi non supportati verranno controllati dal personale prima che le informazioni vengano utilizzate.
Alcune applicazioni proposte potrebbero riguardare informazioni demografiche, geografiche, cliniche o sanitarie della popolazione. Il CHAI non ha detto se i progetti pilota utilizzeranno record identificabili, informazioni deidentificate, dati sintetici o set di dati aggregati.
Il Dipartimento della salute e dei servizi umani degli Stati Uniti richiede alle organizzazioni coperte dall’HIPAA di proteggere determinate informazioni sanitarie elettroniche. Le sue linee guida sul cloud computing affermano che le organizzazioni regolamentate e i fornitori di servizi devono soddisfare i requisiti HIPAA quando i sistemi cloud creano, ricevono, mantengono o trasmettono informazioni sanitarie elettroniche protette.
L’HIPAA non si applicherà a tutte le organizzazioni o flussi di lavoro partecipanti. La sua applicazione dipenderà dall’agenzia, dai dati coinvolti e dalla funzione svolta.
OpenAI afferma che gli input e gli output dei suoi servizi aziendali, tra cui ChatGPT Enterprise e la sua API, non vengono utilizzati per addestrare o migliorare i suoi modelli per impostazione predefinita. Anthropic afferma inoltre di non utilizzare input e output dei suoi prodotti commerciali per l’addestramento dei modelli per impostazione predefinita.
Tali policy del provider non definiscono come verranno configurate le distribuzioni PULSE. L’annuncio non stabilisce periodi di conservazione, controlli di accesso, modalità di audit, requisiti di archiviazione dei dati o regole che regolano la presentazione di informazioni sanitarie protette.
“Crediamo che l’intelligenza artificiale debba essere utile, sicura e accessibile alle persone che affrontano le sfide più importanti della società”, ha affermato Felipe Millon, capo del governo go-to-market di OpenAI. Ha aggiunto che le licenze avevano lo scopo di aiutare le organizzazioni sanitarie pubbliche a valutare gli strumenti attraverso un processo strutturato.
La governance e la valutazione rimangono indefinite
L’inizio dei progetti pilota è previsto per l’autunno 2026. Il CHAI prevede che i manuali risultanti verranno pubblicati nel 2027 e utilizzati come materiale di riferimento da altre agenzie sanitarie pubbliche.
CHAI non ha pubblicato le misure che verranno utilizzate per valutare i progetti pilota né ha spiegato se ciascun caso d’uso sarà valutato secondo criteri tecnici, operativi, di privacy e di sicurezza separati.
L’annuncio inoltre non spiega come verranno rivisti i risultati del modello. Non specifica se il personale deve approvare le comunicazioni pubbliche generate, verificare le traduzioni, convalidare le informazioni cliniche recuperate o rivedere i risultati della biosorveglianza e delle ondate di farmaci prima che vengano utilizzati.
Le linee guida del NIST raccomandano di identificare quali funzioni di intelligenza artificiale richiedono la supervisione umana e di formare gli utenti per comprendere le prestazioni e i limiti del sistema. La sua guida all’intelligenza artificiale generativa copre anche test, convalida, monitoraggio, documentazione, privacy e supervisione della gestione.
“Agli operatori sanitari pubblici viene chiesto di fare di più con meno, e l’intelligenza artificiale può aiutare, purché venga utilizzata con cura e con le giuste protezioni”, ha affermato Elizabeth Kelly, responsabile delle implementazioni benefiche di Anthropic. Ha affermato che PULSE consentirebbe ai professionisti di testare gli strumenti nei propri ambienti con misure di privacy, governance e uso responsabile incorporate fin dall’inizio.
I dati della National Association of County and City Health Officials citati dal CHAI hanno mostrato che quasi il 40% dei dipartimenti sanitari locali non utilizzava l’intelligenza artificiale. La coalizione ha affermato che alcuni dipartimenti sono interessati a rivedere i flussi di lavoro e a migliorare l’efficienza operativa.
PULSE fornirà licenze aziendali, onboarding, comunità di pari e manuali di implementazione. CHAI non ha specificato i requisiti minimi di personale, infrastruttura, interoperabilità o sicurezza informatica per le giurisdizioni partecipanti.
I partecipanti ammissibili includono dipartimenti sanitari statali e territoriali, agenzie di contea e municipali, autorità tribali, organizzazioni sanitarie indiane e dipartimenti sanitari di grandi città.
PULSE prevede di convertire i risultati di 10 giurisdizioni in linee guida per un uso più ampio. L’annuncio non spiega in che modo i playbook terranno conto delle differenze nelle dimensioni delle agenzie, nei sistemi tecnici, nelle responsabilità legali, nel personale o nelle modalità di appalto.
L’annuncio inoltre non spiega se i risultati della biosorveglianza, della previsione delle ondate di farmaci o del recupero di dati clinici saranno utilizzati solo per i test, presentati al personale per la revisione o incorporati nei flussi di lavoro operativi.
PULSE fa parte del più ampio lavoro della Coalition for Health AI sugli standard di governance per l’IA sanitaria. A maggio, l’organizzazione ha annunciato l’intenzione di sviluppare linee guida che coprano otto aree di governance attraverso workshop e gruppi di lavoro che coinvolgono più di 150 rappresentanti dell’IA sanitaria.
Da allora la coalizione ha iniziato a pubblicare manuali sulle politiche organizzative di intelligenza artificiale, sulle strutture di governance e sulle risorse interne. Si prevede che ulteriori indicazioni riguarderanno altre aree della gestione dell’IA nel settore sanitario.
Separatamente, CHAI ha collaborato con la Commissione congiunta su strategie di governance in linea con la sua certificazione volontaria sull’uso responsabile dell’intelligenza artificiale nel settore sanitario. L’annuncio PULSE non afferma che le agenzie sanitarie pubbliche partecipanti saranno valutate in base a tale certificazione.
Il dottor Brian Anderson, amministratore delegato della Coalition for Health AI, ha affermato che le agenzie sanitarie pubbliche sono entrate nella pandemia di COVID-19 dopo anni di investimenti limitati nella tecnologia. Ha affermato che il programma PULSE aveva lo scopo di offrire alle agenzie un’esperienza pratica con l’intelligenza artificiale prima di un’implementazione più ampia.
“Sappiamo che l’intelligenza artificiale rimodellerà il modo in cui forniamo la salute pubblica: la domanda è se lo facciamo in modo ponderato o meno”, ha affermato il dottor Ashish Jha, ex coordinatore della risposta al COVID-19 della Casa Bianca. Ha detto che il programma verificherà quali applicazioni funzionano e documenterà i risultati per altre agenzie.
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
