Google DeepMind E Laboratori isomorfi ha delineato un programma di bioresilienza per frenare l’uso improprio dell’IA in biologia, favorendo al contempo la risposta alle epidemie.
Le due organizzazioni hanno pubblicato un aggiornamento su un’iniziativa congiunta iniziata in sordina e che negli ultimi 12 mesi ha creato più di 15 partenariati con enti governativi, organizzazioni di biosicurezza e gruppi di ricerca.
L’informativa arriva con allegato uno specifico problema di inquadramento. Modelli di frontiera come Gemini portano con sé una conoscenza sempre più dettagliata della biologia, e DeepMind riconosce che l’abbinamento di questi sistemi con modelli biologici specializzati, agenti come la sua piattaforma Antigravity e database di terze parti non farà altro che affinare ulteriormente tale capacità.
Tuttavia, la stessa conoscenza che aiuta un ricercatore a mappare l’obiettivo di un vaccino potrebbe, in linea di principio, aiutare un attore a colmare le lacune nella propria comprensione. DeepMind e Isomorphic descrivono questo come un duplice mandato: consentire i progressi scientifici che l’intelligenza artificiale di frontiera rende possibili, mantenendo quegli stessi strumenti fuori dalle mani di persone che ne farebbero un uso improprio.
Secondo le aziende, il programma si basa su tre pilastri: prevenzione degli abusi, rilevamento più rapido delle epidemie e risposta quando un’epidemia o un attacco è in corso.
Le oltre 15 partnership costruite nell’ultimo anno le riguardano tutte e tre, anche se l’aggiornamento fornisce dettagli limitati su quali organizzazioni sono coinvolte oltre a una manciata di collaboratori nominati, tra cui il Lawrence Livermore National Laboratory, lo UK AI Security Institute, CEPI e il Francis Crick Institute.
DeepMind afferma che intende ampliare queste relazioni nei prossimi sei-dodici mesi, rivolgendo l’attenzione all’intelligence sulle minacce, ai metodi di valutazione per gli agenti di intelligenza artificiale e alle mitigazioni del jailbreak. Si sta inoltre coordinando con il Frontier Model Forum su questioni come il modo in cui gestire le categorie più rischiose di dati di addestramento, tra cui i set di dati di virologia.
Bloccare i Gemelli senza bloccare la scienza legittima
Il lavoro di prevenzione si basa sulla modellizzazione delle minacce progettata per identificare quali attori hanno maggiori probabilità di tentare abusi e quali colli di bottiglia attualmente li fermano. DeepMind afferma di utilizzare un mix di esperti in team rossi e studi randomizzati e controllati per giudicare se Gemini potrebbe aiutare qualcuno a superare questi colli di bottiglia.
I metodi post-formazione hanno lo scopo di insegnare al modello a rifiutare domande dannose evitando ciò che l’azienda chiama rifiuto eccessivo di domande scientifiche legittime, un equilibrio che si è rivelato difficile in tutto il settore in generale, non solo per DeepMind. Classificatori e sonde vengono implementati per segnalare attività rischiose in tempo reale e l’azienda afferma di eseguire analisi di registro mirate per individuare modelli di uso improprio più sottili che i filtri automatizzati potrebbero non rilevare.
Nessuna di queste mitigazioni viene descritta come risolta. DeepMind li inquadra come un processo continuo piuttosto che come un sistema finito, il che è importante per qualsiasi azienda o ente governativo che valuti se fare affidamento sulle misure di salvaguardia attualmente configurate. Un classificatore ottimizzato rispetto a modelli di jailbreak noti in una valutazione controllata non garantisce prestazioni equivalenti contro nuovi metodi di attacco che emergono nell’uso reale e l’azienda non afferma il contrario.
Il problema dello screening della sintesi del DNA
Uno dei rischi più concreti in fase di esplorazione riguarda la sintesi del DNA. Le aziende dell’International Gene Synthesis Consortium attualmente esaminano gli ordini rispetto a elenchi di agenti patogeni e tossine nocivi noti, abbinati ad algoritmi di screening. DeepMind afferma chiaramente che questo approccio sta iniziando a logorarsi, perché ora l’intelligenza artificiale può aiutare a progettare sequenze di DNA con funzioni simili a quelle di un agente patogeno pericoloso senza far corrispondere la sua sequenza abbastanza da attivare gli screening esistenti.
La soluzione proposta prende in prestito dal sistema di filigrana esistente di DeepMind, SynthID, che secondo la società è diventato uno standard del settore per contrassegnare immagini e testo generati dall’intelligenza artificiale. L’adattamento alle sequenze biologiche viene presentato come un lavoro esplorativo, non come un prodotto spedito.
Un obiettivo a lungo termine, descritto come una sfida tecnica aperta piuttosto che qualcosa di prossimo alla risoluzione, prevede uno screening che preveda se una nuova sequenza di DNA è probabilmente tossica o patogena in base alla sua funzione, indipendentemente dal fatto che assomigli a qualcosa presente nei database esistenti.
Sequenziamento più economico come livello di rilevamento
Il rilevamento dipende dal sequenziamento metagenomico, che caratterizza ogni microrganismo presente in un campione anziché controllare un elenco ristretto di agenti patogeni noti come fa la diagnostica tradizionale. Il fattore limitante è il costo, e l’estensione dell’approccio alle regioni in cui è più probabile che si manifestino le epidemie richiede che tale costo diminuisca considerevolmente.
DeepMind punta ad una collaborazione tra Google e Bioscienze del Pacifico che ha utilizzato il suo agente di codifica AlphaEvolve per migliorare l’accuratezza del sequenziamento come punto dati verso tale obiettivo. L’azienda afferma che ora sta esaminando ulteriori opportunità – dall’ottimizzazione degli algoritmi che elaborano i dati di sequenziamento, fino alla progettazione dell’hardware – ed esplorando separatamente se AlphaGenome potrebbe aiutare a caratterizzare gli agenti patogeni direttamente dai dati di sequenza.
Si tratta di collaborazioni di ricerca piuttosto che di sistemi implementati sul campo, e la distanza tra un miglioramento della precisione del sequenziamento in una conduttura controllata e una rete di allarme rapido funzionante attraverso le acque reflue e gli snodi di transito in contesti con poche risorse non è piccola.
Il record di pubblicazioni di AlphaFold e il divario delle contromisure
Il pilastro della risposta si basa sul divario delle contromisure mediche che lascia molti agenti patogeni conosciuti senza una diagnosi, un vaccino o un trattamento autorizzati. DeepMind cita più di 10.000 pubblicazioni sulle malattie infettive che hanno fatto riferimento ad AlphaFold nell’arco di cinque anni, coprendo il lavoro sulla trasmissione della tubercolosi e della malaria e la mappatura degli obiettivi per minacce tra cui Mpox e Nipah.
L’ultima aggiunta a questo record è una partnership con il programma di bioresilienza di Lawrence Livermore, che prevede di utilizzare AlphaFold 3 per il lavoro di progettazione di anticorpi ad ampio spettro, compreso uno sforzo sugli anticorpi pan-filovirus. DeepMind afferma che quest’anno continuerà ad aggiungere strutture e complessi proteici al database delle strutture proteiche AlphaFold, dando priorità agli obiettivi rilevanti per lo sviluppo di contromisure.
L’accesso ai nuovi sistemi di agenti, compreso Co-Scientist, verrà esteso a ricercatori selezionati, tra cui scienziati dei Laboratori Nazionali del Dipartimento dell’Energia degli Stati Uniti che lavorano nell’ambito della Missione Genesis.
Isomorphic Labs ha fatto un ulteriore passo avanti, creando un’unità dedicata destinata a implementare rapidamente il suo motore di progettazione farmaceutica durante una nuova epidemia, lavorando a fianco di enti di ricerca governativi e nazionali come Lawrence Livermore, il UK AI Security Institute, CEPI e il Francis Crick Institute. L’azienda ha inoltre stanziato 7 milioni di dollari a favore di Health for Human Potential, un programma della Philanthropy Asia Alliance, per la ricerca sulle malattie infettive in tutta l’Asia.
Le raccomandazioni di DeepMind ai politici statunitensi si basano direttamente sui suoi tre pilastri e si basano su specifiche leggi in sospeso:
- SU prevenzionesostiene un quadro federale di sicurezza dell’IA di frontiera, l’AI-Ready Bio-Data Standards Act (HR 7907), lo screening obbligatorio della sintesi del DNA attraverso il Biosecurity Modernization and Innovation Act (S. 3741) e lo SCALE Biology Act (HR 8981).
- SU rilevamentovuole che il sequenziamento metagenomico venga ampliato attraverso gli snodi di transito e i centri densamente popolati, sostenuto dall’America’s Living Library Act (S. 4023) e da ulteriori finanziamenti DARPA e HHS per la ricerca di allerta precoce.
- SU rispostarichiede il Web of Biological Data Act (HR 9307 / S. 4770) e investimenti nella capacità produttiva mantenuti “caldi” e pronti per una rapida attivazione, insieme a reti di sperimentazione clinica prestabilite e percorsi normativi più rapidi.
Nessuna di queste leggi è stata promulgata e il divario tra la lista dei desideri politici di un’azienda e un quadro federale di biosicurezza funzionante è il luogo in cui si svolgerà il vero test di questo programma nei prossimi 6-12 mesi.
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
