Algoritmo di ricerca sui farmaci AI capovolto per inventare 40.000 armi biochimiche

  • Redazione
  • 23/03/2022
  • Tempo di lettura: 3 minuti

Fin è un redattore esperto che si concentra sulle prime linee delle notizie commerciali globali e sulle tendenze tecnologiche all’avanguardia. Ha pubblicato interviste coinvolgenti con figure di spicco dell’industria del calibro di CBS, Rakuten, Spotify e altri. Quando non batte dietro a un computer, lo si può trovare a fare ricerche ed esplorare i mercati delle criptovalute e dell’NFT. Puoi seguire il suo Twitter @FinStrathern o collegarti con lui su https://www.linkedin.com/in/finstrathern/.

Sentiamo spesso parlare dei benefici che l’intelligenza artificiale (AI) può portare alla medicina e alla sanità attraverso la ricerca farmacologica, ma potrebbe anche rappresentare una minaccia?

I ricercatori di Collaborations Pharmaceuticals, una società di scoperta di farmaci con sede in North Carolina, hanno pubblicato un documento che evidenzia il pericoloso potenziale dell’AI e dell’apprendimento automatico per scoprire armi biochimiche.

Semplicemente modificando un modello di apprendimento automatico chiamato MegaSyn per premiare invece di penalizzare la tossicità prevista, la loro IA è stata in grado di generare 40.000 armi biochimiche in sei ore.

Ovvio con il senno di poi?

Preoccupante, i ricercatori hanno ammesso di non aver mai considerato i rischi di abuso coinvolti nella progettazione delle molecole.

“Il pensiero non ci aveva mai colpito prima. Eravamo vagamente consapevoli delle preoccupazioni di sicurezza intorno al lavoro con agenti patogeni o sostanze chimiche tossiche, ma questo non ci riguardava; operiamo principalmente in un ambiente virtuale.

Il nostro lavoro è radicato nella costruzione di modelli di apprendimento automatico per obiettivi terapeutici e tossici per assistere meglio nella progettazione di nuove molecole per la scoperta di farmaci. Abbiamo trascorso decenni utilizzando computer e AI per migliorare la salute umana, non per degradarla”, ha osservato il documento.

Anche il lavoro dell’azienda su Ebola e neurotossine non li ha avvertiti del danno che potrebbe essere causato da capovolgere i loro modelli per cercare piuttosto che evitare la tossicità

Dalla generazione alla sintesi

Le barriere per abusare di modelli di apprendimento automatico come MegaSyn per progettare molecole dannose sono più basse di quanto ci si possa aspettare.

Un sacco di software open-source ha capacità simili e i set di dati che lo hanno addestrato sono disponibili al pubblico. Inoltre, le 40.000 tossine sono state generate su un portatile Apple Mac del 2015.

Di queste, ne sono state trovate centinaia che sono più letali dell’agente nervino VX.

Uno dei più potenti agenti di guerra chimica del ventesimo secolo, il VX utilizza lo stesso meccanismo per paralizzare il sistema nervoso dell’agente nervino Novichok utilizzato negli avvelenamenti di Salisbury del 2018.

Fortunatamente, sintetizzare effettivamente queste potenziali nuove armi biologiche è molto più difficile che generarle al computer. Le molecole specifiche necessarie per creare il VX, per esempio, sono strettamente regolamentate.

I pericoli sorgerebbero solo se si trovasse una tossina che non richiede alcuna sostanza regolamentata. Anche se è facile da capire attraverso un’altra serie di parametri, i ricercatori si sono sentiti a disagio nel fare questo passo in più.

Prima della pubblicazione, Collaborations Pharmaceuticals ha presentato i loro risultati al laboratorio Spiez, uno dei cinque laboratori al mondo che è permanentemente certificato dall’Organizzazione per la proibizione delle armi chimiche (OPCW).

I risultati dei ricercatori costituiscono un caso importante per la necessità di supervisionare i modelli di IA e considerare pienamente le ramificazioni dell’utilizzo di IA complesse.

Ciao, sono Michele!

Sono molto felice di saperti qui.
Ogni giorno ti raccontiamo qualcosa di nuovo sull'AI e sulle nuove tecnologie. Seguici sui social o iscriviti alla newsletter!

Iscriviti alla newsletter!

Iscrivendoti accetti la nostra Privacy Policy

Ti va di rimanere aggiornatə?

Niente spam, niente pubblicità. Ogni tanto una mail. Tutto qui.
(Ah, ovviamente i tuoi dati non verranno mai ceduti)

Iscrivendoti accetti la nostra Privacy Policy