Una IA propone 40.000 nuevas posibles armas químicas en seis horas

A una IA le tomó menos de seis horas inventar 40,000 moléculas potencialmente mortales. Normalmente utilizado para buscar drogas, este sistema fue revisado deliberadamente para “hacer lo contrario” como parte de una prueba presentada en una conferencia sobre el control de armas químicas.

El Instituto Federal Suizo para la Protección Nuclear, Biológica y Química organiza conferencias cada dos años para identificar los diversos avances en estas tres áreas de actividad. Estas conferencias, que reúnen a un grupo internacional de expertos en desarme, tienen como objetivo reflexionar sobre sus posibles implicaciones para la seguridad y determinar cómo estas implicaciones podrían gestionarse de manera más eficaz a escala internacional.

Collaborations Pharmaceuticals, que desarrolla modelos informáticos de aprendizaje automático para predecir la toxicidad en diferentes campos, fue invitado recientemente a hablar sobre cómo se podría hacer un mal uso de estos sistemas. Como parte de una de estas conferencias, los investigadores eligieron explorar cómo su IA, llamada MegaSyn, podría ser explotado para diseñar moléculas tóxicas con fines preventivos.

Como parte de este ensayo, los investigadores demostraron que su sistema de IA normalmente es responsable de detectar la toxicidad en las moléculas para evitarlas. Concretamente, el equipo ha cambiado su modo de funcionamiento para que haga lo contrario. También durante el experimento, el Las moléculas tóxicas se han retenido en lugar de eliminarse.. El modelo también había sido entrenado para ensamblar estas moléculas en combinaciones.

Armas químicas
Créditos: qimono/Pixabay

40.000 fórmulas potencialmente mortales

En última instancia, los investigadores esperaban obtener productos comparables al poderoso agente nervioso VX, una versión más letal del sarín inventado en 1952. Como resultado, su sistema de inteligencia artificial habría identificado más 40.000 de estas posibles armas biológicas químicas en solo seis horas.

Por lo tanto, al revertir el uso de nuestros modelos de aprendizaje automático, los investigadores transformaron un modelo generativo inofensivo útil para la medicina en un generador de moléculas probablemente fatales. También señalan que gran parte del proceso es relativamente sencillo y utiliza herramientas disponibles públicamente. Como resultado, han insistido en ocultar ciertos detalles de su trabajo.

Lo más importante que nos llamó la atención al principio fue que muchos de los compuestos generados en realidad eran más tóxico que VX“, explica a TheVerge Fabio Urbina, autor principal del artículo. ” Y la razón por la que es sorprendente es que el VX es básicamente uno de los compuestos más potentes conocidos“.

Ahora, estas son solo predicciones no verificadas y los investigadores, que publican su trabajo en Nature Machine Intelligence, no tienen intención de verificarlas. ” Sin embargo, los modelos predictivos son generalmente bastante buenos.“, continúa Fabio Urbina. ” Entonces, aunque hay muchos falsos positivos en estos datos, tememos que todavía haya muchas moléculas muy poderosas en su interior.“.

Aunque ninguna de estas posibles armas biológicas se ha explorado en el laboratorio, los investigadores argumentan que su experimento sirve como advertencia sobre los peligros potenciales de la inteligencia artificial, que puede manipularse con fines maliciosos. Por lo tanto, piden una mayor concienciación y directrices más estrictas.


.