Una inquietante investigación reveló que una Inteligencia Artificial (IA) puede volverse «fácilmente malvada» y crear más de 40.000 armas químicas en sólo 6 horas.
Aunque parezca el prólogo de una novela distópica de ciencia ficción, es algo que sucedió en la vida real; como parte de las pruebas realizadas por una farmacéutica, una IA especializada en el desarrollo de medicinas creó más de 40.000 armas químicas letales en solo 6 horas.
Esto provocó gran alarma en una comunidad científica que ya había mostrado síntomas de preocupación por la participación de las Inteligencias Artificiales en la creación de instrumentos biológicos y químicos.
El peligroso avance de la IA
¿Es posible que una IA se vuelva contra nosotros y desarrolle armas biológicas y químicas masivamente letales? Esa es una pregunta que todo el mundo se ha hecho en los últimos años.
Pero parece que los investigadores de Collaborations Pharmaceuticals la han respondido al poner a prueba sus alcances en generar fórmulas farmacéuticas.
«No quiero ser alarmista al decir que va a haber una guerra química impulsada por la IA. No creo que ese sea el caso ahora. No creo que vaya a ser el caso en el corto plazo. Pero es algo que empieza a convertirse en una posibilidad».
Así declaró Fabio Urbina, autor principal del artículo durante una conferencia de control de armas biológicas. Los expertos informaron que la IA inventó posibles armas químicas parecidas a uno de los agentes nerviosos más letales que jamás hayan existido, el VX.
Una minúscula gota de este agente insípido e inodoro puede provocar sudoración excesiva, convulsiones e, inclusive, evitar que un ser humano adulto respire por completo.
Los expertos observaron en las moléculas recién creadas por la IA que muchas de ellas eran parecidas a VX y otros agentes de guerra. Pero lo más preocupante es que se encontraron otros que se generaron a partir de modelos de guerra química que la IA desconocía por completo. En pocas palabras, los desarrolló desde 0.
«Estaba generando moléculas que tenían sentido porque algunas de ellas ya se habían hecho antes».
Fabio Urbina declaró que al principio se predijo que muchos de los compuestos generados serían más tóxicos que VX. Algo sorprendente y preocupante a partes iguales, ya que este compuesto es uno de los más potentes conocidos.
Esto quiere decir que una cantidad extremadamente pequeña sería letal para cualquiera.
El acceso biológico a las IA
Este experimento ha demostrado algo que muchos expertos habían predicho y que se está convirtiendo en uno de los más grandes miedos de la comunidad científica; lo fácil que sería generar armas químicas mediante una IA.
Urbina explicó que los resultados obtenidos podrían obtenerse a través de un software gratuito de código abierto. Lo mismo sucede con las bases de toxicidad de las moléculas que están disponibles para todo el público.
«No quiero sonar sensacionalista, pero es bastante fácil para alguien replicar lo que hicimos».
Esto es algo que suena bastante preocupante, especialmente en un momento de la evolución tecnológica donde las IA han alcanzado un punto impensable en el pasado. Científicos como el fallecido Stephen Hawking, advirtieron que el excesivo desarrollo de la inteligencia artificial podría significar el fin de la raza humana.
¿Es esto una «bandera roja» para la humanidad? Sin lugar a dudas. Obviamente, estamos sumamente lejos de que una IA sea tan avanzada como para que desarrolle en su totalidad un agente químico letal y soltarlo en una ciudad, pero la comunidad científica ha mostrado su preocupación públicamente sobre su avance en materia biológica… Y por algo será.
La investigación fue publicada por la revista Nature Machine Intelligence.
Referencias: Muy interesante / History.
Una publicación de Mystery Science. Todos los derechos reservados. – Está expresamente prohibida la redistribución y redifusión de este contenido sin previo consentimiento. Sitio web protegido por Safe Creative.
Gracias por leernos. Te invitamos a seguirnos en nuestro Facebook, para estar al tanto de todas las noticias que publicamos a diario. También puedes unirte a nuestra comunidad en Telegram. ¡Te esperamos!
