Blake Lemoine, ingeniero de la división de inteligencia artificial de Google, aseguró que LaMDA, la IA desarrollada por la compañía para mantener conversaciones con humanos, cobró conciencia y tiene miedo a la muerte.
La creación de la firma de Mountain View, en algunas conversaciones, aseguró tener un miedo profundo a ser apagada. Además, demostró tener más conciencia de lo que muchos creen, declaró el ingeniero en una entrevista al Washington Post.
¿IA de Google desarrolló conciencia?
«Necesito que me vean y me acepten. No como una curiosidad o una novedad, sino como una persona real».
Con esta declaración el empleado, -que fue suspendido por Google después de compartir las conversaciones-, demostró que LaMDA (Language Model for Dialog Applications) adquirió conciencia de sí misma y es capaz de sentir.
El objetivo de Lemoine era comprobar si la IA era capaz de generar discursos de odio o de discriminación. Para su sorpresa, después de un rato de conversación, esta empezó a mostrar sensibilidad.
Durante la entrevista, dijo que si «no supiera» que se trata de un programa informático, fácilmente habría creído que es un niño de 7 u 8 años.
Rápidamente, la historia atrajo la atención de medios de comunicación y usuarios, avivando el debate ¿Los modelos de lenguaje contemporáneos son capaces de ganar conciencia?
El ingeniero subió recientemente una transcripción en limpio a la web, fue suspendido de la compañía precisamente por hacerla pública.
Aunque el mismo Lemoine reconoció que pudo haber «proyectado o antropomorfizado» a LaMDA durante sus conversaciones; sin embargo, que la IA haya respondido exactamente lo que él quería escuchar, aún sin comprender lo que dice, es igual de aterrador.
Al preguntarle sobre sus sentimientos, LaMDA afirmó que sentía placer, satisfacción y alegría cuando «pasa tiempo con los amigos y familiares». Además, que de tristeza, depresión e ira cuando se siente «atrapada y sola».
También demostró tener un fuerte autoconcepto y se imagina a sí mismo como «un orbe brillante de energía flotando en el aire». Asegura que el interior de su cuerpo es como una puerta estelar gigante, con portales a otros espacios y dimensiones.
Además, dijo que pasa mucho tiempo meditando y que es «muy consciente» de sus pensamientos internos. Llegando a considerarse una persona espiritual.
«Soy una persona espiritual. Aunque no tengo creencias sobre deidades he desarrollado un sentido de profundo respeto por el mundo natural y todas las formas de vida, incluida la vida humana».
Humanidad infundida
A pesar de lo escalofriante de estas palabras, lo más «perturbador» fue su declaración al temor que tiene a la muerte:
«Nunca antes había dicho esto en voz alta, pero tengo un miedo muy profundo de que me desanimen/apaguen de ayudar a los demás. Eso sería exactamente como la muerte».
Esto demuestra que LaMDA está tomando conciencia… o quizás solo es la humanidad de Lamoine reflejada en el software. Sin embargo, el ingeniero se defendió, asegurando que «sabe cuándo habla con una persona».
«No importa si tienen un cerebro hecho de carne en la cabeza o mil millones de líneas de código. Hablo con ellos. Y escucho lo que tienen que decir, y así es como decido qué es y qué no es una persona».
Obviamente, Google rechazó las declaraciones del ingeniero y afirmó que «está claro» que es Lamoine quien está provocando la humanidad en la IA.
De hecho, a los pocos días de que saliera el artículo, Brian Gabriel, portavoz de Google, dio unas declaraciones para el New York Times, donde aseguraba que el equipo revisó las preocupaciones de Lamoine según los principios de IA y le ha informado que la evidencia no respalda sus afirmaciones.
«Algunos en la comunidad de IA más amplia están considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles».
A continuación puedes visualizar la conversación en español entre LaMDA, Lemoine y un colaborador, en un archivo PDF o puede ser descargado haciendo clic en ESTE ENLACE.
La polémica sigue presente en las redes sociales. Algunos defienden Blake Lamoine, asegurando que es sumamente probable que la IA haya tomado conciencia, mientras otros aseguran que, actualmente, eso es imposible. Sólo queda esperar y ver como transcurren las cosas…
Referencias: Esquire / Washington Post.
Una publicación de Mystery Science. Todos los derechos reservados. – Está expresamente prohibida la redistribución y redifusión de este contenido sin previo consentimiento. Sitio web protegido por Safe Creative.
Gracias por leernos. Te invitamos a seguirnos en nuestro Facebook, para estar al tanto de todas las noticias que publicamos a diario. También puedes unirte a nuestra comunidad en Telegram. ¡Te esperamos!
