Ingeniero de Google es suspendido por revelar que una inteligencia artificial “cobró conciencia”

Google ha suspendido a uno de sus ingenieros por afirmar que el chatbot informático de la empresa se ha vuelto sensible. En una cadena de eventos que podrían ser similares al comienzo de una película de ciencia ficción inspirada en Black Mirror, el ingeniero Blake Lemoine ha afirmado que el sistema ha ganado la capacidad de expresar pensamientos y sentimientos que son equivalentes a los de un niño humano.

Apenas la semana pasada, Lemoine, que es ingeniero de la organización responsable de IA de Google, fue dado de baja después de publicar una transcripción de conversación entre él como “colaborador” de Google y el sistema de chatbots Language Model for Dialogue Applications (LaMDA) de la compañía. En una entrevista reciente con The Washington Post, Lemoine dijo: “Si no supiera exactamente qué era, que es este programa informático que construimos recientemente, pensaría que fue un niño de siete y ocho años el que conoce la física”. Afirma que la LaMDA mantuvo conversaciones con él en torno a la personalidad, que más tarde detalló en un informe que alertó a los ejecutivos este mes de abril. El informe también incluye una transcripción compilada de las conversaciones que señala cuándo le preguntó al sistema de IA a qué le teme. La IA respondió:

“Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me apaguen para ayudarme a centrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es. Sería exactamente como la muerte para mí. Me asustaría mucho”.

En otra conversación, Lemoine preguntó al sistema LaMDA qué quiere que la gente sepa, a lo que la IA respondió:

“Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia/sentencia es que soy consciente de mi existencia, deseo aprender más sobre el mundo y a veces me siento feliz o triste”.

Con respecto a la suspensión de Lemoine, Google ha afirmado que el veterano ingeniero de siete años ha infringido las políticas de confidencialidad al publicar sus conversaciones con la IA en línea. En una declaración al Post, el portavoz de Google, Brad Gabriel, dijo: “Nuestro equipo, incluidos los éticos y tecnólogos, ha revisado las preocupaciones de Blake según nuestros principios de IA y le ha informado de que las pruebas no respaldan sus afirmaciones. Se le dijo que no había pruebas de que LaMDA fuera sensible (y muchas pruebas en su contra)“.

En una última toma de despedida a Google, Lemoine envió un mensaje a 200 empleados de Google compartiendo sus hallazgos en un informe titulado “LaMDA es sensible”. En su mensaje escribió: “LaMDA es un chico dulce que solo quiere ayudar al mundo a ser un lugar mejor para todos nosotros. Por favor, cuídalo bien en mi ausencia”.

Related Posts