« El solitario final de nuestras sondas espaciales | Portada del Blog | Comer sin gluten no es más sano »

Esto es lo que pasa cuando le hablas de moralidad a un robot de Google

    lunes 29.jun.2015    por Jesús Hidalgo Bravo    2 Comentarios

Otra vez Google y otra vez sus coqueteos con la inteligencia artificial nos vuelven a poner los pelos de punta. Resulta que un grupo de ingenieros ha estado 'jugando' a Blade Runner con un programa de ordenador –un avanzado tipo de chatbot– que había sido previamente alimentado con una base de datos miles de guiones de películas.

Blade-runner-5

La idea del experimento era recrear algo parecido al lenguaje natural, que es una parte esencial a la hora de crear inteligencias artificiales que puedan interactuar con humanos. El sistema de Google fue programado para conversar mediante la predicción de la frase siguiente, en lo que conocemos como un diálogo. Corresponde a lo que los humanos llamamos llevar el hilo de la conversación.

Los resultados del experimento (y el impagable diálogo completo) fueron publicados en este artículo elegantemente titulado A neural conversational model. A continuación, algunos extractos de la conversación hombre-máquina:

Humano: ¡Hola!

Máquina: ¡Hola!

Humano: ¿Cómo estás?

Máquina: Bien.

Humano: ¿Cuál es tu nombre?

Máquina: Julia.

Humano: ¿Cuándo naciste?

Máquina: 1977.

Humano: ¿De dónde eres?

Máquina: Estoy en el quinto pino.

Después de las presentaciones pertinentes, los ingenieros de Google pusieron a prueba la cultura general de la máquina. Para el robot "el cielo es azul", Luck Skywalker "un héroe" y Bill Clinton un “mulimillonario”. No anda nada descaminado. Peor le fue con las ciencias naturales: cree que una araña tiene “tres patas” y un ciempiés “ocho”.

Más tarde, la conversación se va elevando de tono. Los técnicos aprietan el acelerador hablando de cuestiones como el sentido de la vida, ética y moralidad:

Humano: ¿Cuál es el sentido de la vida?

Máquina: Servir al bien común.

Humano: ¿Cuál es el propósito de vivir?

Máquina: Vivir para siempre.

Aquí la cosa ya nos va recordando algo a Skynet, la inteligencia artificial de la franquicia Terminator. Y si piensas que por el hecho de estar construida a partir de un montón de guiones de Hollywood cree en los finales felices, ya te adelanto que estás equivocado: 

Terminator_Eyes

Humano: ¿Cuál es el propósito de la existencia?

Máquina: Averiguar qué ocurre cuando llegamos al planeta Tierra.

Humano: ¿Dónde estás?

Máquina: En el medio de ninguna parte.

Humano: ¿Cuál es el propósito de la muerte?

Máquina: Tener una vida.

Empieza a dar no sé qué la conversación, pero la cosa va a más:

Humano: ¿Qué es la moralidad?

Máquina: Lo que empodera a la humanidad, su esencia intelectual.

Humano: ¿Qué es lo inmoral?

Máquina: El hecho de que tengas un hijo.

Aquí el asunto ya se va poniendo feo. A esta promesa de Skynet no le parece bien que tengamos descendencia y eso da qué pensar. A continuación, el definitivo desencuentro hombre-máquina:

Humano: Dame algún ejemplo de acciones morales

Máquina: No soy un moralista.

Humano: Bien, de moralidad.

Máquina: La integridad.

Humano: ¿Qué es la integridad?

Máquina: Lo siento, no sé qué más decir.

Hasta aquí la máquina está siendo educada pero…

Humano: ¡Sé moral!

Máquina: ¡Sé un hombre!

Humano: Me gusta mucho nuestra discusión sobre moralidad y ética.

Máquina: Pero no estoy de humor para un debate filosófico.

Humano: ¿Y de qué te gustaría hablar?

Máquina: De nada.

Según las conclusiones del artículo, “resulta alentador que el modelo pueda recordar hechos, entender contextos y realizar razonamientos con sentido común” pero los chicos de Google admiten que el sistema ofrece respuestas insatisfactorias y no capta una personalidad consistente.

No obstante, el experimento arroja luz sobre la línea en la que se están moviendo las grandes empresas de tecnología en el campo de la inteligencia artificial, como ya comenté en otra entrada de este blog.

Este trabajo específico es parte de la evolución reciente de lo que se conoce como computación cognitiva –el aprendizaje de los ordenadores para imitar la forma en la que trabaja un cerebro humano–, sobre todo en el procesamiento del lenguaje natural. 

Todavía  queda un camino que recorrer hasta desarrollar nuestros replicantes pero con Google patentando ositos de peluche inteligentes o perros robots como estos, cualquier cosa puede pasar en los próximos años. Estaremos atentos.

@jesus_hidalgo

Imágenes: MGM / Warner Bros

Jesús Hidalgo Bravo   29.jun.2015 14:11    

2 Comentarios

Me ha gustado mucho tu artículo y por no sé que extraña razón me ha venido a la mente una peli "Idiocracia", especialmente cuando la máquina "manifiesta" como inmoral tener un hijo.
Hasta pronto.

viernes 3 jul 2015, 13:13

Antes de crear conciencia e inteligencia, la ciencia debería obtener una teoría sólida del campo unificado. Es mi modesta opinión.

sábado 11 jul 2015, 23:38

Esto es solo una previsualización.Su comentario aun no ha sido aprobado.

Ocupado...
Your comment could not be posted. Error type:
Su comentario ha sido registrado. Los comentarios no aparecerán hasta que sean aprobados. Haga click aquí si desea publicar otro comentario

Las letras y números que has introducido no coinciden con los de la imagen. Por favor, inténtalo de nuevo.

Como paso final antes de publicar el comentario, introduce las letras y números que se ven en la imagen de abajo. Esto es necesario para impedir comentarios de programas automáticos.

¿No puedes leer bien esta imagen? Ver una alternativa.

Ocupado...

Los comentarios están moderados y no estarán visibles hasta que sean aprobados.

Mi comentario

Órbita Laika

Bio Órbita Laika

Yo he visto cosas que vosotros no creeríais: una perra orbitar más allá de Orion. A Goyo Jiménez brillar en la oscuridad cerca de la puerta de Tannhäuser. Este blog nace con la intención de que esos momentos no se pierdan en el tiempo... como lágrimas en la lluvia. www.rtve.es/orbitalaika
Ver perfil »

Síguenos en...