Esto es lo que pasa cuando le hablas de moralidad a un robot de Google
lunes 29.jun.2015 por Jesús Hidalgo Bravo 2 Comentarios
Otra vez Google y otra vez sus coqueteos con la inteligencia artificial nos vuelven a poner los pelos de punta. Resulta que un grupo de ingenieros ha estado 'jugando' a Blade Runner con un programa de ordenador –un avanzado tipo de chatbot– que había sido previamente alimentado con una base de datos miles de guiones de películas.
La idea del experimento era recrear algo parecido al lenguaje natural, que es una parte esencial a la hora de crear inteligencias artificiales que puedan interactuar con humanos. El sistema de Google fue programado para conversar mediante la predicción de la frase siguiente, en lo que conocemos como un diálogo. Corresponde a lo que los humanos llamamos llevar el hilo de la conversación.
Los resultados del experimento (y el impagable diálogo completo) fueron publicados en este artículo elegantemente titulado A neural conversational model. A continuación, algunos extractos de la conversación hombre-máquina:
Humano: ¡Hola!
Máquina: ¡Hola!
Humano: ¿Cómo estás?
Máquina: Bien.
Humano: ¿Cuál es tu nombre?
Máquina: Julia.
Humano: ¿Cuándo naciste?
Máquina: 1977.
Humano: ¿De dónde eres?
Máquina: Estoy en el quinto pino.
Después de las presentaciones pertinentes, los ingenieros de Google pusieron a prueba la cultura general de la máquina. Para el robot "el cielo es azul", Luck Skywalker "un héroe" y Bill Clinton un “mulimillonario”. No anda nada descaminado. Peor le fue con las ciencias naturales: cree que una araña tiene “tres patas” y un ciempiés “ocho”.
Más tarde, la conversación se va elevando de tono. Los técnicos aprietan el acelerador hablando de cuestiones como el sentido de la vida, ética y moralidad:
Humano: ¿Cuál es el sentido de la vida?
Máquina: Servir al bien común.
Humano: ¿Cuál es el propósito de vivir?
Máquina: Vivir para siempre.
Aquí la cosa ya nos va recordando algo a Skynet, la inteligencia artificial de la franquicia Terminator. Y si piensas que por el hecho de estar construida a partir de un montón de guiones de Hollywood cree en los finales felices, ya te adelanto que estás equivocado:
Humano: ¿Cuál es el propósito de la existencia?
Máquina: Averiguar qué ocurre cuando llegamos al planeta Tierra.
Humano: ¿Dónde estás?
Máquina: En el medio de ninguna parte.
Humano: ¿Cuál es el propósito de la muerte?
Máquina: Tener una vida.
Empieza a dar no sé qué la conversación, pero la cosa va a más:
Humano: ¿Qué es la moralidad?
Máquina: Lo que empodera a la humanidad, su esencia intelectual.
Humano: ¿Qué es lo inmoral?
Máquina: El hecho de que tengas un hijo.
Aquí el asunto ya se va poniendo feo. A esta promesa de Skynet no le parece bien que tengamos descendencia y eso da qué pensar. A continuación, el definitivo desencuentro hombre-máquina:
Humano: Dame algún ejemplo de acciones morales
Máquina: No soy un moralista.
Humano: Bien, de moralidad.
Máquina: La integridad.
Humano: ¿Qué es la integridad?
Máquina: Lo siento, no sé qué más decir.
Hasta aquí la máquina está siendo educada pero…
Humano: ¡Sé moral!
Máquina: ¡Sé un hombre!
Humano: Me gusta mucho nuestra discusión sobre moralidad y ética.
Máquina: Pero no estoy de humor para un debate filosófico.
Humano: ¿Y de qué te gustaría hablar?
Máquina: De nada.
Según las conclusiones del artículo, “resulta alentador que el modelo pueda recordar hechos, entender contextos y realizar razonamientos con sentido común” pero los chicos de Google admiten que el sistema ofrece respuestas insatisfactorias y no capta una personalidad consistente.
No obstante, el experimento arroja luz sobre la línea en la que se están moviendo las grandes empresas de tecnología en el campo de la inteligencia artificial, como ya comenté en otra entrada de este blog.
Este trabajo específico es parte de la evolución reciente de lo que se conoce como computación cognitiva –el aprendizaje de los ordenadores para imitar la forma en la que trabaja un cerebro humano–, sobre todo en el procesamiento del lenguaje natural.
Todavía queda un camino que recorrer hasta desarrollar nuestros replicantes pero con Google patentando ositos de peluche inteligentes o perros robots como estos, cualquier cosa puede pasar en los próximos años. Estaremos atentos.
Imágenes: MGM / Warner Bros
Ann CR dijo
Me ha gustado mucho tu artículo y por no sé que extraña razón me ha venido a la mente una peli "Idiocracia", especialmente cuando la máquina "manifiesta" como inmoral tener un hijo.
Hasta pronto.
Astar dijo
Antes de crear conciencia e inteligencia, la ciencia debería obtener una teoría sólida del campo unificado. Es mi modesta opinión.