La demostración del sistema Google Duplex no ha parado de generar controversia y dejar en evidencia que como personas y como sociedad nos estamos quedando atrás en lo concerniente a lidiar con las cada vez más frecuentes interacciones con sistemas de inteligencia artificial.
Si no sabe de lo que se trata le recomiendo leer este artículo de Samir, pero en todo caso acá una muestra en video de lo que pasó en la última conferencia de desarrolladores de la empresa:
[youtube https://www.youtube.com/watch?v=D5VN56jQMWM]
Ahora, esto de verdad se ve prometedor y obviamente se trataba de una conversación de ejemplo para demostrar el potencial de la herramienta; sin embargo debemos pensar en las implicaciones de un mundo en el que esto será “el pan de cada día”. Para eso les pido tengamos en cuenta tres perspectivas, las legales, las humanas y las sociales.
La Ley habla (Y Google no…)
Viendo el ejemplo no caemos en cuenta de algo y es que como inteligencia artificial que es el sistema Duplex, esta existe en un servidor almacenada en alguna parte y para que aprenda y se parezca cada vez más a un humano debe almacenar la conversación; sin embargo, en ningún momento pide autorización o notifica a la otra persona que lo está haciendo. Recuerden cómo es una llamada por ejemplo a un call center, al principio se notifica que la llamada será grabada con fines de mejora en la presentación del servicio. Además del carácter legal de la conversación en caso que, por ejemplo, se decida contratar un servicio. Nada de esto pasa con Duplex y Google debe tener en cuenta que, como empresa radicada en California, eso entra en conflicto con el Código Penal del estado (específicamente la sección 632 que estipula que ambas partes deben estar plenamente identificadas y claras cuando hay registro o grabación de una llamada telefónica). Ahora bien, teniendo esto en cuenta, Google puede argumentar que, efectivamente, la inteligencia artificial no se encuentra almacenada en California pero, tampoco, ha sido clara en revelar su ubicación. En cualquier caso, este tipo de normas no son exclusivas de California y, seguramente, se encuentran en muchas partes del mundo,
¿Cómo se podrá adaptar Duplex a esto?, ¿Advirtiéndole a la otra persona que se trata de una inteligencia artificial?, esto nos lleva a la segunda implicación, la humana.
“Good Morning Dave …” Lo que piensa el humano al otro lado del teléfono.
Lo más inquietante de la demostración de Duplex es lo real que se escuchaba, las inflexiones, la espera o los cambios en el tono hacen que simplemente sea casi imposible de distinguirla de una persona. Quizás, si el otro interlocutor no lo tuviera claro el problema no sería tan grave pero, sí como lo demanda la ley, la voz se identificara como una inteligencia artificial, el resultado de esa llamada sería muy distinto!.
Lo que pasa es que nuestros cerebros están diseñados para identificar algo que se ve o suena “muy humano” y clasificarlo como una amenaza. Este fenómeno identificado en los años 70´s por el profesor japonés Masahiro Moni, nos da a entender que: “entre más fidedigno a una forma humana fuera un robot, más apatía generaba en las personas cuando tomaban conciencia de que se trataba de una máquina”. Millones de años de evolución nos llevan a identificarlo como un enemigo, son detalles como: los ojos, el tono de voz, textura de la piel o, incluso, la falta de un cuerpo… Prende las alertas! Películas como “Final Fantasy” han sido criticadas por usar “humanos demasiado perfectos y, sin embargo, inertes” y muchos dicen que esto fue la explicación de su fracaso.
¿Qué piensan, por ejemplo, de los ojos de Sofia?
[youtube https://www.youtube.com/watch?v=Ml9v3wHLuWI]
Que mi robot llame al tuyo …
Por último tenemos las consecuencias sociales. Para evitar problemas legales lo que puede hacer Duplex es hablar con el Duplex de otro usuario y “arreglar la cita”. Si este fuera el caso, durante la llamada, el tono humano, las inflexiones y todo lo demás sería completamente innecesario! No habría necesidad. Tal como los tonos de un módem de los 90´s (en los que dos máquinas se hablaban entre ellas), no entenderíamos nada, porque no es necesario que así sea. La pregunta que esto nos deja es: ¿Estamos preparados para vivir en una sociedad en la que les entregamos a las máquinas el control de nuestras agendas, vidas sociales e interacciones? Quizás ya estemos ahí! Hay ejemplos a nivel de máquinas que son mejores que nosotros invirtiendo en la Bolsa de Valores pero, estos son procesos que, por su velocidad y volumen de información, demandan este tipo de soluciones. Vale la pena preguntarse: ¿Será que los demás aspectos de nuestra vida comenzarán a requerir que vivamos con una #IA a nuestro lado siempre?
[youtube https://www.youtube.com/watch?v=WFR3lOm_xhE]
¿Qué piensan?
Hablemos en Twitter
Andrés Felipe Sánchez
