Bob y Alice son dos programas que habían desarrollado un sistema de comunicación que era incomprensible para los humanos.
Esta información la acaba de entregar Facebook donde desarrollaron un programa de Inteligencia Artificial para potenciar a la compañía. Ambos elementos fueron llamados Bob y Alice y su misión era crear un sistema de negociación entre ambos.
Al comienzo, todo funcionó a la perfección. Pero, al pasar del tiempo, el área de investigación de la empresa descubrió que entre ambas IA existía una conversación donde emitían un mensajen sin sentido.
Pero al analizar el contenido que ambos se enviaban, lograron descubrir que no se trata de un error, sino más bien de un tipo de estructura de conversación más evolucionado y que es ininteligible para el ser humano.
Un miembro del equipo de investigación de IA en Facebook señaló que “Los agentes se desviaron del lenguaje comprensible y crearon unas palabras en código para ellos mismos“.
Luego de comprender que el hecho se les estaba escapando de su capacidad, decidieron apagar ambos programas.
La compañía llamó a la calma diciendo que no había peligro de que las IA se introduzcan en Internet. Sólo fueron desconectadas porque el sistema se podría complicar tanto que a futuro no sabrían cómo revertir el proceso.
¡Comparte esta nota sorprendente!
