La IA está inventando lenguajes que los humanos no pueden entender. ¿Deberíamos detenerlo?

Los investigadores de Facebook se dieron cuenta de que sus bots charlaban en un nuevo idioma. Luego lo detuvieron.

La IA está inventando lenguajes que los humanos no pueden entender. ¿Deberíamos detenerlo?

Bob: Puedo, puedo, puedo, todo lo demás.



Alice: Las pelotas me tienen cero a mí a mí a mí a mí a mí a mí a.

Para usted y para mí, ese pasaje parece una tontería. Pero, ¿y si les dijera que esta tontería es la discusión sobre cuál podría ser el software de negociación más sofisticado del planeta? ¿Software de negociación que había aprendido y evolucionado para obtener el mejor trato posible con más velocidad y eficiencia, y quizás con matices ocultos, de lo que usted o yo podríamos jamás?Porque es.



Esta conversación ocurrió entre dos agentes de IA desarrollado dentro de Facebook . Al principio, se hablaban en inglés antiguo y sencillo. Pero luego los investigadores se dieron cuenta de que habían cometido un error en la programación.



No hubo recompensa por ceñirse al idioma inglés, dice Dhruv Batra, científico investigador visitante de Georgia Tech en Facebook AI Research (FAIR). A medida que estos dos agentes competían para conseguir el mejor trato (un poco muy eficaz de IA contra IA, los investigadores de las peleas de perros han denominado una red generativa de adversarios) a ninguno de los dos se le ofreció ningún tipo de incentivo por hablar como lo haría una persona normal. Entonces comenzaron a divergir, y finalmente reorganizaron palabras legibles en oraciones aparentemente sin sentido.

Los agentes se desviarán de un lenguaje comprensible e inventarán palabras en código por sí mismos, dice Batra, hablando de un fenómeno ahora predecible que se ha observado de nuevo , y de nuevo , y de nuevo . Por ejemplo, si digo 'el' cinco veces, lo interpretas en el sentido de que quiero cinco copias de este artículo. Esto no es tan diferente de la forma en que las comunidades de humanos crean taquigrafía.



[Captura de pantalla: cortesía de Facebook]

Por supuesto. Los seres humanos han desarrollado dialectos únicos para todo, desde el comercio de pancetas de cerdo en el piso de la Bolsa Mercantil hasta la caza de terroristas como Seal Team Six, simplemente porque los humanos a veces actúan mejor al no cumplir con las convenciones del lenguaje normal.

Entonces, ¿deberíamos dejar que nuestro software haga lo mismo? ¿Deberíamos permitir que la IA desarrolle sus dialectos para tareas específicas que impliquen hablar con otras IA? ¿Básicamente para chismear fuera de nuestro alcance? Quizás; nos ofrece la posibilidad de un mundo más interoperable, un lugar más perfecto donde los iPhones se comunican con los refrigeradores que se comunican con su automóvil sin pensarlo dos veces.

La compensación es que nosotros, como humanidad, no tendríamos ni idea de qué eran esas máquinas. Realmente diciendo el uno al otro.

Enseñamos a los bots a hablar, pero nunca aprenderemos su idioma



Facebook finalmente optó por exigir que sus robots de negociación hablen en inglés antiguo y sencillo. Nuestro interés era tener bots que pudieran hablar con la gente, diceMike Lewis, científico investigador de FAIR. Facebook no está solo en esa perspectiva. Cuando le pregunté a Microsoft sobre los lenguajes de computadora a computadora, un portavoz aclaró que Microsoft estaba más interesado en el habla de persona a computadora. Mientras tanto, Google, Amazon y Apple también están concentrando energías increíbles en desarrollar personalidades conversacionales para el consumo humano. Son la próxima ola de interfaz de usuario, como el mouse y el teclado para la era de la IA.

El otro problema, como admite Facebook, es que no tiene forma de comprender realmente ningún lenguaje informático divergente. Es importante recordar que no hay hablantes bilingües de la inteligencia artificial ni de los lenguajes humanos, dice Batra.. En general, no entendemos cómo piensan las IA complejas porque realmente no puede ver dentro de su proceso de pensamiento . Agregar conversaciones de IA a IA a este escenario solo empeoraría el problema.

Pero al mismo tiempo, se siente miope, ¿no? Si podemos crear software que pueda comunicarse con otro software de manera más eficiente, ¿no deberíamos usarlo? ¿No podría haber algún beneficio?

[Imágenes fuente: Nikiteev_Konstantin / iStock, Zozulinskyi / iStock]

Porque, de nuevo, podemos llevar a las máquinas a desarrollar sus propios lenguajes. Facebook tiene tres artículos publicados que lo prueban. Definitivamente es posible, es posible que [el lenguaje] pueda comprimirse, no solo para guardar caracteres, sino comprimirse a una forma que pueda expresar un pensamiento sofisticado, dice Batra. Las máquinas pueden conversar con cualquier componente básico que se les ofrezca. Eso podría comenzar con vocabulario humano, como con los robots de negociación de Facebook. O podría comenzar con números o códigos binarios. Pero a medida que las máquinas desarrollan significados, estos símbolos se convierten en símbolos, están imbuidos de significados ricos. ComoDelfínseñala, es posible que las máquinas no piensen como tú o como yo, pero las fichas les permiten intercambiar pensamientos increíblemente complejos a través de los símbolos más simples. La forma en que lo pienso es con álgebra: si A + B = C, la A podría encapsular casi cualquier cosa. Pero para una computadora, lo que A puede significar es mucho más grande que lo que A puede significar para una persona, porque las computadoras no tienen un límite absoluto en la potencia de procesamiento.

Es perfectamente posible que una ficha especial signifique un pensamiento muy complicado, dice Batra. La razón por la que los humanos tenemos esta idea de descomposición, dividiendo ideas en conceptos más simples, es porque tenemos un límite a la cognición. Las computadoras no necesitan simplificar conceptos. Tienen la potencia bruta para procesarlos.

Por qué deberíamos dejar que los bots chismeen

Pero, ¿cómo podría realmente beneficiar al mundo algo de esta tecnología, más allá de estas discusiones teóricas? ¿Podrían nuestros servidores operar de manera más eficiente si los bots se hablaran entre sí de forma abreviada? ¿Podrían los procesos de microsegundos, como el comercio algorítmico, ver algún aumento razonable? Charlando con Facebook y varios expertos, no pude obtener una respuesta firme.

Sin embargo, por paradójico que pueda parecer, es posible que veamos grandes ganancias en un mejor entendimiento de este tipo de software Ntra intención. Si bien dos computadoras que hablan su propio idioma pueden ser más opacas, un algoritmo predispuesto a aprender nuevos idiomas podría masticar datos nuevos y extraños que los alimentamos de manera más efectiva. Por ejemplo, un investigador Recientemente intenté enseñar a una red neuronal a crear nuevos colores y nómbrelos. Fue terrible en eso, generando nombres como Sudden Pine y Clear Paste (esa pasta transparente, por cierto, estaba etiquetada en verde claro). Pero luego hicieron un simple cambio en los datos que estaban alimentando a la máquina para entrenarla. Hicieron todo en minúsculas, porque las letras minúsculas y mayúsculas lo confundían.De repente, la IA creadora de color estaba funcionando, bueno, ¡bastante bien! Y por alguna razón, prefirió y funcionó mejor con valores RGB en lugar de otros códigos de color numéricos.

¿Por qué eran importantes estos simples cambios de datos? Básicamente, el investigador hizo un mejor trabajo hablando el idioma de la computadora. Como me lo dijo un codificador,Obtener los datos en un formato que tenga sentido para el aprendizaje automático es una tarea enorme en este momento y es más un arte que una ciencia. El inglés es un idioma muy enrevesado y complicado y nada amigable para el aprendizaje automático.

seguimiento en vivo del huracán irma

[Imágenes fuente: Nikiteev_Konstantin / iStock, Zozulinskyi / iStock]

En otras palabras, las máquinas a las que se les permite hablar y generar lenguajes de máquina, irónicamente, podrían permitirnos comunicarnos (e incluso controlar) mejor las máquinas, simplemente porque estarían predispuestas a comprender mejor las palabras que hablamos.

Como me dijo un informante de una importante empresa de tecnología de IA: No, su empresa no estaba activamente interesada en las IA que generaban sus propios lenguajes personalizados. Pero si lo fuera, la mayor ventaja que imaginó fue que posiblemente podría permitir que el software, las aplicaciones y los servicios aprendan a hablar entre ellos sin intervención humana.

En este momento, empresas como Apple tienen que crear API, básicamente un puente de software, que implica todo tipo de estándares que otras empresas deben cumplir para que sus productos se comuniquen. Sin embargo, las API pueden tardar años en desarrollarse y sus estándares se debaten intensamente en toda la industria en discusiones de una década. Pero el software, al que se le permite aprender libremente a comunicarse con otro software, podría generarnos sus propias abreviaturas. Eso significa que nuestros dispositivos inteligentes podrían aprender a interoperar, sin necesidad de API.

Dado que nuestra era conectada ha sido un poco decepcionante, dado que el internet de las cosas es principalmente una broma , dado que no es más fácil obtener un documento de su teléfono Android en su televisor LG que hace 10 años, tal vez haya algo en la idea de dejar que las IA de nuestro mundo lo hablen en nuestro nombre. Porque nuestras corporaciones parecen no poder decidir sobre nada. ¿Pero estas redes de adversarios? Hacen las cosas.