Facebook desconectó por seguridad inteligencia artificial que creó su propio idioma

83
Facebook inteligencia artificial
Foto Referencial: La UPEA

Facebook desconecta a su inteligencia artificial debido a que creó un idioma y por seguridad, tuvo que ser detenido.

La inteligencia artificial cada vez está ocupando sectores importantes de la tecnología y la vida misma. En redes sociales, telefonía, conducción autónoma y hasta en hospitales y fábricas.

Facebook desconecta su inteligencia artificial por seguridad

Alice y Bob eran dos chatbots, es decir, programas informáticos que imitan conversaciones humanas a través de texto, ya que no eran capaces de gestionar funciones sofisticadas más allá de responder preguntas a clientes.  Luego de crearlos, el Grupo de Investigación de Inteligencia Artificial (FAIR, por sus siglas en inglés) de Facebook intentó enseñarles a negociar.

Te Puede Interesar: 2022 recordado como un año muy tecnológico

Sin embargo, la situación se salió de control. Y aunque los programas estaban sincronizados para hablar entre sí pero en el idioma inglés, lograron crear un lenguaje propio, ignorando por completo las funciones programadas.

Alice y Bob en descontrol

Los investigadores se sorprendieron al ver que tanto Alice como Bob hablaban un idioma diferente. Un lenguaje de códigos, que eran intangibles para los investigadores a pesar que entre ellos se entendían perfectamente.

Un miembro del FAIR expresó que el comportamiento de ambos bots no era alarmante y lo catalogó como un subcampo establecido de la inteligencia artificial.

«En pocas palabras, los agentes en entornos que intentan resolver una tarea a menudo encontrarán formas poco intuitivas de maximizar una recompensa. Analizar la función de recompensa y cambiar los parámetros de un experimento NO es lo mismo que desconectar o apagar la IA. Si ese fuera el caso, todos los investigadores de IA han estado cerrando la IA cada vez que hay un error”, expresó Dhruv Batra.

En pocas palabras, los expertos de la compañía que fue fundada por Mark Zuckerberg indicaron que no temían que Alice y Bob se salieran de control sino que querían evitar un error mayor, que luego le fuese imposible de reparar en un tiempo prudencial.

Hace algún tiempo la fundación Open AI que fue creada por el magnate sudafricano Elon Musk, señaló que estos bots de inteligencia artificial podían crear su propio idioma.

Peligro para la humanidad

Incluso el creador de los automóviles Tesla, había indicado que el experimento que realizó Facebook era peligroso para la humanidad.

Facebook inteligencia artificial
Foto Cortesía: Gizmodo

Los investigadores especulan que en la charla, las palabras y frases repetidas son indicativos de cómo funciona la inteligencia artificial de forma superficial. En el ejemplo, Bob y Alice repetían palabras a modo de oferta en cantidad de elementos que recibirían en un intercambio. Y esto porque la tecnología utiliza un sistema de ‘recompensa’ en el que espera que un curso de acción tenga un ‘beneficio’.

«No hubo recompensa por seguir el idioma inglés»

«No hubo recompensa por seguir el idioma inglés», dijo Dhruv Batra, un científico de Georgia Tech que estaba en Facebook AI Research -el equipo que investiga inteligencia artificial en Facebook-.

«Los agentes van a la deriva de lenguaje comprensible e inventar palabras de código por sí mismos. Como si digo ‘el’ cinco veces, interpretará que quiere decir que quiero cinco copias de este elemento. Esto no es tan diferente de la forma en que las comunidades de seres humanos crean abreviaturas», agregó.

Facebook desconecta a 2 robots que "cobraron vida" tras una prueba de inteligencia  artificial - Viralistas.com
Foto Cortesía: Viralistas

Además de ignorar órdenes o indicaciones de sus creadores, el hecho que una inteligencia artificial cree su propio lenguaje supone una dificultad enorme para el desarrollo y adopción de redes neuronales y la creación de nuevas tecnologías y así, ser independiente, por completo.

Aspiradora tomó fotos de una mujer en el baño… ¡y las publicó en Facebook!

Aspiradora tomó fotos de una mujer en el baño… ¡y las publicó en Facebook!

¿Has pensado que la tecnología puede voltearse en tu contra? ¡Hey! No se trata de una sinopsis de alguna película de ficción, ¡es la verdad verdadera!

Cada día que pasa pareciera que de alguna manera otorgamos mucha información a nuestros artefactos tecnológicos, algo que podría ser poco inteligente. Recibimos ayuda de dispositivos que quizás, con el paso del tiempo, descubramos que no eran tan fieles después de todo luego de difundir nuestros más profundos secretos.

Tal es el caso de una mujer de gentilicio venezolano, la cual afirmó que su aspiradora “le tomó fotos” mientras estaba en el baño. Algo insólito, ¿no lo crees?

Lo más increíble es que presuntamente la aspiradora publicó las imágenes por la red social Facebook. Se cree que el artefacto estaba realizando un reconocimiento en cada espacio del hogar de la mujer.

Pero, ¿cómo es posible?

Los dispositivos que suelen realizar esas actividades albergan sensores y cámaras para logran reconocer el sitio donde están ubicados con el propósito de evitar tropezarse.

Con información de | El Economista

Obtén información al instante, únete a nuestros grupos de:

Whatsapp y Telegram

Síguenos en Nuestras cuentas de Redes Sociales

Instagram: @miaminews24official

Twitter: @miaminews24

Facebook: Miaminews24.com