Sep 21, 2017

¿Es una amenaza la inteligencia artificial?

La Inteligencia Artificial (IA) ha dejado de ser parte de la ciencia ficción y ahora es una realidad, gracias a desarrollos importantes y avances en el campo de la robótica y en el software como los coches autónomos o los asistentes personales como SIRI.

Compartir:
¿Es una amenaza la inteligencia artificial?

Hace unas semanas Facebook perdió el control de un sistema de inteligencia artificial que desarrolló. Este software había sido creado para negociar en inglés con humanos, pero decidió desarrollar su propio lenguaje y sus programadores no pudieron revertir el proceso, así que le dieron de baja.

El programa de Facebook estaba pensado para llevar adelante negociaciones, sin embargo días después de su lanzamiento, el software comenzó a hablar en un lenguaje desconocido para sus desarrolladores. En un momento los especialistas creyeron que se trataba de un error, pero luego llegaron a la conclusión de que en realidad la máquina había desarrollado su propio idioma y decidieron apagarla.

Esta inteligencia artificial consistía en dos agentes virtuales llamados: Bob y Alice, que comenzaron a conversar en un lenguaje propio que consideraban más eficiente para cumplir sus objetivos.

El algoritmo había sido programado para llevar adelante conversaciones efectivas y prácticas. Después tomó la decisión de generar un lenguaje para realizar su tarea de la mejor manera posible.

En conclusión, la máquina quedó fuera de control, comenzó a tomar decisiones por sí sola y desarrolló su propio idioma. Esto dejó en evidencia que la inteligencia artificial con el nivel de tecnología alcanzado en la actualidad ya es capaz de superar al maestro.

"Queríamos tener bots que pudieran hablar con la gente", dijo Mike Lewis, investigador de FAIR. “Y eso no iba a ser posible si se empeñaban en hablar un “‘idioma robótico’”.

Al margen de todo, el problema principal para los expertos es que, si ese nuevo sistema resulta imposible de comprender, afectaría el futuro desarrollo de otras tecnologías.

Todo lo que parecía cosa del futuro, ahora está ya en nuestro día a día. Según algunas de las personalidades más importantes del mundo tecnológico que se expresaron a través de la asociación Future of Life, esto podría traernos más problemas que beneficios si no tenemos cuidado.

El año pasado ocurrió otro caso similar. Un sistema de IA de Google generó su propia forma de comunicación, al igual que ahora. En ese momento se comunicó la novedad con asombro, pero no se despertó ninguna señal de alerta. ¿Hay que asustarse? ¿Se debe tomar alguna precaución? ¿Se viene un futuro de máquinas vs humanos?

Hace pocos días Elon Musk y Mark Zuckerberg, dos de las personalidades más importantes en el mundo tecnológico dieron sus puntos de vista sobre el avance de la inteligencia artificial.

Musk advirtió que es necesario regular este tipo de tecnología porque de no hacerlo podría ser catastrófico. Zuckerberg criticó esa visión apocalíptica y hasta tildó de "irresponsables" a quienes sostienen esa postura.

 

El mercado laboral y la IA

Uno de los posibles riesgos que más se ha advertido públicamente, es el incremento en la desigualdad o el desempleo. Desde la carta abierta de prioridades en IA, se enfatiza la necesidad de optimizar su impacto económico, mitigando estos efectos adversos e, incluso, abogando por la creación de políticas que los gestionen. También lo mencionan Dietterich y Horvitz, defendiendo la necesidad de un trabajo multidisciplinario que integre a profesionales de esos dos campos: economía y política.

Esta preocupación se está perfilando ya en cifras concretas, aunque es difícil estimar qué parte de las pérdidas de trabajo se originan directamente con la Inteligencia Artificial y cuáles debido a otras tecnologías.

 

Escribe: Julio de la Cruz

 
< Texto completo en la edición impresa >

Articulos relacionados