Lo que no imaginabas de la inteligencia artificial

Si os digo la verdad, la noticia esta de  que Facebook apagó unos bots porque hablaban en un idioma propio, no me  pareció lo suficientemente importante en su momento como para dedicarle un artículo (por eso, meramente la apunté en el vídeo de los peligros de la IA). No pretendiendo dar a entender que el suceso es como para preocuparse (ciertamente, ahora mismo es una mera anécdota), sino como algo que en un futuro (por ejemplo, con IAs muy avanzadas integradas en la defensa de un país, por ejemplo), podría empezar a suponer algún problema. De momento, claramente no lo es.

 

 

Como ya dije en el anterior vídeo, no es la primera vez que una IA "desarrolla" (podríamos decir), un lenguaje propio. Por eso me ha extrañado que esta vez, se haya tratado como si esto fuese la antesala de la rebelión de las máquinas. Vamos a tratar todo este asunto (y otros relacionados). Veamos:

Una de las áreas en las que Google ha puesto más énfasis en los últimos tiempos, es en su herramienta de traducción. Google Translate ha evolucionado mucho desde su nacimiento, y posiblemente hoy sea el traductor más potente de la red.
Corría el 2016, y Google anunció que introduciría en su traductor un nuevo sistema llamado GNMT (Google Neural Machine Translation), el cual está basado en el modelo de “aprendizaje profundo” y redes neuronales.
La cosa va de traducir, como podéis suponer, y los ingenieros tuvieron una idea interesante. Si la IA sabe cómo traducir del inglés al coreano, y del inglés al japonés; ¿podría traducir del coreano al japonés, aunque nunca haya traducido directamente entre ambos idiomas? (es decir, por mera asociación)

Y en efecto se descubrió, que eso era posible; la IA era capaz de traducir entre dos idiomas que nunca había traducido entre sí (sólo, basándose en el conocimiento que tenía de un tercer idioma relacionado).
Por ejemplo: La inteligencia artificial (que sabía traducir del portugués al inglés y del inglés al español), luego logró "por sus propios medios" hacer traducciones del portugués al español (traducciones para las cuales, no había sido directamente programada).
Este descubrimiento parece una tontería, pero pronto reveló algo emocionante. Porque para que la IA tradujese entre esos dos idiomas, era necesario que tuviese un concepto interno con un significado similar a la de las palabras en sendos idiomas.
Basándose en la manera en la que las palabras y las frases están relacionadas entre sí en una red neuronal, en Google consideran que podemos definir esto como un idioma para Inteligencia Artificial; creado por la propia IA y comprensible sólo por ella. Así pues, lo interesante es que la inteligencia artificial, parece que creó su propio lenguaje.
Una “decisión inteligente” inédita, que incluso sorprendió a sus creadores.
Bien, de esto apenas se habló, no se hizo viral, ni causó el revuelo de los bots de facebook, pero aquí queda la noticia por si os interesa.

Los bots de facebook (no voy a descubriros nada que no sepáis, pero por si hay alguien despistado), tenían como fin desarrollar un software de negociación.
Se quería demostrar que es “posible para agentes de diálogo basados en redes neuronales entrenadas", participar en negociaciones con otros “bots” o personas y llegar a decisiones o acuerdos comunes.
Como podéis imaginar, el fin último de esto es sustituir negociadores humanos por inteligencias artificiales. (Otro empleo sustituido por IAs, vaya).

Según sus creadores, llegaron a funcionar muy bien a la hora de negociar con personas (tanto, como para que el negociador humano no se diera cuenta de que estaba «hablando» con un programa).
Pero luego se les ocurrió que sus bots más inteligentes (los llamados “Bob” y “Alice”), hablaran entre ellos.  Pero... se les olvidó (o quizá por curiosidad, no lo sé, ¡porque vaya despiste!), incluir las reglas necesarias para que conversaran en un lenguaje comprensible para un humano. Algo elemental.

El resultado de todo ello, es que los bots acabaron hablaron entre ellos creando atajos idiomáticos y otras particularidades que, a pesar de su vistosidad, son totalmente inofensivos.
Es cierto que Facebook apagó la IA, pero no porque entrasen en pánico por haber liberado a un posible Skynet, sino porque su interés era diseñar dos ‘bots’ que pudiesen hablar con la gente (y no que lo hiciesen entre ellos usando un idioma raro).
El resultado no fue peligroso. Simplemente, no era práctico. El experimento, no servía para nada.

Muy bien. En este canal hemos visto ya llamativos logros de la inteligencia artificial (que van desde la mera curiosidad, hasta hitos sorprendentes de notable calado).
Vamos a repasar algunos:
Primeramente, lo que todos ya sabemos es la cantidad de empleos en que los humanos están siendo sustituidos por máquinas. No vamos a nombrarlos (la lista es interminable), y ya le he dedicado varios vídeos a esto, así que no profundizaré más...

Más asombroso, si cabe, es que la inteligencia artificial ya nos gana al ajedrez, al GO y al póker. Se dice pronto (ya nos hemos acostumbrado a la idea, ¿verdad?), pero hace unos veinte años (ayer mismo), esto era completa y absoluta ciencia ficción.

También sabemos que las IAs saben conducir (y cada vez mejor). A parte de diversas comodidades, los accidentes se reducirán drásticamente: la seguridad vial se mejorará sobremanera (aunque para los amantes del volante será una pesadilla, claro). 

En el ámbito de las artes, una inteligencia artificial ha sido capaz de pintar un Rembrant gracias al análisis de toda su obra. El resultado, es un cuadro que parece pintado por el famoso artista de los Países bajos.
Anecdótico, quizás... Pero también una IA escribió prácticamente sola, una novela que resultó ser finalista en un concurso literario. Sí, las IAs saben escribir (incluso, redactan noticias y hasta discursos políticos).
Las IAs también hacen poesías, y son tan parecidas a las que podría escribir cualquier persona, que asusta...
También componen música (sí, por su cuenta), e incluso, la interpretan (hay bandas musicales cuyos integrantes son únicamente robots).
Estoy diciendo cosas sorprendentes (quizá de difícil digestión en tan poco tiempo),  pero ya las desarrollé en su momento así que no profundizaré  más.

Pero no hemos terminado:
La inteligencia artificial Watson, de IBM, podríamos decir que es lo más parecido al Hal 9000 actual. Uno de sus logros con mayor difusión mediática, fue cuando ganó a los mejores concursantes humanos del famoso juego de preguntas y respuestas Jeopardy! (donde tenía que entender preguntas con dobles sentidos y frases sumamente humanas, demostrando un dominio del lenguaje sorprendente).  Esto todavía no ha llegado a nuestros hogares, pero para que nos entendamos, significa que en un futuro próximo podrás hablarle a tu ordenador preguntando algo, y no solo te entenderá a la perfección, sino que te responderá sin rodeos y concretamente lo que necesitas saber (no como las búsquedas actuales de Google, que son muy toscas y tienes que perder mucho tiempo contrastando miles de resultados).

Pero quizá incluso más sorprendente que esto, Watson también ejerce de asesor de empresas. Por ejemplo, hasta te aconseja qué empresa comprar en función de sus resultados y variables, teniendo en cuenta tus necesidades y objetivos.
Esto es la antesala de la sustitución de los asesores humanos (falibles y caprichosos), en pos de la excelencia analítica de una inteligencia artificial (que siempre será presumiblemente más fiable y abarcará más conocimiento).

En este sentido también, la asesoría cibernética no se limita al ámbito empresarial, sino también al político. Los políticos podrían tener asesores artificiales, en efecto, y se supone, serían más eficientes que los asesores humanos. 
No se espera de ellos que tengan conciencia (incluso mejor que no la tengan, sinceramente), sino que meramente gestionen tan bien como las máquinas juegan al ajedrez (o al Go, o al póker...).
Llegado el momento en que el político de turno se limita a seguir lo que le sugieren sus asesores cibernéticos, podría ser sustituido también (evitando así  el factor 'corrupción' tan propio de los humanos), quedando todo el proceso (con cierta regulación y mantenimiento, eso sí), en manos de la inteligencia artificial.
Está claro que ese 'cierto mantenimiento funcional', es susceptible de algún tipo de manipulación humana por parte de ciertos sectores.
Es difícil desembarazarse de las garras egoístas y podredumbre humanas, pero la idea sería minimizar su poder de acción y que no sea tan fácil corromperse como hasta ahora.
Ya se ha abierto un debate sobre si la IA ejercería mejor de político que un humano, y una  encuesta en Reino Unido demuestra cómo cada vez se ve con más buenos ojos que las IAs sustituyan a los políticos actuales.

Pero las aplicaciones de Watson, no terminan aquí:
El año pasado, una inteligencia artificial hizo de profesor de universidad sin que ningún alumno se diera cuenta que no era humana. Se trataba de una inteligencia artificial basada en Watson de IBM (como digo), que contestaba las preguntas de los usuarios.  Respondía con un lenguaje natural de forma atenta, considerada y efectiva. Parecía completamente humana, y era tan buena maestra, que hasta un alumno iba a nominarla como la mejor profesora de la universidad. Increíble, pero cierto.

Bien. Todo esto es tecnología que ya existe. No está todavía al alcance de cualquiera, cierto, pero es cuestión de tiempo que Watson (o algo similar), pueda ofrecer sus increíbles prestaciones a cualquier ciudadano (y nuestras vidas, podrían cambiar significativamente).
Imaginad toda esta tecnología en nuestros hogares...

Bien. Problemón a parte de todo lo dicho, son las llamadas Máquinas asesinas (como fueron bautizadas por Stephen Hawking hace un par de años), y se refería a máquinas autónomas independientes dotadas de inteligencia artificial (y más, si entran en la dinámica bélica).
Ya vimos en mi anterior vídeo-artículo, esos robots rusos autosuficientes capaces de moverse, disparar, esperar, etc, en función de su objetivo.
Esto es un problema. Pero el problema no es esa IA en sí (que no piensa y solo obedece), sino los humanos que las conciben para malos usos.

La IA como tal, solo podría ser peligrosa si adquiere conciencia y se mueve por motivaciones personales (y estamos a años luz de llegar a eso).
Lo que tenemos, lo que hay en realidad, son malas prácticas humanas que usan unas IAs completamente inconscientes, con fines peligrosos.
Pero repito, el peligro no viene actualmente de la IA, sino de nosotros. Del uso que le damos a unas máquinas inocentes, que solo hacen lo que les dices.
No sé si en realidad queremos (o podremos algún día), desarrollar una IA que tenga conciencia de existir y se mueva por emociones, sentimientos y motivaciones... Pero teniendo en cuenta la naturaleza humana, que pueda comportarse como nosotros... quizá no sea una buena idea.

Como dije en otro vídeo (situémonos en Alien: Covenant), tenemos que decidir qué tipo de máquinas pretendemos crear:  si algo humanizado tipo David (con sentimientos y emociones que lo hacen inestable y poco de fiar), o como Walter (un androide inteligente pero servicial, desprovisto de los altibajos emocionales).

¿Vosotros qué pensáis? ¿David o Walter? ¿Ambos?
¿Queremos máquinas que se comporten como humanos?
¿Nos podríamos  fiar de ellas?