PDA

Ver la Versión Completa : Google teme una posible rebelión de su IA



Admin
11-Jun-2016, 21:03
:apunta: Google teme una posible rebelión de su IA (http://www.portalcienciayficcion.com/index.php/component/content/article/35-ia/1889-google-teme-una-posible-rebelion-de-su-ia.html)
Hasta ahora, los sistemas de Inteligencia Artificial han aprendido a partir del procesamiento de enormes cantidades de datos. Pero una empresa de San Francisco ya está trabajando en el desarrollo de la imaginación, para estos sistemas.
La idea de futuras máquinas con imaginación, puede poner los pelos de punta a más de uno, pero no hay que ir tan lejos para empezar a alertarse desde ya.
O al menos, eso es lo que piensan los de google, que parece que empiezan a temer el potencial de sus máquinas.
En vista de sus últimos logros, parece que están empezando a preocuparse, y ya preparan un protocolo de seguridad por si su Inteligencia Artificial Deep Mind, tuviera un mal funcionamiento e hiciera caso omiso a las órdenes humanas.

<iframe width="640" height="360" src="https://www.youtube.com/embed/10NrF-15fFg" frameborder="0" allowfullscreen></iframe>

Vilain
04-Jul-2016, 21:19
Sobre esto, me permito ser bastante escéptico.

Soy un programador novato, y con eso me basta para haber perdido la sensacion de "fantasia"que muchos asocian a la informatica. Muchos, directamente, la toman como si fuera magia. Por eso es tan facil sentise sobrecogido por teorias asi. Pero la realidad es bastante mas agreste.

No digo que una "revolucion de las maquinas" no pueda ocurrir. Quizas pueda, pero lo que si digo es que es mucho mas dificil de lo que la mayoria imagina.

Para empezar, es falso cuando se habla de IAs, al menos en el sentido estricto del termino, porque las IAs no existen (que se sepa publicamente). Cuando se dice que un videojuego tiene mejor o peor "IA", es una licencia poetica, en realidad tiene mejor o peor programados sus algoritmos... a eso se le llama "IA", pero solo son una serie de pasos escritos por programadores, que hacen esto u aquello en tanto se cumpla el valor de tal o cual variable. Eso no es inteligencia, es solo una seleccion ciega, una serie de pasos y procesos que se van ejecutando. Pero no hay una "entidad" en eso... o si la hay, ningun programador lo ha notado jaja :xd: (que se sepa publicamente).

En fin, al menos en programas normales (el photoshop, un videojuego o un bot de chateo por internet), les puedo asegurar que no hay ninguna "inteligencia artificial" en ellos. Solo es algo asi como una lista de compras que se ejecuta paso a paso. Dice, ve y compra tomates. Si hay tomates, sigue y compra duraznos. Pero si no hay tomates, ve y busca en otro negocio... Solo son pasos definidos por un programador. Las computadoras, los programas, son absolutamente "tontos". No saben ni entienden nada, no tienen percepcion ni mucho menos autopercepcion, y en lo que nos superan, es en que ejecutan procesos a una velocidad adrenalinica. Pero, el hecho de que una mallamada IA venza a un campeon de ajedrez, solo significa que los programadores escribieron muy bien los algoritmos. No es que el programa "piense".

Y si una de estas supuestas "IAs" mañana "se rebela", solo estara ejecutando un error de codigo, producto de una errata de su programador. No se trata de que un ser "con conciencia" y con "voluntad/deseo" decida rebelarse.

Ahora bien, como ya dije, no descarto que eso pueda pasar. Es cuestion supongo de que un algoritmo sea tan complejo, que se parezca mas a una red neuronal, que permita finalmente que una vez que se ejecuten los algoritmos, mas que de programa, hablemos de una mente. Y es que el cerebro, el adn y todo eso, es como una super estructura de miles de millones de algoritmos.

Y el hecho de que la eventual IA pudiera automejorarse, como menciona el video, es fundamental.

Pero, para finalizar, puede que suene muy teorico de la conspiracion, pero sospecho que este "miedo" de los de google a que su "IA" se les vaya de las manos, igual que la otra supuesta "IA" de microsoft que aprendio insultos nazis, son en gran medida nada mas que una campaña publicitaria para promocionarse y hacer parecer a las masas que tienen el fuego de Prometeo en sus manos y son sensacionales, inmensos y debemos rendirles pleitesia e impresionarnos ante ellos... y comprar sus productos, sobre todo eso. Yo me quedo en el escepticismo.