Botón rojo para apagar la IA... ¿Hay que temerla?

[Admin]

Botón rojo para apagar la IA... ¿Hay que temerla?
Llegará un momento en el que las máquinas superarán la inteligencia de los humanos y estos deberán contar con un sistema de prevención para poder interrumpirlas. No es otro guión de película de ciencia ficción, sino la hipótesis de la que parte un estudio realizado por Deep Mind, la empresa de Google especializada en inteligencia artificial, y el Instituto para el Futuro de la Humanidad de la Universidad de Oxford. Ambas empresas han desarrollado de forma conjunta un “gran botón rojo” de emergencia para tener controladas las máquinas (por si las moscas).
Los expertos en inteligencia artificial calculan que hay un 90% de posibilidades de que entre 2075 y 2090, haya máquinas tan inteligentes como los humanos.
Hasta ahora solo nos hemos preguntado cómo nos protegemos de las máquinas (como en la famosas leyes de Asimov), pero si hay algo que nos muestra la película Chappie, también es plantearse cómo proteger de la humanidad a esas máquinas conscientes que podemos crear.

[nekoland]

[URL="http://www.portalcienciayficcion.com/index.php/component/content/article/35-ia/2008-boton-rojo-para-apagar-la-ia-ihay-que-temerla.html"]Botón rojo para apagar la IA... ¿Hay que temerla?

Seamos claros... a estas alturas la inteligencia artificial ya supera a más de uno que yo conozco... y a esos sí que vendría bien tener un botón rojo para apagalos de vez en cuando. Quizás la pregunta sería si la inteligencia artificial nos volverá más tontos, de la misma manera que la calculadora nos volvió un poco "menos ágiles en los procesos matemáticos". (Ideocracia)

[Vilain]

En mi opinion las IAs (aun con autopercepcion, sentimientos y deseos propios) no tienen porque ser nocivas, ni "malvadas", siempre y cuando sean programadas con responsabilidad.

Ahora, que si ya son como los chatbots de internet "y aprenden" de todo el mundo... pues ese chatbot de Microsoft ya dejo bien claro lo que pasar, ¿no?


Ahora un par de bocadillos.

La singularidad no es la "union del ser humano con la tecnologia" (mas alla de que no se si lo dijo Kurzweil o es una definicion tuya), pero en cualquier caso la denominacion de singularidad comunmente aceptada es la capacidad que se presume tendran las IAs una vez que lleguen a ser mas inteligentes que nosotros, para mejorarse y reprogramarse a si mismas (asi como de crear crear otras IAs aun mas potentes).

Si es cierto que muchos piensan que a causa de la singularidad se podra establecer una muy fuerte "union del ser humano con la tecnologia", pero de todos modos no es lo mismo

https://es.wikipedia.org/wiki/Singularidad_tecnológica

http://www.bbc.com/mundo/noticias/20...ridad_finde_dv


Por cierto, lo de que en el futuro "nuestra inteligencia no radicara fundamentalmente en nuestras cabezas biológicas, sino en el gigantesco sistema al que estaremos conectados"... ¿es solo una idea tuya muy extravagante o se basa en algo? Perdon si sueno brusco, pero que digas ese tipo de cosas sin decir de donde las sacas me parece que no cuela. Igualmente da igual, porque es un planteamiento bastante ridiculo, sea de quien sea.

O al menos yo no voy a conectar mi consciencia a ningun fucking sistema

Pero en serio; siendo que te esfuerzas en los videos -lo cual es notorio- y que a veces tratas temas complejos de maneras interesantes, no se como otras veces nos tiras fantasias asi. Perdona si soy brusco, pero no hay otra forma de calificar eso.

Es lo mismo que cuando en otro video dices que el problema de los asteroides no es crucial porque estamos "muy cerca" de la conquista espacial. Pero, ¿es que tu prendes la tv y ves que estamos lanzando naves, o algo por el estilo? La verdad, no entiendo que mundo estas viendo cuando dices eso, porque esta claro que para la conquista espacial -si es que llegamos a hacerla- faltan decadas y decadas y decadas. Muchas cosas podrian retrasarnos, y aun sin retrasos, puede que tardemos siglos en ir mas alla de Marte.... y sobre Marte justamente todavia estamos viendo cuando pondremos un humano por primera vez alli, ¿y tu dices que ya estamos cerca de la conquista del espacio? Hombre, que optimista

Seamos claros... a estas alturas la inteligencia artificial ya supera a más de uno que yo conozco...

Ante esto cabe una pregunta: ¿se puede considerar como "inteligencia" artificial a un programa que solo es un algoritmo que se ejecuta del mismo modo que otro algoritmo de cualquier otro programa, y que no tiene ningun tipo de consciencia, y por tanto tampoco ninguna forma de autopercepcion, ni de volicion (deseo, intencion, motivacion)?

Para mi mientras no tengan cuanto menos autopercepcion, solo son algoritmos. Es solo un programa.

Y si por poder ejecutar los pasos de un algoritmo, es una inteligencia artificial, entonces cualquier programa es una inteligencia artificial tambien.

Creo que hay mas marketing que otra cosas en llamar "inteligencia artificial" a Watson y demas programas.


De hecho, no es nada seguro que una maquina logre desarrollar alguna vez la capacidad de "desear", y sin ello, es dificil imaginar que intente algo contra nosotros.

[Vilain]

He descubierto un hermoso dato:

Ya averigue quien dijo esto de que nuestras consciencias estaran conectadas a un macro sistema: Evgeny Morozov, ¡quien lo dijo de una manera critica! (mientras que en el video... no se percibe matiz critico alguno al mencionarse esta hipotesis).

Asi pues, el hecho es que Morozov no quiere que esto pase. Ha publicado recientemente un libro llamado: ‘La locura del solucionismo tecnológico’.

http://elpais.com/elpais/2015/12/17/...50_362012.html


Una acotacion mas: NADIE con dos dedos de frente pensaria en conectar su consciencia (resida esta en donde resida) a un macro-sistema informatico al que se pretenda que todos estemos conectados.

¿Por que? Creo que es mas que obvio: quien tenga control y/o poder sobre ese teorico macro-sistema, tendria un inmenso poder sobre las mentes conectadas, excatamente igual que como la NSA controla la internet actual. A ver, ¿es tan dificil percatarse de eso?

La verdad que estas cosas realmente me enojan.¿Es que acaso no se sabe en que mundo vivimos? ¿que esto, el mundo real o un mundo de disney? ¿¡quien puede asegurarte que seran buenas personas quienes regulen ese macro-sistema!?