¿Las máquinas se alzarán algún día contra nosotros?

[El_Doctor]

En lo relativo a la rebelión de las maquinas, siempre me han gustado estas dos teorías que os comento a continuación:

Una nos da a entender que seremos nosotros los que hagamos que las maquinas nos esclavicen pues las crearemos para ayudarnos en nuestro trabajo, pero con el paso del tiempo las asignaremos mas y mas funciones hasta que nos daremos cuenta, un fatídico día, que son ellas las que controlan nuestra vida y nuestra existencia por nuestra propia inacción y vagancia. Lo más seguro es que no decidan exterminarnos, pero sí que querrán guiar nuestras vidas según las ordenes que las hayamos dado, controlando nuestra forma de vestir, que comemos, cuanto y donde trabajamos así como un largo sin fin de cosas de nuestra vida cotidiana. Resumiéndolo mucho, no encontraremos dentro de una especie de “guardería” en la que las maquinas trataran de mantener nuestra vida lo más estable posible; y, aunque eso pueda parecer bueno, cuando algo o alguien trata de mantener un Status Quo de manera indefinida, la libertad se resquebraja y empiezan a crecer las raíces del totalitarismo.

Otra teoría, explicada en el genial videojuego Mass Effect, nos cuenta algo muy parecido a la teoría anterior, pero con un final terrible y trágico: necesitados de ayuda en los trabajos más peligrosos, los Quarianos crearon a los Geth, unas maquinas dotadas con una primitiva inteligencia artificial que les permitía aprender la mejor manera de desempeñar su trabajo; el gran problema fue que, cuando 2 o más Geth se encontraban próximos, estos establecían conexiones neuronales entre ellos, por lo que su inteligencia aumentaba de manera exponencial. Para cuando los Quarianos trataron de reaccionar, fue ya muy tarde pues la conciencia de los Geth era tan elevada que lucharon y, finalmente, expulsaron a sus creadores de su mundo natal. Eso sí, en esta teoría se explica claramente que los Geth no son inteligentes ni por si solos ni en grupo, si no que tan solo procesan información. Resumiéndolo, cada Geth es una neurona, por lo que cuantos más se juntan, mas capacidad de cálculo y procesado tiene la IA de cada Geth; eso nos explica que sean simplemente maquinas incapaces de crear un cuadro, esculpir la piedra o mostrar sentimientos.

La verdad es que, pensar en un suceso así es, cuanto menos, inquietante…

[Admin]

Voy más por la primera a lo WALL.E, pero con tintes más dramáticos teniendo en cuenta la naturaleza humana… Quiero decir que si ya siendo todos humanos hay racismo y xenofobia, ni que pensar cuando convivan personas “puras”, con ciborgs , o androides totalmente sintéticos.

[proteo]

Lo de los Geth no lo veo claro, me parece demasiado peliculero. La primera opción si me parece más probable.Y como apunta borg,será una convivencia difícil......

[El_Doctor]

Admin, siempre nos quedara un futuro ciberpunk como ya describió magistralmente en sus novelas William Gibson; al fin y al cabo, en la actualidad ya se habla de implantes que reaccionan como si de una parte más de nuestro cuerpo se tratara, se pueden controlar los ordenadores con los impulsos eléctricos del cerebro y las grandes mega-corporaciones se están haciendo con el control de los países poco a poco comprando su deuda con esta crisis global que nos ataca. En cuanto seamos capaces de conectar nuestro cerebro a la red, el ciberpunk, bendito y maldito a la vez, nos habrá alcanzado y podremos decir, el futuro es ahora.
Creo, en mi modesta opinión, que la tecnificación de la humanidad es algo que llegara tarde o temprano, al fin y al cabo, el ser humano utilizara cualquier medio a su alcance para lograr su tan ansiada inmortalidad a sí que ¿Por qué no utilizar la tecnología en nuestro beneficio? Si cada vez más personas sustituyesen sus partes orgánicas por partes cibernéticas, ciertamente podrían ser ellos quienes decidiesen revelarse contra los humanos sin implantes bien porque estos les considerasen bichos raros y los marginasen, bien porque ellos considerasen inferiores a los humanos no cibernéticos. En cualquier caso, es un escenario plausible que podríamos discutir más detenidamente en otro post.

Proteo, lo de los Geth yo si lo veo viable, si bien es cierto que no tal y como se cuenta su historia en el videojuego Mass Effect (recomiendo que lo juguéis al que no lo haya hecho, es genial), si no con algunos cambios. Aun así ya vamos camino de ello: se está empezando a hablar de la creación de IAs semi-inteligentes para ayudarnos en las más complejas tareas científicas, así como la creación de poderosos procesadores con increíbles capacidades de cálculo. El sentido común debería de dictarnos que tanto las IAs como los Procesadores deberían de tener una inteligencia limitada para evitar problemas, pero nada nos impediría cometer un fallo de diseño o de calculo que les dotase de inteligencia ilimitada. Ciertamente un súper-ordenador con una IA inteligente y un súper-procesador, si están aislados, no es un problema grave, el problema sería que dicho súper-ordenador pudiese conectarse a otros y crear una red de procesado en paralelo que ampliase sus funciones de manera exponencial, con lo que se crearía un dios o demonio de terribles capacidades.
Esto, por supuesto, no tiene por qué significar que dicha IA alcance una plena consciencia de sí misma y, ni muchísimo menos, significaría que desease exterminar o esclavizar a la raza humana (como se muestra en tantas y tantas películas). No debemos de olvidar que, una de las razones que impiden (pero que también permitirían) que una IA acabase con la raza humana es muy clara: una inteligencia ilimitada no tiene por qué desembocar y/o desarrollar la conciencia en sí misma; dicho de forma mucho más sencilla, ser infinitamente inteligente no te convierte en un ser consciente de ti mismo.

Por otra parte, nunca he estado seguro al 100% de que las maquinas se revelasen contra la humanidad y si de que lo hiciese una parte de la humanidad ampliamente cibernetizada contra otra que no lo estuviese. Al fin y al cabo, y por muy literario o poético que pueda sonar, soy de los que piensan que mientras la humanidad ve en la maquina el secreto para lograr su ansiada inmortalidad, algo que desea por encima de todas las cosas y para lo que estaría dispuesta a realizar actos terribles; la maquina siempre vera en la humanidad su tan ansiada mortalidad pues, al fin y al cabo, siempre deseara vivir una vida mortal, con sus sentimientos y emociones, que una vida inmortal fría u calculada.
Ojo por que también podría darse el caso de que la humanidad acabase como los Cybermen (villanos de la serie del Doctor Who): cerebros humanos dentro de cuerpos cibernéticos, inmortales pero carentes de sentimientos o emociones y totalmente homogéneos tanto en su forma como en su pensamiento.

[proteo]

nada nos impediría cometer un fallo de diseño o de calculo que les dotase de inteligencia ilimitada.

Me extrañaría que un diseño defectuoso o de cálculo dotase de inteligencia ilimitada a las máquinas.Es un proceso muy complicaddo que requiere de gran inversión de conocimientos y factores muy complejos.

Ciertamente un súper-ordenador con una IA inteligente y un súper-procesador, si están aislados, no es un problema grave, el problema sería que dicho súper-ordenador pudiese conectarse a otros y crear una red de procesado en paralelo que ampliase sus funciones de manera exponencial, con lo que se crearía un dios o demonio de terribles capacidades.

Esto me recuerda a la notica de "Roboearth,una internet para robots" que puso borg en el portal> http://www.portalcienciayficcion.com...ra-robots.html

Esto, por supuesto, no tiene por qué significar que dicha IA alcance una plena consciencia de sí misma y, ni muchísimo menos, significaría que desease exterminar o esclavizar a la raza humana (como se muestra en tantas y tantas películas). No debemos de olvidar que, una de las razones que impiden (pero que también permitirían) que una IA acabase con la raza humana es muy clara: una inteligencia ilimitada no tiene por qué desembocar y/o desarrollar la conciencia en sí misma; dicho de forma mucho más sencilla, ser infinitamente inteligente no te convierte en un ser consciente de ti mismo.

Pero sin conciencia no hay intención.¿De que serviría ser condenadamente inteligente sin tener intenciones?No habría finalidad alguna en lo que haces,no tendrías ningún objetivo...¿Que comportamiento es ese?

Por otra parte, nunca he estado seguro al 100% de que las maquinas se revelasen contra la humanidad y si de que lo hiciese una parte de la humanidad ampliamente cibernetizada contra otra que no lo estuviese. Al fin y al cabo, y por muy literario o poético que pueda sonar, soy de los que piensan que mientras la humanidad ve en la maquina el secreto para lograr su ansiada inmortalidad, algo que desea por encima de todas las cosas y para lo que estaría dispuesta a realizar actos terribles; la maquina siempre vera en la humanidad su tan ansiada mortalidad pues, al fin y al cabo, siempre deseara vivir una vida mortal, con sus sentimientos y emociones, que una vida inmortal fría u calculada.

No estoy seguro que una IA consciente desee una vida mortal. ¿Que te hace pensar eso?

[El_Doctor]

Estimado Proteo, un fallo de diseño no significa que un diseño sea defectuoso. Por poner un ejemplo, el Tyrrell P34 fue un formula 1 diseñado en 1976 que tenía una particularidad que lo hizo muy famoso pero que constituye un fallo de diseño: poseía 6 ruedas, 2 en la parte trasera y 4 en la delantera. ¿porque es un fallo de diseño y no un diseño defectuoso? Pues, principalmente, por que el coche pudo competir, ganar una carrera y realizar algunos buenos resultados antes de darse cuenta que el futuro de la formula 1 no iba por ese camino. Si hubiese sido un diseño defectuoso, nunca habría abandonado la fabrica de la marca.

Lo que afirmo, es que una maquina tremendamente inteligente, no tiene por qué ser plenamente consciente. ¿Son los animales conscientes? Desde luego que lo son, de su entorno, de sus congéneres, de sus necesidades, pero… ¿son plenamente conscientes de su vida y de su realidad? ¿se preguntan quienes son, como son, porque son… ? Yo creo que no. Lo que quería explicar, y que no realice con la suficiente claridad, es que una maquina tremendamente inteligente sería capaz de ser consciente de que es una máquina, de que está confinada en un espacio determinado, de que necesita la electricidad como alimento, pero que en ningún momento se preguntaría quien es, cual es su meta en la vida, si existe un dios o cual es el sentido de su vida, cuestiones estas que, desde mi punto de vista, son fundamentales para ser plenamente consciente y, por extensión, ser humano.
En lo relativo a la falta de consciencia, los ordenadores no tienen consciencia alguna y, sin embargo, sirven a nuestros propósitos pues nos valemos de su inteligencia para complementar la nuestra añadiendo nuestra consciencia para lograr un propósito. Sin embargo, encadeno este punto al anterior: una plena consciencia sí que daría un propósito y un motivo a la vida, pero una consciencia no plena también daría motivos para una existencia así como una finalidad u objetivo, si bien nunca serian tan complejos y profundos como los de un ser humano plenamente consciente.

En cuanto al deseo de mortalidad de una IA plenamente consciente de sí misma, quizás haya hilado demasiado fino y por ello parezca más un argumento para una novela o película de Ci-Fi que para una charla como la que estamos teniendo aquí. Desde siempre, una parte de muy dentro de la humanidad ha ansiado la inmortalidad; pero no la que se obtiene por medio de las artes (pintura, escultura, escritura, cine, etc.) o de la historia (caudillos, emperadores, reyes, tiranos, etc.) si no la inmortalidad plena, esto es, la capacidad de burlar a la muerte para siempre. Desde el punto de vista humano solo hay dos formas posibles de hacerlo: una seria convertirse en un dios pero eso es, a día de hoy, imposible (independientemente de que los hombres ya sean inmortales, pero eso son cuestiones filosófico-religiosas que no viene al caso); la otra seria sustituir lo que nos hace mortales por algo que sea inmortal, esto es, cambiar nuestro cuerpo de carne y hueso finito por un cuerpo duradero y prácticamente infinito. Como lo más duradero que se conoce es una máquina bien mantenida, el hombre será maquina y, técnicamente, inmortal (aunque no sea nada más que un engaño); con esto engancho con el comentario de Admin que afirmaba la coexistencia de humanos, ciborgs y robots.
Si esto mismo lo extrapolamos a una IA plenamente consciente, veo perfectamente licito y lógico que una IA contenida en un espacio indeterminado (llamémoslo internet, ciberespacio, nube o como queramos), con un cuerpo mecánico aparentemente inmortal (nuevamente, llamémoslo torre de ordenador, nave industrial llena de ordenadores o como queramos) desee salir de su encarcelamiento siendo verdaderamente libre, algo que, por el momento, solo está al alcance de los seres humanos.

Proteo, me encanta este tipo de conversaciones tan entretenidas que mantenemos por aquí. No se tu, pero yo me lo estoy pasando pipa, jejejeje. Mis felicitaciones por tus aportes y/o comentarios.

[proteo]

En el reino animal observamos que los animales con mayor inteligencia son los que tienen más conciencia de existencia.No me entra en la mollera que pueda haber inteligencia sin conciencia.Aunque postulas que en la IA podría ser así,me cuenta de imaginar semejante situación...

Si esto mismo lo extrapolamos a una IA plenamente consciente, veo perfectamente licito y lógico que una IA contenida en un espacio indeterminado (llamémoslo internet, ciberespacio, nube o como queramos), con un cuerpo mecánico aparentemente inmortal (nuevamente, llamémoslo torre de ordenador, nave industrial llena de ordenadores o como queramos) desee salir de su encarcelamiento siendo verdaderamente libre, algo que, por el momento, solo está al alcance de los seres humanos.

Bueno de entrada admitimos,aquí sí,que la IA tiene plena conciencia de existencia.Si está atrapada en una red cibervirtual y descarga sus datos en cuerpos mecánicos aparentemente inmortales,ya posee la misma libertad que un ser humano pero sin fecha de caducidad.Esa libertad humana de la que hablas la tendría cualquier androide bien desarrollado.
Planteémoslo de este modo; ¿Que podría hacer un ser humano del siglo XXX que no pudiese hacer un androide mejorado? La libertad allí está para ambos; pensar, moverse, evolucionar...¿No crees tú que en el futuro tendiremos a cambiar nuestras piezas para vivir más? Si estás bien, sano, y eres feliz... ¿Quién desea morirse? Morirse ha de ser una opción,no ley de vida.Y aun quisieras morir,si profundizas nos daríamos cuenta que eso tendría que ver seguramente con un malestar interno e infelicidad.Porque nadie elige en plenas facultades suicidarse,más bien te suicidas por algo que te corroe...