¿Las máquinas se alzarán algún día contra nosotros?

[El_Doctor]

Admin, siempre nos quedara un futuro ciberpunk como ya describió magistralmente en sus novelas William Gibson; al fin y al cabo, en la actualidad ya se habla de implantes que reaccionan como si de una parte más de nuestro cuerpo se tratara, se pueden controlar los ordenadores con los impulsos eléctricos del cerebro y las grandes mega-corporaciones se están haciendo con el control de los países poco a poco comprando su deuda con esta crisis global que nos ataca. En cuanto seamos capaces de conectar nuestro cerebro a la red, el ciberpunk, bendito y maldito a la vez, nos habrá alcanzado y podremos decir, el futuro es ahora.
Creo, en mi modesta opinión, que la tecnificación de la humanidad es algo que llegara tarde o temprano, al fin y al cabo, el ser humano utilizara cualquier medio a su alcance para lograr su tan ansiada inmortalidad a sí que ¿Por qué no utilizar la tecnología en nuestro beneficio? Si cada vez más personas sustituyesen sus partes orgánicas por partes cibernéticas, ciertamente podrían ser ellos quienes decidiesen revelarse contra los humanos sin implantes bien porque estos les considerasen bichos raros y los marginasen, bien porque ellos considerasen inferiores a los humanos no cibernéticos. En cualquier caso, es un escenario plausible que podríamos discutir más detenidamente en otro post.

Proteo, lo de los Geth yo si lo veo viable, si bien es cierto que no tal y como se cuenta su historia en el videojuego Mass Effect (recomiendo que lo juguéis al que no lo haya hecho, es genial), si no con algunos cambios. Aun así ya vamos camino de ello: se está empezando a hablar de la creación de IAs semi-inteligentes para ayudarnos en las más complejas tareas científicas, así como la creación de poderosos procesadores con increíbles capacidades de cálculo. El sentido común debería de dictarnos que tanto las IAs como los Procesadores deberían de tener una inteligencia limitada para evitar problemas, pero nada nos impediría cometer un fallo de diseño o de calculo que les dotase de inteligencia ilimitada. Ciertamente un súper-ordenador con una IA inteligente y un súper-procesador, si están aislados, no es un problema grave, el problema sería que dicho súper-ordenador pudiese conectarse a otros y crear una red de procesado en paralelo que ampliase sus funciones de manera exponencial, con lo que se crearía un dios o demonio de terribles capacidades.
Esto, por supuesto, no tiene por qué significar que dicha IA alcance una plena consciencia de sí misma y, ni muchísimo menos, significaría que desease exterminar o esclavizar a la raza humana (como se muestra en tantas y tantas películas). No debemos de olvidar que, una de las razones que impiden (pero que también permitirían) que una IA acabase con la raza humana es muy clara: una inteligencia ilimitada no tiene por qué desembocar y/o desarrollar la conciencia en sí misma; dicho de forma mucho más sencilla, ser infinitamente inteligente no te convierte en un ser consciente de ti mismo.

Por otra parte, nunca he estado seguro al 100% de que las maquinas se revelasen contra la humanidad y si de que lo hiciese una parte de la humanidad ampliamente cibernetizada contra otra que no lo estuviese. Al fin y al cabo, y por muy literario o poético que pueda sonar, soy de los que piensan que mientras la humanidad ve en la maquina el secreto para lograr su ansiada inmortalidad, algo que desea por encima de todas las cosas y para lo que estaría dispuesta a realizar actos terribles; la maquina siempre vera en la humanidad su tan ansiada mortalidad pues, al fin y al cabo, siempre deseara vivir una vida mortal, con sus sentimientos y emociones, que una vida inmortal fría u calculada.
Ojo por que también podría darse el caso de que la humanidad acabase como los Cybermen (villanos de la serie del Doctor Who): cerebros humanos dentro de cuerpos cibernéticos, inmortales pero carentes de sentimientos o emociones y totalmente homogéneos tanto en su forma como en su pensamiento.

[proteo]

nada nos impediría cometer un fallo de diseño o de calculo que les dotase de inteligencia ilimitada.

Me extrañaría que un diseño defectuoso o de cálculo dotase de inteligencia ilimitada a las máquinas.Es un proceso muy complicaddo que requiere de gran inversión de conocimientos y factores muy complejos.

Ciertamente un súper-ordenador con una IA inteligente y un súper-procesador, si están aislados, no es un problema grave, el problema sería que dicho súper-ordenador pudiese conectarse a otros y crear una red de procesado en paralelo que ampliase sus funciones de manera exponencial, con lo que se crearía un dios o demonio de terribles capacidades.

Esto me recuerda a la notica de "Roboearth,una internet para robots" que puso borg en el portal> http://www.portalcienciayficcion.com...ra-robots.html

Esto, por supuesto, no tiene por qué significar que dicha IA alcance una plena consciencia de sí misma y, ni muchísimo menos, significaría que desease exterminar o esclavizar a la raza humana (como se muestra en tantas y tantas películas). No debemos de olvidar que, una de las razones que impiden (pero que también permitirían) que una IA acabase con la raza humana es muy clara: una inteligencia ilimitada no tiene por qué desembocar y/o desarrollar la conciencia en sí misma; dicho de forma mucho más sencilla, ser infinitamente inteligente no te convierte en un ser consciente de ti mismo.

Pero sin conciencia no hay intención.¿De que serviría ser condenadamente inteligente sin tener intenciones?No habría finalidad alguna en lo que haces,no tendrías ningún objetivo...¿Que comportamiento es ese?

Por otra parte, nunca he estado seguro al 100% de que las maquinas se revelasen contra la humanidad y si de que lo hiciese una parte de la humanidad ampliamente cibernetizada contra otra que no lo estuviese. Al fin y al cabo, y por muy literario o poético que pueda sonar, soy de los que piensan que mientras la humanidad ve en la maquina el secreto para lograr su ansiada inmortalidad, algo que desea por encima de todas las cosas y para lo que estaría dispuesta a realizar actos terribles; la maquina siempre vera en la humanidad su tan ansiada mortalidad pues, al fin y al cabo, siempre deseara vivir una vida mortal, con sus sentimientos y emociones, que una vida inmortal fría u calculada.

No estoy seguro que una IA consciente desee una vida mortal. ¿Que te hace pensar eso?

[El_Doctor]

Estimado Proteo, un fallo de diseño no significa que un diseño sea defectuoso. Por poner un ejemplo, el Tyrrell P34 fue un formula 1 diseñado en 1976 que tenía una particularidad que lo hizo muy famoso pero que constituye un fallo de diseño: poseía 6 ruedas, 2 en la parte trasera y 4 en la delantera. ¿porque es un fallo de diseño y no un diseño defectuoso? Pues, principalmente, por que el coche pudo competir, ganar una carrera y realizar algunos buenos resultados antes de darse cuenta que el futuro de la formula 1 no iba por ese camino. Si hubiese sido un diseño defectuoso, nunca habría abandonado la fabrica de la marca.

Lo que afirmo, es que una maquina tremendamente inteligente, no tiene por qué ser plenamente consciente. ¿Son los animales conscientes? Desde luego que lo son, de su entorno, de sus congéneres, de sus necesidades, pero… ¿son plenamente conscientes de su vida y de su realidad? ¿se preguntan quienes son, como son, porque son… ? Yo creo que no. Lo que quería explicar, y que no realice con la suficiente claridad, es que una maquina tremendamente inteligente sería capaz de ser consciente de que es una máquina, de que está confinada en un espacio determinado, de que necesita la electricidad como alimento, pero que en ningún momento se preguntaría quien es, cual es su meta en la vida, si existe un dios o cual es el sentido de su vida, cuestiones estas que, desde mi punto de vista, son fundamentales para ser plenamente consciente y, por extensión, ser humano.
En lo relativo a la falta de consciencia, los ordenadores no tienen consciencia alguna y, sin embargo, sirven a nuestros propósitos pues nos valemos de su inteligencia para complementar la nuestra añadiendo nuestra consciencia para lograr un propósito. Sin embargo, encadeno este punto al anterior: una plena consciencia sí que daría un propósito y un motivo a la vida, pero una consciencia no plena también daría motivos para una existencia así como una finalidad u objetivo, si bien nunca serian tan complejos y profundos como los de un ser humano plenamente consciente.

En cuanto al deseo de mortalidad de una IA plenamente consciente de sí misma, quizás haya hilado demasiado fino y por ello parezca más un argumento para una novela o película de Ci-Fi que para una charla como la que estamos teniendo aquí. Desde siempre, una parte de muy dentro de la humanidad ha ansiado la inmortalidad; pero no la que se obtiene por medio de las artes (pintura, escultura, escritura, cine, etc.) o de la historia (caudillos, emperadores, reyes, tiranos, etc.) si no la inmortalidad plena, esto es, la capacidad de burlar a la muerte para siempre. Desde el punto de vista humano solo hay dos formas posibles de hacerlo: una seria convertirse en un dios pero eso es, a día de hoy, imposible (independientemente de que los hombres ya sean inmortales, pero eso son cuestiones filosófico-religiosas que no viene al caso); la otra seria sustituir lo que nos hace mortales por algo que sea inmortal, esto es, cambiar nuestro cuerpo de carne y hueso finito por un cuerpo duradero y prácticamente infinito. Como lo más duradero que se conoce es una máquina bien mantenida, el hombre será maquina y, técnicamente, inmortal (aunque no sea nada más que un engaño); con esto engancho con el comentario de Admin que afirmaba la coexistencia de humanos, ciborgs y robots.
Si esto mismo lo extrapolamos a una IA plenamente consciente, veo perfectamente licito y lógico que una IA contenida en un espacio indeterminado (llamémoslo internet, ciberespacio, nube o como queramos), con un cuerpo mecánico aparentemente inmortal (nuevamente, llamémoslo torre de ordenador, nave industrial llena de ordenadores o como queramos) desee salir de su encarcelamiento siendo verdaderamente libre, algo que, por el momento, solo está al alcance de los seres humanos.

Proteo, me encanta este tipo de conversaciones tan entretenidas que mantenemos por aquí. No se tu, pero yo me lo estoy pasando pipa, jejejeje. Mis felicitaciones por tus aportes y/o comentarios.

[proteo]

En el reino animal observamos que los animales con mayor inteligencia son los que tienen más conciencia de existencia.No me entra en la mollera que pueda haber inteligencia sin conciencia.Aunque postulas que en la IA podría ser así,me cuenta de imaginar semejante situación...

Si esto mismo lo extrapolamos a una IA plenamente consciente, veo perfectamente licito y lógico que una IA contenida en un espacio indeterminado (llamémoslo internet, ciberespacio, nube o como queramos), con un cuerpo mecánico aparentemente inmortal (nuevamente, llamémoslo torre de ordenador, nave industrial llena de ordenadores o como queramos) desee salir de su encarcelamiento siendo verdaderamente libre, algo que, por el momento, solo está al alcance de los seres humanos.

Bueno de entrada admitimos,aquí sí,que la IA tiene plena conciencia de existencia.Si está atrapada en una red cibervirtual y descarga sus datos en cuerpos mecánicos aparentemente inmortales,ya posee la misma libertad que un ser humano pero sin fecha de caducidad.Esa libertad humana de la que hablas la tendría cualquier androide bien desarrollado.
Planteémoslo de este modo; ¿Que podría hacer un ser humano del siglo XXX que no pudiese hacer un androide mejorado? La libertad allí está para ambos; pensar, moverse, evolucionar...¿No crees tú que en el futuro tendiremos a cambiar nuestras piezas para vivir más? Si estás bien, sano, y eres feliz... ¿Quién desea morirse? Morirse ha de ser una opción,no ley de vida.Y aun quisieras morir,si profundizas nos daríamos cuenta que eso tendría que ver seguramente con un malestar interno e infelicidad.Porque nadie elige en plenas facultades suicidarse,más bien te suicidas por algo que te corroe...