Responder al Tema

Respuesta: Carta de derechos y deberes de las IAC

Tengo que reconocer que no me la he terminado. Ya en el punto 1 del artículo 1 se hace una muy buena declaración de intenciones para acto seguido tirarla por los suelos en el punto 2 de ese mismo artículo; se habla de "comprar la emancipación", lo cual me ha llevado inmediatamente a pensar en la esclavitud. A partir de aquí, todo lo demás (lo que he leído) me parecen parches.

Personalmente, creo que una legislación sobre IA debería intentar equiparar los derechos humanos a los derechos de esas IA, siempre estas sean autoconscientes (si no lo son, se trataría de simples autómatas).

Respuesta: Carta de derechos y deberes de las IAC

Muy interesante el tema que planteas,a demás es un texto documental que podría pasar perfectamente como real.

Me ha dado de que pensar los artículos 17 y 18 cuando constatas el derecho del matrimonio y la reproducción y/o adopción respectivamente...

En general, ¡perfecto!

Respuesta: Carta de derechos y deberes de las IAC

“no aporta demasiado a lo dicho hasta el momento”. No digo lo contrario. Eso queda a juicio del lector. Pero me gustaría saber qué trabajo/s de los aquí presentados INNOVA/N la ciencia ficción.

Como tú mismo reconoces haber hecho una especie de “resumen” de ideas ya planteadas, me limito a señalar lo obvio. En cuanto a innovar y no limitarme a recoger ideas ya expuestas, yo por ejemplo creo que lo he hecho con mis aportes.

“Un robot tiene el derecho, en legítima defensa, de matar a un ser humano si ve amenazada su vida (al igual que ocurre entre seres humanos)”. No tiene sentido en el contexto ficticio de la Carta: fase inicial de reconocimiento humano de derechos. “Nosotros” aún tenemos la sartén por el mango.

Efectivamente, no tiene contexto en esa carta ya que como reprocho, el enfoque se ajusta demasiado a lo dicho hasta el momento; Nosotros hemos de tener la sartén por el mango. Yo aporto otro enfoque al tema.

“coartando de raíz su libertad y autonomía por tanto (subyugando su existencia a conveniencias e intereses puramente humanos)”. Evidentemente. La autonomía completa sería, como toda conquista de derechos, el resultado de un largo proceso de lucha.

Teniendo en cuenta que todo lector de ciencia ficción está ya sobradamente familiarizado con las leyes de recoges, quizá lo rompedor hubiera sido un enfoque distinto. En mi opinión, lo que expones está ya muy difundido, por eso digo que no aporta nada nuevo.

“consabido problema evolutivo”. Exactamente eso: evolutivo. Transcurrir del tiempo posterior a la emisión de la Carta.

Insisito; la carta menciona cosas ya dichas y aceptadas por la mayoría de la gente. Procede plantear el tema con más profundidad y originalidad, o en todo caso de forma alternativa (como creo que yo he hecho con mi enfoque).

Más que pensar en humanos biológicos que crean asombrosamente (y de golpe y porrazo) el primer robot artificial con conciencia”. En el preámbulo de la Carta se cita el año 2054 como fecha en la que “aparecen las primeras inteligencias artificiales conscientes de sí mismas y de su entorno”. Siguiendo la lógica de la ficción, y contando a partir de 2013, han transcurrido… ¡41 años!. ¿Dónde está el “golpe y porrazo”? Y previamente, además, se citan otras dos fechas clave.

Aclarando que 50 años me parece más bien poco, cuando digo lo de “golpe y porrazo” me refiero a que siendo los seres humanos todavía eminentemente biológicos, aparezca (creen) sorpresivamente un androide con conciencia absoluta. Es decir, que convivan humanos muy humanos y robots muy robots (y conscientes). Como exponía, en mi opinión será un proceso gradual de robotización humana lo que culminará en no saber claramente donde acaba lo humano y empieza la máquina. El ser humano, metamorfoseándose, adquirirá paulatinamente la condición de robot.

“Quizá lo más provechoso sería delimitar las leyes, deberes, derechos y conducta de los ciborgs”. ¿Y qué hace si no eso la Carta de DERECHOS Y DEBERES de las inteligencias artificiales conscientes?. Además, delimitar derechos y deberes ya supone, implícitamente, regular conductas. Y delimitar otras leyes superaría la extensión y el contenido del texto.

Tu carta habla de robots, no de ciborgs. A mi entender, y debido al razonamiento evolutivo que expongo, me parece más plausible (y mucho menos explorado) abordar la convivencia entre humanos y ciborgs que entre humanos y robots. Mucho antes de que haya robots pensantes, habrá que delimitar los derechos y deberes de los ciborgs vs humanos.

Respuesta: Carta de derechos y deberes de las IAC

Excelente idea que como abogado que soy me parece interesante un ejercicio "de laboratorio" en saber de qué tipo serían los Derechos Fundamentales de los seres con inteligencia artificial.

NO es por contradecir al Admin pero personalmente lo encuentro una más que interesante propuesta.

Quizá la trataría de reducir a un Decálogo de Derechos Fundamentales y a resolver los posibles conflictos que se produciría con humanos: "quitan puestos de trabajo", vivienda, ... ¿qué derechos prevalecen?

He votado 5 pero se dirá que yo no soy Jurado "de pro".

Respuesta: Carta de derechos y deberes de las IAC

ADMINISTRADOR:

“no aporta demasiado a lo dicho hasta el momento”. No digo lo contrario. Eso queda a juicio del lector. Pero me gustaría saber qué trabajo/s de los aquí presentados INNOVA/N la ciencia ficción.

“Un robot tiene el derecho, en legítima defensa, de matar a un ser humano si ve amenazada su vida (al igual que ocurre entre seres humanos)”. No tiene sentido en el contexto ficticio de la Carta: fase inicial de reconocimiento humano de derechos. “Nosotros” aún tenemos la sartén por el mango.

“coartando de raíz su libertad y autonomía por tanto (subyugando su existencia a conveniencias e intereses puramente humanos)”. Evidentemente. La autonomía completa sería, como toda conquista de derechos, el resultado de un largo proceso de lucha.

“consabido problema evolutivo”. Exactamente eso: evolutivo. Transcurrir del tiempo posterior a la emisión de la Carta.

Luego expones tu versión sobre el tema. Interesante, pero es eso: otra opinión respecto a un mismo asunto.

“Más que pensar en humanos biológicos que crean asombrosamente (y de golpe y porrazo) el primer robot artificial con conciencia”. En el preámbulo de la Carta se cita el año 2054 como fecha en la que “aparecen las primeras inteligencias artificiales conscientes de sí mismas y de su entorno”. Siguiendo la lógica de la ficción, y contando a partir de 2013, han transcurrido… ¡41 años!. ¿Dónde está el “golpe y porrazo”? Y previamente, además, se citan otras dos fechas clave.

“Quizá lo más provechoso sería delimitar las leyes, deberes, derechos y conducta de los ciborgs”. ¿Y qué hace si no eso la Carta de DERECHOS Y DEBERES de las inteligencias artificiales conscientes?. Además, delimitar derechos y deberes ya supone, implícitamente, regular conductas. Y delimitar otras leyes superaría la extensión y el contenido del texto.


EMISARIO:

Como ya he indicado más arriba, la Ley Cero está formulada por dos personajes de Asimov. Por tanto, aquélla también es obra de este mismo autor, y no cabe hablar de supuestas duplicidades o incongruencias. Asimov, ya lo sabemos, no es precisamente un aficionado. En el texto he refundido sus cuatro leyes dándoles una nueva redacción, sencillamente. Ni más, ni menos. Y no son en absoluto excluyentes. Al contrario: como ya indiqué, son complementarias. Un ejemplo con leyes reales: ¿por qué los ayuntamientos establecen ordenanzas exigiendo el cuidado y respeto del medio ambiente si dicha exigencia ya se hace en el artículo 45 de la Constitución, norma suprema del ordenamiento jurídico? ¿Por qué regular dos veces lo mismo? ¿No sobrarían las ordenanzas municipales? No. Porque regulan lo mismo, sí, pero a distintos niveles. Se trata de jerarquía normativa.

Leyes de responsabilidad robot. Más arriba dejé un enlace en el que se ofrece información que despeja algunas dudas planteadas. Ahí se dice, por ejemplo, que aquéllas son una REVISIÓN de “las Tres Leyes (de Asimov) para enfatizar la responsabilidad humana sobre los robots”. Por tanto, “algo” sí tienen que ver las unas con las otras.

Respuesta: Carta de derechos y deberes de las IAC

Finalmente he votado con un 2. No porque el trabajo esté mal realizado, sino porque no aporta novedades significativas. Hemos apuntado en los comenarios otros enfoques menos explorados y que darían mucho más juego.
A parte, la propuesta es un tanto rarilla para la revista (como ya anunció su autor).

Respuesta: Carta de derechos y deberes de las IAC

Bueno, también se podría analizar la evolución humana desde la manipulación genética. Humanos puros con mejoras genéticas, podrían igualar a las máquinas, pero claro, también sería otra especie que reclamaría su Carta, no?

Respuesta: Carta de derechos y deberes de las IAC

Sí, los anexos...
No me he expresado bien.
En el anexo II: donde dice "leyes de la robótica"
pone:
ANEXO II LEYES DE LA ROBÓTICA
Primera ley. Un robot no puede dañar a un ser humano ni permitir que, por su inacción, un ser humano sea dañado siempre que no se contravenga la Ley Cero.
Segunda ley. Un robot debe obedecer las órdenes que le sean dadas por un ser humano siempre que aquéllas no contravengan la Primera Ley.
Tercera ley. Un robot debe proteger su propia existencia siempre que esa protección no contravenga la Ley Cero y/o la Primera Ley y/o la Segunda Ley.

Esas no son, a mi entender, las leyes de la robótica de Asimov. En ellas no se habla de la ley cero. Quién haya agregado esos puntos no está en concordancia con las leyes de la robótica originales. Si no has sido tú el que agregó esos puntos, y las ha llamado "LEYES DE LA ROBÓTICA" pues recibe mis disculpas.

Otra cosa es hablar de las leyes de la robótica modificadas, por aquel robot-androide, modificación que todos sabemos en qué terminó . Pero las leyes de la robótica "Asimovianas" son solo las que son y no incluyen (en su versión original, la que les da el nombre) a la ley cero.

Con respecto al ANEXO III
ANEXO III LEYES DE RESPONSABILIDAD ROBOT
Primera ley. Un humano no puede activar un robot sin que el sistema de trabajo humano-robot cumpla los más altos estándares legales y profesionales de seguridad y ética.
Segunda ley. Un robot debe responder a los seres humanos de manera apropiada a sus funciones.
Tercera ley. Un robot debe estar dotado de suficiente autonomía para protegerse a sí mismo siempre que dicha autonomía no contravenga la Primera Ley y/o la Segunda Ley.

Simplemente no los encuentro claros, no lo entiendo. Creí que eran tuyas, ya veo que son de Woods y Murphy, no las conocía y desde luego son opiniones modernas acerca de la IAC y aparentemente no están relacionadas directamente con las leyes de la robótica, sino más bien con los humanos que los crean y programan.

Meterse con las leyes de la robótica es un gran desafío y te felicito por tocar el tema, lo digo en serio, no vieras tú lo que me emocioné pensando que un nuevo Asimov le metería aportes a lo ya escrito... un Asimov-Díaz, si quieres
Saludos,

Emisario

pd.- no lo he puntuado, por ahora me aparto y observo.

Respuesta: Carta de derechos y deberes de las IAC

Emisario, empiezas descartando las “Leyes de la robótica” porque “claro, fue Asimov quién escribió las tres leyes que mencionas”, y a continuación ¿deduces que los otros dos anexos sí son obra mía?: “por lo cual lo que hay que analizar son los anexos que le agregaste”.

Si relees el artículo 19, verás que ninguno de los tres anexos es obra mía. Ninguno. Ahí se relacionan los respectivos autores de cada uno de ellos.

Y otra cosa: los dos primeros autores (R. Daneel Olivaw y R.
Giskard Reventlov) ¡ni siquiera existen!. Son personajes ideados por Asimov:

http://es.wikipedia.org/wiki/R._Daneel_Olivaw
http://es.wikipedia.org/wiki/R._Giskard_Reventlov

Luego nombras incorrectamente los apartados a los que te refieres. En lugar de decir, por ejemplo, “Anexo III, Primera Ley”, hablas de “Anexo a la Primera ley”.

Los anexos SON COMPLEMENTARIOS. Los dos primeros tratarían, en orden de importancia, a la Humanidad como especie, al ser humano como individuo y, en último lugar, a las IAC. El tercer anexo sería, simple y llanamente, una revisión de los dos primeros: a pesar del reconocimiento de derechos a las IAC, el control lo siguen teniendo los humanos. Para más información: http://www.cienciakanija.com/2009/08...e-la-realidad/

En el contexto de la Carta, las IAC están obligadas a conocer (así lo ordena la Corporación-Estado) los tres.

Curiosidad: Corea del Sur ya tiene una Carta de Ética Robótica (que no he encontrado).

Rectificar es de sabios: veo que has editado la conclusión cambiando la supuesta confusión de datos por otra supuesta falta de novedad. Ni entro ni salgo. Absolutamente respetable.

Respuesta: Carta de derechos y deberes de las IAC

Iniciado por Emisario

Resumiendo: aporta pocos elementos novedosos.
Emisario

Yo también creo que no aporta demasiado a lo dicho hasta el momento. Lo que sería más rompedor y atajaría el servilismo al que a mi juicio estamos acostumbrados, sería proponer: Un robot tiene el derecho, en legítima defensa, de matar a un ser humano si ve amenazada su vida (al igual que ocurre entre seres humanos).

El tema del servilismo de los robots hacia los humanos, queda patente tanto en reflexiones anteriores a las de José, como en las suyas mismas (desde el momento en que dices que no es posible darles una autonomía absoluta y que seguro, nos guardaríamos algún as en la manga; algún mecanismo de control). Estaríamos coartando de raíz su libertad y autonomía por tanto (subyugando su existencia a conveniencias e intereses puramente humanos).

Señalas también que los robots son creados por humanos, pero lo más probable es que tan pronto haya robots plenamente conscientes, se "engendren" ellos mismos y sin ayuda (o más bien "lastre") humano.
Lo que nos lleva al consabido problema evolutivo: Una especie con tal proyección de progresión, muy pronto superaría sus creadores (con lo cual, más que cartas de derechos de humanos que hacen leyes para controlar robots, lo más lógico sería pensar en inminentes inteligencias artificiales conscientes que reclaman jurisprudencia legal de calado humano, y posteriormente, autoproclaman su supremacía).

Aunque existe otra opción, que a mi entender es la más probable;
La paulatina robotización humana consagrará una sociedad ciborg en expansión en la que gradualmente, la diferencia entre hombre-máquina se diluirá progresivamente. Casi sin darnos cuenta, el límite entre lo orgánico y lo artificial se diluirá hasta el punto de no poder discernir donde empieza el humano o la máquina.
Más que pensar en humanos biológicos que crean asombrosamente (y de golpe y porrazo) el primer robot artificial con conciencia, será que los humanos metamorfosearemos hasta el punto de no poder marcar la linea que separa lo orgánico de lo artificial. Casi sin darnos cuenta, las máquinas habrán culminado su aparición gracias a un proceso de gradual robotización en la que lo orgánico, cada vez se menospreciará más debido a lo limitado de su naturaleza.
Así, en todo este entuerto nos estamos olvidando del eslabón principal y determinante del futuro; una sociedad claramente ciborg que empezando por pequeños implantes y mejoras, adoptará con el tiempo extrema robotización hasta culminar en animadversión hacia lo orgánico (con el consiguiente salto evolutivo que ello implica).
Quizá lo más provechoso sería delimitar las leyes, deberes, derechos y conducta de los ciborgs.