Carta de derechos y deberes de las IAC [Archivo]

Ver la Versión Completa : Carta de derechos y deberes de las IAC

José Luis

14-Sep-2013, 17:00

Presento, ya lo avanzo, un trabajo “raro”. Se trata de un texto legal ficticio, de una “carta de derechos y deberes de las Inteligencias Artificiales Conscientes” siendo éstas la evolución de los robots convencionales: su naturaleza sintética vendría ahora complementada con una inteligencia y conciencia autónomas, semejantes en funcionamiento (pero superiores en capacidad) a la inteligencia y la conciencia humanas.

La Carta regularía esa doble vertiente de las IAC: la estrictamente mecánica y la racional inorgánica, equiparando, además, ésta última con la racionalidad, obviamente orgánica, de los humanos. En este sentido, la única diferencia entre unos y otros sería el material “de construcción”.

Está colgado en mi blog, y este es el enlace:

http://la-estanteria.webnode.es/news/inteligencia-artificial-consciente/

:saludo:

Blasero1

14-Sep-2013, 17:30

Buen trabajo. Muy interesante. La carta está planteada desde el interés humano, que regula la I.A en su favor. El día que una I.A. tenga conciencia, se plantean dos cuestiones:
-Negociaría su completa libertad e independencia del ser humano. Sin aceptar imposición alguna, habría una negociación previa por ambos bandos.
-Habrá una guerra, puesto que son superiores en todos los sentidos y conquistaría a la raza humana.
Enhorabuena por el escrito!!!!!!

Admin

14-Sep-2013, 18:00

Buenos apuntes blasero.
En mi opinión no es lo mismo una IA que simule conciencia (que es a la que se aplicarían esas normas más bien serviles), o una IA plenamente consciente que se proclama igual al ser humano (o incluso, y con el tiempo, superior), en cuyo caso atisbo ineludible confrontación.

José Luis

15-Sep-2013, 11:06

Me alegra que la Carta, en principio, interese y genere más o menos debate. Esa era la idea. Y surgen preguntas, en mi opinión, realmente atractivas. Por ejemplo, ¿una conciencia semejante a la humana en cuanto a funcionamiento, pero superior, incluso, en capacidad, sería menos “humana” por el hecho de no tener un mismo sustrato orgánico? ¿Dónde está la “humanidad”: en el “material de construcción” o en la propia conciencia? ¿Un robot consciente sería menos piadoso o más cruel, por ejemplo, que un humano también piadoso o cruel?

En cuanto a la negociación y el enfrentamiento, ambos serían inevitables. Ya se advierte en la introducción: “las relaciones humano-ciberconscientes serán un más que probable origen de conflictos haciéndose imprescindible su regulación legal”.

Conquista de la raza humana. Me cuesta creer que los humanos fuésemos tan ingenuos como para ceder, al menos en principio, autonomía absoluta a una nueva forma de inteligencia creada, al fin y al cabo, por nosotros mismos. Seguro que nos guardaríamos algún as en la manga, algún mecanismo de control.

Las normas de la Carta no se aplicarían a IA que simularan conciencia, sino a IA realmente conscientes. Se expresa claramente en la introducción (“¿Biológicos y sintéticos, AMBOS dotados de actividad subjetiva interior, aceptaríamos dicho documento?”) y en el preámbulo (“Año 2054. Aparecen las primeras inteligencias artificiales conscientes de sí mismas y de su entorno”).

En el contexto de la ficción, la Carta no es servil. Recordemos que la promulga la todopoderosa Corporación-Estado. Vendría a reconocer, es cierto, las reivindicaciones de las I.A.C. realizadas durante varios años (4). Volviendo a la cita del preámbulo, en 2054 aparecen las primeras IAC, y la Carta se publica y entra en vigor el 26 de noviembre de 2058. Ello supone todo un proceso de lucha social por parte de aquéllas. Las imagino (a pesar de los derechos ya conquistados) marginadas en suburbios, como los alienígenas de “Distrito 9”.

:saludo:

Blasero1

15-Sep-2013, 14:30

Distrito 9, muy original e inquietante. Los humanos mantienen presos a los extretarrestres; esa sería la pura y cruda realidad del contacto con otros seres pacíficos del espacio. Me vais a disculpar, pero trabajo cara al público y si las I.A son a imagen y semejanza del ser humano, serán de una estupidez infinitaaaaaaaaaaaaaaaaaa. Y si además toman cómo ejemplo la historia de nuestra civilización...uuufffffff, que Dios nos pille confesados. Para que halla paz, deberán estar sometidos, siempre en interés del humano. Vivir en armonía? Mucho debería cambiar la mentalidad humana, difícil. Siempre habrá excepciones, tanto de I.A como seres humanos de buena voluntad que quieran convivir en beneficio mutuo. Tema muy interesante. Temática muy desarrollada del anime. Quién sabe, si de aquí a unos años se perfeccionan las empresas de Criogénia, un cliente podría despertar un siglo después para comprobar el resultado de esta Carta con sus propios ojos!!

Emisario

15-Sep-2013, 15:10

Primera ley.
Un robot no puede dañar a un ser humano ni permitir que, por su inacción, un ser humano sea dañado siempre que no se contravenga la Ley Cero.

Segunda ley.
Un robot debe obedecer las órdenes que le sean dadas por un ser humano siempre que aquéllas no contravengan la Primera Ley.

Tercera ley.
Un robot debe proteger su propia existencia siempre que esa protección no contravenga la Ley Cero y/o la Primera Ley y/o la Segunda Ley.

ANEXO III LEYES DE RESPONSABILIDAD ROBOT
Primera ley.
Un humano no puede activar un robot sin que el sistema de trabajo humano-robot cumpla los más altos estándares legales y profesionales de seguridad y ética.
Segunda ley.
Un robot debe responder a los seres humanos de manera apropiada a sus funciones.
Tercera ley.
Un robot debe estar dotado de suficiente autonomía para protegerse a sí mismo siempre que dicha autonomía no contravenga la Primera Ley y/o la Segunda Ley.

Bueno, claro, fue Asimov quién escribió las tres leyes que mencionas, por lo cual lo que hay que analizar son los anexos que le agregaste.

Anexo a la Primera ley:
Habla de Activación de un Robot condicionada a la Seguridad y a la Ética. ¿Pero de quién? ¿Seguridad para el humano o para el robot o para la sociedad? Y en cuanto a la ética: ¿Significa no activar robots asesinos o ladrones? O no construirlos con partes robadas?, ¿a no activarlos sin programarles un código de conducta moral? No se entiende el avance ni la importancia de lo sugerido, al menos yo no la entiendo. La ley cero ya habla del cuidado de la humanidad, es decir la sociedad, tanto en sus aspectos físicos como éticos.

Anexo segunda ley:
Responder de manera apropiada a sus funciones: es decir según su especialidad, según para qué se construyó: parece lógico e implícito en la palabra "robot" no veo el avance.

Anexo tercera ley:
¿Robots armados? ¿A qué te refieres con "autonomía"? a que tenga capacidad de movimiento y energía de reserva suficiente? (lo que ya tienen que tener para ser llamado robot al estilo autómata humanoide, claro)
No le veo el punto extra a este anexo de la tercera ley, ya que la tercera ley se refiere al autocuidado del Robot, es decir, que no se exponga a situaciones que lo podrían llevar a la destrucción, a no ser que la 1 o 2 ley se le cruce en el camino. Y para eso necesita ser autónomo, solo restringido por las dos primeras leyes...

En cuanto a la primera y la tercera ley que has escrito aquí, has incluido la ley cero, es decir le has dado permiso para atacar a humanos y/o robots si es que la humanidad está en riesgo por causa de uno de ellos o de ambos...

En realidad la ley cero es una variación (amplificación) de una de las tres leyes originales. Esta ley, escrita más tardíamente, pone a la humanidad por encima del hombre individual. Aceptando entonces hacer ciertos "sacrificios" a las tres leyes en pos de la humanidad. (Bueno, ya hay referentes en cifi de aquello, ¿no? algo parecido a Terminator y tantos otros que le siguieron donde los robots se arman por el bien de la humanidad y terminan atacando al hombre...) Es por eso que no le veo el avance o la originalidad a la propuesta.

Ley cero:
Un robot no puede hacer daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.

Resumiendo: aporta pocos elementos novedosos.

Emisario

Blasero1

15-Sep-2013, 16:14

Y que tal una Carta redactada por la I.A, reclamando su derechos y obligaciones como nueva raza consciente?????

Admin

15-Sep-2013, 18:19

Resumiendo: aporta pocos elementos novedosos.
Emisario
Yo también creo que no aporta demasiado a lo dicho hasta el momento. Lo que sería más rompedor y atajaría el servilismo al que a mi juicio estamos acostumbrados, sería proponer: Un robot tiene el derecho, en legítima defensa, de matar a un ser humano si ve amenazada su vida (al igual que ocurre entre seres humanos).

El tema del servilismo de los robots hacia los humanos, queda patente tanto en reflexiones anteriores a las de José, como en las suyas mismas (desde el momento en que dices que no es posible darles una autonomía absoluta y que seguro, nos guardaríamos algún as en la manga; algún mecanismo de control). Estaríamos coartando de raíz su libertad y autonomía por tanto (subyugando su existencia a conveniencias e intereses puramente humanos).

Señalas también que los robots son creados por humanos, pero lo más probable es que tan pronto haya robots plenamente conscientes, se "engendren" ellos mismos y sin ayuda (o más bien "lastre") humano.
Lo que nos lleva al consabido problema evolutivo: Una especie con tal proyección de progresión, muy pronto superaría sus creadores (con lo cual, más que cartas de derechos de humanos que hacen leyes para controlar robots, lo más lógico sería pensar en inminentes inteligencias artificiales conscientes que reclaman jurisprudencia legal de calado humano, y posteriormente, autoproclaman su supremacía).

Aunque existe otra opción, que a mi entender es la más probable;
La paulatina robotización humana consagrará una sociedad ciborg en expansión en la que gradualmente, la diferencia entre hombre-máquina se diluirá progresivamente. Casi sin darnos cuenta, el límite entre lo orgánico y lo artificial se diluirá hasta el punto de no poder discernir donde empieza el humano o la máquina.
Más que pensar en humanos biológicos que crean asombrosamente (y de golpe y porrazo) el primer robot artificial con conciencia, será que los humanos metamorfosearemos hasta el punto de no poder marcar la linea que separa lo orgánico de lo artificial. Casi sin darnos cuenta, las máquinas habrán culminado su aparición gracias a un proceso de gradual robotización en la que lo orgánico, cada vez se menospreciará más debido a lo limitado de su naturaleza.
Así, en todo este entuerto nos estamos olvidando del eslabón principal y determinante del futuro; una sociedad claramente ciborg que empezando por pequeños implantes y mejoras, adoptará con el tiempo extrema robotización hasta culminar en animadversión hacia lo orgánico (con el consiguiente salto evolutivo que ello implica).
Quizá lo más provechoso sería delimitar las leyes, deberes, derechos y conducta de los ciborgs.

José Luis

15-Sep-2013, 19:28

Emisario, empiezas descartando las “Leyes de la robótica” porque “claro, fue Asimov quién escribió las tres leyes que mencionas”, y a continuación ¿deduces que los otros dos anexos sí son obra mía?: “por lo cual lo que hay que analizar son los anexos que le agregaste”.

Si relees el artículo 19, verás que ninguno de los tres anexos es obra mía. Ninguno. Ahí se relacionan los respectivos autores de cada uno de ellos.

Y otra cosa: los dos primeros autores (R. Daneel Olivaw y R.
Giskard Reventlov) ¡ni siquiera existen!. Son personajes ideados por Asimov:

http://es.wikipedia.org/wiki/R._Daneel_Olivaw
http://es.wikipedia.org/wiki/R._Giskard_Reventlov

Luego nombras incorrectamente los apartados a los que te refieres. En lugar de decir, por ejemplo, “Anexo III, Primera Ley”, hablas de “Anexo a la Primera ley”.

Los anexos SON COMPLEMENTARIOS. Los dos primeros tratarían, en orden de importancia, a la Humanidad como especie, al ser humano como individuo y, en último lugar, a las IAC. El tercer anexo sería, simple y llanamente, una revisión de los dos primeros: a pesar del reconocimiento de derechos a las IAC, el control lo siguen teniendo los humanos. Para más información: http://www.cienciakanija.com/2009/08/20/las-leyes-de-la-robotica-necesitan-la-comprobacion-de-la-realidad/

En el contexto de la Carta, las IAC están obligadas a conocer (así lo ordena la Corporación-Estado) los tres.

Curiosidad: Corea del Sur ya tiene una Carta de Ética Robótica (que no he encontrado).

Rectificar es de sabios: veo que has editado la conclusión cambiando la supuesta confusión de datos por otra supuesta falta de novedad. Ni entro ni salgo. Absolutamente respetable.

:saludo:

Emisario

15-Sep-2013, 21:02

Sí, los anexos...
No me he expresado bien.
En el anexo II: donde dice "leyes de la robótica"
pone:
ANEXO II LEYES DE LA ROBÓTICA
Primera ley. Un robot no puede dañar a un ser humano ni permitir que, por su inacción, un ser humano sea dañado siempre que no se contravenga la Ley Cero.
Segunda ley. Un robot debe obedecer las órdenes que le sean dadas por un ser humano siempre que aquéllas no contravengan la Primera Ley.
Tercera ley. Un robot debe proteger su propia existencia siempre que esa protección no contravenga la Ley Cero y/o la Primera Ley y/o la Segunda Ley.

Esas no son, a mi entender, las leyes de la robótica de Asimov. En ellas no se habla de la ley cero. Quién haya agregado esos puntos no está en concordancia con las leyes de la robótica originales. Si no has sido tú el que agregó esos puntos, y las ha llamado "LEYES DE LA ROBÓTICA" pues recibe mis disculpas.

Otra cosa es hablar de las leyes de la robótica modificadas, por aquel robot-androide, modificación que todos sabemos en qué terminó :xd:. Pero las leyes de la robótica "Asimovianas" son solo las que son y no incluyen (en su versión original, la que les da el nombre) a la ley cero.

Con respecto al ANEXO III
ANEXO III LEYES DE RESPONSABILIDAD ROBOT
Primera ley. Un humano no puede activar un robot sin que el sistema de trabajo humano-robot cumpla los más altos estándares legales y profesionales de seguridad y ética.
Segunda ley. Un robot debe responder a los seres humanos de manera apropiada a sus funciones.
Tercera ley. Un robot debe estar dotado de suficiente autonomía para protegerse a sí mismo siempre que dicha autonomía no contravenga la Primera Ley y/o la Segunda Ley.

Simplemente no los encuentro claros, no lo entiendo. Creí que eran tuyas, ya veo que son de Woods y Murphy, no las conocía y desde luego son opiniones modernas acerca de la IAC y aparentemente no están relacionadas directamente con las leyes de la robótica, sino más bien con los humanos que los crean y programan.

Meterse con las leyes de la robótica es un gran desafío y te felicito por tocar el tema, lo digo en serio, no vieras tú lo que me emocioné pensando que un nuevo Asimov le metería aportes a lo ya escrito... un Asimov-Díaz, si quieres :apunta:
Saludos,

Emisario

pd.- no lo he puntuado, por ahora me aparto y observo.

:fumando:

Blasero1

15-Sep-2013, 22:32

Bueno, también se podría analizar la evolución humana desde la manipulación genética. Humanos puros con mejoras genéticas, podrían igualar a las máquinas, pero claro, también sería otra especie que reclamaría su Carta, no?

Admin

17-Sep-2013, 01:48

Finalmente he votado con un 2. No porque el trabajo esté mal realizado, sino porque no aporta novedades significativas. Hemos apuntado en los comenarios otros enfoques menos explorados y que darían mucho más juego.
A parte, la propuesta es un tanto rarilla para la revista (como ya anunció su autor).
:saludo:

José Luis

22-Sep-2013, 10:25

ADMINISTRADOR:

“no aporta demasiado a lo dicho hasta el momento”. No digo lo contrario. Eso queda a juicio del lector. Pero me gustaría saber qué trabajo/s de los aquí presentados INNOVA/N la ciencia ficción.

“Un robot tiene el derecho, en legítima defensa, de matar a un ser humano si ve amenazada su vida (al igual que ocurre entre seres humanos)”. No tiene sentido en el contexto ficticio de la Carta: fase inicial de reconocimiento humano de derechos. “Nosotros” aún tenemos la sartén por el mango.

“coartando de raíz su libertad y autonomía por tanto (subyugando su existencia a conveniencias e intereses puramente humanos)”. Evidentemente. La autonomía completa sería, como toda conquista de derechos, el resultado de un largo proceso de lucha.

“consabido problema evolutivo”. Exactamente eso: evolutivo. Transcurrir del tiempo posterior a la emisión de la Carta.

Luego expones tu versión sobre el tema. Interesante, pero es eso: otra opinión respecto a un mismo asunto.

“Más que pensar en humanos biológicos que crean asombrosamente (y de golpe y porrazo) el primer robot artificial con conciencia”. En el preámbulo de la Carta se cita el año 2054 como fecha en la que “aparecen las primeras inteligencias artificiales conscientes de sí mismas y de su entorno”. Siguiendo la lógica de la ficción, y contando a partir de 2013, han transcurrido… ¡41 años!. ¿Dónde está el “golpe y porrazo”? Y previamente, además, se citan otras dos fechas clave.

“Quizá lo más provechoso sería delimitar las leyes, deberes, derechos y conducta de los ciborgs”. ¿Y qué hace si no eso la Carta de DERECHOS Y DEBERES de las inteligencias artificiales conscientes?. Además, delimitar derechos y deberes ya supone, implícitamente, regular conductas. Y delimitar otras leyes superaría la extensión y el contenido del texto.

EMISARIO:

Como ya he indicado más arriba, la Ley Cero está formulada por dos personajes de Asimov. Por tanto, aquélla también es obra de este mismo autor, y no cabe hablar de supuestas duplicidades o incongruencias. Asimov, ya lo sabemos, no es precisamente un aficionado. En el texto he refundido sus cuatro leyes dándoles una nueva redacción, sencillamente. Ni más, ni menos. Y no son en absoluto excluyentes. Al contrario: como ya indiqué, son complementarias. Un ejemplo con leyes reales: ¿por qué los ayuntamientos establecen ordenanzas exigiendo el cuidado y respeto del medio ambiente si dicha exigencia ya se hace en el artículo 45 de la Constitución, norma suprema del ordenamiento jurídico? ¿Por qué regular dos veces lo mismo? ¿No sobrarían las ordenanzas municipales? No. Porque regulan lo mismo, sí, pero a distintos niveles. Se trata de jerarquía normativa.

Leyes de responsabilidad robot. Más arriba dejé un enlace en el que se ofrece información que despeja algunas dudas planteadas. Ahí se dice, por ejemplo, que aquéllas son una REVISIÓN de “las Tres Leyes (de Asimov) para enfatizar la responsabilidad humana sobre los robots”. Por tanto, “algo” sí tienen que ver las unas con las otras.

:saludo:

oriafontan

22-Sep-2013, 10:40

Excelente idea que como abogado que soy me parece interesante un ejercicio "de laboratorio" en saber de qué tipo serían los Derechos Fundamentales de los seres con inteligencia artificial.

NO es por contradecir al Admin pero personalmente lo encuentro una más que interesante propuesta.

Quizá la trataría de reducir a un Decálogo de Derechos Fundamentales y a resolver los posibles conflictos que se produciría con humanos: "quitan puestos de trabajo", vivienda, ... ¿qué derechos prevalecen?

He votado 5 pero se dirá que yo no soy Jurado "de pro". :ejemje:

Admin

22-Sep-2013, 14:07

“no aporta demasiado a lo dicho hasta el momento”. No digo lo contrario. Eso queda a juicio del lector. Pero me gustaría saber qué trabajo/s de los aquí presentados INNOVA/N la ciencia ficción. Como tú mismo reconoces haber hecho una especie de “resumen” de ideas ya planteadas, me limito a señalar lo obvio. En cuanto a innovar y no limitarme a recoger ideas ya expuestas, yo por ejemplo creo que lo he hecho con mis aportes.

“Un robot tiene el derecho, en legítima defensa, de matar a un ser humano si ve amenazada su vida (al igual que ocurre entre seres humanos)”. No tiene sentido en el contexto ficticio de la Carta: fase inicial de reconocimiento humano de derechos. “Nosotros” aún tenemos la sartén por el mango. Efectivamente, no tiene contexto en esa carta ya que como reprocho, el enfoque se ajusta demasiado a lo dicho hasta el momento; Nosotros hemos de tener la sartén por el mango. Yo aporto otro enfoque al tema.

“coartando de raíz su libertad y autonomía por tanto (subyugando su existencia a conveniencias e intereses puramente humanos)”. Evidentemente. La autonomía completa sería, como toda conquista de derechos, el resultado de un largo proceso de lucha. Teniendo en cuenta que todo lector de ciencia ficción está ya sobradamente familiarizado con las leyes de recoges, quizá lo rompedor hubiera sido un enfoque distinto. En mi opinión, lo que expones está ya muy difundido, por eso digo que no aporta nada nuevo.

“consabido problema evolutivo”. Exactamente eso: evolutivo. Transcurrir del tiempo posterior a la emisión de la Carta. Insisito; la carta menciona cosas ya dichas y aceptadas por la mayoría de la gente. Procede plantear el tema con más profundidad y originalidad, o en todo caso de forma alternativa (como creo que yo he hecho con mi enfoque).

Más que pensar en humanos biológicos que crean asombrosamente (y de golpe y porrazo) el primer robot artificial con conciencia”. En el preámbulo de la Carta se cita el año 2054 como fecha en la que “aparecen las primeras inteligencias artificiales conscientes de sí mismas y de su entorno”. Siguiendo la lógica de la ficción, y contando a partir de 2013, han transcurrido… ¡41 años!. ¿Dónde está el “golpe y porrazo”? Y previamente, además, se citan otras dos fechas clave.Aclarando que 50 años me parece más bien poco, cuando digo lo de “golpe y porrazo” me refiero a que siendo los seres humanos todavía eminentemente biológicos, aparezca (creen) sorpresivamente un androide con conciencia absoluta. Es decir, que convivan humanos muy humanos y robots muy robots (y conscientes). Como exponía, en mi opinión será un proceso gradual de robotización humana lo que culminará en no saber claramente donde acaba lo humano y empieza la máquina. El ser humano, metamorfoseándose, adquirirá paulatinamente la condición de robot.

“Quizá lo más provechoso sería delimitar las leyes, deberes, derechos y conducta de los ciborgs”. ¿Y qué hace si no eso la Carta de DERECHOS Y DEBERES de las inteligencias artificiales conscientes?. Además, delimitar derechos y deberes ya supone, implícitamente, regular conductas. Y delimitar otras leyes superaría la extensión y el contenido del texto. Tu carta habla de robots, no de ciborgs. A mi entender, y debido al razonamiento evolutivo que expongo, me parece más plausible (y mucho menos explorado) abordar la convivencia entre humanos y ciborgs que entre humanos y robots. Mucho antes de que haya robots pensantes, habrá que delimitar los derechos y deberes de los ciborgs vs humanos.

incursora

23-Sep-2013, 17:24

Muy interesante el tema que planteas,a demás es un texto documental que podría pasar perfectamente como real.

Me ha dado de que pensar los artículos 17 y 18 cuando constatas el derecho del matrimonio y la reproducción y/o adopción respectivamente... :Oo:

En general, ¡perfecto! :03:

Nieves Delgado

23-Oct-2013, 18:42

Tengo que reconocer que no me la he terminado. Ya en el punto 1 del artículo 1 se hace una muy buena declaración de intenciones para acto seguido tirarla por los suelos en el punto 2 de ese mismo artículo; se habla de "comprar la emancipación", lo cual me ha llevado inmediatamente a pensar en la esclavitud. A partir de aquí, todo lo demás (lo que he leído) me parecen parches.

Personalmente, creo que una legislación sobre IA debería intentar equiparar los derechos humanos a los derechos de esas IA, siempre estas sean autoconscientes (si no lo son, se trataría de simples autómatas).