Carta de derechos y deberes de las IAC

[José Luis]

Presento, ya lo avanzo, un trabajo “raro”. Se trata de un texto legal ficticio, de una “carta de derechos y deberes de las Inteligencias Artificiales Conscientes” siendo éstas la evolución de los robots convencionales: su naturaleza sintética vendría ahora complementada con una inteligencia y conciencia autónomas, semejantes en funcionamiento (pero superiores en capacidad) a la inteligencia y la conciencia humanas.

La Carta regularía esa doble vertiente de las IAC: la estrictamente mecánica y la racional inorgánica, equiparando, además, ésta última con la racionalidad, obviamente orgánica, de los humanos. En este sentido, la única diferencia entre unos y otros sería el material “de construcción”.

Está colgado en mi blog, y este es el enlace:

http://la-estanteria.webnode.es/news...al-consciente/

[Blasero1]

Buen trabajo. Muy interesante. La carta está planteada desde el interés humano, que regula la I.A en su favor. El día que una I.A. tenga conciencia, se plantean dos cuestiones:
-Negociaría su completa libertad e independencia del ser humano. Sin aceptar imposición alguna, habría una negociación previa por ambos bandos.
-Habrá una guerra, puesto que son superiores en todos los sentidos y conquistaría a la raza humana.
Enhorabuena por el escrito!!!!!!

[Admin]

Buenos apuntes blasero.
En mi opinión no es lo mismo una IA que simule conciencia (que es a la que se aplicarían esas normas más bien serviles), o una IA plenamente consciente que se proclama igual al ser humano (o incluso, y con el tiempo, superior), en cuyo caso atisbo ineludible confrontación.

[José Luis]

Me alegra que la Carta, en principio, interese y genere más o menos debate. Esa era la idea. Y surgen preguntas, en mi opinión, realmente atractivas. Por ejemplo, ¿una conciencia semejante a la humana en cuanto a funcionamiento, pero superior, incluso, en capacidad, sería menos “humana” por el hecho de no tener un mismo sustrato orgánico? ¿Dónde está la “humanidad”: en el “material de construcción” o en la propia conciencia? ¿Un robot consciente sería menos piadoso o más cruel, por ejemplo, que un humano también piadoso o cruel?

En cuanto a la negociación y el enfrentamiento, ambos serían inevitables. Ya se advierte en la introducción: “las relaciones humano-ciberconscientes serán un más que probable origen de conflictos haciéndose imprescindible su regulación legal”.

Conquista de la raza humana. Me cuesta creer que los humanos fuésemos tan ingenuos como para ceder, al menos en principio, autonomía absoluta a una nueva forma de inteligencia creada, al fin y al cabo, por nosotros mismos. Seguro que nos guardaríamos algún as en la manga, algún mecanismo de control.

Las normas de la Carta no se aplicarían a IA que simularan conciencia, sino a IA realmente conscientes. Se expresa claramente en la introducción (“¿Biológicos y sintéticos, AMBOS dotados de actividad subjetiva interior, aceptaríamos dicho documento?”) y en el preámbulo (“Año 2054. Aparecen las primeras inteligencias artificiales conscientes de sí mismas y de su entorno”).

En el contexto de la ficción, la Carta no es servil. Recordemos que la promulga la todopoderosa Corporación-Estado. Vendría a reconocer, es cierto, las reivindicaciones de las I.A.C. realizadas durante varios años (4). Volviendo a la cita del preámbulo, en 2054 aparecen las primeras IAC, y la Carta se publica y entra en vigor el 26 de noviembre de 2058. Ello supone todo un proceso de lucha social por parte de aquéllas. Las imagino (a pesar de los derechos ya conquistados) marginadas en suburbios, como los alienígenas de “Distrito 9”.

[Blasero1]

Distrito 9, muy original e inquietante. Los humanos mantienen presos a los extretarrestres; esa sería la pura y cruda realidad del contacto con otros seres pacíficos del espacio. Me vais a disculpar, pero trabajo cara al público y si las I.A son a imagen y semejanza del ser humano, serán de una estupidez infinitaaaaaaaaaaaaaaaaaa. Y si además toman cómo ejemplo la historia de nuestra civilización...uuufffffff, que Dios nos pille confesados. Para que halla paz, deberán estar sometidos, siempre en interés del humano. Vivir en armonía? Mucho debería cambiar la mentalidad humana, difícil. Siempre habrá excepciones, tanto de I.A como seres humanos de buena voluntad que quieran convivir en beneficio mutuo. Tema muy interesante. Temática muy desarrollada del anime. Quién sabe, si de aquí a unos años se perfeccionan las empresas de Criogénia, un cliente podría despertar un siglo después para comprobar el resultado de esta Carta con sus propios ojos!!

[Emisario]

Primera ley.
Un robot no puede dañar a un ser humano ni permitir que, por su inacción, un ser humano sea dañado siempre que no se contravenga la Ley Cero.

Segunda ley.
Un robot debe obedecer las órdenes que le sean dadas por un ser humano siempre que aquéllas no contravengan la Primera Ley.

Tercera ley.
Un robot debe proteger su propia existencia siempre que esa protección no contravenga la Ley Cero y/o la Primera Ley y/o la Segunda Ley.

ANEXO III LEYES DE RESPONSABILIDAD ROBOT
Primera ley.
Un humano no puede activar un robot sin que el sistema de trabajo humano-robot cumpla los más altos estándares legales y profesionales de seguridad y ética.
Segunda ley.
Un robot debe responder a los seres humanos de manera apropiada a sus funciones.
Tercera ley.
Un robot debe estar dotado de suficiente autonomía para protegerse a sí mismo siempre que dicha autonomía no contravenga la Primera Ley y/o la Segunda Ley.



Bueno, claro, fue Asimov quién escribió las tres leyes que mencionas, por lo cual lo que hay que analizar son los anexos que le agregaste.

Anexo a la Primera ley:
Habla de Activación de un Robot condicionada a la Seguridad y a la Ética. ¿Pero de quién? ¿Seguridad para el humano o para el robot o para la sociedad? Y en cuanto a la ética: ¿Significa no activar robots asesinos o ladrones? O no construirlos con partes robadas?, ¿a no activarlos sin programarles un código de conducta moral? No se entiende el avance ni la importancia de lo sugerido, al menos yo no la entiendo. La ley cero ya habla del cuidado de la humanidad, es decir la sociedad, tanto en sus aspectos físicos como éticos.

Anexo segunda ley:
Responder de manera apropiada a sus funciones: es decir según su especialidad, según para qué se construyó: parece lógico e implícito en la palabra "robot" no veo el avance.

Anexo tercera ley:
¿Robots armados? ¿A qué te refieres con "autonomía"? a que tenga capacidad de movimiento y energía de reserva suficiente? (lo que ya tienen que tener para ser llamado robot al estilo autómata humanoide, claro)
No le veo el punto extra a este anexo de la tercera ley, ya que la tercera ley se refiere al autocuidado del Robot, es decir, que no se exponga a situaciones que lo podrían llevar a la destrucción, a no ser que la 1 o 2 ley se le cruce en el camino. Y para eso necesita ser autónomo, solo restringido por las dos primeras leyes...

En cuanto a la primera y la tercera ley que has escrito aquí, has incluido la ley cero, es decir le has dado permiso para atacar a humanos y/o robots si es que la humanidad está en riesgo por causa de uno de ellos o de ambos...

En realidad la ley cero es una variación (amplificación) de una de las tres leyes originales. Esta ley, escrita más tardíamente, pone a la humanidad por encima del hombre individual. Aceptando entonces hacer ciertos "sacrificios" a las tres leyes en pos de la humanidad. (Bueno, ya hay referentes en cifi de aquello, ¿no? algo parecido a Terminator y tantos otros que le siguieron donde los robots se arman por el bien de la humanidad y terminan atacando al hombre...) Es por eso que no le veo el avance o la originalidad a la propuesta.

Ley cero:
Un robot no puede hacer daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.

Resumiendo: aporta pocos elementos novedosos.


Emisario