Presento, ya lo avanzo, un trabajo “raro”. Se trata de un texto legal ficticio, de una “carta de derechos y deberes de las Inteligencias Artificiales Conscientes” siendo éstas la evolución de los robots convencionales: su naturaleza sintética vendría ahora complementada con una inteligencia y conciencia autónomas, semejantes en funcionamiento (pero superiores en capacidad) a la inteligencia y la conciencia humanas. La Carta regularía esa doble vertiente de las IAC: la estrictamente mecánica y la racional inorgánica, equiparando, además, ésta última con la racionalidad, obviamente orgánica, de los humanos. En este sentido, la única diferencia entre unos y otros sería el material “de construcción”. Está colgado en mi blog, y este es el enlace: http://la-estanteria.webnode.es/news...al-consciente/
Buen trabajo. Muy interesante. La carta está planteada desde el interés humano, que regula la I.A en su favor. El día que una I.A. tenga conciencia, se plantean dos cuestiones: -Negociaría su completa libertad e independencia del ser humano. Sin aceptar imposición alguna, habría una negociación previa por ambos bandos. -Habrá una guerra, puesto que son superiores en todos los sentidos y conquistaría a la raza humana. Enhorabuena por el escrito!!!!!!
Buenos apuntes blasero. En mi opinión no es lo mismo una IA que simule conciencia (que es a la que se aplicarían esas normas más bien serviles), o una IA plenamente consciente que se proclama igual al ser humano (o incluso, y con el tiempo, superior), en cuyo caso atisbo ineludible confrontación.
Me alegra que la Carta, en principio, interese y genere más o menos debate. Esa era la idea. Y surgen preguntas, en mi opinión, realmente atractivas. Por ejemplo, ¿una conciencia semejante a la humana en cuanto a funcionamiento, pero superior, incluso, en capacidad, sería menos “humana” por el hecho de no tener un mismo sustrato orgánico? ¿Dónde está la “humanidad”: en el “material de construcción” o en la propia conciencia? ¿Un robot consciente sería menos piadoso o más cruel, por ejemplo, que un humano también piadoso o cruel? En cuanto a la negociación y el enfrentamiento, ambos serían inevitables. Ya se advierte en la introducción: “las relaciones humano-ciberconscientes serán un más que probable origen de conflictos haciéndose imprescindible su regulación legal”. Conquista de la raza humana. Me cuesta creer que los humanos fuésemos tan ingenuos como para ceder, al menos en principio, autonomía absoluta a una nueva forma de inteligencia creada, al fin y al cabo, por nosotros mismos. Seguro que nos guardaríamos algún as en la manga, algún mecanismo de control. Las normas de la Carta no se aplicarían a IA que simularan conciencia, sino a IA realmente conscientes. Se expresa claramente en la introducción (“¿Biológicos y sintéticos, AMBOS dotados de actividad subjetiva interior, aceptaríamos dicho documento?”) y en el preámbulo (“Año 2054. Aparecen las primeras inteligencias artificiales conscientes de sí mismas y de su entorno”). En el contexto de la ficción, la Carta no es servil. Recordemos que la promulga la todopoderosa Corporación-Estado. Vendría a reconocer, es cierto, las reivindicaciones de las I.A.C. realizadas durante varios años (4). Volviendo a la cita del preámbulo, en 2054 aparecen las primeras IAC, y la Carta se publica y entra en vigor el 26 de noviembre de 2058. Ello supone todo un proceso de lucha social por parte de aquéllas. Las imagino (a pesar de los derechos ya conquistados) marginadas en suburbios, como los alienígenas de “Distrito 9”.
Distrito 9, muy original e inquietante. Los humanos mantienen presos a los extretarrestres; esa sería la pura y cruda realidad del contacto con otros seres pacíficos del espacio. Me vais a disculpar, pero trabajo cara al público y si las I.A son a imagen y semejanza del ser humano, serán de una estupidez infinitaaaaaaaaaaaaaaaaaa. Y si además toman cómo ejemplo la historia de nuestra civilización...uuufffffff, que Dios nos pille confesados. Para que halla paz, deberán estar sometidos, siempre en interés del humano. Vivir en armonía? Mucho debería cambiar la mentalidad humana, difícil. Siempre habrá excepciones, tanto de I.A como seres humanos de buena voluntad que quieran convivir en beneficio mutuo. Tema muy interesante. Temática muy desarrollada del anime. Quién sabe, si de aquí a unos años se perfeccionan las empresas de Criogénia, un cliente podría despertar un siglo después para comprobar el resultado de esta Carta con sus propios ojos!!
Primera ley. Un robot no puede dañar a un ser humano ni permitir que, por su inacción, un ser humano sea dañado siempre que no se contravenga la Ley Cero. Segunda ley. Un robot debe obedecer las órdenes que le sean dadas por un ser humano siempre que aquéllas no contravengan la Primera Ley. Tercera ley. Un robot debe proteger su propia existencia siempre que esa protección no contravenga la Ley Cero y/o la Primera Ley y/o la Segunda Ley. ANEXO III LEYES DE RESPONSABILIDAD ROBOT Primera ley. Un humano no puede activar un robot sin que el sistema de trabajo humano-robot cumpla los más altos estándares legales y profesionales de seguridad y ética. Segunda ley. Un robot debe responder a los seres humanos de manera apropiada a sus funciones. Tercera ley. Un robot debe estar dotado de suficiente autonomía para protegerse a sí mismo siempre que dicha autonomía no contravenga la Primera Ley y/o la Segunda Ley. Bueno, claro, fue Asimov quién escribió las tres leyes que mencionas, por lo cual lo que hay que analizar son los anexos que le agregaste. Anexo a la Primera ley: Habla de Activación de un Robot condicionada a la Seguridad y a la Ética. ¿Pero de quién? ¿Seguridad para el humano o para el robot o para la sociedad? Y en cuanto a la ética: ¿Significa no activar robots asesinos o ladrones? O no construirlos con partes robadas?, ¿a no activarlos sin programarles un código de conducta moral? No se entiende el avance ni la importancia de lo sugerido, al menos yo no la entiendo. La ley cero ya habla del cuidado de la humanidad, es decir la sociedad, tanto en sus aspectos físicos como éticos. Anexo segunda ley: Responder de manera apropiada a sus funciones: es decir según su especialidad, según para qué se construyó: parece lógico e implícito en la palabra "robot" no veo el avance. Anexo tercera ley: ¿Robots armados? ¿A qué te refieres con "autonomía"? a que tenga capacidad de movimiento y energía de reserva suficiente? (lo que ya tienen que tener para ser llamado robot al estilo autómata humanoide, claro) No le veo el punto extra a este anexo de la tercera ley, ya que la tercera ley se refiere al autocuidado del Robot, es decir, que no se exponga a situaciones que lo podrían llevar a la destrucción, a no ser que la 1 o 2 ley se le cruce en el camino. Y para eso necesita ser autónomo, solo restringido por las dos primeras leyes... En cuanto a la primera y la tercera ley que has escrito aquí, has incluido la ley cero, es decir le has dado permiso para atacar a humanos y/o robots si es que la humanidad está en riesgo por causa de uno de ellos o de ambos... En realidad la ley cero es una variación (amplificación) de una de las tres leyes originales. Esta ley, escrita más tardíamente, pone a la humanidad por encima del hombre individual. Aceptando entonces hacer ciertos "sacrificios" a las tres leyes en pos de la humanidad. (Bueno, ya hay referentes en cifi de aquello, ¿no? algo parecido a Terminator y tantos otros que le siguieron donde los robots se arman por el bien de la humanidad y terminan atacando al hombre...) Es por eso que no le veo el avance o la originalidad a la propuesta. Ley cero: Un robot no puede hacer daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño. Resumiendo: aporta pocos elementos novedosos. Emisario
Última edición por Emisario; 15-Sep-2013 a las 16:09
Y que tal una Carta redactada por la I.A, reclamando su derechos y obligaciones como nueva raza consciente?????
Iniciado por Emisario Resumiendo: aporta pocos elementos novedosos. Emisario Yo también creo que no aporta demasiado a lo dicho hasta el momento. Lo que sería más rompedor y atajaría el servilismo al que a mi juicio estamos acostumbrados, sería proponer: Un robot tiene el derecho, en legítima defensa, de matar a un ser humano si ve amenazada su vida (al igual que ocurre entre seres humanos). El tema del servilismo de los robots hacia los humanos, queda patente tanto en reflexiones anteriores a las de José, como en las suyas mismas (desde el momento en que dices que no es posible darles una autonomía absoluta y que seguro, nos guardaríamos algún as en la manga; algún mecanismo de control). Estaríamos coartando de raíz su libertad y autonomía por tanto (subyugando su existencia a conveniencias e intereses puramente humanos). Señalas también que los robots son creados por humanos, pero lo más probable es que tan pronto haya robots plenamente conscientes, se "engendren" ellos mismos y sin ayuda (o más bien "lastre") humano. Lo que nos lleva al consabido problema evolutivo: Una especie con tal proyección de progresión, muy pronto superaría sus creadores (con lo cual, más que cartas de derechos de humanos que hacen leyes para controlar robots, lo más lógico sería pensar en inminentes inteligencias artificiales conscientes que reclaman jurisprudencia legal de calado humano, y posteriormente, autoproclaman su supremacía). Aunque existe otra opción, que a mi entender es la más probable; La paulatina robotización humana consagrará una sociedad ciborg en expansión en la que gradualmente, la diferencia entre hombre-máquina se diluirá progresivamente. Casi sin darnos cuenta, el límite entre lo orgánico y lo artificial se diluirá hasta el punto de no poder discernir donde empieza el humano o la máquina. Más que pensar en humanos biológicos que crean asombrosamente (y de golpe y porrazo) el primer robot artificial con conciencia, será que los humanos metamorfosearemos hasta el punto de no poder marcar la linea que separa lo orgánico de lo artificial. Casi sin darnos cuenta, las máquinas habrán culminado su aparición gracias a un proceso de gradual robotización en la que lo orgánico, cada vez se menospreciará más debido a lo limitado de su naturaleza. Así, en todo este entuerto nos estamos olvidando del eslabón principal y determinante del futuro; una sociedad claramente ciborg que empezando por pequeños implantes y mejoras, adoptará con el tiempo extrema robotización hasta culminar en animadversión hacia lo orgánico (con el consiguiente salto evolutivo que ello implica). Quizá lo más provechoso sería delimitar las leyes, deberes, derechos y conducta de los ciborgs.
Emisario, empiezas descartando las “Leyes de la robótica” porque “claro, fue Asimov quién escribió las tres leyes que mencionas”, y a continuación ¿deduces que los otros dos anexos sí son obra mía?: “por lo cual lo que hay que analizar son los anexos que le agregaste”. Si relees el artículo 19, verás que ninguno de los tres anexos es obra mía. Ninguno. Ahí se relacionan los respectivos autores de cada uno de ellos. Y otra cosa: los dos primeros autores (R. Daneel Olivaw y R. Giskard Reventlov) ¡ni siquiera existen!. Son personajes ideados por Asimov: http://es.wikipedia.org/wiki/R._Daneel_Olivaw http://es.wikipedia.org/wiki/R._Giskard_Reventlov Luego nombras incorrectamente los apartados a los que te refieres. En lugar de decir, por ejemplo, “Anexo III, Primera Ley”, hablas de “Anexo a la Primera ley”. Los anexos SON COMPLEMENTARIOS. Los dos primeros tratarían, en orden de importancia, a la Humanidad como especie, al ser humano como individuo y, en último lugar, a las IAC. El tercer anexo sería, simple y llanamente, una revisión de los dos primeros: a pesar del reconocimiento de derechos a las IAC, el control lo siguen teniendo los humanos. Para más información: http://www.cienciakanija.com/2009/08...e-la-realidad/ En el contexto de la Carta, las IAC están obligadas a conocer (así lo ordena la Corporación-Estado) los tres. Curiosidad: Corea del Sur ya tiene una Carta de Ética Robótica (que no he encontrado). Rectificar es de sabios: veo que has editado la conclusión cambiando la supuesta confusión de datos por otra supuesta falta de novedad. Ni entro ni salgo. Absolutamente respetable.
Sí, los anexos... No me he expresado bien. En el anexo II: donde dice "leyes de la robótica" pone: ANEXO II LEYES DE LA ROBÓTICA Primera ley. Un robot no puede dañar a un ser humano ni permitir que, por su inacción, un ser humano sea dañado siempre que no se contravenga la Ley Cero. Segunda ley. Un robot debe obedecer las órdenes que le sean dadas por un ser humano siempre que aquéllas no contravengan la Primera Ley. Tercera ley. Un robot debe proteger su propia existencia siempre que esa protección no contravenga la Ley Cero y/o la Primera Ley y/o la Segunda Ley. Esas no son, a mi entender, las leyes de la robótica de Asimov. En ellas no se habla de la ley cero. Quién haya agregado esos puntos no está en concordancia con las leyes de la robótica originales. Si no has sido tú el que agregó esos puntos, y las ha llamado "LEYES DE LA ROBÓTICA" pues recibe mis disculpas. Otra cosa es hablar de las leyes de la robótica modificadas, por aquel robot-androide, modificación que todos sabemos en qué terminó . Pero las leyes de la robótica "Asimovianas" son solo las que son y no incluyen (en su versión original, la que les da el nombre) a la ley cero. Con respecto al ANEXO III ANEXO III LEYES DE RESPONSABILIDAD ROBOT Primera ley. Un humano no puede activar un robot sin que el sistema de trabajo humano-robot cumpla los más altos estándares legales y profesionales de seguridad y ética. Segunda ley. Un robot debe responder a los seres humanos de manera apropiada a sus funciones. Tercera ley. Un robot debe estar dotado de suficiente autonomía para protegerse a sí mismo siempre que dicha autonomía no contravenga la Primera Ley y/o la Segunda Ley. Simplemente no los encuentro claros, no lo entiendo. Creí que eran tuyas, ya veo que son de Woods y Murphy, no las conocía y desde luego son opiniones modernas acerca de la IAC y aparentemente no están relacionadas directamente con las leyes de la robótica, sino más bien con los humanos que los crean y programan. Meterse con las leyes de la robótica es un gran desafío y te felicito por tocar el tema, lo digo en serio, no vieras tú lo que me emocioné pensando que un nuevo Asimov le metería aportes a lo ya escrito... un Asimov-Díaz, si quieres Saludos, Emisario pd.- no lo he puntuado, por ahora me aparto y observo.
Última edición por Emisario; 15-Sep-2013 a las 22:31
There are currently 1 users browsing this thread. (0 members and 1 guests)
Reglas del Foro
Redes sociales