El futuro siempre es incierto, pero Kurzweil ha pronosticado bastantes hitos tecnológicos (y eso hay que reconocerlo).

---Pero las plantas no saben que son plantas, las plantas no saben donde viven, no saben si viven en una montaña o en un valle, no son conscientes de su situación, solo actúan de forma mecánica para adaptarse y sobrevivir.
Las plantas no saben gran cosa, ciertamente. Un perro sabe algo, pero se le escapan muchas cosas (si está en la Tierra o en Marte, o fuera del sistema solar, qué es una central nuclear, etc), a pesar que tiene cierta conciencia con rasgos comunes a la nuestra.
Y de modo parecido pero a otra escala, a nosotros se nos escapa que hay más allá de nuestro universo (e infinidad de los misterios que esconde).
Podríamos decir pues, que nuestro saber y conciencia es también limitado. Significativo en comparación con los organismos de este planeta, pero quizá irrisorio a escala de la completa y total existencia.
Yo siempre digo que; sobrevaloramos nuestra conciencia actual (y en realidad podría ser bastante pobre a escalas mayores).
En cuanto a lo que comentas en el segundo post, hay que entender que un niño ha sido programado mediante una evolución de millones de años de código genético, con el fin que perdure. En cambio, un coche ha sido fabricado por una tecnología que tiene solamente un siglo de evolución (y los fabricantes buscan concienzudamente que haya reparaciones y mantenimiento para así amasar dinero).
Efectivamente, no hay una lavadora que dure más de 20 años, pero porque los chips y materiales con que se fabricó han sido deliberadamente elegidos y ensamblados para que al poco tiempo, tengas que comprarte otra.

La comparación que haces no solamente no me sirve, sino que estoy en completo desacuerdo; medio siglo de ordenadores han sobrepasado en bastantes aspectos a millones de años de evolución biológica.
Las máquinas parecen evolucionar a un ritmo endiabladamente más rápido que los humanos. Yo no menospreciaría el potencial de las máquinas.

Si a alguien se le ocurre replicar el funcionamiento de nuestro cerebro, en una maquina, la maquina no funcionaría ni un segundo bien.
Es tu opinión, pero muchos científicos e investigadores trabajan para conseguir precisamente eso (luego lo ven factible).

Es increíble, la música por ejemplo, la existencia de la música no tiene ningún sentido, la música no sirve para nada, no tiene sentido crear música o disfrutar escuchando música, y el arte. ¿Qué sentido tiene crear un cuadro o una escultura?
Y el placer o el dolor, el miedo y la risa.
Un ser humano artificial no tendría nada de eso, por que estas cosas tan increíbles no son necesarias.
Todo eso está programado genéticamente y se puede simular artificialmente; Ordenadores que hacen canciones musicales ya existen y funcionan.
¿Arte? ¿Qué diablos es eso? Para unos una obra es un garabato repugnante, para otros una deliciosa pintura de calado magistral… Bah!, demasiado subjetivo. No quiero entrar en lo que opino del arte, porque es extenso y en este hilo no procede demasiado.

En definitiva, un ser humano artificial debidamente programado, tendría todo eso que nosotros también tenemos programado. Porque en el fondo, somos biorobots programados; máquinas biológicas. Y no importa el soporte (biológico / artificial), porque todo se basa en la programación.

Mirar una cosa, mirar lo increíbles que somos los seres humanos, nosotros podemos crear cualquier cosa con nuestra imaginación.
La idolatrada imaginación no es más que capacidad de simulación. Y no hay nada de misterioso y espiritual en ello, es mecánico. Evangeline es una IA que hace videojuegos tipo 8 bits (los humanos hemos tardado centenares de millones de años en crear el primer juego 8 bits).

El diálogo final que propones es a mi parecer bastante absurdo. No hay evidencia que un humano mejorado del siglo XXII no supiera ese acertijo. Además, déjame recordarte que en el tan alabado desde siempre ajedrez (la herramienta históricamente por excelencia para calibrar la inteligencia / intuición / estrategia), un ordenador actual de capacidad mínima ya supera al mejor gran maestro humano. Incluso jugando con menos fichas, ningún humano actual puede ganarle a una máquina.

Yo pienso que idolatras demasiado lo biológico, envolviéndolo en una áurea mística e inexplicable, cuando en realidad los humanos somos simplemente máquinas programadas basadas estructuralmente en el carbono. Simple y llanamente.