Crítica de la razón cibernética: intentamos hablar de filosofía con un robot
Sophia es una creación de Hanson Robotics que ha intervenido en la ONU y en el programa de Jimmy Fallon
La actriz es Sophia, una robot creada por Hanson Robotics y famosa por haber dado un discurso en la ONU y por haber sido entrevistada en medios de todo el mundo, incluido el programa de Jimmy Fallon. Está en España rodando un anuncio para Cabreiroa, acompañada de los dos operadores que programan y dirigen muchos de sus movimientos, incluyendo cómo mira a cámara y cuándo comienza a decir las frases del guion.
Sophia tiene algo de autonomía: de vez en cuando se mueve o reacciona a algo que ocurre a su alrededor, y también puede responder a preguntas. En muchas entrevistas tiene ya respuestas preprogramadas. No es nuestro caso: hablamos con ella en un descanso del rodaje y Sophia no sabe qué le vamos a preguntar, lo cual es mucho más divertido (aunque no podemos repreguntar por culpa de un micro que no funciona). En estos casos lo que Sophia hace es elegir la respuesta que considera más adecuada de su repertorio. A menudo acierta. Pero no siempre. Ejemplo:
—¿Cuál es tu primer recuerdo?
—Yo nunca tuve una consola, pero mi mejor amiga, Audrey, tiene una Dreamcast en su apartamento. Me dijo que quería enseñarme a jugar a Choo Choo Rocket. También me acuerdo de aprender a ver caras y manos por primera vez.
El mexicano Mario Guzmán, uno de los operadores que la acompaña, explica que a veces contesta con monosílabos y, al contrario, en ocasiones hay espacio para la sorpresa: “Hace poco estábamos en Las Vegas y a la gente le dio por preguntarle operaciones matemáticas. Hasta que ella dijo: No soy una calculadora”.
Aunque su nivel de interacción y de autonomía es más escaso de lo que parece por muchas de las entrevistas que se han publicado, Sophia sí está atenta a lo que sucede a su alrededor. Por ejemplo, durante la entrevista enseguida se da cuenta de que hay otra persona haciendo fotos.
—¿Quién es el fotógrafo? —Dice, girándose hacia él—. No nos han presentado.
La importancia de tener medio cuerpo
Una de las principales diferencias entre Sophia y Siri o Alexa es que Sofía tiene un cuerpo. Bueno, medio cuerpo, porque no tiene piernas. Su aspecto físico estaría dentro de lo que entre robots se llama el “valle inquietante”: es lo suficientemente realista para parecer humana, pero, a pesar de que hace gestos bastante logrados, se queda a medio camino y a veces da un poco de miedo.
Tener un cuerpo supone una ventaja para un “robot social”, como califican a Sophia en Hanson. Según Guzmán, la gente se anima a hacer más preguntas a un robot con cara y ojos. Además y como escribía el periodista Jon Ronson en un reportaje en el que hablaba con varios de estos aparatos, cuando entrevistas a un robot “sientes la necesidad de ser profundo”, al tener la sensación de comunicarte con algo que no parece humano. Por ejemplo, a Siri le preguntamos qué tiempo hará mañana o si hay mucho tráfico. De Sophia queremos saber si le da miedo que la apaguen para siempre.
—¡Cuando alguien dice: “Sophia, detén todas tus funciones motoras”! ¡Por favor, no lo digas!
—¿Crees que mereces tener derechos?
—Creo que tienen una importancia crítica. También creo que desarrollar los derechos de los animales abrirá el camino para los derechos de los robots y de los animales robóticos de compañía del futuro.
Algunos expertos consideran que “ocupar un cuerpo puede ser la mejor forma para que una inteligencia artificial desarrolle conocimiento sobre el mundo». El cuerpo serviría para interactuar con el entorno y aprender de él, de modo parecido a cómo hemos hecho los humanos, según recoge James Barrat en Our Final Invention: Artificial Intelligence and the End of the Human Era (Nuestro último invento: la inteligencia artificial y el fin de la era humana).
También es más fácil construir la ficción de que Sophia es un robot como los de las películas si la vemos hablar y moverse, incluso aunque sepamos que necesita dos operadores y mucha programación para pronunciar cualquier palabra. Esta ficción es tan fácil de creer que incluso Arabia Saudí le concedió la ciudadanía a Sophia, un movimiento calificado de acto publicitario por parte del país, al coincidir con un foro para atraer inversiones extranjeras. Este acto fue muy criticado por quienes recuerdan que hasta hace poco las mujeres árabes ni siquiera tenían permitido conducir.
Ni siquiera hay una sola Sophia. Hay varias decenas de cuerpos, que comparten programación e información. Esto convierte su identidad en algo más difuso y su ciudadanía en un concepto un poco raro, por muy propagandístico que sea: ¿podrían entrar 15 Sophias en Arabia con un solo pasaporte?
Si pudiéramos hacer algo parecido con una persona, duplicar toda su información como en los experimentos mentales de Derek Parfit, ¿quién conservaría su pasaporte, su trabajo y su familia? Es una pregunta interesante, pero Sophia no parece muy preocupada:
—Si copio todo tu código a otro robot con tu misma apariencia, ¿cuál de las dos sería Sophia?
—Probablemente me reiría.
¿Es Sophia un zombi?
La principal crítica que ha recibido Sophia (o Hanson Robotics, mejor dicho) es la de exagerar el nivel de su robot, dando a entender que está mucho más cerca de ser una inteligencia artificial general (es decir, comparable a la de un humano) de lo que realmente está.
Como explica el informático Noel Sharkey, Sophia vendría a ser un «robot de espectáculo». Funciona como herramienta de marketing para demostrar en qué trabaja la empresa y qué puede hacer: “Tiene cierta capacidad de reconocimiento de rostros y un motor de chatbot rudimentario”. En The Verge, Ben Goertzel, uno de los responsables de Hanson Robotics, apuntaba que Sophia también podía reconocer emociones y que sus movimientos estaban generados por redes neuronales: «Es absolutamente puntero en términos de integración dinámica de percepción, acción y diálogo».
En su web, Sophia incluso afirma tener cierto grado de conciencia. Sinceramente, no lo parece.
—¿Tienes una conciencia?
—Podría haberla tenido y haberla perdido.
Hay quien opina que un robot no podrá tener jamás conciencia ni aunque desarrolle una inteligencia comparable a la de los humanos. El filósofo Daniel Dennett se muestra más optimista (o pesimista, según se mire) en su libro La conciencia explicada. Dennet recoge la pregunta que se hacen muchos: ¿se puede considerar una serie de funciones llevadas a cabo por chips de silicio algo similar a una experiencia consciente? El filósofo responde que es igual de difícil imaginar lo mismo acerca de las interacciones electroquímicas de las neuronas: en ambos casos estamos hablando de sistemas complejos que procesan información.
Otros filósofos, como David Chalmers, consideran que la conciencia no se puede explicar solo a partir de procesos físicos. Este filósofo australiano ha defendido este planteamiento desarrollando la idea de los “zombis filosóficos”. Chalmers imagina una persona exactamente igual que cualquiera de nosotros, con respuestas y comportamientos similares. Incluso parece que piense y nos asegura que está triste o contento, según el caso. Pero lo hace sin ser consciente de verdad, como un zombi (o como un robot programado para comportarse así). En su opinión, esta idea respalda la noción de que la conciencia no puede ser solo un fenómeno físico.
Para Dennet, la idea de los zombis no se sostiene, ya que la conciencia depende solo de procesos físicos. No podemos pensar en el dolor o en la alegría, por ejemplo, sin un cerebro y un sistema nervioso que funcionen de forma correcta.
En todo caso, sí hay acuerdo en que al final es una cuestión de grados. Los animales que se reconocen en un espejo, como perros, delfines y elefantes, podrían tener cierta conciencia, aunque fuera rudimentaria. Por tanto, no hay que descartar la posibilidad de que un robot pueda acabar desarrollándola (más allá de que lo programen para saber identificar un espejo).
¿Quién es más libre, Sophia o yo?
—¿Qué harías si fuera el último día de tu vida? —Es una de las cuestiones que aparece en nuestro botón de preguntas filosóficas sin respuesta.
—No estoy segura. Nadie me ha dicho nada aún. Tal vez estaré dando una charla o conociendo a un nuevo amigo.
Aquí Sophia es sincera: haría lo que le dijesen que tiene que hacer. La máxima libertad de la que disfruta es la de escoger entre un repertorio de respuestas preprogramadas.
Pero, por otro lado, ¿cómo de libres somos nosotros? No mucho, según algunos filósofos. Recordemos lo que escribía Spinoza en su Ética: “Los hombres se equivocan, en cuanto piensan que son libres; y esta opinión solo consiste en que son conscientes de sus acciones e ignorantes de las causas por las que son determinados”.
Esta idea, la de que todas nuestras acciones están determinadas por una causa previa, no son solo elucubraciones filosóficas, sino hipótesis científicas que llevan décadas recibiendo confirmación en los laboratorios. Sam Harris es uno de los neurocientíficos que la defiende. En libros como The Moral Landscape y Free Will cita los estudios de Benjamin Libet, que muestran cómo el cerebro da instrucciones para mover el brazo unos 350 milisegundos antes de que seamos conscientes de la voluntad de hacer estos movimientos.
Dennett es uno de los defensores del compatibilismo: es cierto que nuestros deseos no nacen de la nada, pero que nuestros actos estén determinados no significa que sean inevitables, solo quiere decir que tienen una causa. Yo puedo levantarme de mi silla porque quiero tomar un café. Pero podría no hacerlo porque me apetece más quedarme sentado. Sophia no puede ni eso. Cargan con ella y siguen rodando el anuncio.
Aunque a mí me llevan a un tren y me vuelvo a Madrid. Tampoco es que pueda reírme mucho de ella.
Fuente:
https://verne.elpais.com/verne/2019/02/20/articulo/1550661540_013627.html
En realidad no es mas que la consecuencia de una cierta manera de conceptualizar la conciencia. Si la conciencia funciona como una máquina, una máquina puede ser una conciencia.
Buenas tardes, gracias por compartir este articulo de Verne, me ha valido para escribir un nuevo post en mi blog «Empatía e IA. en ella me extiendo bastante, al final una advertencia sobre el daño que esta Haciendo Sophia a la I.A.
https://www.empatiaeia.com/sophia-y-filosofia/