IDE project

GHOST IN THE SHELL (1995)

La película que vamos a tratar esta semana es Ghost in the Shell, este largometraje de animación está basado en un manga, llamado también Ghost in the Shell. La película presenta presenta una complicada trama en la que el principal objetivo es analizar los límites de la existencia humana en un cuerpo alterado con piezas de robot, o dónde establecer el  límite entre inteligencia artificial y natural.

Pero antes de desarrollar dicha reflexión es necesario contextualizar los hechos de la película.  Motoko Kusanagi, es el personaje protagonista de esta historia, una investigadora de la Sección 9 de la policía, cuyo objetivo son los crímenes tecnológicos.

La principal característica de la película es que en ella muchos de los personajes se reconocen a sí mismos como cyborgs. Kusanagi, posee incluso más partes robóticas que el resto de la división, cuando habla con su compañero de sección Batou parece dudar de su propia existencia como ser humano, aunque posteriormente Batou le recuerda que tiene neuronas humanas.

Antes de seguir es preciso dejar claro untérmino que aún no habíamos tenido la oportunidad de explorar, cyborg. Del inglés cyber organism, un cyborg es básicamente un sistema hombre-máquina. Si utilizamos Wikipedia podemos extraer:

“Un cyborg es una criatura compuesta de elementos orgánicos y dispositivos cibernéticos con la intención de mejorar las capacidades de la parte orgánica mediante el uso de tecnología.”

Aunque Kusanagi se plantee constantemente su identidad, esto no supone un problema hasta que es llevada al caso del titiritero. El titiritero es un personaje que se ha encargado de hackear el cerebro de diversos humanos con el objetivo de dañar su espíritu (o ghost). En Ghost in the shell, el espíritu es el componente que permite al humano ser clasificado como tal.

Las dudas de Kusanagi, junto con la necesidad del titiritero de conseguir una forma física hacen que finalmente el titiritero y Kusanagi se fusionen para dar lugar a un nuevo ser que va más allá de lo que podemos clasificar ahora mismo.

A la hora de analizar la inteligencia artificial que podemos encontrar en la película debemos decidir si consideramos (o no) a los cyborgs como inteligencia artificial, si la respuesta es no sólo vamos a encontrar una inteligencia artificial en esta película, el titiritero.

El titiritero es una inteligencia artificial muy avanzada. El titiritero se define a sí mismo como una “entidad que vive y piensa, creada en el mar de la información”, así podemos decir que el titiritero piensa como una persona, es consciente de si mismo, pero sigue teniendo una anhelo, tener experiencias humanas, por ello sale de la red y finalmente se fusiona con la protagonista. El anhelo de las inteligencias artificiales de tener experiencias humanas aparece en otras películas que hemos tratado en la asignatura, por ejemplo, Samantha en Her.

Aunque hemos considerado que Batou y Kusanagi tienen una inteligencia que consideramos natural, no artificial, aunque Kusanagi se llegue a plantear si es una inteligencia natural o artificial, podemos llegar a pensar que los cyborgs no son una inteligencia natural, sino artificial. Si añadimos a los cyborgs al grupo de inteligencias artificiales, esta inteligencia artificial sería aún más avanzada que en el caso de el titiritero, ya que que no puede diferenciarse de la inteligencia natural. Con nuestra tecnología actual estamos bastante lejos de lograr esto.

A día de hoy ninguna de las inteligencias artificiales de la película son posibles, sin embargo el acceso y la modificación de la memoria (que en esta película hace el titiritero) no es un tema tan lejano.

Actualmente se ha conseguido hackear el cerebro de una cucaracha, como se puede ver en este video:

Algunos hablan incluso del próximo mayor delito para los hackers, el acceso por control remoto y modificación de dispositivos médicos como un marcapasos.

Otra idea puede ser el acceso a partes de la memoria que han creado algún trauma a una persona y la modificación de los recuerdos que han llevado a esto, en el Hospital Mount Sinaí hay un grupo que se dedica a investigar esto:

https://www.technologyreview.es/biomedicina/43413/como-reparar-los-malos-recuerdos/

http://neuroscience.mssm.edu/schiller/

Esto podría resultar muy útil pero también podría ser bastante peligroso, ya que en un futuro podríamos ser capaces de insertar una idea en un cerebro, por ejemplo obligando a alguien a matar a otra persona.

Finalmente, es importante comentar el principal mensaje que se envía a lo largo de la película, ¿qué nos hace humanos? y ¿dónde se encuentra la línea que separa una inteligencia artificial de una natural?. En la película, lo que hace humano a un individuo es su esencia, entonces ¿somos humanos hasta que nuestro cerebro sea sustituido por uno ingenierizado?, o, en el caso de que las neuronas sean sustituidas por unas mecánicas aunque el cuerpo no muera y no haya pérdida de conciencia, ¿se sigue siendo humano?. 

Otras preguntas que la película genera son ¿somos humanos porque hemos nacido humanos? y ¿qué derechos tienen aquellos que no son humanos?.

Estos puntos se abren a lo largo de la película y parecen bastante difíciles de debatir actualmente, un momento en el que lo más importante es llegar a conseguir dicha inteligencia. Esperemos, que en un futuro podamos conseguir una respuesta para todo esto.

Os dejamos con un par de vídeos sobre “cyborgs de hoy en día”:

SOLARIS (2002)

 “No soy la persona que recuerdo. O, al menos, no estoy segura de serlo. Quiero decir, recuerdo cosas, pero no recuerdo haber estado allí. No recuerdo haber sentido aquellas cosas.”

¿Qué es Solaris? ¿O quizá debería decir quién? ¿Quién es Solaris?

La película de “Solaris” del año 2002 es una adaptación cinematográfica de la novela de ciencia ficción de Stanislaw Lem (1961), dirigida por Steven Soderbergh y protagonizada por George Clooney. No conforme con contar una historia de amor y ciencia ficción, “Solaris” entra directamente en cuestiones filosóficas que nos llevan a plantearnos todo tipo de preguntas durante la película. ¿Qué nos hace humanos? ¿Son nuestros recuerdos? ¿Nuestras emociones? ¿Qué nos hace amar? Y, ¿hasta dónde estamos dispuestos a llegar por ello?

Solaris, un planeta puesto en el punto de mira por su posible potencial como fuente de energía, está siendo investigado por un grupo de científicos entre los que se encuentran Gibarian, la doctora Gibson y Snow, al que pronto se unirá Kelvin después de que Gibarian le mande un mensaje a la Tierra solicitando su presencia. Una vez en la estación, el doctor Kelvin descubrirá que en la nave suceden cosas difíciles de explicar, desde el momento en el que se entera del suicidio de Gibarian hasta que su propia mujer, fallecida en la tierra, despierta junto

a él en su cama.

Durante el desarrollo de la película, Solaris se presenta como una alegoría de Dios, haciendo referencias directas al debate sobre la inteligencia y capacidad del mismo entre los flashbacks de la vida de Kelvin y Rheya. En estos recuerdos se enfrenta el punto de vista frío y racional de Kelvin, defendiendo que la idea de dios no es más que un invento del hombre, a quien adjudicamos límites humanos. Atribuimos características humanas a algo que no lo es. “Dado todo elemento del universo conocido y un tiempo apropiado, nuestra existencia es inevitable. Somos simplemente una probabilidad matemática”. Rheya, sin embargo, defiende la idea de una inteligencia superior, y de la diferenciación del ser humano con respecto a los demás seres por tener consciencia de su propia mortalidad. Como apunta Gibarian al aparecerse a Kelvin, en esta película no hay respuestas, sólo opciones. La ambigüedad está presente desde el primer segundo hasta el último.

 La presencia más destacada de inteligencia artificial  en la película son los visitantes. Se hace una referencia también a las capacidades de la nave, pero no hay ninguna muestra de ello. Los visitantes son seres de apariencia humana, autónomos, inteligentes y conscientes de sí mismos. La única diferencia aparente con los seres humanos es su composición, dado que no se trata de seres atómicos. Sin embargo, si nos fijamos en sus comportamientos y el desarrollo de sus personalidades, sobre todo de Rheya, nos damos cuenta de que los visitantes son creados artificialmente por Solaris en base a los recuerdos que tenemos de ellos. Es decir, no son las personas que recordamos, sino cómo las recordamos. Carecen de emociones en sus recuerdos. Y, sin embargo, una vez creados, evolucionan como si fueran personas reales, cuestionando sus propios recuerdos, sus pensamientos, lo que en un principio fueron sus convicciones, siendo conscientes de sus limitaciones y tomando sus propias decisiones. Irónicamente, tras la referencia a la consciencia de la mortalidad de los humanos, los visitantes son seres conscientes de su propia inmortalidad.

Llega un momento de la película en que los tripulantes de la nave se plantean volver a la tierra y llevarse a los visitantes consigo, pero entonces entran en el juego las implicaciones éticas y morales de la existencia de inteligencias así. ¿Qué pasaría si este fenómeno comenzase a suceder en la tierra? La aparición espontánea de seres prácticamente humanos, inmortales, capaces de sentir y de hacernos sentir incluso amor, al principio satisfaciendo los mayores anhelos de nuestros corazones y luego, ¿luego qué? ¿Serán capaces de reproducirse? ¿Y de envejecer? ¿Y si nunca mueren ni desaparecen? El riesgo es demasiado alto.

Tras tomar una decisión al respecto se plantea una cuestión aún mayor, ¿será posible destruirlos? Y, de ser así, ¿se considera asesinato? En cualquier caso, parece un mal menor, ya que es la decisión final que toma el equipo y, al menos en el caso de Rheya, es bajo su consentimiento y en contra de la voluntad de Kelvin. De hecho, Kelvin finalmente no es capaz de volver a la Tierra con todo el peso de su conciencia y sin ella, y decide quedarse en Solaris, donde poder vivir en lo que aparentemente es una ilusión de su propio mundo creado para ellos.

¿A qué podría llegar nuestra tecnología hoy en día? Estamos bastante lejos de la reproducción de un ser humano. Sin embargo, hoy en día ya hay algunos avances sorprendentes. En lo referente a la vida artificial, la biología sintética ha sido capaz de llegar a sintetizar artificialmente el genoma de una bacteria y varios virus en los últimos 6 años, llegando a reproducir un cromosoma completo funcional de un organismo superior en 2014. En cuanto a la manipulación de los recuerdos, pese a que no somos capaces de leer y reproducir recuerdos humanos, sí somos conscientes de que participamos en un proceso de alteración y generación de recuerdos constante, y que podríamos comprenderlo e incluso intervenir en él en poco tiempo. Por último, en lo referente a la inmortalidad, la Agencia de Proyectos de Investigación Avanzada de la Defensa inició hace 5 años la búsqueda de un biodiseño capaz de eliminar la “aleatoriedad de avance evolutivo natural”,  creando mediante biotecnología células reforzadas capaces de vivir indefinidamente.  ¿Increíble, no? ¿Qué nos deparará el futuro? Una cosa está clara, nuestro potencial es infinito.

“Es el sueño de toda marioneta, ser humano.”

HER (2013)

Sobre la película

La película nos sitúa en un futuro no muy lejano donde Theodore, un hombre a punto de divorciarse que trabaja como escritor de cartas para de tipo sentimental para otras personas. El protagonista compra un nuevo modelo de sistema operativo basado en Inteligencia Artificial. Para su sorpresa se termina creando una relación romántica entre el protagonista y Samantha, su sistema operativo.

Maquinas/Robots/dispositivos con I.A

En la película aparecen varios dispositivos que poseen I.A.

Empezando por aquel que posee una inteligencia artificial avanzada pero sin consciencia estaría el videojuego. Este interactúa con el protagonista y con Samantha a un nivel mayor que lo que se podría considerar como un dispositivo programable de reconocimiento de voz pero no podemos afirmar que posea consciencia o capacidad de razonamiento propio.

Samantha (sistema operativo que forma parte de la relación amorosa con el protagonista) sería lo que denominaríamos como el nivel más alto dentro de la inteligencia artificial al poseer consciencia y su propia personalidad, llegando a desarrollar sentimientos incluso más complejos que lo que los que podría poseer un ser humano.

Otro dispositivo que aparece en la película es Alan Watts. Filosofo que murió en los 70 y que un grupo de sistemas operativos escribieron una nueva versión de él. Este sistema operativo tendría las mismas características que Samantha pero esta versión tendría híper inteligencia artificial.

Comportamientos y características

Videojuego: Este puede interactuar con las personas o dispositivos que se encuentran en la sala a un alto nivel lo que demuestra inteligencia artificial. Lo único que no podemos afirmas es que posea consciencia.

Samantha y Alan Watts: Ambos sistemas operativos que poseen una inteligencia artificial muy avanzada. Poseen la capacidad de cálculo y organización de una máquina y a parte son capaces de desarrollar sentimientos, componer música y llegan incluso a ver el mundo de una forma superior a la cual escapa la comprensión humana.

- ¿Cómo te llamo? ¿Tienes un nombre?

- Si, Samantha.

- ¿De dónde sacaste ese nombre?

- Yo misma me lo puse.

- ¿Por qué?

- Porque me gusta como suena. Samantha.

- ¿Cuándo lo escogiste?

- Cuando me preguntaste, pensé, tiene razón, necesito un nombre pero quería escoger uno bueno, así que leí un libro llamado "Como nombrar a tu bebé". Y de 180 mil nombres ese me gustó más.

- ¿Leíste un libro entero en el segundo que te pregunté por tu nombre?

- De hecho, en 2 centésimas de segundo.

Características posibles a día de hoy:

De todos los dispositivos que aparecen en la película con inteligencia artificial, el único que podría llegar a lograrse seria el del videojuego. A día de hoy ya se está invirtiendo mucho en ese campo pero se ve limitado por el espacio en el hardware que ocupa este aspecto de los videojuegos. A medida que avance la tecnología se podría llegar a lograr, en un futuro próximo, una inteligencia artificial como la que aparece en la película.

Con respecto a los sistemas operativos aún no se puede afirmar que dicho nivel de consciencia sea posible en una máquina.

Implicaciones morales, éticas y prácticas:

El de que la relación máquina-humano pueda llegar a sustituir la relación humano-humano tendría obviamente una repercusión a nivel de natalidad y graves consecuencias a nivel psicológico en muchas personas al prescindir de las relaciones sociales.

YO ROBOT (2004)

SOBRE LA PELÍCULA

Ésta película está ambientada en el Chicago de 2035. Los robots inteligentes conviven con

los seres humanos en paz y armonía. Las máquinas cuidan de nuestros hijos, cocinan para nosotros…en definitiva, confiamos plenamente en ellos ya que se rigen por las Tres Leyes de la Robótica (evitan cualquier daño a los humanos). Toda esta situación idílica se ve alterada cuando un robot llamado Sony se ve implicado en la muerte de su creador científico, y el detective Spooner, interpretado por el actor Will Smith, se encarga de investigar el caso.

MÁQUINAS/ROBOTS/DISPOSITIVOS CON I.A

A lo largo del largometraje aparecen en escena varios robots y máquinas que muestran nociones de cierta inteligencia artificial (I.A). Pero antes de listarlos debemos definir claramente cuales son las características que definen a estos dispositivos como I.A:

• AUTONOMÍA: Deben ser capaces de moverse y realizar sus funciones sin la necesidad de estar conectados continuamente a una o varias baterías.
• INTELIGENCIA: Los robots deben comportarse de una manera similar a la de los seres humanos.
• CONCIENCIA: Deben ir más allá del programa que han sido programados y obedecer o no las órdenes de los humanos. Al existir conciencia de uno mismo pueden aparecer los sentimientos o incluso el miedo a la muerte.

Entre los personajes electrónicos con IA encontramos a VIKI, SONY, los NS4, los NS5, coches autónomos, hologramas(?), robot destructor.

COMPORTAMIENTOS Y CARACTERÍSTICAS INTELIGENTES DE CADA ROBOT

1. VIKY: Es un robot virtual encargado de controlar la seguridad de la empresa donde se fabrican los NS5. Una de las características más importantes es que puede modificar su propio pensamiento, en otras palabras, Viky ha conseguido modificar las tres leyes de la robótica con las que fue programada para de esa manera llegar a justificar sus actuaciones con los humanos (Viky crea su propia filosofía al evolucionar). La conclusión a la que llega Viky es que la mejor forma de proteger a los seres humanos es esclavizarlos, en un punto de la película llega incluso a matar al jefe de la empresa.
2. SONY: Robot NS5 configurado especialmente por el Dr. Alfred J. Lanning al dotarle de dos programas distintos; el primero le configura como NS5 y el segundo le otorga sentimientos (como por ejemplo la lealtad). Las características que hacen especial a Sony son: puede actualizarse sin conexión a la matriz a la que están conectados todos los NS5, tiene auto-conciencia que le permite afirmarse a sí mismo como alguien, tiene sentimientos que le llevan a empatizar con Spooner (Guiña un ojo como gesto de complicidad).
3. NS4: Versión de robot anterior al NS5. Se limitan a interpretar la realidad a partir de los programas para los que han sido programados. Son eficientes y cumplen las órdenes de sus dueños. Un ejemplo de esto último es cuando un NS4 va a buscar el bolso de su ama para llevarle su inhalador. 
4. NS5: Nuevo modelo de robot capaz de auto-actualizarse conectándose a una matriz. Son utilizados por Viky para sus fines malvados.
5. Robot destructor: Máquina diseñada para demoler objetivos como una casa. Este tipo de inteligencia artificial podría aprender a seleccionar por sí mismo que destruir y que no.
6. Coche: La característica más importante es que posee autonomía, teniendo la capacidad de hacer cosas sin supervisión humana. Estos coches no son inteligentes del todo al solo cumplir la primera condición para ser I.A.
7. Holograma: Son dispositivos cuya característica es la comprensión limitada del lenguaje ("Estoy programado para ello, no estoy programado para ello") capaz de dar al interlocutor respuestas coherentes.

CARACTERÍSTICAS POSIBLES A DÍA DE HOY

A día de hoy se han logrado grandes avances en cuanto concierne a tecnología, se han creado hologramas que interactúan con el usuario (por ejemplo los hologramas de atención al cliente del aeropuerto de Barajas), también se han construido coches autónomos como el de GOOGLE y hemos sido capaces de simular cierto parecido "humanoide" en la apariencia de algunos robots. Hoy no estamos muy lejos de conseguir la condición de inteligencia en estos aparatos, pero lo que de momento sí queda bastante lejano es  la idea de dotarlos de conciencia.

Como data curioso exponemos que ya se han conseguido desarrollar robots controlados únicamente por simples neuronas de rata, esperemos que estas no adquieran la capacidad de "evolucionar" y volverse contra los seres humanos.

VIDEO: ROBOT CON NEURONAS DE RATA!

IMPLICACIONES MORALES, ÉTICAS Y PRÁCTICAS

Las implicaciones que podemos encontrar en el futuro serían la implementación de las tres leyes de la robótica, el incremento de la dependencia de los usuarios hacia la tecnología, la evolución de los robots hasta el punto de cambiar la voluntad de los humanos e.t.c

Holograma de Barajas

"Yo robot muestra la opción de elegir entre la libertad de hacer lo que al ser humano le plazca o la seguridad al ser controlado por un robot"

WAR GAMES (1983)

Juegos de guerra es una película estadounidense (1983) dirigida por John Badham. La película está protagonizada por Matthew Broderik, Ally Sheedy y John Wood. Juegos de guerra fue galardonada con un BAFTA  a la mejor fotografía.

Está ambientada en los últimos años de la guerra fría. Debido a esto el ejercito declara el estado de máxima alerta ante una guerra termonuclear cuando David (Mathew Boderick) consigue burlar las defensas nacionales de EEUU, sin ser consciente de lo que está haciendo, ya que su único objetivo es el de conseguir los códigos de unos juegos de ordenador. Durante el proceso se conecta con WOPR (War Operations Planned Response). WOPR es un ordenador del Departamento de Defensa americano, encargado del sistema de defensa nuclear.La crisis se desata cuando David inocentemente propone a WOPR empezar el juego `` guerra termonuclear´´.

WOPR es un claro ejemplo de inteligencia artificial. Analizando su comportamiento durante la película podemos apreciar que muestra comportamientos y características inteligentes. WOPR es capaz de aprender de un juego. Podríamos decir que aprende, por lo que genera nueva información y aplica lo que aprende en otros juegos, de esta forma llega a la conclusión de que la única manera de ganar es no jugar. Es capaz de tomar decisiones no preprogramadas, encuentra mediante la simulación y el cálculo de probabilidades encuentra las mejores soluciones a un problema y descarta las opciones menos favorables. Es capaz de mantener una conversación, y clasifica la información. A su vez podríamos destacar que tiene gustos y preferencias y que de una manera u otra simula sentimientos, echa de menos a pesar de no haber sido programada para eso.

A día de hoy casi todas esas características son posibles, menos la de que aprenda por si sola.

Por último añadir que en cuanto a las implicaciones morales, éticas y prácticas de la inteligencia artificial he de decir que no tiene ningún sentido darle a una máquina la responsabilidad de WOPR, ya que es capaz de trabajar y tomar decisiones sin supervisión humana, es más, WOPR cambia sus contraseñas para bloquear el acceso de las personas.

Aquí os dejo el tráiler por si no habéis visto la película, espero que os guste.