“HER”, mente, amor, y seguridad nacional

“El problema de tener una mente abierta es que la gente insiste en entrar dentro y poner allí sus cosas” 

Terry Pratchett

“Her”, película dirigida por Spike Jonze, y actualmente en cartelera, puede llamar la atención inicialmente por la distopía del enamoramiento de un humano de una voz. Es mucho más que eso, el enamoramiento es de un sistema operativo, dotado de inteligencia. Altamente recomendable para toda aquella persona preocupada por el futuro, la evolución tecnológica, y la propia naturaleza humana. Y por tanto, también, por los riesgos a los que nos enfrentamos y enfrentaremos, y que sin duda son mucho más importantes y peligrosos que los que nos presentan habitualmente, como el terrorismo o Al Qaeda.

Soledad, tecnología, amor, realidad virtual, romanticismo, inteligencia artificial, ternura, o big data son algunos de los elementos que se entremezclan para ofrecer al espectador un buen marco que incita a la reflexión. Todo ello de una manera sutil, irónica, lírica, y tremendamente inteligente. Reflexiones suscitadas, por otra parte, que obedecen a patrones clásicos: ¿quiénes somos y quiénes seremos?, ¿hacia dónde caminamos?.

Varios aspectos de lo expuesto llaman la atención:

– Las tecnologías presentadas ya existen. Aplicaciones como Siri, Google Now, Sanebox o “Unroll me” posibilitan, de una manera de momento básica, algunas de las funciones que aparecen en la película. Gestión avanzada de correo electrónico, sistemas de gestión mediante la voz, son sólo algunos de los desarrollos que en breve experimentarán un gran salto y posibilitarán un uso masivo. Aplicaciones de realidad virtual, para juegos (como en el caso de la película), pero también para formación, simulaciones, o sexo serán habituales en nuestros sistemas en un plazo no demasiado largo. También se trabaja en el análisis de emociones, a través de la expresión escrita o de la voz.

– La película retrata tendencias de la actual sociedad, destacando la soledad. Algunas de ellas las reflejé en mi reflexión sobre “El mundo en 2014”, publicada en el Instituto Español de Estudios Estratégicos (IEEE). Muy triste contemplara multitud de seres humanos hablando con sus teléfonos y sus sistemas operativos, sin parar a observar el entorno, o las caras de las personas con las que se cruzan. No estamos nada lejos de ello, basta contemplarnos en reuniones sociales y recordar nuestra adicción a los mails, o los mensajes. La comunicación digital se ha convertido en algo más cómodo que la de carácter físico, tratando incluso de sustituir las emociones a través del uso de un emoticón. En un recomendable libro, “Focus”, Daniel Goleman destaca la introducción en 2006 de la palabra pizzled, que combina los sentimientos de perplejidad y enfado de quienes ven cómo la persona con la que están hablando continuamente consultan el móvil o responden mensajes. Algo que estamos convirtiendo en la norma.

Llegamos, uniendo los dos aspectos destacados, a una clara conclusión, el llamado “solucionismo tecnológico” que argumenta Eugeny Morozov. Se busca solución a cualquier problema a través de la tecnología, incluso a veces a problemas inexistentes. O como señala Morozov en el citado artículo, para eliminar de nuestro mundo o visión todo aquello que nos pueda incomodar. En un momento dado, con unas Google Glass , podremos eliminar imágenes indeseables, y por ejemplo no ver pobreza, o desigualdad, o personas que no sean atractivas (ver mundos diferentes a los reales, adaptados a lo que nos gustaría, o a nuestra ideología, o a nuestros intereses, como ya hacen muchos políticos sin necesidad de gadgets). Las tecnologías actúan y actuarán por tanto como  píldoras para almas dolientes.

Precisamente, hace unos días,  se publicaba en El Mundo una excelente, y de obligada lectura, entrevista con Ray Kurzwell, prestigioso visionario, y actualmente en nómina de Google, y padre del sistema de reconocimiento de voz que dio origen a Siri. La entrevista gira en torno a algunas de las ideas que expone en su último libro “Cómo crear una mente”. De la entrevista, entre la admiración y el horror, entresaco las siguientes cuestiones (entre paréntesis comentarios propios):

– La simulación de la inteligencia humana en un ordenador. Alan Turing, padre de la computación, ya señaló la equivalencia entre sistemas de computación, y el cerebro lo es. Según el autor, en un década existirán ordenadores que lo hagan a un precio de unos 1000 dólares.

– Kurtzwell avanza la línea que ya sigue Google en ese sentido, con medios ya disponbiles en esa empresa. Modelos que buscan manejar el lenguaje igual que los humanos, que no únicamente lean sino que interpreten documentos (en el CAP ya participamos en algunos proyectos de la UE en ese sentido, buscadores semánticos, resumen de extensos textos, traducción de video a texto), y que lean miles e millones de páginas, las sinteticen, y respondan a las preguntas que el usuario decida. Además recordarán las preguntas para ofrecer periódicamente novedades y actualización sobre los asuntos de interés manifestados por el cliente.

– Lo más difícil de simular son los niveles de abstracción, incorporar humor, ironía o sarcasmo. Suponen varios niveles de interpretación, y eso cuesta y confunde a las máquinas (bueno, a muchas personas también. Un área que aún, en base a demos presentadas, tiene mucho que desarrollar).

– El concepto de inteligencias externas o ampliadas. Se basa en proyectar un neocórtex exterior disponible en la nube. El cerebro humano será un híbrido entre el neocórtex biológico y la extensión externa, que podría ser la dominante en unos años (mucho más allá de lo que ya se denomina el “efecto Google”, una especie de disco duro que está produciendo en el ser humano un menor interés en memorizar cosas que se pueden consultar en segundos. Los teléfonos móviles son un ejemplo de memoria extendida).

– La posibilidad  de archivar todo nuestro conocimiento, pero también nuestras habilidades y nuestros recuerdos. Señala el visionario que eso permitiría salvarlos  de accidentes y enfermedades (aunque generando riesgos evidentes).

– La posibilidad de crear avatares de uno mismo, o de familiares fallecidos, hacia el año 2029. De hecho, el autor habla de un proyecto para crear un avatar de su propio padre, para lo que cuenta con ADN, vídeos, fotos. Habrá un momento en que será posible copiar recuerdos, conocimientos y habilidades de una persona en un avatar.

– La robótica, y la mezcla de biología y tecnología. La era cyborg, en la que será posible reemplazar partes biológicas. Apunta además a la existencia en un futuro de los derechos (humanos) de los robots (algunos planteamientos humanos realiza el SO que protagoniza “Her”).

– La disponibilidad y costes. Toda esta tecnología es tremendamente cara en un primer momento, sólo accesibles para ricos, pero cuando el funcionamiento es aún imperfecto. Inmediatamente se perfeccionan y se hacen accesibles a toda la sociedad, llegando a ser casi gratuitas (muchos de estos servicios nos los ofrecerá, como actualmente, Google, únicamente a cambio del alma, es decir, nuestra información, intereses, emociones y deseos).

Desde un punto de vista de la prospectiva, del pensamiento sobre el futuro, es preciso extraer de la misma una importante serie de reflexiones, que finalmente pueden contribuir a determinar una serie de riesgos para la seguridad de nuestras sociedades que deben ser contemplados:

– Privacidad, que irá más allá de los datos e información en la Red. El mundo de los denominados “wearables”, dispositivos inteligentes en forma de pulseras, relojes o prendas de vestir, conectados a internet y que almacenan datos muy personales (calidad del sueño, ritmo cardiaco, hábitos deportivos) es sólo un comienzo de lo que nos espera si se cumplen estas predicciones.

– El mundo de la mente de las personas, recuerdos, conocimientos y habilidades en el exterior de las personas, en nubes. Riesgo de explotación por las empresas, como Google, que ofrecen esos servicios. Riesgo de hacking. Hacking de las mentes. Si es grave en caso de datos, imaginemos lo que puede serlo en el caso de emociones o recuerdos. En “Her”, sin que sea el centro de la película, ya se puede atisbar cómo un sistema operativo capaz de enamorar a las personas tendría la posibilidad de manejar y manipular hacia cualquier tipo de interés, de forma masiva.

– Nuevos delitos, relacionados con el ámbito y la privacidad de la mente, y de las emociones. También con la robótica y el mundo cyborg.

– Riesgo de nuevos sistemas de control social. En gran parte coincido con Assange en que internet se ha convertido en un riesgo para la humanidad, y convertido en un sistema de control social (aunque ahí se siga peleando, y ofrezca multitud de posibilidades de intee´s para los ciudadanos). Este nuevo salto tecnológico puede suponer una gravísima amenaza hacia el individuo.

Con ocasión de la aprobación de la Estrategia Española de Seguridad, en 2011, ya señalé que los ámbitos que presentaba estaban incompletos. Junto a ámbitos clásicos, como el terrestre, el marítimo, o el aéreo, añadía  el espacio, el ciberespacio y la información. Indicaba, reflejado incluso en alguna nota difundida, que era preciso añadir el espacio de la mente (mucho más que información, y presente en los ámbitos físicos y ciber). La mente puede convertirse en un campo de batalla futuro, en la medida en que ya está siendo leída por personas y organizaciones (este verano en Granada, otro vicepresidente de Google señalaba ese deseo de anticiparse a lo que el usuario esté pensando). ¿En qué medida esa intención de leer la mente de usuarios será una ayuda o será un elemento que condicione nuestras decisiones? ¿En qué medida limita la libertad de decisión? ¿Cómo afecta a esas decisiones que tomamos en el último segundo, que a veces nos hunden en el fango o, por el contrario, nos hacen alcanzar el paraíso? ¿Por qué una máquina me dirá lo que debería beber en un momento dado, por mucho que me conozca e interprete?

¿Y qué decir del amor? Si ya era difícil consensuar algún tipo de definición, o los elementos que lo configuran, tanto la evolución social como las tecnologías, en su papel de brutal factor  de cambio (game changer), están llevando a nuevas formas de expresión o entendimiento, desde la posibilidad de enamoramiento de un sistema operativo, como sucede en “Her” a otros amplios catálogos de formas, como las señaladas en este artículo.

Pero la conclusión que sugiere “Her”, al menos eso creo o quiero creer, es que cuando el amor se mezcla con inteligencia, en este caso inteligencia artificial, el primero acaba desapareciendo. Algoritmos acaban con el juego, la improvisación, el libre albedrío, la aventura…por mucho que esos algoritmos sean capaces de utilizar el sentido del humor, la ironía, u ofrecer a un oído agradecido lo que le apetece escuchar.

La combinación de estas tecnologías y la robótica llevará sin duda a una nueva dimensión. Puede que sea difícil enamorarse de un sistema operativo, pero ¿si el mismo interactúa a través de un robot o de un avatar, con el cuerpo de Scarlett Johansson, y no sólo su voz como en “Her”, o de  Brad Pitt (cada uno que ponga el nombre que quiera)?

Yo de momento prefiero que me digas que me quieres, oírlo de tu boca, a poder ser al oído, y verlo en tus ojos…humanos.

Esta entrada fue publicada en Uncategorized. Guarda el enlace permanente.

Una respuesta a “HER”, mente, amor, y seguridad nacional

  1. Johne266 dijo:

    An attentiongrabbing dialogue is worth comment. I believe that you must write extra on this subject, it won’t be a taboo topic but typically persons are not enough to speak on such topics. To the next. Cheers kekgckdegegc

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s