Opinión

2030: Paremos la distopía

El nuevo iPhone analizará las imágenes que sus usuarios hagan utilizando este dispositivo.

Cuando George Orwell puso el título de 1984 a su novela no pudo imaginar que sus cálculos para situar un Gran Hermano no estaban tan equivocados. Apple es la empresa más grande del planeta (si usamos como indicador la capitalización bursátil) pero además con sus productos es una de las compañías más influyentes en todo el mundo puesto que se estima que está presente en dos de cada diez hogares. Este mes de agosto la empresa tecnológica ha anunciado que el nuevo iPhone tendrá un sistema que analizará las imágenes que se hagan con todos sus dispositivos en busca de material inapropiado.

Tal y como ha anunciado la compañía con sede en Cupertino, esta nueva tecnología escaneará las imágenes buscando coincidencias con fotografías de abusos de referencia. Así, de modo automático y, en caso de que se encuentre alguna coincidencia o una imagen sea sospechosa, la alerta saltará y una persona se encargará de evaluar la instantánea, para ponerla, en su caso, en conocimiento de las fuerzas de seguridad.

Miles de millones de usuarios de Apple podrán ser vigilados permanentemente. La empresa fundada por Steve Jobs defiende que la aplicación es para hacer el bien, pero expertos de universidades de Stanford, John Hopkins o Cambridge han alertado que bastará con cambiar algunos parámetros en el algoritmo para permitir encontrar otro tipo de fotos. Por ejemplo, los gobiernos pedirán colaboración para luchar contra el terrorismo, la industria de la música contra el pirateo, Hacienda contra la defraudación, las empresas contra el absentismo, la policía contra manifestaciones no autorizadas, el cine y el futbol para defender sus derechos de exclusividad, los nacionalismos para garantizar el uso de idiomas vernáculos… la lista sería interminable siempre para supuestas buenas causas que nos llevarían al personaje del libro de Orwell.

Gran Hermano es el ente omnipresente que gobierna el mundo en el año 1984 usando una implacable e invasiva vigilancia de todos y cada uno de los habitantes. Para ello se vale de Ministerios como el de Verdad o el de la Felicidad, eufemismos de mecanismos represivos para manipular, vigilar y reprimir masivamente. Esta forma social que imagina la novela escrita en 1947 se ha acuñado como sociedad orwelliana y es un ejercicio de prospección del escritor inglés basado en los sistemas totalitarios de la época, comunismos y fascismos.

La noticia de la empresa dirigida por Tim Cook ha generado una enorme preocupación en torno a la privacidad de los usuarios, ya que se cree que esta misma tecnología podría usarse para buscar cualquier tipo de información en los teléfonos. De hecho, expertos del prestigio de David Thiel creen que podría ser utilizada por gobiernos autoritarios para espiar a sus ciudadanos o buscar personas que piensan de manera diferente. Gran Hermano no en 1984 pero sí en 2021.

Una década antes de que Orwell entregara su manuscrito, otro autor también anglosajón de nombre Aldous Huxley, publicó Un mundo feliz que describe una sociedad aparentemente perfecta en la que para asegurar la paz y la riqueza global ha de pagarse el precio de asumir la manipulación, prescindir de la libertad de elección y limitar las expresiones emocionales e intelectuales. Apple busca, con buena intención, un mundo mejor, pero nos apuntamos a las dudas de los expertos de estar muy alerta ante sofisticados sistemas basados en inteligencia artificial que acaben tomando decisiones que afecten a las libertades individuales.

El pensador americano Raymond Kurzweil lleva un tiempo hablando de estas cuestiones, lo llama "singularidad". En el análisis matemático se usa este término para aludir a ciertas funciones que presentan comportamientos inesperados cuando se asignan determinados valores a las variables independientes. La singularidad tecnológica se supone que se da en un hipotético punto a partir del cual una civilización sufre una aceleración del progreso técnico que provocaría la incapacidad de predecir sus consecuencias.

En 2030 conforme al increíble desarrollo que está viviendo la inteligencia artificial, una máquina tendrá capacidad de crear inteligencia muy superior al control y la capacidad intelectual del ser humano.

Nos quedan unos años por delante para que estas distopías no se hagan realidad. La clave, como siempre, reside en las personas. La esperanza es que conforme a nuestra experiencia cada vez más compañías apuestan por directivos no sólo capacitados y con experiencia sino con estándares éticos que aplican en su día a día. La buena tecnología triunfará con ellos.

comentarios0WhatsAppWhatsAppFacebookFacebookTwitterTwitterLinkedinlinkedin