Cuáles serían las consecuencias si la Inteligencia Artificial fuese capaz de predecir nuestro futuro

Las predicciones algorítmicas pueden hoy determinar si una persona va a conseguir un préstamo o un trabajo, un apartamento o un seguro, y muchas otras cosas. Estas predicciones analíticas se están extendiendo por las diferentes esferas de la vida, y nadie ha pedido permiso para que esto suceda. Nadie informa sobre las profecías que podrían determinar el destino.

Si se acude a la literatura académica sobre la ética de la predictibilidad, este es todavía un campo sin explorar. Por tanto, la sociedad humana aun no ha reparado en las implicaciones de realizar predicciones sobre la gente, sobre seres que se basan en la acción y en el libre albedrío.

Desafiar las probabilidades

La cualidad de ser humano implica enfrentarse a las posibilidades. Para mejorar las probabilidades (el punto de partida) de cada uno, la sociedad debe precisamente permitir y estimular aquellas actuaciones que luchen contra las posibilidades. Sin embargo a más se utiliza la Inteligencia Artificial (IA) para categorizar a la gente, al tratárseles de manera acode a como esta herramienta predice su comportamiento e incluso su futuro, entonces más se estrecha la acción humana. Naturalmente, ello implica riesgos desconocidos.

El ser humano lleva utilizando la predicción desde antes del Oráculo de Delfos, y en la Antigüedad las guerras se llevaban a cabo según esas posibilidades. Mucho más hacia delante en la historia humana, la predicción se comenzó a utilizar para prácticas como las primas de seguros. En este caso solían tratar de grandes grupos de gente (por ejemplo, cuántas personas del total de población del país morirán al año por accidentes de coche). A mayor era el estudio o encuesta para llevar a cabo los cálculos, más estables serían las primas.

Las predicciones en la actualidad

Hoy en día, los algoritmos de aprendizaje automático usan la estadística para realizar predicciones. Por ejemplo, los algoritmos de texto se sirven de cuantiosas bases de datos del lenguaje para predecir el final más plausible para un conjuntos de palabras. En el caso del comportamiento humano, estos se basan en datos históricos para predecir el futuro: qué vamos a comprar, si planeamos cambiar de trabajo, o incluso si nos pondremos enfermos o cometeremos un crimen.

Es un contexto en el las predicciones se han individualizado. Cabe añadir que los algoritmos no describen la realidad, porque tratan de predecir el futuro, ergo, aquello que todavía no ha tenido lugar. Predecir es suponer, y todos los algoritmos se basan precisamente en eso. Así, las posibilidades pueden ser más o menos acertadas, pero la relación entre estas y la actualidad es muy tenue y éticamente problemática.

Las instituciones tratan actualmente de hacer pasar las predicciones por modelos de realidad objetiva. Incluso cuando los pronósticos de la IA son meros cálculos, se suelen interpretar como algo determinante en la práctica. En parte, el motivo de ello es que los incentivos para intentar sortear los riesgos alimentan esta tensión.

Un viejo debate filosófico

Los problemas éticos derivados de la manera en la que actualmente se utilizan las predicciones ha traído de vuelta uno de los debates más antiguos en filosofía: ¿Si hay un Dios omnisciente, podemos ser realmente libres? Si Dios ya sabe todo lo que va a suceder, ello implica que sea lo que sea lo que acontezca, estará predeterminado. Si ese fuera el caso, entonces el sentimiento de libertad humana se quedaría solo en eso, en una sensación. Esto es lo que se conoce como el fatalismo teológico.

Además, al pronosticar el comportamiento humano como si el tiempo, inevitablemente se trata a las personas como cosas, sin el respeto que implica reconocer las capacidad individuales para actuar y decidir libremente, y así cambiar la vida y sus circunstancias. En caso de creer saber el futuro de un individuo, y tratarle de manera acorde, ello coarta la posibilidad de que actúe por su cuenta y desafíe las predicciones.

Además, si se tiene en cuenta que las predicciones no suelen ser neutras, entonces al tratar a la gente como objetos se producirán una especie de profecías autocumplidas. Estas tienden más a intervenir en la realidad que a no hacerlo: si Facebook determina que una publicación será exitosa, entonces maximizará la exposición de sus usuarios a ella, lo que inevitablemente conllevará que se haga viral. Y llevado al campo de las probabilidades de encontrar empleo, esto podría mermar considerablemente las opciones de la persona en cuestión en la vida.

Un futuro robado

El uso extensivo de las analíticas de la predicción puede robar a las personas todas sus capacidades para tener un futuro abierto, en el que quizás se marque la diferencia. El impacto destructivo en la sociedad humana puede ser enorme. La gente cambia sus hábitos para mejorar su salud, hace grandes esfuerzos para garantizar una buena educación a sus hijos, y así intentar que tengan una vida mejor. El ser humano trata por tanto de estructurar las sociedades según el mérito, pero esas prácticas sociales tan importantes para el modo de vida no tendrían sentido si ya se conociese el destino de cada cual, y si se pensase y actuase en consecuencia.

Actitudes tan básicas como el halago o el culpabilizar a alguien serían inapropiadas, no existirían incentivos ni castigos de ningún tipo. La gente se resignaría totalmente a las profecías, y no intentaría de ninguna manera cambiar el futuro. Los mercados financieros colapsarían ipso facto, y con ellos la economía. 

Por tanto, la tensión entre predecir el comportamiento humano y la creencia en el libre albedrío diario entran en conflicto. Un cierto grado de incertidumbre es lo que motiva al individuo a ser mejor, y por tanto mantiene varias posibilidades en el aire. En el debate está la diferencia entre tratar a la persona como máquina cuyo futuro puede y debe predecirse, o verla como agente capaz y a la cual no merece la pena predecir. Si finalmente se impone la libertad individual humana, entonces no se debe tratar a nadie como objetos, calculando lo que harán a continuación como si no tuviesen nada que objetar.

Adentrarse en lo desconocido

Las predicciones no son inocuas. El uso extensivo de los algoritmos en las vidas humanas puede cambiar incluso la manera en la que una persona piensa sobre sí misma. Hay un cierto valor en creer en la libertad de decisión y actuación. Estudios en psicología muestran que mermar la confianza humana en el libre albedrío aumenta la voluntad de hacer trampas y engaños, la agresión y el conformismo; por su parte, reduce los comportamientos serviciales y los sentimientos positivos, como la gratitud y la sinceridad.

A lo largo de la historia humana se puede observar que la creatividad de la gente ha desafiado las probabilidades, llegando incluso a salvar a naciones enteras. La habilidad para desafiar (e incluso vencer) a las probabilidades es uno de los mayores dones humanos, y evitar que esta se desarrolle podría hacer peligrar a la humanidad.