Filósofos en el coche: ¿debe un vehículo sin conductor decidir quién vive o muere?

Los grandes genios de la industria automovilística de Detroit, Tokio y Stuttgart ya saben cómo fabricar vehículos sin conductor, pero ahora viene lo difícil: decidir si los coches robots deberían tener poder sobre quién vive y quién muere en un eventual accidente. ¿Nos pondrán en peligro los vehículos autónomos?

La industria del automóvil promete un futuro brillante con vehículos autónomos que se moverán armónicamente como bancos de peces. No obstante, esto no será realidad hasta que los fabricantes respondan a cuestiones espinosas como las que ha explorado la ciencia ficción desde que Isaac Asimov escribiera su serie sobre robots el siglo pasado: por ejemplo, ¿debería un vehículo autónomo sacrificar a su ocupante con un giro brusco que lo haga caer por un precipicio para evitar matar a los niños que llenan un autobús escolar?

En este punto los ejecutivos de la industria automovilística se han encontrado con un terreno desconocido, por lo que han decidido reclutar a especialistas en ética y a filósofos para que les ayuden a moverse entre los matices que hay entre el blanco y el negro en esta cuestión. Ford, General Motors, Audi, Renault y Toyota se han dirigido al Centro de Investigación en Automoción de la Universidad de Stanford, donde se están programando coches con el fin de que tomen decisiones éticas para luego observar qué ocurre.

"Sin duda, el tema está en el punto de mira", explica Chris Gerdes, director del laboratorio, que recientemente se reunió con los presidentes ejecutivos de Ford y General Motors para discutir sobre esta cuestión. "Son conscientes de los problemas y los retos porque en la actualidad son sus programadores quienes tratan activamente de tomar esas decisiones".

Google está siendo el gran pionero en el terreno del coche sin conductor, pero no es el único: varios fabricantes de automóviles gastan ya miles de millones en desarrollar sus propios coches sin conductor, dando lugar a múltiples prototipos con distintas versiones de esta tecnología.

Robots sociales

Los coches ya pueden detenerse y cambiar de dirección sin que sea precisa la acción de de un conductor humano. Pero según la consultora Boston Consulting Group, es posible que, dentro de una década, haya vehículos totalmente automatizados circulando por las carreteras. Los coches serán una de las primeras máquinas autónomas que pondrán a prueba los límites del sentido común y la reacción en tiempo real.

"El vehículo autónomo será el que marque la pauta para todos los robots sociales", pronostica el filósofo Patrick Lin, director del Grupo de Ética y Ciencias Emergentes de la Universidad Politécnica de California y consejero de fabricantes de automóviles. "Son los primeros robots verdaderamente sociales que se moverán entre la gente".

Los coches que conducen solos prometen anticipar y evitar colisiones y otros accidentes, con el objetivo de reducir al mínimo posible las víctimas de tráfico... Pero será inevitable que, en última instancia, siga habiendo accidentes y en ese momento cabe la posibilidad de que el coche robot tenga que elegir el mal menor, como por ejemplo girar e invadir una acera llena de gente para evitar ser alcanzado por detrás por un camión a toda velocidad, o quedarse en el sitio y poner en peligro mortal al conductor.

"Hay que responder a esta clase de preguntas antes de que la conducción automatizada se convierta en realidad", señalaba la semana pasada Jeff Greenberg, responsable de la tecnología hombre-máquina de Ford, durante un recorrido por el nuevo laboratorio de investigación de la compañía del rombo en Silicon Valley.

Las leyes de Asimov

Pero en estos momentos, los especialistas en ética tienen más preguntas que respuestas. ¿Las normas que regulen los vehículos autónomos deberían dar prioridad al bien mayor ?el número de vidas salvadas? y no dar valor a los individuos involucrados? ¿Deberían inspirarse en Asimov, cuya primera ley de la robótica dice que una máquina autónoma no puede causar daño a un ser humano, o debido a su inacción, permitir que le sea causado?

"Yo no querría que mi coche robot vendiese mi vida solo para salvar otra u otras dos", admite Lin, "pero esto no quiere decir que el vehículo deba preservar nuestra vida por encima de todo, sin que importe de cuántas víctimas estemos hablando. Eso me parecería muy mal".

Por esta razón no deberíamos dejar esas decisiones en manos de robots, opina Wendell Wallach, autor de A Dangerous Master: How to Keep Technology from Slipping Beyond Our Control. "El camino que se debe seguir es crear un principio absoluto según el cual las máquinas no tomen decisiones sobre la vida y la muerte", afirma Wallach, investigador del Centro Interdisciplinar de Bioética de la Univeridad de Yale. "Debe haber un ser humano involucrado. Si la gente piensa que no se la considerará responsable de las acciones que emprende, acabaremos teniendo una sociedad sin ley".

Desobedecer las leyes

Mientras que Wallach, Lin y otros especialistas en ética lidian con las complejidades filosóficas, Gerdes lleva a cabo experimentos en la realidad. Este verano, en un circuito de carreras del norte de California, probará vehículos autónomos programados para seguir normas éticas a la hora de tomar decisiones instantáneas, como por ejemplo, cuándo es adecuado desobedecer las reglas del tráfico y cruzar una doble línea continua para dejar sito a ciclistas o a coches aparcados en doble fila.

Gerdes también colabora con Toyota para encontrar maneras de que un coche autónomo devuelva rápidamente el control a un conductor humano. Incluso esta clase de transferencia está llena de peligros, afirma, sobre todo a medida que los automóviles hacen más cosas y las habilidades de conducción disminuyen.

En último término, el problema de otorgar a un vehículo autónomo el poder de tomar decisiones importantes es que, al igual que los robots de ciencia ficción, un coche sin conductor carece de empatía y de la capacidad de captar el matiz. "Por ahora no se ha diseñado ningún sensor tan bueno como el ojo y el cerebro humanos", concluye Gerdes.