¿Cómo deben actuar los coches sin conductor?

Cuando un conductor frena repentinamente para evitar golpear a un peatón que cruza la calle de repente, está tomando una decisión moral que mueve el riesgo del peatón al conductor del automóvil.

Los autos que conducen solos pronto pueden emitir tales juicios éticos por su cuenta, pero establecer un código moral universal para los vehículos podría ser una tarea espinosa, sugiere una encuesta de 2,3 millones de personas de todo el mundo.

La encuesta ética más amplia sobre la máquina, publicada esta semana en  Nature , señala que muchos de los principios morales que guían las decisiones de los conductores varían de un país a otro. Por ejemplo, en una situación en la que una combinación de peatones y pasajeros morirá en una colisión, es menos probable que las personas de países relativamente prósperos con instituciones sólidas salven a un peatón que ha entrado repentinamente en la carretera.

"La gente que piensa en la ética de las máquinas parece que podemos encontrar un conjunto perfecto de reglas para los robots, y lo que mostramos aquí con datos es que no hay reglas universales", dice Iyad Rahwan, científico informático del Instituto de Massachusetts. de Cambridge Technology y coautor del estudio.

La encuesta, llamada Máquina Moral, describía 13 escenarios en los que la muerte de alguien era inevitable. Se pidió a los encuestados que eligieran a quién guardar en situaciones que involucran una mezcla de variables: jóvenes o viejos, ricos o pobres, más personas o menos.

La gente rara vez piensa en estos duros dilemas morales, y algunos críticos se preguntan si los escenarios propuestos en el cuestionario son relevantes para los problemas éticos y prácticos que rodean a los autos sin conductor. Pero los autores del estudio argumentan que los escenarios reemplazan las decisiones morales que los conductores toman todos los días. Afirman que los resultados revelan matices culturales que los gobiernos y los fabricantes de automóviles de autoservicio deben considerar si quieren que los vehículos sean aceptados por el público.

Nicholas Christakis, científico social de la Universidad de Yale en New Haven, Connecticut, está fascinado por los resultados.

"Es un documento extraordinario", dice. El debate sobre si la ética es universal o variable entre culturas es antiguo, dice Christakis, y ahora el " problema del siglo XXI" sobre cómo programar los autos que conducen por cuenta propia lo ha fortalecido.

Algunas de las compañías de tecnología más grandes del mundo, incluida la empresa matriz de Google, Alphabet; Uber; y Tesla - y las compañías automotrices ahora tienen programas de auto-manejo de autos. Muchas de estas compañías afirman que los vehículos podrían mejorar la seguridad vial, facilitar el tráfico y mejorar la eficiencia del combustible. Los científicos sociales dicen que los automóviles plantean problemas éticos y pueden tener consecuencias involuntarias para la seguridad pública y el medio ambiente.

En 2016, el equipo de Rahwan se topó con una paradoja ética sobre los autos que conducen: en las urnas, las personas dijeron que querían un vehículo autónomo para proteger a los peatones, incluso si querían sacrificar pasajeros, pero también que no comprarían el auto-manejo. Vehículos programados para actuar de esta manera.

Con la curiosidad de ver si la perspectiva de los autos que conducen por sí mismos podría plantear otros dilemas éticos, Rahwan reunió a un equipo internacional de psicólogos, antropólogos y economistas para crear la MÁQUINA DE LA MORAL. En 18 meses, el cuestionario en línea registró 40 millones de decisiones tomadas por personas de 233 países y territorios.

Independientemente de su edad, género o país de residencia, la mayoría de las personas han evitado a los humanos en comparación con las mascotas y los grupos de personas en comparación con las personas. Estas respuestas están en línea con las reglas propuestas en lo que podría ser la única indicación del gobierno sobre los autos que conducen: un  informe de 2017 de  la Comisión de Ética alemana sobre la conducción automatizada y conectada.

Cuando los autores analizaron las respuestas de personas en 130 países con al menos 100 encuestados, encontraron que las naciones podían dividirse en tres grupos. Una contiene América del Norte y varias naciones europeas donde el cristianismo ha sido históricamente la religión dominante; otra incluye países como Japón, Indonesia y Pakistán, con fuertes tradiciones confucianas o islámicas. Un tercer grupo incluye a América Central y del Sur, además de Francia y las antiguas colonias francesas. El primer grupo mostró una mayor preferencia por el sacrificio de vidas más antiguas para salvar a las más jóvenes, en comparación con el segundo grupo, por ejemplo.

Los investigadores también identificaron las correlaciones entre los factores sociales y económicos en un país y las opiniones promedio de sus residentes. El equipo descubrió que las personas de países con instituciones gubernamentales sólidas, como Finlandia y Japón, optaban con mayor frecuencia por atacar a personas que cruzaban ilegalmente la carretera que los encuestados en naciones con instituciones más débiles, como Nigeria o Pakistán. .

Los escenarios que obligaron a los participantes de la encuesta a elegir si salvar a una persona sin hogar en un lado de la carretera o a un administrador en el otro revelaron otro punto de partida: las elecciones que las personas a menudo hacían estaban relacionadas con el nivel de desigualdad económica en su cultura. Los finlandeses, que tienen una brecha relativamente pequeña entre ricos y pobres, han mostrado poca preferencia por la desviación en una dirección u otra. Pero el respondedor promedio en Colombia, un país con una disparidad económica significativa, eligió matar a la persona de bajo rango.

Azim Shariff, un psicólogo de la Universidad de British Columbia en Vancouver, encuentra este resultado interesante porque sugiere que la encuesta realmente revela las preferencias morales de las personas. " Si asumimos que los lugares que tienen un nivel más bajo de desigualdad de ingresos tienen políticas que promueven el igualitarismo, esto demuestra que los estándares morales que respaldan tales políticas se expresan en la forma en que la gente juega estos juegos" .

Barbara Wege, quien dirige un grupo enfocado en la ética de los vehículos autónomos en Audi en Ingolstadt, Alemania, dice que tales estudios son valiosos. Wege sostiene que los autos que conducen por cuenta propia causan menos accidentes en proporción a los conductores humanos cada año.

Las encuestas como MORALE MACHINE pueden ayudar a iniciar discusiones públicas sobre estos incidentes inevitables que podrían fomentar la confianza.  "Tenemos que encontrar un consenso social" , dice, "sobre los riesgos que estamos dispuestos a asumir".