Coches autónomos y ética de la IA Excelsior

Por Peter Singer* y Tse Yip Fai** PRINCETON/HONG KONG.
— El mes pasado, los reguladores de California permitieron que dos empresas que operan vehículos autónomos aceptaran clientes de pago en San Francisco.
La primera semana no fue bien.
Un coche se desplazó sobre hormigón recién vertido en una zona de construcción de carreteras con conos de tráfico y trabajadores con banderas.
El auto quedó atascado en el concreto húmedo y la empresa pagará para repavimentar la carretera.
En un incidente más grave, un pasajero de un coche sin conductor resultó herido en una colisión con un camión de bomberos.
Como resultado, el operador acordó reducir a la mitad la cantidad de vehículos sin conductor que operaban en San Francisco.
La decisión de permitir los vehículos autónomos puede marcar el comienzo de una nueva era del transporte o puede resultar un falso amanecer.
De cualquier manera, los problemas que rodean a los vehículos autónomos ilustran muchas de las cuestiones éticas que plantea el impacto de la inteligencia artificial en la vida cotidiana.
Un mundo en el que la mayoría de los vehículos fueran totalmente autónomos tendría muchas ventajas.
La mayoría de los coches privados pasan mucho tiempo inactivos.
Si todo el mundo pudiera recurrir a un vehículo autónomo cuando fuera necesario, no habría necesidad de tener coche propio, ahorrando así recursos.
Además, al mantener el tráfico fluido, el uso generalizado de vehículos sin conductor también puede ahorrar combustible y tiempo.
Pero la razón más importante para eliminar a los conductores humanos es que también podría eliminar los errores humanos que causan tantos accidentes de tráfico, lesiones y muertes (la Administración Nacional de Seguridad del Tráfico en las Carreteras de EU cifra el número de muertos en las carreteras estadunidenses el año pasado en 42.
795).
Elon Musk ha dicho que desarrollar vehículos totalmente autónomos es una obligación moral porque puede lograr un “futuro prácticamente libre de accidentes”.
Pero ese futuro aún está lejos: hasta la fecha, los Tesla que fabrica la compañía de Musk se han visto involucrados en más de 700 accidentes, con 17 víctimas mortales, cuando funcionaban en Autopilot, su modo de asistencia al conductor.
Ambas compañías que operan automóviles sin conductor en San Francisco afirman que sus automóviles están involucrados en menos colisiones, y especialmente menos colisiones con lesiones, que los conductores humanos en un entorno de conducción comparable.
Pero la validez de tales afirmaciones es cuestionada debido a dudas sobre los entornos de conducción que se comparan.
Aun así, incluso si la última generación de vehículos sin conductor es menos segura que el conductor humano promedio, se podría argumentar que ponerlos en las calles de la ciudad ahora está justificado porque hacerlo salvará muchas más vidas a largo plazo.
Una vez que se perfeccionen los vehículos autónomos, podremos incluso restringir a los conductores humanos a velocidades más bajas o prohibirlos por completo, porque el riesgo que representan para otros usuarios de la carretera, en comparación con la opción más segura que ofrecen los automóviles sin conductor, se vuelve inaceptable.
No sorprende que la oposición a los “robotaxis” haya provenido de los taxistas, una respuesta conocida en otras áreas donde la IA amenaza con dejar a la gente sin trabajo.
Al mejorar la productividad, dicen sus defensores, la IA nos permitirá lograr un mejor equilibrio entre el trabajo y la vida privada.
Pero “nosotros” no incluirá a nadie que pierda su trabajo a causa de la IA, a menos que se le vuelva a capacitar para otro trabajo y a menos que se exija a las empresas que paguen a sus empleados un salario digno por una semana laboral más corta.
¿Habrá voluntad política para hacerlo?Mirando hacia el futuro, ¿qué pasaría si la IA tuviera tanto éxito que pocos humanos tuvieran trabajo? ¿Seremos capaces de desarrollar nuevos propósitos que reemplacen el papel del trabajo a la hora de dar sentido y realización a nuestras vidas?Es probable que la programación de IA sea otra área de regulación.
Volviendo al ejemplo de los vehículos sin conductor, los consumidores en un mercado no regulado buscarán automóviles que minimicen el riesgo para ellos o sus pasajeros, incluso si eso aumenta significativamente el riesgo para los peatones.
Sin embargo, si todos los automóviles se programaran de esta manera, el número de personas muertas o heridas por los automóviles sería mayor que si los automóviles se programaran para seguir estrategias de minimización de riesgos que sean imparciales entre quienes están dentro y fuera del automóvil.
Sólo una regulación que requiera tal imparcialidad puede evitar un resultado parecido a la conocida “tragedia de los bienes comunes”.
Una cuestión más sorprendente que plantean los coches sin conductor es que parecen ser menos fiables a la hora de detectar peatones de piel más oscura que aquellos de piel más clara y, por tanto, pueden atropellar a un número desproporcionadamente mayor de peatones de piel oscura.
Un estudio (publicado en 2019 y que utilizó tecnología de punta en 2018) sugiere que esto se debió a que el software fue desarrollado y entrenado en regiones con más peatones de piel clara que de piel oscura.
Si ése es el caso, una vez que seamos conscientes de dichos problemas, pueden y deben solucionarse.
Una cuestión ética importante, pero a menudo pasada por alto, que plantean los vehículos autónomos es si deben programarse para evitar golpear a los animales y, de ser así, cuáles.
Todos los vertebrados, y algunos invertebrados, son seres sensibles, propensos a sufrir si son golpeados, pero no mueren instantáneamente.
Además, en muchas especies, la pérdida de una pareja causará angustia o puede provocar que la descendencia dependiente muera de hambre.
Cómo debemos valorar las vidas y los intereses de todos los seres sintientes es una cuestión que la ética de la IA debe abordar.
 *Profesor de Bioética en la Universidad de Princeton, fundador de The Life You Can Save.
**Investigador de IA, actualmente contratado por el Centro de Valores Humanos de la Universidad de Princeton Columnista: Opinión del experto nacionalImágen Portada: Imágen Principal: Send to NewsML Feed: 0