Volar es ya una rutina. Y es seguro. Todo lo que se aprendió a partir de los problemas.
En más de un siglo han muerto unas 185.000 personas en accidentes aéreos civiles. Sin embargo, en los últimos cinco años y en aerolíneas estadounidenses, el riesgo de morir fue casi de cero. De hecho, hay más probabilidades de que ganes la lotería que de morir siendo pasajero en una línea aérea estadounidense.
¿Cómo llegó a ser tan seguro volar? ¿Podemos aplicar las lecciones de seguridad que tanto costó aprender, a la inteligencia artificial?
Cuando la humanidad introduce una nueva tecnología que cambia paradigmas, y esa tecnología se adopta rápido globalmente, se desconocen y casi siempre se temen las consecuencias futuras. En 1903 los hermanos Wright introdujeron los vuelos motorizados, y esa tecnología nueva no fue una excepción. Despertó controversia, tuvo objeciones, y hubo preocupación política, religiosa y técnica.
Fue cuando ocurrió el primer accidente aéreo. Ese mismo día, en el cuarto vuelo de los hermanos Wright. Cinco años después, en 1908, murió la primera persona durante un accidente de avión. Y desde entonces, en todo el mundo ha habido 89.000 accidentes aéreos.
Soy investigador y me dedico a estudiar la seguridad en los viajes aéreos, y hoy veo que la industria de la IA se parece a esos primeros años de la industria de la aviación, y es decididamente menos segura.
De estudiar los accidentes, a predecirlos
Aunque es trágico, cada accidente y cada fatalidad representó un momento para la reflexión y el aprendizaje. Los investigadores de accidentes intentaron recrear cada accidente e identificar los precursores y causas en cada caso. Cuando lograban identificar lo que había causado cada accidente, los fabricantes y operadores de aeronaves instauraron medidas de seguridad esperando prevenir accidentes adicionales.
Por ejemplo, si un piloto en esa primera era de los vuelos olvidaba bajar el tren de aterrizaje, lo más probable era que hubiera un accidente en el momento de aterrizar. Entonces la industria instaló sistemas de alerta para que los pilotos estuvieran al tanto de la situación del tren de aterrizaje. Una lección que solo se aprendió después de que se produjeran accidentes. Es un proceso reactivo y necesario, aunque también representa un precio elevado para que aprendiéramos a mejorar la seguridad.
A lo largo del siglo XX el mundo de la aviación organizó y estandarizó operaciones, procesos y procedimientos. En 1938 el presidente Franklin Roosevelt firmó el Acta de la Aeronáutica Civil, creando así la Autoridad de la Aeronáutica Civil, precursora de la Administración Federal de Aviación, y una Junta de Seguridad Aérea.
El paradigma de seguridad completamente reactivo fue cambiando para convertirse en proactivo y luego, en predictivo. En 1997 un grupo de organizaciones de la industria, el trabajo y el gobierno formaron el Equipo de Seguridad en la Aviación Comercial. Comenzaron a analizar los datos para encontrar tendencias y analizaron informes para identificar los riesgos antes de que se convirtieran en accidentes.
El grupo, que incluye a la FAA y la NASA, decidió desde sus inicios que en temas de seguridad no habría competencia entre las aerolíneas. La industria compartiría abiertamente los datos referidos a la seguridad. ¿Has visto algún aviso que promocione a una aerolínea diciendo que es más segura que sus competidoras?
Son los datos
El Equipo de Seguridad en la Aviación Comercial ayudó a que la industria transicionara, de lo reactivo a lo predictivo, al adoptar una perspectiva sistémica y basada en datos para resolver problemas de seguridad. Generó esos datos utilizando los informes de la gente y los datos de las aeronaves.
Hay millones de vuelos en todo el mundo cada día, y en cada uno de los vuelos se registran miles de datos. Hoy los profesionales de la seguridad en la aviación utilizan los Registros de Datos de Vuelo – que siempre se usaron después de los accidentes, para investigación – y analizan los datos de cada vuelo. Con ese análisis exhaustivo los analistas en seguridad pueden detectar tendencias y potenciales problemas. Por ejemplo, un científico entrenado en seguridad puede analizar los datos y detectar si hay formas de aproximarse a la pista de aterrizaje que resultan más riesgosas debido a factores como la velocidad excesiva o la mala alineación, y eso, antes de que pueda haber un accidente al aterrizar.
Para aumentar la capacidad proactiva y predictiva, quien opera dentro del sistema de aviación puede presentar informes de seguridad anónimos, no punitivos. Sin esa garantía del anonimato quizá habría quien dudara antes de informar sobre un problema, y eso haría que la industria de la aviación se perdiera de contar con información crucial relacionada con la seguridad.
Todos estos datos se almacenan, combinan, y analizan. Los científicos en seguridad estudian la totalidad del sistema intentando encontrar precursores de accidentes, antes de que puedan causarlos. El riesgo de morir siendo pasajero de una aerolínea estadounidense hoy es de menos de 1 en 98 millones. Hay más probabilidades de morir camino al aeropuerto que volando en un avión. A más de 100 años desde el advenimiento de los vuelos motorizados la industria de la aviación, tras las lecciones más dolorosas, se ha vuelto extremadamente segura.
Un modelo para la IA
La IA está permeando rápidamente muchas facetas de la vida, desde los vehículos autónomos a las acciones de la justicia penal y las decisiones de contratación o de hipotecas. La tecnología todavía no es del todo segura, sin embargo, y ha habido errores atribuibles a la IA que en algunos casos tuvieron consecuencias de vida o muerte.
Casi todas las compañías de IA ahora intentan implementar medidas de seguridad. Sin embargo, parecen estar haciendo el esfuerzo cada una de manera individual, como solía suceder en el ámbito de la aviación. Sus esfuerzos, además, son casi siempre reactivos. Es decir que se espera el error y luego se actúa.
¿Qué pasaría si hubiera un grupo como el Equipo de Seguridad en Aviación Comercial, en que todas las compañías, reguladores, académicos y partes interesadas de la IA se unieran para dar inicio a los procesos proactivos y predictivos que aseguren que la IA no nos lleva a calamidades?
Desde la perspectiva de los informes, imaginemos si cada interfaz de IA tuviera un botón de reporte que el usuario pudiera activar para informar de resultados no seguros o potencialmente alucinados, brindando la información a la compañía y a una organización de IA del estilo del Equipo de Seguridad en Aviación? Los datos generados por sistemas de IA, como sucede con la aviación, podrían registrarse, sumarse y analizarse para detectar riesgos a la seguridad.
Aunque quizá no fuese esta la solución ideal para prevenir los daños a partir del uso de la IA, si las grandes tecnológicas adoptan las lecciones aprendidas por otras industrias de alto riesgo com la aviación, tal vez podrían aprender a regular, controlar y hacer que la IA sea más segura para todos.
James Higgins, Profesor de Aviación, Universidad de Dakota del Norte.