IA: ¿Debemos temer un apagón?

Este artículo es del número especial de Sciences et Avenir n ° 199 octubre-noviembre de 2019.

¿Qué pasa si un día, la inteligencia artificial … se rompe? Más en serio, ¿qué pasaría mañana si, por ejemplo, después de un mal funcionamiento grave del una nube Amazon u otro Gafam, ¿algunas aplicaciones de IA ya no funcionaban? Por supuesto, estos gigantes nos aseguran que su dispositivo es altamente redundante y está distribuido por todo el mundo, incluso si un centro de datos estaba de rodillas, otro, en otro lugar, se haría cargo.

“Tenemos una gran capacidad para volvernos rápidamente dependientes de nuestras innovaciones tecnológicas”

Pero imagine una combinación de circunstancias: Amazon (un tercio del una nube mundo) está en proceso. Los miles de servicios alojados en sus servidores son suscriptores ausentes … entre los cuales una pequeña proporción se transfiere a la IA. ¿Tenemos alternativas disponibles? ¿Debemos temer una catástrofe?

“Tenemos una gran capacidad para depender rápidamente de nuestras innovaciones tecnológicas, pointe Jean-Gabriel Ganascia, profesor de la Facultad de Ciencias de la Universidad de la Sorbona y presidente del comité de ética del CNRS. A medida que la orientación por GPS se ha convertido en algo común, ya no tenemos mapas en la guantera. Y la mayoría de nosotros ya no sabemos cómo usarlo. Si los servicios de geolocalización alguna vez fallaran, nos llevaría tiempo volver a aprender cómo vivir sin ellos. Uno puede temer que lo mismo sea cierto para cualquier aplicación de inteligencia artificial. “

Muchas empresas confían en algoritmos

Es difícil encontrar un ejemplo actual de una aplicación de inteligencia artificial que desempeñe un papel crucial en nuestra vida diaria. Por otro lado, en el sector de la energía, las infraestructuras de transporte o incluso la banca, muchas empresas se apoyan en algoritmos para el apoyo a las decisiones, la optimización, la regulación … Podemos temer a los bloqueos. Las redes (electricidad o ferrocarril, por ejemplo) probablemente funcionarían en modo degradado. Las aerolíneas ya no pueden llenar sus aviones. O quizás hacerlos volar.

Estos escenarios, ciertamente ficticios, aún nos instan a ser cautelosos a la hora de confiar asuntos críticos a la IA. En el campo de la salud, el aprendizaje profundo nos promete, por ejemplo, todo tipo de herramientas de diagnóstico automático, desde los clichés de la imagen en particular. Entonces, ¿podemos dejar de enseñar en la escuela de medicina cómo interpretar estas imágenes, con el pretexto de que la IA lo haría mejor que los humanos? “Hay un precedente, Signo de Jean-Gabriel Ganascia. Dado que las pruebas complementarias de todo tipo se han vuelto comunes en las últimas décadas, los médicos han confiado en ellas para establecer su diagnóstico más que en los signos clínicos que se ven en las consultas. “

por Pierre Vandeginste