Elon Musk a exprimé des préoccupations sur les risques associés à l'utilisation de l'IA par Amazon après une réunion d'urgence pour discuter des récentes pannes de système. La société a reconnu une « tendance d'incidents » et a mis en place de nouvelles mesures de sécurité pour encadrer l'utilisation de l'IA. Les experts en cybersécurité prévoient que la transition rapide vers des systèmes gérés par l'IA pourrait entraîner des conséquences graves si elle n'est pas correctement gérée.
Elon Musk a récemment réagi aux rapports concernant les efforts d'Amazon pour traiter les pannes récentes, dont certaines sont attribuées à l'utilisation de fonctionnalités de codage assistées par l'intelligence artificielle (IA). Selon le Financial Times, le géant du commerce électronique a organisé une réunion obligatoire mardi pour effectuer une « analyse approfondie » des multiples pannes rencontrées, dont certaines sont liées à des modifications de code assistées par l'IA.
Lors de cette réunion, des documents internes et des courriels ont révélé qu'Amazon avait identifié une « tendance d'incidents » dans les derniers mois, caractérisée par un « large rayon d'impact » et des « modifications assistées par la Gen-AI ».
Les Pannes et leurs Conséquences
Plus tôt ce mois-ci, le site et l'application d'Amazon étaient inaccessibles pour certains utilisateurs, avec plus de 22 000 rapports d'incidents, selon Downdetector, un service de suivi des pannes. Les clients ont été incapables de finaliser leurs achats, de consulter les prix des produits ou d'accéder à leurs informations de compte. À ce moment-là, Amazon a attribué la panne à un « déploiement de code logiciel ».
Réactions d'Experts en Technologie
La révélation de cette réunion a attiré l'attention d'experts en technologie, y compris Elon Musk, qui a partagé ses préoccupations en réponse à un post de Lukasz Olejnik, consultant en cybersécurité et chercheur invité au Département des études de guerre du King's College de Londres. « Amazon organise une réunion obligatoire sur l'IA qui perturbe ses systèmes », a écrit Olejnik. Musk a répondu, en conseillant de « procéder avec prudence ».
Mesures de Sécurité chez Amazon
Dave Treadwell, vice-président senior des services de commerce électronique d'Amazon, a déclaré dans un courriel que la réunion hebdomadaire « This Week in Stores Tech » (TWiST) serait partiellement utilisée pour mettre en place des garde-fous supplémentaires concernant l'utilisation de l'IA par les ingénieurs. Cela inclut l'exigence que des ingénieurs plus expérimentés approuvent les modifications assistées par l'IA faites par des ingénieurs juniors et intermédiaires.
Treadwell a également mentionné dans un courriel interne : « Comme vous le savez probablement, la disponibilité du site et des infrastructures associées n’a pas été bonne récemment. »
Clarifications d'Amazon
Un porte-parole d'Amazon a déclaré à Fortune que la réunion TWiST est une réunion opérationnelle régulière visant à examiner les performances opérationnelles. « Dans le cadre de nos activités normales, la réunion inclura un examen de la disponibilité de notre site Web et de notre application, car nous nous concentrons sur l'amélioration continue », a-t-il indiqué.
La société a également confirmé qu'Amazon Web Services (AWS) n'était pas impliqué dans les incidents. Amazon a précisé que seul un incident discuté était lié à l'IA, mais aucun d'eux n'impliquait du code écrit par l'IA, et que les ingénieurs juniors et intermédiaires n'étaient pas tenus d'obtenir l'approbation d'ingénieurs seniors pour les modifications assistées par l'IA.
Les Inquiétudes des Experts en Cybersécurité
Les pannes et la réunion subséquente ont suscité des inquiétudes parmi les experts en cybersécurité concernant les risques associés au déploiement rapide des outils d'IA. Des fonctionnalités comme l'assistant IA d'Amazon, Q, peuvent accélérer le processus de codage, produisant plus de code en moins de temps, mais cela pourrait aussi perturber les systèmes de contrôle qui régissent la manière dont ce code est écrit, vérifié et déployé, rendant les plateformes plus vulnérables aux pannes, a déclaré Olejnik à Fortune.
« Je ne cherche pas à argumenter contre le déploiement de l'IA », a-t-il ajouté. « Il est inévitable. Tout le monde va déployer l'IA. C'est un argument contre la vitesse pour elle-même ou l'utilisation de l'IA juste pour l'utiliser. »
Évolution d'Amazon et Défis Futurs
À la fin de l'année dernière, Amazon a commencé à licencier des milliers de travailleurs, invoquant le désir de devenir plus efficace et de mieux aligner la culture de l'entreprise. Ces licenciements se poursuivent cette année, avec une réduction de personnel supplémentaire de 16 000 employés en janvier. En parallèle, Amazon continue d'investir massivement dans l'IA, projetant un investissement de 200 milliards de dollars en 2026, en hausse par rapport à 131 milliards de dollars en 2025.
Pour sa part, Musk a précédemment déclaré que l'IA pourrait complètement remplacer le codage d'ici la fin de 2026. Olejnik a averti que la transition d'un codage centré sur l'humain vers des systèmes gérés par l'IA, si elle est trop rapide, pourrait entraîner des vérifications de sécurité manquantes, provoquant des temps d'arrêt prolongés ou des pertes de données, ce qui pourrait « exploser » une entreprise en raison d'un déploiement irresponsable de l'IA.
Lorsqu'on lui a demandé son avis, il a déclaré qu'il partageait le point de vue de Musk sur l'attention que le déploiement de l'IA dans la technologie devrait exiger. « Je suis d'accord avec lui », a-t-il affirmé. « L'IA offre de nombreuses opportunités, mais il existe un juste milieu entre devenir obsolète en ne l'utilisant pas et faire exploser des entreprises à cause de déploiements mal jugés. »
Galerie
