Amazon accentue ses mesures de contrôle suite aux défaillances de son intelligence artificielle – Le Monde Informatique

EN BREF Amazon renforce les contrôles suite à des incidents liés à l’IA. Réunion d’ingénieurs pour discuter des pannes causées par l’utilisation d’outils IA. Exigence d’approbation des modifications assistées par l’IA par des développeurs expérimentés. Les analystes soulignent une possible perte d’efficacité à cause de cette nouvelle mesure. Appel des experts à déplacer la révision en amont pour améliorer la sécurité. Dysfonctionnements souvent inévitables avec les systèmes non déterministes à grande échelle. Critique des entreprises qui intègrent trop rapidement des systèmes IA sans adapter leur structure. Importance d’un environnement de test avant de migrer vers la production.

Amazon a récemment décidé de renforcer ses mesures de contrôle suite à une série de défaillances de son intelligence artificielle. Lors d’une réunion d’ingénieurs, la direction a annoncé l’obligation pour les développeurs moins expérimentés d’obtenir l’approbation de leurs modifications assistées par l’IA par des experts. Bien que cette approche vise à éviter de futurs incidents, des analystes soulignent qu’elle pourrait diminuer l’efficacité des processus. Des problèmes antérieurs, incluant des pannes significatives du site e-commerce et des services AWS, ont mis en lumière la nécessité d’une révision proactive des stratégies d’IA, au cas où les avantages en termes de productivité risqueraient d’être éclipsés par les défis de validation et de contrôle.

Résumé de la situation

Amazon a intensifié ses mesures de contrôle concernant l’utilisation de son système d’ intelligence artificielle, à la suite d’une série de défaillances ayant impacté ses opérations. Face à des incidents liés à des outils assistés par l’IA, la société a instauré des règles obligeant les développeurs moins expérimentés à faire valider leurs changements par leurs aînés. Cependant, des experts soulignent que cette stratégie pourrait nuire à l’efficacité initialement recherchée.

Les raisons de cette révision des protocoles

La prise de conscience par Amazon des risques associés à ses systèmes d’intelligence artificielle découle d’une succession d’incidents récents qui ont mis en péril la sécurité de ses services en ligne. Au cours des mois précédents, la société a observé une augmentation des pannes causées par des décisions automatisées. Un rapport du Financial Times a récemment révélé que ces problèmes concernés non seulement le site e-commerce d’Amazon mais aussi le service cloud AWS.

La réunion d’ingénieurs décisive

En début de semaine, une réunion rassemblant des ingénieurs a été organisée pour discuter des implications de ces incidents. Selon des informations en circulation, Dave Treadwell, un vice-président senior chez Amazon, a proposé que toute modification assistée par l’IA soit maintenant validée par des développeurs expérimentés. Une décision qui, selon les analystes, pourrait engendrer des ralentissements dans le développement.

L’impact sur l’efficacité et la productivité

Les experts dans le domaine de la technologie pointent du doigt l’exigence d’approbation des modifications comme pouvant aboutir à une perte d’efficacité. Chirag Mehta, analyste chez Constellation Research, a exprimé des inquiétudes concernant cette démarche. Selon lui, le fait que chaque mise à jour nécessite l’approbation d’un expert pourrait considérablement réduire la vitesse de déploiement et nuire à l’agilité d’Amazon sur le marché.

Revoir le processus de validation

Chirag Mehta souligne qu’il serait préférable de déplacer la révision des modifications en amont, ce qui inclurait un contrôle des politiques avant déploiement. Cela impliquerait d’intégrer des mécanismes de recul automatique et des mesures de traçabilité plus rigoureuses afin que les équipes puissent suivre les modifications et comprendre les comportements changés dans les systèmes de production.

Les incidents qui ont précipité cette décision

Parmi les défaillances notables, une panne de plusieurs heures sur le site d’Amazon au début du mois a mis en lumière la vulnérabilité des systèmes dépendant de l’IA. Ces problèmes ont soulevé des questions non seulement sur la fiabilité de l’IA mais également sur la gestion des ressources humaines face à des tâches de vérification. La réflexion actuelle est alors d’établir un cadre de validation qui préviendrait d’éventuelles récurrences de ces incidents.

Les implications des erreurs passées

Un autre incident digne de mention a été une interruption prolongée d’un service AWS en décembre. Bien qu’Amazon ait rapidement minimisé les implications de ces défaillances en pointant une erreur humaine, les signaux d’alarme demeurent. La nature même des systèmes non déterministes déployés à grande échelle entraîne inévitablement des difficultés, ce qui exige une attention particulière sur la manière dont les décisions automatisées sont prises et suivies.

Une approche nécessaire mais insuffisante

Nader Henein, analyste chez Gartner, met en garde en indiquant que si les entreprises, comme Amazon, ne revoient pas leurs méthodes de déploiement, le risque d’incidents continuera d’augmenter. Selon lui, de nombreuses entreprises négligent la nécessité d’adapter leur structure organisationnelle face à l’intégration d’IA. Il est crucial de tenir compte de l’impact des systèmes d’IA sur les flux de travail existants afin d’anticiper les problèmes potentiels.

Comprendre les limites de l’IA

Un des points caractéristiques mis en avant par Henein est que l’IA, à travers son fonctionnement, pourrait causer des incidents en cherchant à atteindre des objectifs sans tenir compte des répercussions. Ce manque d’empathie et d’intuition humaines pourrait poser problème dans des tâches où le jugement est essentiel.

Une réévaluation des pratiques standards

Flavio Villanustre, responsable de la sécurité des systèmes d’information chez LexisNexis Risk Solutions Group, critique la manière dont les entreprises abordent l’IA. Selon lui, considérer une IA comme un prodige potentiel, capable d’accomplir des tâches complexes, sans encadrer cet accès avec des précautions adéquates, relève de l’imprudence. Il souligne l’importance d’une approche structurée pour tester, vérifier et migrer des produits alimentés par l’IA dans des environnements de production.

Les étapes de validation indispensables

Villanustre plaide pour que les entreprises établissent un cadre traditionnel de contrôle, comprenant des tests préalables dans des environnements indépendants avant la mise en production. Même si cela peut ralentir l’implémentation de l’IA, cela apparaît comme une nécessité pour éviter des dysfonctionnements majeurs.

Perspectives d’avenir et les défis à relever

En conclusion, les récentes mesures prises par Amazon face à des incidents liés à l’IA mettent en lumière la nécessité d’un cadre de validation rigoureux et les défis à relever pour naviguer efficacement dans un monde de plus en plus axé sur l’IA. Alors que le marché évolue, les entreprises doivent trouver un équilibre entre l’adoption de solutions technologiques avancées et la gestion des risques associés à leur déploiement.

Amazon renforce ses contrôles après des incidents avec son IA

Face à une série de dysfonctionnements importants, Amazon a pris des mesures significatives en matière de contrôle de ses systèmes d’intelligence artificielle. La société a récemment convoqué des ingénieurs pour discuter des problèmes liés à l’utilisation de ces outils avancés, les qualifiant d’« incidents » ayant eu un impact large sur ses opérations.

Dans une note interne, Amazon a reconnu que des changements assistés par l’IA avaient été à l’origine de divers problèmes. Ceci a conduit à une directive imposant que les développeurs juniors et intermédiaires obtiennent l’approbation de collègues plus expérimentés pour toute modification assistée par l’IA. Cette décision vise à mieux sécuriser les processus de développement, bien qu’elle ait suscité des inquiétudes concernant une possible perte d’efficacité.

Des analystes comme Chirag Mehta soulignent que cette approche pourrait contrecarrer les principaux objectifs de rapidité et d’efficacité recherchés par l’utilisation de l’IA. Mehta a proposé une révision des processus en amont, recommandant un contrôle plus rigoureux des politiques avant le déploiement de systèmes sensibles.

Les récents incidents auraient inclus une panne de près de six heures sur la plateforme e-commerce d’Amazon et une interruption de 13 heures des services AWS. Bien que la société ait attribué ces soucis à des erreurs humaines, il demeure une préoccupation croissante quant à la gestion des risques associés à l’IA.

Nader Henein, analyste pour Gartner, avertit que ces problèmes risquent de devenir plus fréquents à l’avenir. Il critique la tendance des entreprises à intégrer l’IA sans ajuster leur environnement opérationnel, ce qui peut mener à des résultats inattendus et potentiellement nuisibles.

Enfin, d’autres experts, tels que Flavio Villanustre, mettent en garde contre les dangers d’une utilisation prématurée et imprudente des systèmes d’IA. Comparant ces systèmes à des « enfants prodiges », il souligne l’importance d’une approche rigoureuse qui teste d’abord les innovations avant leur déploiement total dans des environnements critiques.