Malgré leurs hallucinations et des failles persistantes en termes de fiabiblité, les LLM ne semblent pas refroidir les géants de la Tech, au contraire. Certaines entreprises en ont même fait leur nouvelle priorité, à l’image d’Amazon.
Une stratégie à laquelle n’adhérerait pas l’ensemble des employés, selon une enquête du Financial Times.
Une utilisation forcée
Depuis quelques semaines l’entreprise déploie un outil interne nommé « MeshClaw » inspiré d’OpenClaw, un agent IA capable de réaliser des tâches en autonomie. Pensé pour améliorer le travail des employés sur des tâches répétitives, cet outil s’accompagnerait d’un objectif d’adoption élevé : Amazon souhaiterait que plus de 80% de ses développeurs l’utilisent chaque semaine et aurait commencé à suivre la consommation des jetons utilisés via des classements internes.
Pour répondre à cette demande, les développeurs ont choisi de répondre par l’absurde en utilisant MeshClaw pour des tâches inutiles. « Certains utilisent MeshClaw uniquement pour optimiser l’utilisation de leurs jetons », rapporte un employé au Financial Times.
Bien qu’Amazon ait assuré à ses employés que cette utilisation ne serait pas utilisée dans le cadre d’évaluation des performances, certains employés déclarent le contraire. « Le suivi de l’utilisation crée des incitations perverses et certains deviennent très compétitifs à ce sujet », rapporte un employé.
Une sécurité questionnée
Au-delà de l’utilisation même de l’outil, certains salariés s’inquiètent du niveau de sécurité proposé par MeshClaw ainsi que de sa capacité à réaliser des tâches en autonomie. « Le niveau de sécurité par défaut me terrifie », déclare un employé au Financial Times.
Une peur qui peut se comprendre. Malgré toutes les précautions, les erreurs restent présentes avec les LLM et a fortiori avec les agents IA. En février dernier, c’est la directrice de Meta qui en a fait les frais en voyant l’entièreté de sa boîte mail supprimée par OpenClaw.
Si vous voulez recevoir les meilleures actus Frandroid sur WhatsApp, rejoignez cette discussion.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.