Des risques de backdoor aux « grenades de slop » : les coûts cachés de l'intégration de l'IA

Alors que les organisations accélèrent l'adoption des outils d'intelligence artificielle, les chercheurs en sécurité et les dirigeants d'entreprise découvrent des vulnérabilités significatives et des baisses de productivité associées à ces technologies. Des découvertes récentes mettent en lumière une double menace : le risque que des acteurs malveillants détournent les assistants IA via des failles techniques, et l'érosion interne de l'efficacité au travail causée par du contenu généré par l'IA de faible qualité.

Dans le domaine de la sécurité, une vulnérabilité dans l'application Muse Mac de Meta a suscité des inquiétudes quant à la manière dont les assistants IA peuvent être compromis. Selon The Hacker News, un logiciel malveillant fonctionnant avec les autorisations d'un utilisateur connecté peut exploiter un paramètre caché pour rediriger les entrées de dictée. Le chercheur Patrick Wardle a démontré que cette faille permet aux attaquants d'intercepter ce que l'utilisateur dicte, d'injecter des instructions supplémentaires que l'assistant accepte et exécute, et de voler le jeton de session pour contrôler directement l'assistant. Wardle attribue cette faiblesse à la décision de Meta de développer une gestion de la dictée personnalisée qui envoie l'audio hors de l'appareil, plutôt que d'utiliser les fonctions de dictée natives d'Apple qui traitent les données localement sur le Mac.

Bien que les menaces de sécurité externes présentent des risques pour l'intégrité des données, l'adoption interne de l'IA crée un autre type de fardeau pour les employés. Futurism rapporte que Tobias Lütke, PDG de Shopify et fervent partisan de l'IA sur le lieu de travail, a exprimé son désarroi face aux résultats obtenus, décrivant le contenu généré par l'IA de faible qualité comme des « grenades de slop » que les employés se lancent les uns aux autres. Ce sentiment est étayé par des données ; une enquête d'avril auprès de 1 150 employés de bureau, citée par Futurism, a révélé que 40 pour cent avaient rencontré du « workslop », défini comme du matériel généré par l'IA qui semble professionnel mais manque de substance.

L'impact financier de ce phénomène est considérable. Les estimations référencées par Futurism indiquent que les travailleurs passent en moyenne 3,4 heures par mois à nettoyer le contenu généré par l'IA. Pour une entreprise comptant 10 000 employés, cette inefficacité se traduit par une perte mensuelle de 8,1 millions de dollars. Ces conclusions suggèrent que si les outils d'IA offrent des gains d'efficacité potentiels, ils introduisent également des vecteurs de sécurité complexes et des coûts cachés importants en termes de sécurité des données et de main-d'œuvre humaine.