Pour faire face à un trafic jugé insatiable généré par les bots d’IA venus aspirer le savoir technique, les responsables de Debian ont pris une décision : verrouiller l’accès public aux données de leur système d’intégration continue. La mauvaise qualité du code généré par IA est également pointée du doigt.
L’infrastructure CI protégée pour survivre aux scrapers
Le modèle de l’Open Source repose historiquement sur la transparence et l’accessibilité des informations, en particulier le code source. Pourtant, l’équipe de Debian a pris une décision à contrecœur : restreindre l’accès aux données de Debian CI, puisqu’il faut désormais s’authentifier avec un compte utilisateur.
Les données d’intégration continue (Continuous Integration – CI) de Debian étaient jusqu’ici accessibles publiquement. Mais, vous l’aurez compris, ce ne sera plus le cas. La raison : elles sont très fortement collectées par des bots dans le but de permettre aux entreprises d’entraîner leurs modèles IA (LLM). En effet, c’est une mine d’or pour ceux qui veulent entraîner une IA capable de produire du code, car ces données contiennent des informations sur les résultats de compilation, les tests fonctionnels, etc…
La pollution du code par l’IA
Debian, au même titre que d’autres projets open source, doit faire face à un autre problème : les contributions générées par IA, et non révisées par un humain. À l’image du développeur de cURL qui a récemment suspendu son bug bounty pour préserver sa santé mentale face au spam de rapports générés par IA, Debian constate une baisse dans la qualité des contributions.
Selon des informations rapportées par Webpronews, les mainteneurs de Debian ont identifié des erreurs de logique subtiles dans le code produit par des outils d’intelligence artificielle, comme GitHub Copilot ou ChatGPT. Le problème, c’est que ce code est fonctionnel : il passe les tests initiaux. Mais, d’après l’équipe de Debian, il est susceptible de provoquer de sérieux problèmes dans des cas très spécifiques ou sur des configurations matérielles particulières.
Ce qui est pointé du doigt, c’est l’opacité du code généré par l’IA : pas de traçabilité, pas de raisonnement humain. Dans un écosystème où les paquets fonctionnent au plus bas niveau de la pile logicielle (kernel, drivers, bibliothèques système), la moindre hallucination d’un modèle de langage pourrait avoir des effets en cascade importants.
Le problème n’est pas tant l’utilisation de l’IA, mais plutôt la soumission de code dans les dépôts officiels sans une relecture et une modification humaine. C’est d’ailleurs interdit par la politique de contribution à Debian. Autrement dit, l’utilisation d’outils IA n’est pas proscrite, mais elle est encadrée : c’est une façon de protéger le travail de qualité des 1419 personnes ayant contribué à Debian sur les 12 derniers mois.
Source it-connect.fr