L’expérience Mythos décrite par Nate B Jones raconte moins une prouesse de détection qu’un changement de contrat autour du logiciel. Pendant des décennies, “écrit par un bon ingénieur” a servi de preuve implicite de sérieux. Si des modèles deviennent meilleurs pour attaquer, tester, réparer et vérifier, cette preuve s’affaiblit: la confiance vient alors du processus.
Le vrai problème: le sens contre le comportement
La sécurité vit souvent dans l’écart entre l’intention humaine et ce que le code autorise réellement. Un développeur pense avoir écrit un parseur, une limite ou une règle; un attaquant lit le système comme une interprétation adversariale et cherche ce que l’implémentation permet en pratique.
Mythos est intéressant parce qu’il entre dans cette boucle: il lit, formule une hypothèse, produit des cas de test, reproduit le problème et pousse la vérification plus loin qu’une simple recherche de motifs connus.
Ce que cela change pour les équipes
Le message n’est pas “remplacer les seniors”. C’est presque l’inverse. Les ingénieurs expérimentés deviennent les gardiens du sens: invariants, frontières, abstractions, APIs, promesses produit et critères de qualité. Le code peut devenir abondant; la compréhension vérifiable, elle, devient la ressource rare.
Jones recommande donc de préparer des pipelines agentiques modulaires: aujourd’hui revus par des humains, demain capables d’intégrer un modèle spécialisé dès qu’il atteint le niveau nécessaire.
À surveiller
Si des capacités de type Mythos se diffusent d’ici la fin de l’année, la question centrale ne sera plus seulement “qui a écrit ce code ?”, mais “quel processus l’a certifié ?”. Les systèmes anciens resteront à corriger, mais le nouveau logiciel devra viser une ambition plus élevée: ne jamais introduire la faille dès le départ.
Source
- Chaîne: AI News & Strategy Daily | Nate B Jones
- Vidéo source: https://www.youtube.com/watch?v=W79FW7iUkro
No comments yet