Module 5 sur 6 · 5 min de lecture

Les risques du trading par IA : surapprentissage et événements cygne noir

Le surapprentissage donne à une stratégie une apparence brillante sur d'anciennes données et inutile sur de nouvelles, et un cygne noir est le choc rare pour lequel aucun bot n'a été conçu, ce pourquoi un humain garde la main sur l'interrupteur d'arrêt.

Kill switch

Limite de perte−20%

Aucun kill switch−99%$120 sur $10,000 restants, compte anéanti

Limite stricte : −20%−20%$8,000 sur $10,000 restants, compte préservé

Même cygne noir, même stratégie. La seule différence est la présence, ou non, d'une limite stricte fixée à l'avance pour arrêter le trading. Avec le kill switch désactivé, la stratégie suit le krach jusqu'au bout et le compte est quasiment anéanti.

Essayez la démo ci-dessus. Avec l'interrupteur d'arrêt désactivé, un seul mouvement de type cygne noir entraîne le compte jusqu'à presque plus rien ; activez-le, et le même krach s'arrête net à votre limite de perte. Cette seule différence, une stratégie qui peut saigner jusqu'au bout face à une autre qui est stoppée, est ce vers quoi tend ce module. Deux modes de défaillance ravagent les stratégies automatisées plus que tout le reste, et ils vous frappent depuis des directions opposées. Le surapprentissage est le piège consistant à trop apprendre du passé : un modèle tellement collé aux anciennes données qu'il prend des fluctuations aléatoires pour de vrais schémas. Les cygnes noirs posent le problème inverse, le jour où l'avenir sert quelque chose que le passé n'a jamais contenu, si bien qu'aucune quantité d'apprentissage n'aide. L'un dit que la stratégie a trop étudié l'histoire ; l'autre dit que l'histoire n'a jamais raconté toute l'histoire. Comprendre les deux est ce qui distingue un trader qui respecte les outils automatisés de celui qui se fait discrètement anéantir par eux.

Surapprentissage : apprendre le bruit plutôt que le signal

Dans tout graphique de prix, deux choses sont mélangées. Il y a le signal, le schéma réel et récurrent que vous voulez véritablement trader. Et il y a le bruit, la fluctuation aléatoire et ponctuelle qui s'est produite une fois et ne se reproduira pas de la même manière.

Un bon modèle apprend le signal et ignore le bruit. Un modèle en surapprentissage fait l'inverse : il mémorise le bruit comme s'il avait un sens. Parce qu'il a retracé chaque petite bosse des données historiques, il colle au passé de façon presque parfaite, ce qui donne à son backtest des allures de machine à cash. Mais il ne prédit presque pas du tout l'avenir, parce que le bruit qu'il a mémorisé ne se répète pas.

Voilà tout le piège en une phrase : une stratégie en surapprentissage a l'air brillante sur d'anciennes données et s'effondre sur de nouvelles données. C'est le risque central du trading par apprentissage automatique véritable, et c'est exactement ce que produit le surajustement du Module 4 du côté des stratégies fondées sur des règles.

Les signes qu'une stratégie est en surapprentissage

Nul besoin d'être data scientist pour sentir le surapprentissage. Quelques signes révélateurs le trahissent :

Trop de paramètres pour la quantité de données. Plus une stratégie a de réglages, plus il est facile de les ajuster jusqu'à ce que le passé paraisse parfait. Beaucoup de boutons et peu de données, c'est un signal d'alerte, pas un atout.
Une courbe de capital d'une régularité irréaliste. Les véritables avantages sont irréguliers. Un backtest qui grimpe en une ligne presque parfaitement droite signifie en général que la stratégie a été moulée sur la forme exacte du passé.
Fragilité. Modifiez légèrement un seul paramètre et les résultats basculent violemment, ou la stratégie s'effondre dès qu'elle rencontre des données qu'elle n'a jamais vues. Un véritable avantage n'est pas aussi délicat.
Un besoin de réajustement constant. Si elle ne continue à fonctionner que si vous l'ajustez sans cesse, vous n'entretenez pas un avantage, vous poursuivez un bruit qui n'arrête pas de bouger.

Le bon réflexe consiste à préférer la stratégie plus simple et plus robuste à la stratégie complexe et fragile, même quand cette dernière affiche un backtest plus séduisant. La robustesse est ce qui survit au contact des données de demain, et un backtest étrangement magnifique est souvent le signal d'alerte, pas la récompense.

Les événements cygne noir : le jour hors des données

Un cygne noir, au sens de Nassim Nicholas Taleb, est un événement rare et à fort impact, qui se situe en dehors des attentes normales et que tout le monde rationalise comme « évident avec le recul » seulement après qu'il s'est produit. Pensez aux krachs soudains, aux effondrements de plateformes d'échange, ou à un choc que les marchés n'avaient jamais intégré dans les prix.

Voici pourquoi c'est un poison pour toute stratégie automatisée. Un modèle apprend à partir des données sur lesquelles il a été entraîné et testé. Un cygne noir se situe, par définition, en dehors de ces données. Le modèle n'a jamais rien vu qui y ressemble de près ou de loin, il n'a donc aucune réponse apprise valable. Il continue d'appliquer des règles conçues pour un monde qui n'existe plus.

Et cela empire. Les marchés réels ont des queues épaisses, ce qui signifie que les mouvements extrêmes se produisent plus souvent que ne le suppose un modèle en courbe en cloche bien ordonnée. Une stratégie calibrée sur une volatilité « normale » est donc discrètement mal préparée pour le seul jour qui compte vraiment, parce que toute son idée de « jusqu'où cela peut-il aller mal » a été fixée trop bas.

Quand l'automatisation aggrave un krach

L'automatisation ne se contente pas de mal gérer un krach. Elle peut contribuer à en provoquer un.

Lors du Flash Crash du 6 mai 2010, le Dow Jones a chuté d'environ 998 points (environ 9 pour cent) et près de 1 000 milliards de dollars US de valeur de marché ont brièvement disparu en quelques minutes avant de rebondir, l'épisode entier ayant duré environ 36 minutes. Dans des événements de ce type, les stratégies automatisées s'ajoutent les unes aux autres : des stop-loss en cascade se déclenchent et provoquent davantage de ventes, les offres d'achat s'évaporent, si bien qu'il n'y a plus personne à qui vendre à un prix raisonnable, et les exécutions atterrissent loin de l'endroit où la stratégie « s'attendait » à trader.

L'automatisation exécute aussi de simples erreurs à la vitesse de la machine. Knight Capital a perdu environ 440 millions de dollars US en environ 45 minutes lorsqu'un déploiement logiciel défectueux a laissé un système automatisé déclencher une tempête d'ordres non intentionnels. Un bot ne panique pas, ce qui peut sembler une vertu, mais il ne s'arrête pas non plus pour réfléchir, et à pleine vitesse, c'est exactement là le danger.

Pourquoi l'interrupteur d'arrêt a besoin d'un humain

Les deux modes de défaillance mènent à la même leçon discrète. Reconnaître que « cette situation dépasse tout ce pour quoi ma stratégie a été conçue » relève du jugement, et une règle fixe ou un modèle entraîné sur des données normales ne peut généralement pas prendre seul cette décision. Il ne connaît que le monde qu'on lui a montré.

C'est pourquoi un interrupteur d'arrêt manuel et une surveillance humaine active sont des contrôles de risque, et non les signes d'une configuration primitive. La stratégie automatisée la plus dangereuse n'est pas celle qui se trompe de temps en temps. C'est celle qui continue à trader avec assurance dans des conditions qu'elle n'a jamais été conçue pour gérer, parce qu'aucun humain ne guettait le moment de débrancher. Construire ces limites, c'est exactement l'objet du Module 6.

Une courbe en surapprentissage rencontre la réalité

Imaginez deux stratégies côte à côte.

La Stratégie A compte 15 paramètres, tous optimisés sur trois années d'historique. En in-sample, elle affiche un taux de réussite de 95 pour cent et une courbe de capital d'une régularité soyeuse à plus 200 pour cent. Elle semble imparable. Puis vous la faites tourner, inchangée, sur une année récente qu'elle n'a jamais vue. Le taux de réussite tombe à environ 48 pour cent et le rendement se situe autour de moins 12 pour cent. Pire, ajuster un seul paramètre d'un cran fait passer ce plus 200 pour cent in-sample à environ moins 5 pour cent. Cette sensibilité extrême et cet effondrement sur des données nouvelles sont un cas d'école de surapprentissage : les 15 réglages ont retracé le bruit du passé, pas un véritable avantage.

La Stratégie B n'utilise que 2 paramètres. En in-sample, elle affiche un taux de réussite plus modeste de 80 pour cent. En out-of-sample, elle se maintient autour de 74 pour cent, et de petits changements de paramètres la déplacent à peine. Son backtest est moins éblouissant, mais son avantage reste stable sur des données qu'elle n'a jamais vues.

Un trader discipliné adopte la Stratégie B et abandonne la Stratégie A, parce qu'en trading réel, la robustesse l'emporte toujours sur un beau backtest.

Ce que « queues épaisses » veut vraiment dire

De nombreux modèles simples supposent tranquillement que les rendements du marché suivent une courbe en cloche bien ordonnée (une distribution normale), où les mouvements énormes sont si rares qu'on peut presque les ignorer. Les marchés réels ne se comportent pas ainsi. Leurs distributions de rendements ont des queues épaisses : les résultats extrêmes, aux marges lointaines, se produisent bien plus souvent que ne le prédit la courbe en cloche.

La conséquence pratique est inconfortable. Une stratégie calibrée sur des jours « normaux » traite un mouvement qui ne se produit qu'une fois par décennie comme fondamentalement impossible, et dimensionne donc ses positions et fixe son risque comme si le grand choc n'allait jamais arriver. Quand la queue épaisse finit par se manifester, et sur un horizon suffisamment long elle se manifeste toujours, la stratégie se retrouve avec une exposition bien plus grande que tout ce qu'elle avait prévu. Les queues épaisses expliquent en grande partie pourquoi les cygnes noirs font autant de dégâts aux modèles qui supposaient le calme.

Deux machines qui ont aggravé les choses

Le Flash Crash de 2010 et la perte de Knight Capital méritent qu'on s'y attarde, car ils illustrent les deux façons dont l'automatisation transforme le mauvais en catastrophique.

Le Flash Crash a été une cascade de liquidité. Les ventes automatisées en ont engendré d'autres, les ordres d'achat en attente ont été retirés presque instantanément, et pendant quelques minutes il n'y avait tout simplement plus de plancher. Les prix de certains actifs se sont affichés à des niveaux absurdes avant que le marché ne se redresse brutalement. Aucun « bug » unique n'a été nécessaire ; la boucle de rétroaction entre de nombreux participants automatisés a suffi.

Knight Capital a été une erreur de déploiement. Un déploiement logiciel défectueux a laissé actif un ancien morceau de code, et le système automatisé de la société a commencé à envoyer un déluge d'ordres non intentionnels dès l'ouverture du marché. Il ne s'agissait pas d'une stratégie qui se trompait sur le marché. C'était une machine exécutant une erreur des milliers de fois avant que des humains ne puissent intervenir, et environ 440 millions de dollars US se sont évaporés en environ trois quarts d'heure.

Des causes différentes, la même leçon : la vitesse sans coupe-circuit humain transforme une petite faille en un grand désastre.

Contrôle rapide des connaissances

Qu'est-ce que le surapprentissage, en termes simples ? Une stratégie calibrée si étroitement sur des données passées qu'elle mémorise le bruit aléatoire au lieu du schéma réel, ce qui lui donne un air excellent en backtest mais aucune valeur prédictive une fois en trading réel.

Pourquoi une stratégie automatisée est-elle structurellement mal préparée face à un cygne noir ? Un cygne noir se situe par définition en dehors des données sur lesquelles la stratégie a été entraînée et testée, elle n'a donc jamais rien vu de semblable et n'a aucune réponse apprise valable, et les marchés ont des queues épaisses qui rendent de tels chocs plus fréquents que ne le suppose un modèle normal.

Pourquoi décider du moment où éteindre une stratégie nécessite-t-il un humain ? Reconnaître que les conditions ont dépassé ce pour quoi la stratégie a été conçue relève d'un jugement qu'une règle fixe ou un modèle entraîné normalement ne peut pas fiablement porter lui-même, si bien qu'un interrupteur d'arrêt manuel et une surveillance humaine sont des contrôles essentiels, et non les signes d'un système primitif.

Sources

Notices of the AMS (revue académique), Bailey, Borwein, Lopez de Prado & Zhu, "Pseudo-Mathematics and Financial Charlatanism: The Effects of Backtest Overfitting on Out-of-Sample Performance", sur la manière dont un modèle peut décrire le bruit aléatoire plutôt que le schéma sous-jacent, puis échouer à généraliser à de nouvelles données.
arXiv (revue académique), Nassim Nicholas Taleb, "Statistical Consequences of Fat Tails", la définition par Nassim Nicholas Taleb d'un événement rare et à fort impact, rationalisé comme prévisible seulement après coup.
U.S. SEC & CFTC (rapport conjoint des services), "Findings Regarding the Market Events of May 6, 2010", l'effondrement intrajournalier du 6 mai 2010, son ampleur, et sa durée d'environ 36 minutes.
U.S. SEC, "Press Release 2013-222: SEC Charges Knight Capital With Violations of Market Access Rule", l'échec de déploiement logiciel du 1er août 2012 et la perte qui en a résulté.
OECD (OECD.AI Policy Observatory), "What is AI? Defining AI and machine learning", sur les modèles qui apprennent des schémas à partir de données plutôt que de suivre des règles explicitement écrites.