L’AI Now Institute en collaboration avec Airwars.org, un site qui depuis 2014 documente les conflits, ont publié un excellent reportage visuel pour comprendre les enjeux de l’IA sur le champ de bataille sous forme d’un récit, fictif et simplifié, d’une attaque menée avec l’IA, augmenté d’explications spécifiques. « Pour démystifier l’IA militaire, nous construisons une chaîne de destruction abstraite qui reflète un cycle de ciblage par IA. Plutôt que de copier un cadre formel de chaîne de destruction utilisé par un État spécifique, notre schéma illustre les activités tactiques et les décisions impliquant l’utilisation de systèmes d’IA à travers six étapes : 1. Capteurs et données, 2. Surveillance, 3. Renseignement et identification, 4. Sélection, 5. Frappe et 6. Évaluation post-frappe. »
« Les systèmes d’aide à la décision assistés par l’IA – qu’ils s’appuient sur de grands modèles de langage (LLM) ou sur d’autres types d’algorithmes d’apprentissage automatique – intègrent des informations provenant de capteurs couvrant les zones d’opérations militaires. Il peut s’agir de textes issus d’Internet, d’images satellites, de données audio provenant de télécommunications ou de vidéos captées par des drones. Ces données sont synthétisées sur une interface unique et conviviale.
Le problème : les données des capteurs peuvent être incomplètes ou altérées en raison de défaillances, d’interruptions des communications ou d’incertitudes environnementales. Des données comportant des erreurs d’étiquetage (par exemple, des inversions, des omissions ou des étiquettes superflues) peuvent entraîner une dégradation significative, bien que difficile à déceler, des performances de l’IA. L’écosystème d’information dans lequel évoluent les LLM ou autres réseaux de neurones peut également contenir des informations obsolètes ou délibérément corrompues. Ces sources de données sont par ailleurs vulnérables aux afflux massifs d’événements, aux campagnes de désinformation, au détournement de tendances et aux manœuvres de leurre militaire, autant d’éléments qui finissent par compromettre l’efficacité des technologies d’IA en matière de ciblage. » En fait, contrairement au discours qui voudrait que toutes les données utilisées soient parfaitement fiables, c’est en fait assez peu le cas, rappellent les chercheurs.
Si l’histoire est fictive, les technologies décrites, elles, sont bien réelles. Et les explications permettent de comprendre les enjeux de chacune, comme la détection d’anomalie par exemple, qui vise à repérer des schémas inhabituels ou des changements dans l’imagerie satellitaire, les données radar et autres flux de télédétection provenant de zones d’opérations militaires. Ces systèmes peuvent recourir à des réseaux de neurones à convolution ou à des auto-encodeurs pour traiter des volumes massifs de données et repérer des éléments susceptibles d’indiquer des mouvements de troupes, des déploiements de missiles, des infrastructures endommagées ou des modifications inattendues du terrain. Le problème avec ces technologies de détection d’anomalies c’est qu’elles peinent à distinguer des menaces réelles des variations environnementales ordinaires. « Les conditions météorologiques, les ombres, le bruit des capteurs et les différences d’angles de vue peuvent entraîner des erreurs de classification. De même, les auto-encodeurs sont entraînés à différencier les schémas correspondant à une classification spécifique des anomalies qui s’en écartent. Toutefois, ces modèles manquent de généralisabilité et de fiabilité ; par ailleurs, les données utilisées pour leur apprentissage peuvent être biaisées, présenter une distribution limitée ou reposer sur des classifications stéréotypées, conduisant à une mauvaise identification de la nature ou de l’identité d’une menace imminente. En 2025 par exemple, il a été démontré que la précision de Maven peut chuter en dessous de 30 % lorsqu’il est déployé sur un terrain inconnu ou dans des conditions environnementales incertaines entravant sa capacité à reconnaître et à signaler des objets », comme le rappelait Katrina Manson dans son livre.
Parmi les nombreuses techniques utilisées, il y a aussi le géorepérage de ces mêmes cibles pour détecter les véhicules ou téléphones qui entrent dans une zone, déclenchant une surveillance et un suivi de la localisation des téléphones et véhicules et une interception des communications : les messages sont automatiquement relayés et traduits en direct, avec des termes qui déclenchent des alertes renforcées (notamment des termes temporels, comme « imminent » ou « bientôt »). Les propriétaires des cartes Sim sont bien sûr identifiés pour contrôler s’ils ne sont pas déjà sur des listes de suspects ou contrôler leur score de risque (un système de notation sociale qui passe au crible toutes les données collectées passivement sur les habitants, données issues de caméras et des réseaux sociaux, pour créer un score de probabilité qu’ils appartiennent à l’armée adverse, voir notre dossier). Si le score de menace est élevé, l’opérateur peut accéder aux sources afférentes pour enquêter et confirmer ou infirmer la menace depuis toutes les données collectées. Parmi celles-ci : les déplacements provenant du GPS du téléphone, les informations relatives aux plaques minéralogiques du propriétaires du véhicules (et donc les déplacements associés à ces véhicules), ses SMS, l’enregistrement de ses derniers appels, l’enregistrement de son visage ou de ses empreintes pour débloquer son téléphone, ses mails, savoir s’il s’est déjà trouvé dans une zone géorepérée… Des tonnes d’informations que l’opérateur n’a souvent pas le temps d’examiner car son temps est compté. Mais surtout, les liens et les activités sur les réseaux sociaux constituent l’un des facteurs du score de risque. Une analyse des publications est produite, traduite et analysée automatiquement notamment pour y détecter des émotions, comme le fait que leur auteur soit susceptible d’apprécier des actions de l’ennemi, ou que ces échanges aient été likés par des membres avérés de l’armée adverse. Dans ces analyses traduites, automatisées, il est impossible de vérifier si les publications en question sont bien réelles ou si les traductions sont fidèles. Ses relations sur les réseaux sociaux ou via ses appels et SMS sont également analysées pour montrer si ses abonnés sont membres de l’armée adverse ou s’il a pu échanger avec des ennemis confirmés. En accédant à son profil, on peut récupérer des photos permettant de lancer automatiquement une requête dans les réseaux de caméras de vidéosurveillance et observer si ses déplacements ont un rapport avec des sites surveillés et sensibles. Là encore les erreurs d’identification peuvent être innombrables. Compte tenu du temps limité, l’opérateur a tendance à valider ce que le système de notation sociale suggère. Si l’identification a un caractère d’urgence, un drone de surveillance peut être déployé pour suivre la personne identifiée.
Dans ce cas, le flux vidéo permet d’identifier qui est présent. Les personnes, les véhicules… et les personnes sont distinguées entre civils et membres de l’armée ennemie. Selon leur taille ou leur gabarit, il identifie les objets et les personnes, par exemple en les classant comme des « hommes en âge de combattre ». Chaque image du scénario permet d’accéder à des fenêtres contextuelles permettant de mettre en perspective la fiabilité des technologies utilisées. Par exemple, l’animation rappelle que la détection de formes et d’objets reste peu fiable. « Des recherches ont par exemple révélé que les systèmes peuvent classer de manière erronée 97 % des objets s’ils apparaissent dans des postures s’écartant de celles figurant dans les données d’apprentissage. Par ailleurs, diverses études montrent qu’une grande précision lors des phases de test ne garantit pas nécessairement une précision ou des performances élevées lors du déploiement en conditions réelles. En 2021, l’US Air Force a mené un programme pilote de reconnaissance de cibles affichant un taux de précision de 95 % dans des scénarios d’entraînement. Ce chiffre a toutefois chuté à seulement 25 % en environnement réel. Dans la grande majorité des cas, des algorithmes entraînés à reconnaître des images de missiles sol-sol sous un angle oblique se sont révélés incapables d’identifier ces mêmes objets lorsqu’ils apparaissaient dans des positions différentes. »
Une fois la frappe accomplie, l’opérateur reçoit un rapport d’évaluation, généré par un système d’évaluation des dommages de combat assisté par IA. Ces rapports ont tendance à renforcer les erreurs de classification déjà commises par les systèmes. Les réseaux sociaux sur place et les publications journalistiques locales donnent souvent une autre vision de ces résultats, mais ces informations ne sont pas réintégrées dans le système pour apprécier ses erreurs. Ils montrent aussi parfois que les personnes ciblées ne sont pas aussi menaçantes qu’elles semblaient l’être, en rappelant leur parcours et leurs fonctions.
« À Gaza, l’armée israélienne a publié une vidéo d’une frappe tuant un homme qui transportait ce qu’elle a identifié comme un lance-roquettes. Elle a par la suite reconnu que ses forces avaient mal identifié l’objet : il s’agissait d’un vélo. » La vidéo est d’ailleurs confondante. Vue de haut, on ne sait pas ce que l’homme tient à son bras. Mais, si le système vous indique que c’est un lance-roquette, alors assurément, cela semble en être un. En fait, on comprend que c’est la manière dont ces outils regardent le monde qui est problématique. Pour un système de ce type, tout est menace, tout est orienté pour détecter des menaces, et à force de regarder le monde comme une menace, il le devient.
« Les partisans de l’IA soutiennent qu’elle peut atténuer et réduire ces erreurs. Toutefois, ces systèmes risquent aussi de provoquer l’effet inverse, notamment en augmentant les taux d’erreur tout au long de la chaîne de ciblage et de frappe. Au cours d’une campagne de frappes de 40 jours contre l’Iran ce printemps, l’armée américaine a déclaré avoir atteint plus de 13 000 cibles, un rythme d’opérations quasi impossible à tenir avant l’avènement de l’IA.
L’IA pourrait également compliquer l’identification des défaillances et entraver l’obligation de rendre des comptes. À la suite d’une enquête d’Airwars sur une série de frappes assistées par l’IA ayant tué un étudiant irakien, l’armée américaine a déclaré n’avoir « aucun moyen de savoir » si la frappe meurtrière avait reposé sur l’IA.
Le livre Project Maven (voire notre critique), consacré à l’IA militaire américaine a révélé que, dans certaines opérations, seules deux des six étapes de la chaîne de ciblage et de frappe impliquent désormais une intervention humaine directe, une troisième nécessitant une certaine supervision humaine. Les autres étapes sont aujourd’hui entièrement automatisées. »
Dans une interview pour Democracy Now, Heidy Khlaaf, directrice scientifique chargée de l’IA à l’AI Now Institute et responsable de la publication avec AIrwars de cette fiction explicative, rappelle que derrière ces systèmes automatisés il n’y a pas de robot tueur, mais des chaînes de systèmes algorithmiques qui ont tous leurs propres pièges et leurs propres défauts. « Ils présentent tous une fiabilité et une précision très faibles. Ces systèmes s’appuient les uns sur les autres et s’alimentent mutuellement pour aboutir, malheureusement, à des pertes civiles, comme nous l’avons souvent constaté lors de leur utilisation. » « La distinction entre systèmes autonomes et systèmes de soutien est assez superficielle en pratique ». En réalité, quand on utilise ces systèmes, les biais d’automatisation sont très forts, rappelle-t-elle : tout y est présenté comme un risque. C’est le cas par exemple des systèmes de traduction automatisés, comme l’a montré une enquête d’Associated Press, qui montrait que l’usage de systèmes de traduction avaient du mal avec l’arabe. Prendre un mot pour un autre peut suffire pour vous inscrire sur une liste de personnes cibles. « Il est très difficile de comprendre pourquoi une IA a pris une décision donnée lorsqu’il s’agit de grands modèles de langage, en raison de leur envergure et de leur mode de fonctionnement. Était-ce dû à des données erronées ? L’IA a-t-elle reçu des instructions en ce sens ? S’agissait-il d’hallucinations ? Quiconque a utilisé ChatGPT sait que ces agents conversationnels inventent souvent des informations. C’est, je pense, la situation dans laquelle nous nous trouvons actuellement. La cause exacte de ces événements reste incertaine. En fait, je dirais même que c’est là l’une des finalités des systèmes d’IA : ils servent souvent à diluer la responsabilité », comme le pointait très bien le sociologue Ori Schwarz également (voir notre article).
« En fin de compte, ces entreprises sont en train de réinventer la notion de sécurité. Elles s’approprient bon nombre de termes traditionnellement utilisés dans l’ingénierie de la sûreté et de la sécurité pour les appliquer à des formes de sécurité différentes. Au lieu de se demander : « Nos systèmes sont-ils fiables ? Sont-ils précis ? Fonctionnent-ils comme prévu ? Sont-ils adaptés à leur usage, de sorte qu’aucun être humain ne subisse de préjudice du fait des décisions ou des recommandations qu’ils génèrent ? » Au lieu de cela, nous nous retrouvons avec des cadres relatifs à la sécurité et à l’éthique qui portent sur des questions telles que l’autonomie, l’intentionnalité ou la conscience de ces systèmes. Or, il s’agit là d’une question tout à fait différente. Ces systèmes peuvent souvent donner l’illusion de posséder ces caractéristiques, ce qui conduit à anthropomorphiser le langage ou les actions de ces modèles. Nous avons vu récemment, par exemple, les capacités de cybersécurité être présentées comme si ces systèmes étaient autonomes – comme s’ils agissaient de leur propre chef, ce qui correspondrait à une attente que nous aurions à leur égard. Pourtant, dans la réalité, ces entreprises les déployaient dans des environnements très peu sécurisés et amenaient délibérément ces modèles à mener des cyberattaques dans le cadre de tests ou d’évaluations comparatives. »
« C’est précisément ce qui me pose problème : ces entreprises tentent, une fois de plus, d’attribuer la responsabilité à l’IA plutôt qu’à elles-mêmes. Or, l’IA ne fait que ce que nous lui ordonnons de faire ; elle n’est capable que de ce pour quoi nous l’avons conçue. »
« Il est donc crucial de garder à l’esprit que, certes, ces systèmes sont performants. Oui, ils sont capables de mener des actions telles que des cyberattaques ou des frappes. Et ils accélèrent effectivement les opérations ; c’est indéniable. C’est même l’une de leurs caractéristiques fondamentales. Toutefois, si l’on dispose d’un outil qui accélère les opérations mais dont la fiabilité et la précision de base se situent entre 30 et 60 %, le résultat ne diffère guère d’un ciblage aveugle, n’est-ce pas ? » Nous ne sommes pas confrontés à des robots tueurs dotés d’intentions propres, mais à une conception délibérée, défaillante, produite par des personnes qui « décident de le déployer, en toute connaissance de cause des systèmes à la fiabilité et à la précision médiocres – surtout dans des situations inédites, un cas de figure plus probable encore en temps de guerre que lors de cyberattaques.»
L’AI Now Institute en collaboration avec Airwars.org, un site qui depuis 2014 documente les conflits, ont publié un excellent reportage visuel pour comprendre les enjeux de l’IA sur le champ de bataille sous forme d’un récit, fictif et simplifié, d’une attaque menée avec l’IA, augmenté d’explications spécifiques. « Pour démystifier l’IA militaire, nous construisons une chaîne de destruction abstraite qui reflète un cycle de ciblage par IA. Plutôt que de copier un cadre formel de chaîne de destruction utilisé par un État spécifique, notre schéma illustre les activités tactiques et les décisions impliquant l’utilisation de systèmes d’IA à travers six étapes : 1. Capteurs et données, 2. Surveillance, 3. Renseignement et identification, 4. Sélection, 5. Frappe et 6. Évaluation post-frappe. »
« Les systèmes d’aide à la décision assistés par l’IA – qu’ils s’appuient sur de grands modèles de langage (LLM) ou sur d’autres types d’algorithmes d’apprentissage automatique – intègrent des informations provenant de capteurs couvrant les zones d’opérations militaires. Il peut s’agir de textes issus d’Internet, d’images satellites, de données audio provenant de télécommunications ou de vidéos captées par des drones. Ces données sont synthétisées sur une interface unique et conviviale.
Le problème : les données des capteurs peuvent être incomplètes ou altérées en raison de défaillances, d’interruptions des communications ou d’incertitudes environnementales. Des données comportant des erreurs d’étiquetage (par exemple, des inversions, des omissions ou des étiquettes superflues) peuvent entraîner une dégradation significative, bien que difficile à déceler, des performances de l’IA. L’écosystème d’information dans lequel évoluent les LLM ou autres réseaux de neurones peut également contenir des informations obsolètes ou délibérément corrompues. Ces sources de données sont par ailleurs vulnérables aux afflux massifs d’événements, aux campagnes de désinformation, au détournement de tendances et aux manœuvres de leurre militaire, autant d’éléments qui finissent par compromettre l’efficacité des technologies d’IA en matière de ciblage. » En fait, contrairement au discours qui voudrait que toutes les données utilisées soient parfaitement fiables, c’est en fait assez peu le cas, rappellent les chercheurs.
Si l’histoire est fictive, les technologies décrites, elles, sont bien réelles. Et les explications permettent de comprendre les enjeux de chacune, comme la détection d’anomalie par exemple, qui vise à repérer des schémas inhabituels ou des changements dans l’imagerie satellitaire, les données radar et autres flux de télédétection provenant de zones d’opérations militaires. Ces systèmes peuvent recourir à des réseaux de neurones à convolution ou à des auto-encodeurs pour traiter des volumes massifs de données et repérer des éléments susceptibles d’indiquer des mouvements de troupes, des déploiements de missiles, des infrastructures endommagées ou des modifications inattendues du terrain. Le problème avec ces technologies de détection d’anomalies c’est qu’elles peinent à distinguer des menaces réelles des variations environnementales ordinaires. « Les conditions météorologiques, les ombres, le bruit des capteurs et les différences d’angles de vue peuvent entraîner des erreurs de classification. De même, les auto-encodeurs sont entraînés à différencier les schémas correspondant à une classification spécifique des anomalies qui s’en écartent. Toutefois, ces modèles manquent de généralisabilité et de fiabilité ; par ailleurs, les données utilisées pour leur apprentissage peuvent être biaisées, présenter une distribution limitée ou reposer sur des classifications stéréotypées, conduisant à une mauvaise identification de la nature ou de l’identité d’une menace imminente. En 2025 par exemple, il a été démontré que la précision de Maven peut chuter en dessous de 30 % lorsqu’il est déployé sur un terrain inconnu ou dans des conditions environnementales incertaines entravant sa capacité à reconnaître et à signaler des objets », comme le rappelait Katrina Manson dans son livre.
Parmi les nombreuses techniques utilisées, il y a aussi le géorepérage de ces mêmes cibles pour détecter les véhicules ou téléphones qui entrent dans une zone, déclenchant une surveillance et un suivi de la localisation des téléphones et véhicules et une interception des communications : les messages sont automatiquement relayés et traduits en direct, avec des termes qui déclenchent des alertes renforcées (notamment des termes temporels, comme « imminent » ou « bientôt »). Les propriétaires des cartes Sim sont bien sûr identifiés pour contrôler s’ils ne sont pas déjà sur des listes de suspects ou contrôler leur score de risque (un système de notation sociale qui passe au crible toutes les données collectées passivement sur les habitants, données issues de caméras et des réseaux sociaux, pour créer un score de probabilité qu’ils appartiennent à l’armée adverse, voir notre dossier). Si le score de menace est élevé, l’opérateur peut accéder aux sources afférentes pour enquêter et confirmer ou infirmer la menace depuis toutes les données collectées. Parmi celles-ci : les déplacements provenant du GPS du téléphone, les informations relatives aux plaques minéralogiques du propriétaires du véhicules (et donc les déplacements associés à ces véhicules), ses SMS, l’enregistrement de ses derniers appels, l’enregistrement de son visage ou de ses empreintes pour débloquer son téléphone, ses mails, savoir s’il s’est déjà trouvé dans une zone géorepérée… Des tonnes d’informations que l’opérateur n’a souvent pas le temps d’examiner car son temps est compté. Mais surtout, les liens et les activités sur les réseaux sociaux constituent l’un des facteurs du score de risque. Une analyse des publications est produite, traduite et analysée automatiquement notamment pour y détecter des émotions, comme le fait que leur auteur soit susceptible d’apprécier des actions de l’ennemi, ou que ces échanges aient été likés par des membres avérés de l’armée adverse. Dans ces analyses traduites, automatisées, il est impossible de vérifier si les publications en question sont bien réelles ou si les traductions sont fidèles. Ses relations sur les réseaux sociaux ou via ses appels et SMS sont également analysées pour montrer si ses abonnés sont membres de l’armée adverse ou s’il a pu échanger avec des ennemis confirmés. En accédant à son profil, on peut récupérer des photos permettant de lancer automatiquement une requête dans les réseaux de caméras de vidéosurveillance et observer si ses déplacements ont un rapport avec des sites surveillés et sensibles. Là encore les erreurs d’identification peuvent être innombrables. Compte tenu du temps limité, l’opérateur a tendance à valider ce que le système de notation sociale suggère. Si l’identification a un caractère d’urgence, un drone de surveillance peut être déployé pour suivre la personne identifiée.
Dans ce cas, le flux vidéo permet d’identifier qui est présent. Les personnes, les véhicules… et les personnes sont distinguées entre civils et membres de l’armée ennemie. Selon leur taille ou leur gabarit, il identifie les objets et les personnes, par exemple en les classant comme des « hommes en âge de combattre ». Chaque image du scénario permet d’accéder à des fenêtres contextuelles permettant de mettre en perspective la fiabilité des technologies utilisées. Par exemple, l’animation rappelle que la détection de formes et d’objets reste peu fiable. « Des recherches ont par exemple révélé que les systèmes peuvent classer de manière erronée 97 % des objets s’ils apparaissent dans des postures s’écartant de celles figurant dans les données d’apprentissage. Par ailleurs, diverses études montrent qu’une grande précision lors des phases de test ne garantit pas nécessairement une précision ou des performances élevées lors du déploiement en conditions réelles. En 2021, l’US Air Force a mené un programme pilote de reconnaissance de cibles affichant un taux de précision de 95 % dans des scénarios d’entraînement. Ce chiffre a toutefois chuté à seulement 25 % en environnement réel. Dans la grande majorité des cas, des algorithmes entraînés à reconnaître des images de missiles sol-sol sous un angle oblique se sont révélés incapables d’identifier ces mêmes objets lorsqu’ils apparaissaient dans des positions différentes. »
Une fois la frappe accomplie, l’opérateur reçoit un rapport d’évaluation, généré par un système d’évaluation des dommages de combat assisté par IA. Ces rapports ont tendance à renforcer les erreurs de classification déjà commises par les systèmes. Les réseaux sociaux sur place et les publications journalistiques locales donnent souvent une autre vision de ces résultats, mais ces informations ne sont pas réintégrées dans le système pour apprécier ses erreurs. Ils montrent aussi parfois que les personnes ciblées ne sont pas aussi menaçantes qu’elles semblaient l’être, en rappelant leur parcours et leurs fonctions.
« À Gaza, l’armée israélienne a publié une vidéo d’une frappe tuant un homme qui transportait ce qu’elle a identifié comme un lance-roquettes. Elle a par la suite reconnu que ses forces avaient mal identifié l’objet : il s’agissait d’un vélo. » La vidéo est d’ailleurs confondante. Vue de haut, on ne sait pas ce que l’homme tient à son bras. Mais, si le système vous indique que c’est un lance-roquette, alors assurément, cela semble en être un. En fait, on comprend que c’est la manière dont ces outils regardent le monde qui est problématique. Pour un système de ce type, tout est menace, tout est orienté pour détecter des menaces, et à force de regarder le monde comme une menace, il le devient.
« Les partisans de l’IA soutiennent qu’elle peut atténuer et réduire ces erreurs. Toutefois, ces systèmes risquent aussi de provoquer l’effet inverse, notamment en augmentant les taux d’erreur tout au long de la chaîne de ciblage et de frappe. Au cours d’une campagne de frappes de 40 jours contre l’Iran ce printemps, l’armée américaine a déclaré avoir atteint plus de 13 000 cibles, un rythme d’opérations quasi impossible à tenir avant l’avènement de l’IA.
L’IA pourrait également compliquer l’identification des défaillances et entraver l’obligation de rendre des comptes. À la suite d’une enquête d’Airwars sur une série de frappes assistées par l’IA ayant tué un étudiant irakien, l’armée américaine a déclaré n’avoir « aucun moyen de savoir » si la frappe meurtrière avait reposé sur l’IA.
Le livre Project Maven (voire notre critique), consacré à l’IA militaire américaine a révélé que, dans certaines opérations, seules deux des six étapes de la chaîne de ciblage et de frappe impliquent désormais une intervention humaine directe, une troisième nécessitant une certaine supervision humaine. Les autres étapes sont aujourd’hui entièrement automatisées. »
Dans une interview pour Democracy Now, Heidy Khlaaf, directrice scientifique chargée de l’IA à l’AI Now Institute et responsable de la publication avec AIrwars de cette fiction explicative, rappelle que derrière ces systèmes automatisés il n’y a pas de robot tueur, mais des chaînes de systèmes algorithmiques qui ont tous leurs propres pièges et leurs propres défauts. « Ils présentent tous une fiabilité et une précision très faibles. Ces systèmes s’appuient les uns sur les autres et s’alimentent mutuellement pour aboutir, malheureusement, à des pertes civiles, comme nous l’avons souvent constaté lors de leur utilisation. » « La distinction entre systèmes autonomes et systèmes de soutien est assez superficielle en pratique ». En réalité, quand on utilise ces systèmes, les biais d’automatisation sont très forts, rappelle-t-elle : tout y est présenté comme un risque. C’est le cas par exemple des systèmes de traduction automatisés, comme l’a montré une enquête d’Associated Press, qui montrait que l’usage de systèmes de traduction avaient du mal avec l’arabe. Prendre un mot pour un autre peut suffire pour vous inscrire sur une liste de personnes cibles. « Il est très difficile de comprendre pourquoi une IA a pris une décision donnée lorsqu’il s’agit de grands modèles de langage, en raison de leur envergure et de leur mode de fonctionnement. Était-ce dû à des données erronées ? L’IA a-t-elle reçu des instructions en ce sens ? S’agissait-il d’hallucinations ? Quiconque a utilisé ChatGPT sait que ces agents conversationnels inventent souvent des informations. C’est, je pense, la situation dans laquelle nous nous trouvons actuellement. La cause exacte de ces événements reste incertaine. En fait, je dirais même que c’est là l’une des finalités des systèmes d’IA : ils servent souvent à diluer la responsabilité », comme le pointait très bien le sociologue Ori Schwarz également (voir notre article).
« En fin de compte, ces entreprises sont en train de réinventer la notion de sécurité. Elles s’approprient bon nombre de termes traditionnellement utilisés dans l’ingénierie de la sûreté et de la sécurité pour les appliquer à des formes de sécurité différentes. Au lieu de se demander : « Nos systèmes sont-ils fiables ? Sont-ils précis ? Fonctionnent-ils comme prévu ? Sont-ils adaptés à leur usage, de sorte qu’aucun être humain ne subisse de préjudice du fait des décisions ou des recommandations qu’ils génèrent ? » Au lieu de cela, nous nous retrouvons avec des cadres relatifs à la sécurité et à l’éthique qui portent sur des questions telles que l’autonomie, l’intentionnalité ou la conscience de ces systèmes. Or, il s’agit là d’une question tout à fait différente. Ces systèmes peuvent souvent donner l’illusion de posséder ces caractéristiques, ce qui conduit à anthropomorphiser le langage ou les actions de ces modèles. Nous avons vu récemment, par exemple, les capacités de cybersécurité être présentées comme si ces systèmes étaient autonomes – comme s’ils agissaient de leur propre chef, ce qui correspondrait à une attente que nous aurions à leur égard. Pourtant, dans la réalité, ces entreprises les déployaient dans des environnements très peu sécurisés et amenaient délibérément ces modèles à mener des cyberattaques dans le cadre de tests ou d’évaluations comparatives. »
« C’est précisément ce qui me pose problème : ces entreprises tentent, une fois de plus, d’attribuer la responsabilité à l’IA plutôt qu’à elles-mêmes. Or, l’IA ne fait que ce que nous lui ordonnons de faire ; elle n’est capable que de ce pour quoi nous l’avons conçue. »
« Il est donc crucial de garder à l’esprit que, certes, ces systèmes sont performants. Oui, ils sont capables de mener des actions telles que des cyberattaques ou des frappes. Et ils accélèrent effectivement les opérations ; c’est indéniable. C’est même l’une de leurs caractéristiques fondamentales. Toutefois, si l’on dispose d’un outil qui accélère les opérations mais dont la fiabilité et la précision de base se situent entre 30 et 60 %, le résultat ne diffère guère d’un ciblage aveugle, n’est-ce pas ? » Nous ne sommes pas confrontés à des robots tueurs dotés d’intentions propres, mais à une conception délibérée, défaillante, produite par des personnes qui « décident de le déployer, en toute connaissance de cause des systèmes à la fiabilité et à la précision médiocres – surtout dans des situations inédites, un cas de figure plus probable encore en temps de guerre que lors de cyberattaques.»
On pense souvent la guerre comme un moment profondément transformateur, qui modifie les logique sociales et rebat les cartes, modifiant les statuts sociaux, introduisant de nouvelles pratiques et de nouvelles relations avec l’État. Bien sûr, cela est vrai à bien des égards. Il n’y a rien d’ordinaire à vivre sous les bombardements, à prendre les armes ou à se mobiliser pour combattre. Cependant, la sociologie des sociétés en guerre démontre que les comportements en temps de guerre sont fortement ancrés dans les dynamiques sociales en temps de paix. Les transformations en temps de guerre sont enracinées dans les expériences sociales, l’histoire et les valeurs préexistantes.
Les analystes s’appuient souvent sur des schémas binaires familiers lorsqu’ils comparent la Russie et l’Ukraine : autoritarisme contre démocratie, cercle restreint vieillissant autour de Poutine contre jeune leadership ukrainien, agression contre résistance, et répression contre mobilisation. Mon analyse adopte une perspective différente, en explorant trois dimensions clés qui façonnent l’évolution des deux sociétés : l’importance de l’adaptation en tant que compétence sociale fondamentale ; la relation des citoyens à l’État ; et l’évolution des perceptions de soi et de l’autre.
A lire dans cet article (en anglais) pour lequel je remercie The Brookings Institution, et qui reprend les idées exprimées lors de la conférence que j’ai donnée dans le cadre de la 21e Raymond Aron Lecture à Washington DC le 5 juin dernier.
Un commentaire à chaud sur la vidéo enregisrée par l’ancien ministre de la défense Fedorov, où il formule une critique du fonctionnement politique du pays et appelle à des élections.
Vous entendrez parler de crise politique, de fragilisation de l’équipe présidentielle, de l’émergence d’un opposant politique. Rien de cela n’est faux, on rentre dans une zone de turbulence. Mais pour moi, le vrai sujet n’est pas forcément là.
Les critiques que l’ancien ministre fait dans sa vidéo ne sont pas nouvelles. Elles sont partagées par un grand nombre d’Ukrainiens: nécessité de faire vivre la démocratie, critique de la gestion d’équipe par le président, inacceptabilité de la corruption en temps de guerre. Comme je l’ai dit à plusieurs reprises, les Ukrainiens savent faire la part des choses entre ce qu’ils reprochent à leur président et à leur parlement, et la nécessité de soutenir leurs institutions pour préserver la souveraineté de l’Etat. Mais tout le monde sait que le jour où les élections se tiendront, ce bilan va peser.
Sur le fond, les critiques de Fedorov ne sont pas le signe d’un dysfonctionnement politique, mais plutôt d’un fonctionnement assez sain. Un acteur politique de premier plan se positionne comme une alternative à Zelensky. Ce n’est pas un militaire mais un civil; ce n’est pas non plus quelqu’un d’étranger à la défense de l’Ukraine. C’est une personnalité qui a des soutiens dans la société; il est populaire dans les milieux tech des forces armées et de la société. Fedorov a clairement la posture d’un canddiat à la prochaine présidentielle. Et c’est tout ce que l’on peut souhaiter à une démocratie: une pluralité de candidats portant des projets sérieux. Que cet opposant potentiel soit issu du cercle même des proches de Zelensky est aussi, finalement, très banal dans un fonctionnement démocratique. Il y a peut-être une crise politique, mais pas de crise systémique.
Ce qui est nouveau dans l’adresse de Fedorov, c’est cependant l’idée que les élections sont possibles. L’argument politique est recevable: la guerre s’est installée dans la durée, refuser la tenue d’élections, c’est aussi donner à la Russie une victoire en la laissant rythmer le timing du jeu politique ukrainien. Mais Fedorov ne parle pas seulement du principe. Sans rentrer dans le détail, il dit: la tenue d’élections est possible. L’Ukraine doit retrouver un processus d’alternance démocratique, sans attendre la sortie de loi martiale.
Et là, il faut se rappeler qui est Fedorov: ancien ministre de la numérisation qui a transformé une bureaucratie d’imprimante et de papier en un système modernisé et rapide. Ancien ministre de la Défense qui a accompagné l’innovation et l’esprit d’initiative qui permettent aujourd’hui à l’armée ukrainienne d’accomplir des choses que personne n’avait anticipées. S’il travaille vraiment à un projet permettant de tenir des élections en temps de guerre, nous avons tout intérêt à suivre le sujet de près. J’imagine que le vote électronique sera au coeur de ce projet – collègues spécialistes du sujet, réglez vos radars, car ce sera riche d’enseignements.
J’attends la suite avec intérêt plus qu’avec inquiétude. Une fois de plus, l’Ukraine pourrait être là où personne ne l’attend.
La journaliste de Bloomberg, Katrina Manson, a publié en mars un livre consacré au Project Maven : A Marine Colonel, his Team, and the Dawn of AI Warfare (Norton & Company, 2026, non traduit). Maven est le nom du programme d’IA développé par l’armée américaine pour faire la guerre (l’équivalent des programmes israélien que nous avons longuement évoqué dans DLA, notamment dans L’IA, ça sert, d’abord, à faire la guerre). Le livre raconte la bataille d’un officier des Marines, Drew Cukor, pour imposer le projet et convertir l’armée américaine aux promesses de la guerre automatisée.
On regrettera vivement que le livre soit parfois peu précis sur ce que fait et ne fait pas Maven. Si on y apprend toute son histoire, on n’apprend pas comment le système fonctionne concrètement, ce qu’il arme ni comment. Si le livre évoque longuement le travail sur certaines données, notamment les images et vidéos satellitaires et de drones, c’est au détriment de toutes les autres qui nourrissent aussi le tableau de bord pour faire la guerre, et notamment les données provenant des écoutes téléphoniques, de la surveillance et du renseignement. Son interface qui semble la plus grande réussite du programme à en croire Manson ne nous est jamais montrée.
Il faut comprendre que l’enquête de la journaliste porte plutôt sur le développement de projet agile au sein d’une bureaucratie contrainte et retorse. Si le livre propose une solide chronologie, Manson semble parfois rater certains enjeux au profit d’une ode à la persévérance et à l’innovation, comme fascinée par ce que Cukor et son équipe sont parvenus à imposer, dans l’adversité.
Lancé en 2017, le projet Maven est désormais pleinement opérationnel. Il est le projet fondateur du ciblage automatisé. S’il n’est que l’un des 800 projets IA de l’armée américaine utilisés sur les champs de bataille, Maven est devenu son système phare, déployé dans toutes les branches militaires américaines. Plus qu’un outil de ciblage sans précédent, Maven est une plateforme qui concentre les dispositifs de renseignement et d’opérations.
Drew Cukor était officier dans les Marines à Kandahar en Afghanistan après les attentats du 11 septembre 2001. C’est là qu’il découvre les ordinateurs sur le terrain d’opération. Autant dire que sa déception est grande. A l’époque, les listes de cibles produites par le renseignement étaient enfermées dans des fichiers Excel. Chaque service avait ses propres outils d’analyse. Mais ces outils étaient inexploitables sur le terrain. Dès sa thèse dans le corps des marines en 97, Cukor défend que l’intelligence des machines est inutile si les soldats de terrain n’y ont pas accès. Pour lui, les ordinateurs doivent aider à transformer la donnée en intelligence pour l’action. En Afghanistan, puis à Bagdad en Irak, il constate que les ordinateurs sont inutiles aux soldats. Quand il devient le responsable du département du renseignement des Marines en 2010, son objectif est de réparer le renseignement et pour lui, cela signifie y déployer la plateforme de gestion de données proposée par une startup américaine, Palantir, dont il a apprécié la démonstration en 2009. In-Q-Tel, le fond d’investissement de la CIA a investi en 2005, 2 millions de dollars dans Palantir. A l’époque, Palantir n’est qu’un démonstrateur pourtant : il affiche des données provenant de nombreux silos du renseignement et permet de voir quel analyste y accède. Il garde la trace des changements et des indications que portent sur ces informations les agents. Une forme de wiki du renseignement permettant de discuter des informations, de les valider ou de les écarter. Parmi les données disponibles, il y a des appels téléphoniques et leurs transcriptions, des rapports d’interrogatoires, des images et vidéos… Et un système de requête permettant de trouver la trace d’informations dans toutes les informations disponibles pour les recouper. Palantir n’est qu’une interface qui permet d’afficher les données et de coopérer entre analystes sur des données qui proviennent du renseignement. Un tableau de bord.
Le rapport de la commission du 11 septembre a pointé les défaillances du renseignement et plus encore de matériel pour l’exploiter. Cukor partage le même avis. Pour Cukor, comme pour Thiel et Karp, les fondateurs de Palantir, les attentats de 2001 ont été un choc. Pour eux, le renseignement américain a échoué à empêcher le drame. Pour eux, l’IA est la réponse à apporter : elle a pour mission de transformer le renseignement et les opérations. Mais, les Marines, où Cukor travaille, est le plus petit des services de la Défense américaine et son département spécialisé dans le renseignement est encore plus insignifiant. Cukor décide néanmoins d’utiliser Palantir sur le terrain en Afghanistan, en 2011. Très rapidement, les officiers de terrain le trouvent utile. La Marine l’utilise pour déterminer des routes et des zones d’atterrissage. L’outil est pourtant très imparfait, mais il fait vite la démonstration de ses possibilités. Pour Cukor, comme il le défendra dans une note, la modernisation du renseignement militaire est clé : à l’avenir, l’analyse déterminera qui l’emportera sur le champ de bataille. Le but est d’accélérer et d’améliorer la décision avec l’aide de l’IA. A l’heure où Google fait rouler des voitures autonomes, pourtant, l’armée n’a pas ces outils dans son catalogue. Pas même de système cloud. Et ce quand bien « même si l’internet a été une création du Pentagon et qu’il dépense 38 milliards de dollars par an dans les nouvelles technologies »…. Pour Cukor, tout est à faire. Mais pour convaincre, estime le soldat, il faut des applications concrètes, qui collent au terrain, utiles sur site.
Cukor propose d’utiliser l’IA pour analyser les données des drones et améliorer l’information satellitaire. Cukor va visiter les entreprises qui produisent des voitures autonomes. En 2017, il rencontre IDenTV, une startup qui construit un modèle de vision par ordinateur pour drones, capable de repérer des objets sur une image. Le Congrès valide les fonds. Le projet Maven est lancé. Son ambition est tout de suite de faire du ciblage. Pour lui, l’IA doit aider à sélectionner et prioriser les cibles et aider à apparier la réponse appropriée. Pour lui, le département de la Défense ne devrait plus jamais acheter de systèmes d’armement sans IA intégrée. Son idée fixe est de créer une application de ciblage révolutionnaire et démontrer que l’IA peut « réduire la durée de la chaîne d’engagement entre la détection d’une cible et son traitement : repérer, localiser, neutraliser ». Pour lui, le département de la Défense doit fonctionner bien plus comme une entreprise logicielle que comme une usine d’armement pour être capable de traiter la donnée, actif capital du terrain.
Pour cela, Cukor se dote d’une équipe dédiée bien sûr. Tous semblent des avoir des profils atypiques, si l’on en croit Katrina Manson. Cukor, plus qu’un visionnaire, est plutôt décrit comme un psychopathe par certains d’entre eux. Un bourreau de travail, obsédé par sa vision. Manson délaye les commentaires des uns sur les autres…
Du côté de la création de Maven, elle explique que l’enjeu a été d’intégrer peu à peu des informations provenant de différents types de drones et notamment les images qu’ils produisaient, qu’il a fallu faire parler, analyser, pour que les systèmes reconnaissent des formes. Une gageure pas si simple, notamment pour les drones qui volent le plus haut, qui renvoient des images où les informations sont difficiles à identifier du fait même de l’éloignement. Certains motifs ne font parfois que quelques pixels. L’étiquetage des images pour l’entraînement des systèmes n’était pas simple, d’autant que ces images sont produites selon différents angles, altitudes… L’autre enjeu de Maven a consisté à construire l’infrastructure pour sécuriser ces données tout en donnant accès aux agents assermentés comme aux logiciels des entreprises privées. Dès le début Maven se conçoit comme un projet en partie ouvert aux industries de l’IA, notamment aux entreprises capables d’apporter les capacités de traitement et de sécurisation, celles capables d’apporter les logiciels d’analyses des flux vidéos, etc. Manson montre surtout que les capacités du renseignement américain ne reposent pas seulement sur les capacités techniques des agences, mais visent surtout à agencer des infrastructures sécurisées, capables de traiter les volumes de données et l’information, et délimiter les capacités d’action de chacun. La structuration a consisté à ce que le gouvernement s’occupe des données et loue les licences d’usages des systèmes, à charge de les intégrer sans que ceux-ci n’accèdent aux données et les intégrer aux lourds systèmes sécurisés de l’armée. Ces travaux ne se sont pas menés avec les grandes entreprises du secteur, mais plutôt avec de petits acteurs, comme Clarifai.ai ou Xnor… Peu à peu, les entreprises fourbissent des dizaines d’algorithmes d’analyses, certains pour identifier les visages, d’autres pour les images de drones ou satellitaires. Faire apprendre la reconnaissance de formes aux systèmes prend du temps.
L’enjeu pour Cukor était d’obtenir un démonstrateur utile sur le terrain, même si imparfait. Les premières démonstrations ont lieu en Somalie, 8 mois après le lancement de Maven. La démonstration n’est pourtant pas totalement concluante. L’écran se peuple d’indications de détection et toutes ne sont pas exactes (la moitié sont mêmes complètement fausses). La détection est lente. Mais l’IA montre qu’elle est capable de compter des humains sur un marché, de suivre des convois de véhicules en mouvement, de suivre des individus ciblés. Et puis, elle pointe des individus cachés dans des buissons qu’aucun humain n’avait détectés. L’IA venait de faire la démonstration de son utilité. Malgré ses défauts, l’exemple était saisissant.
Cukor va tenter de rallier nombre d’acteurs à ses projets. Notamment Google et sa filiale, DeepMind, forte de son succès au jeu de Go, alors que son patron, Demis Hassabis a signé une lettre ouverte en 2015 contre les périls à utiliser l’IA pour la guerre. Les approches de Cukor pour inviter à rallier son projet sont difficiles. Partout, des déclarations s’en prennent au déploiement de l’IA, à l’image des plus actifs et radicaux, les acteurs de Stop Killer Robots, lancé dès 2012. Alors que les dépenses militaires soutiennent des entreprises de la Silicon Valley depuis longtemps, les révélations d’Edward Snowden en 2013 ont refroidi l’ambiance. Une entité de Google finira par signer un contrat avec Maven, pour le stockage d’infrastructure, pour aider l’armée à construire son propre cloud. En mars 2018, ce contrat entre Google et Maven est rendu public, déclenchant une vaste contestation dans l’entreprise… jusqu’à ce que Google annonce son retrait du projet (ou son implication semblait surtout anecdotique, mais symbolique). Microsoft prendra sa place. Puis bien d’autres. En février 2025, Google remisera ses principes. Peu à peu, les entreprises vont se joindre au projet, au prétexte de prêter leur concours à la sécurité nationale. En 2025, Hassabis lui-même affirmera que « les valeurs démocratiques de l’occident sont menacées ». La plupart de ceux qui ont dénoncé les dangers de l’IA se sont rangés pour se mettre au service du marché des armées. Après le retrait de Google d’ailleurs, le projet Maven est renforcé : le programme obtient « l’exemption de sécurité nationale », lui permettant de ne pas répondre de ses actions. Son budget passe de 16 millions de dollars en 2018 à 93 en 2019. Sous la gouvernance de Cukor, le programme Maven aura englouti 1 milliards de dollars.
Maven de son côté étend son projet à d’autres enjeux que l’analyse des images de drones, pour y intégrer des contenus de caméras de sécurité et surtout, des analyses de textes, de contenus audios provenant de l’écoute des communications, de fichiers provenant de documents capturés à l’ennemi. La labellisation permet aux algorithmes de progresser et d’identifier de plus en plus correctement de plus en plus d’objets. Ses équipes se déplacent d’un terrain d’opération l’autre pour tester ses outils, notamment en Afghanistan, où l’équipe se rend compte qu’il faut améliorer les modèles car les données d’entraînement utilisées en Somalie ne fonctionnent pas aussi bien ailleurs. Pour l’instant Maven ne fait que de la détection, mais pour Cukor, l’enjeu est déjà de passer à la phase suivante : cibler. Quand les algorithmes de détection s’améliorent en Afghanistan, ils s’effondrent aux Philippines : les véhicules à détecter ne sont pas les mêmes, l’environnement non plus… À mesure que l’outil s’étend, le travail s’étend. L’enjeu à suivre des cibles est plus complexe que la simple détection… Malgré l’effort de détection, les frappes de drones sont loin d’être parfaitement sécurisées, les erreurs et les dommages collatéraux sont élevés. Mais surtout, Maven va peu à peu devenir ce pourquoi il est peut-être vraiment créé : pas seulement optimiser l’information, mais peut-être plus encore optimiser les ressources militaires, c’est-à-dire concentrer la puissance de feu pour qu’elle ait plus d’effets. L’IA pour faire la guerre est aussi, si ce n’est d’abord, un outil pour optimiser les ressources, décider de quelle arme employer… Maven semble un tableau de bord comme les autres : utilisé pour optimiser et contrôler les dépenses !
Au détour de son histoire, Mason raconte souvent l’obsession chinoise de l’armée américaine. A tous les niveaux, l’armée US semble convaincue que le prochain terrain d’opération sera une confrontation avec la Chine. Les américains sont convaincus que la Chine va reprendre Taïwan, plateforme de la construction des puces électroniques mondiales. Et l’armée américaine est convaincue que l’IA peut les aider à détecter l’offensive chinoise qu’ils attendent et contre laquelle ils se préparent.
Manson évoque bien sûr Palantir et son PDG, Alex Karp, « le dealer d’armes IA du XXIe siècle ». En quelques années, Palantir est devenu le premier fournisseur de systèmes de Défense au monde. « La seule façon d’être en sécurité pour les Américains, est de s’assurer que ses adversaires aient peur », clame Karp. Pour lui, les activistes de la paix sont une infection. Ses systèmes savent agréger comme nul autre toutes les données, tous les détails sur une carte permettant aux systèmes d’IA et aux analystes de tout voir et de tout planifier. En s’imposant peu à peu comme l’acteur incontournable des systèmes de Défense, Palantir a décroché un accord de 10 milliards de dollars avec l’armée américaine pour les multiples licences à utiliser ses outils. Elle est devenue l’une des entreprises les plus rentables du monde. En 2018, alors que Maven se déploie timidement, Cukor veut déjà aller plus loin. Il voudrait que Maven incorpore tous les systèmes que l’armée utilise pour devenir la plateforme unique, le tableau de bord de la guerre, et notamment, incorporer les vidéos dans sa carte pour permettre aux analystes d’avoir accès à toujours plus d’informations, simplement ou leur permettre de cliquer sur une cible pour que le système la trace et la détruise. Pour cela, Cukor estime qu’il faut intégrer l’IA plus avant, dans le flux de ciblage lui-même. Le problème, c’est qu’à l’époque, l’argent de Maven est destiné à l’intelligence, pas à l’opérationnel. L’armée dispose d’innombrables options logicielles et intégrer l’IA est encore hautement controversé. En avril 2018, Cukor rencontre Palantir et déploie sa vision des systèmes de Défense pour les 10 prochaines années. Il imagine une sorte de Google Earth appliqué à la guerre. Un tableau de bord rassemblant toutes les informations, les structurant, les rendant disponibles… et les analysant. Il demande à Palantir de réimaginer l’interface utilisateur qu’ils proposent avec Gotham, l’un de ses logiciels. De faire quelque chose sur mesure. Cukor va initier des discussions avec nombre de start-ups. En octobre, l’équipe de Maven installe Palantir sur ses serveurs. La communauté militaire est rapidement convaincue de l’apport, malgré les coûts, même si l’installation de Palantir rend Maven moins essentiel. Cukor insiste pour que tout soit profondément séparé, aucune donnée n’est autorisée à passer d’un système à l’autre. Si la protection des données semble assurée, d’autres critiquent le fait que le Pentagon construise des services en couches, comme des tranches de cake superposées. Mais Palantir ajoute une couche d’analyse sur Maven : « La nouvelle plateforme de Palantir superposait de la réalité augmentée aux flux vidéo, traçant des lignes de planification de mission aux couleurs vives sur les images pour désigner les itinéraires comme étant sûrs ou dangereux. Des cercles concentriques, appelés cercles de portée, rayonnaient depuis un site d’attaque potentiel sur la carte pour indiquer la zone où des victimes pourraient subir des dommages collatéraux. Cette superposition attribuait également des numéros à des bâtiments spécifiques, facilitant grandement la communication entre des équipes disparates. » L’interface rend le tableau de bord et les cartes plus lisibles. Dans l’équipe de Maven, plusieurs pensent que l’intégration de Palantir est problématique. Cukor fait entrer nombre d’autres entreprises dans Maven, bien avant les grands acteurs de l’IA que seront OpenAI ou Anthropic, pour développer des modèles pour analyser les images et les données.
Mason égraine les relations partenariales entre Maven et d’innombrables startups de la Valley. Leur flux, leurs reflux… Les avancées, les reculs, les hésitations.. Les luttes internes dans l’armée pour piloter les programmes d’IA, les guerres de territoires autour du partage de données qui permettent aux programmes de fonctionner. Beaucoup estiment que les protections imposées par Cukor sur les données restent son pire échec, empêchant leur partage entre différents services plutôt qu’empêchant les startups d’y accéder. La dernière partie du livre est toute entière autour de cette guerre de territoire entre différents services de l’armée. Derrière cette bataille interne, tout l’enjeu est de permettre non seulement de repérer, mais plus encore d’éliminer, de raccourcir la kill chain, comme l’ânonne chacun.
Reste que les débuts de ces intégrations n’en sont pas moins laborieux. « Les détections par IA semblaient initialement encore plus laborieuses avec le nouveau système de Palantir. Les détections apparaissaient sous forme de points si volumineux qu’ils masquaient les objets, rendant impossible la distinction entre adultes et enfants par exemple ». En octobre 2019, Maven est sur le front pour éliminer Abu Bakr al-Baghdadi…Trump est ravi de voir l’assassinat en direct, comme s’il regardait un film. 35 000 frappes contre l’Etat islamique sont déclenchées en même temps que le raid. Maven remplit son contrat. A nouveau, le système détecte des problèmes que les analystes n’avaient pas vu. « L’IA apparaît enfin capable de déchirer le brouillard de la guerre ». Même si les frappes sont loin d’être sans erreurs, comme le pointait la presse à l’époque. Entre 1437 et 8000 civiles seront tués en 5 années d’opération contre l’Etat islamique en Irak et Syrie, comme le révéleront les investigations de la NPR et du New York Times. L’armée américaine sera contrainte à mener une deuxième enquête après les contestations de la première pour éclaircir ce point, mais ses résultats ne seront jamais publiés.
Les défaillances de l’IA sont pour l’instant passées sous silence, mais nombre de civiles sont souvent confondus avec des combattants. L’IA ne distingue pas les bons des mauvais. Ce qu’il voit devient souvent une cible puisqu’il est conçu pour en produire. Pour les défenseurs de la généralisation de l’IA, l’IA n’est pas toujours en cause, renvoyant la responsabilité aux humains. Pour les prosélytes de ces systèmes, ils permettent d’accéder à plus de données que jamais pour mieux décider. Pour les journalistes, les victimes civiles sont toujours plus nombreuses que comptées dans les rapports de l’armée. Lors de l’opération Tempête du désert en 1991, 90% des bombardements manquaient leur cible, faute de précision. Désormais les erreurs proviennent bien plus des biais des systèmes, du défaut de contexte ou de l’ignorance. Pas sûr que ce soit plus rassurant. En 2015, l’armée américaine a bombardé un hôpital en Afghanistan faisant 42 morts : la faute à de mauvaises coordonnées et à des erreurs humaines, reconnaîtra l’armée.
Pour s’améliorer, Maven a capitalisé sur l’étiquetage des données pour mieux aider à entraîner ses systèmes et améliorer leur performance. La labellisation coûte de l’argent et prend du temps. En septembre 2020, avec l’aide de Palantir, Scale AI puis Enabled Intelligence, la labellisation devient un gros business pour ses acteurs : elle représente 708 millions de dollars de contrats pour l’armée, sans compter les 400 étiqueteurs de données, des militaires employés directement par Maven, qui disposerait désormais de quelques 100 millions d’images étiquetées. Une arme sur une épaule ne se distingue bien souvent que sur deux ou trois pixels. Mais une fois entraînés, les systèmes se révèlent meilleurs que les humains, puisqu’ils peuvent voir ce que les analystes ne peuvent pas voir. En fusionnant les données provenant d’innombrables sources (images, signal radio et électromagnétique…), tout l’enjeu est d’améliorer la détection d’objets qui ne sont pas visibles aux humains et de les faire apparaître sur la carte. Pour l’armée, l’IA n’identifie pas toujours des objets mieux que l’humain, mais elle les identifie avant et plus vite que l’humain.
La journaliste évoque encore la difficulté à sélectionner les armes appropriées, qui doit répondre à des contraintes nombreuses, de disponibilité, de temporalité et de communications. Ou encore, la difficulté à distinguer les combattants de ceux qui ne le sont pas. La Défense américaine se dote de documents de cadrage sur le ciblage, sans les publier.
Alors que Drew Cukor a quitté le programme en octobre 2021, en février 2022, Maven est déployé en soutien à l’Ukraine en Allemagne. Ses capacités de détection, confrontées à un nouvel environnement, nécessitent à nouveau une mise à jour pour s’améliorer. A nouveau, les algorithmes doivent s’adapter aux données et les données être labellisées pour s’adapter aux terrains et aux objets de guerre locaux. L’Ukraine n’est pas le désert. Il faut identifier les systèmes russes, comme les Tracteur-érecteur-lanceurs russes. Cela ne prendra que deux semaines seulement. Maven fait la demonstration que son système est capable de s’adapter très rapidement.
L’armée américaine va très vite partager des informations avec l’Ukraine, mais sans leur donner accès à ses systèmes pour ne pas être accusée de participer à la guerre. Elle aide les analystes urkrainiens à regarder aux bons endroits. Depuis son QG allemand, Maven améliore son infrastructure cloud et sa connectivité pour éviter nombre de problèmes de latence. L’équipe transmet des cibles détectées à l’Ukraine, une trentaine par jour, 3 fois plus que ce qu’elle n’en voyait en Irak 5 ans plus tôt. La vitesse de la guerre a triplé en 5 ans, souligne Manson. Le nombre de détections ne va cesser de s’améliorer… Notamment en intégrant toujours de nouvelles données par exemple les interceptions de communications téléphoniques et radios russes, les explosions de missiles entendus via ces communications, les réseaux sociaux, comme les informations provenant de TikTok ou Twitter… « Les Etats-Unis deviennent les yeux de l’Ukraine ». Ils signalent également des points d’intérêts (jusqu’à 267 par jour en 2022) grâce à Maven. Mais l’enjeu n’est déjà plus l’identification de cibles, que les ressources en armes, missiles, munitions, drones…
La guerre devient une question de puissance brute. Alors que l’armée américaine envoie des ressources sur le terrain, Maven teste et évalue plus de 1500 algorithmes pour améliorer son système. L’Ukraine va permettre à Maven de s’améliorer encore. Maven permet à l’armée ukrainienne de voir plus loin que le front. Après avoir progressé sur les cibles fixes, Maven s’améliore sur les cibles dynamiques. La communication s’améliore. Les ukrainiens sont désormais capables de détruire des cibles 18 minutes après que les Américains les leur aient communiqué. En 2024, l’Ukraine a détruit plus de 2600 tanks russes et plus de 5000 véhicules armés. Pour l’armée US, le soutien à l’Ukraine a permis d’engranger d’innombrables progrès. Le succès de Maven ne repose pas seulement sur ses algorithmes, mais bien plus sur ses données et la façon dont les flux s’interconnectent. Les systèmes sont désormais capables d’identifier un objet dès qu’une seule image se présente. Ils font encore des erreurs, peuvent ne pas tout voir, mais savent désormais repérer des objets, même avec peu de données d’entraînements. En 2024, l’armée américaine ne fait plus passer qu’une douzaine de points d’intérêts par jour à l’armée ukrainienne. Mais c’est d’abord parce que celle-ci a également énormément progressé et a bien moins besoin de l’aide américaine. Les taux d’erreurs se réduisent selon les chiffres de l’armée. La précision s’améliore. L’armée russe a utilisé des faux marqueurs sur le terrain, pour tromper les modèles de détection satellitaires, mais Maven a vite appris à les distinguer. Les données sont devenues le nerf de la guerre. Leur intégration de plus en plus rapide fait la différence. Maven est un système adaptable, qui se met à jour rapidement, comme un logiciel, explique Manson. « Il peut produire ce dont le commandement a besoin ». Sous le commandement de Whitworth, Maven est devenu un projet public, qui a quitté le secret. Le tir est désormais prêt à être entièrement automatisé. Au printemps 2025, le contrat du Pentagon pour Maven Smart System est passé à 1,3 milliards de dollars. Celui de Palantir à 480 millions de dollars.
Les machines combattent les machines. La NSA écoute le monde entier. Et désormais, la NGA le regarde. Elle observe le globe en permanence. « En 2024, le commandement alimentait le système intelligent Maven avec 179 flux de données en temps réel provenant des domaines terrestre, maritime, aérien, spatial et cybernétique. » Désormais, les opérateurs qui utilisent Maven approuve ou désapprouvent le ciblage depuis le tableau de bord de ciblage fourni par Palantir, déterminent les priorités, hiérarchisent les ciblages, et envoient directement des messages aux systèmes de tirs. La kill chain est effectivement devenue bien courte. « Une cible peut désormais passer de détectée à engagée en quelques minutes, contre plusieurs heures auparavant ». Maven sait désormais détecter et tracer les missiles ennemis en temps réel et travaille à prévoir là où ils vont frapper. 32 entreprises différentes travaillent sur le programme Maven, 25 000 personnes l’utilisent. Il a accumulé plus d’un milliard de détection d’objets. Depuis 2024, Northcom et le Norad l’utilisent.
L’adoption de Maven est totale. Il est utilisé pour faire de la détection de franchissement de frontières aux Etats-Unis ou pour surveiller le trafic de drogue dans les Caraïbes. La garde nationale l’utilise pour surveiller les départs de feux. Les promoteurs de Maven comme ceux de Palantir estiment que Maven n’est pas un système d’armement, que valider une cible ne déclenche pas le largage d’une munition sur celle-ci. Mais cette défense semble de plus en plus une parade argumentative. Le système apparie les munitions aux cibles et propose une priorisation des cibles que les analystes peuvent certes aménager…
Pour certains militaires, Maven nécessiterait une doctrine d’usage. Ce que montre Katrina Mason dans ses conclusions, c’est que pour l’instant, la seule doctrine consiste à l’utiliser. « L’IA dotée d’une capacité d’action autonome va non seulement complexifier le projet Maven et l’usage général de l’IA dans la guerre, mais aussi la rendre plus opaque pour l’utilisateur. Elle va également accélérer le rythme des conflits et en amplifier l’ampleur ; par ailleurs – et en dépit des arguments vantant le potentiel de désescalade de l’IA – elle risque de rendre la guerre plus probable. »
L’ajout de LLM dans Maven, via Palantir et d’autres entreprises, comme OpenAI ou Anthropic, a pris du temps. Les premières tentatives ont été déceptives. Elles semblent surtout utilisée pour développer des prototypes de campagne et pour planifier des décisions militaires. Mais leur usage est pour l’instant observé avec défiance, estime Mason, notamment par crainte qu’ils empoisonnent les systèmes. Cela n’empêche pas leur intégration de s’étendre, même si on connaît fort mal la manière dont l’IA générative est utilisée.
Katrina Mason termine son livre en revenant sur les propos d’Antonio Guterres, le secrétaire général des Nations Unies, qui souhaite interdire le recours aux armes autonomes et qui s’inquiète du développement de l’IA dans le domaine militaire. La balance est pour l’instant difficile à faire, par manque d’information sur les systèmes et leurs conséquences. L’IA dans la guerre permet-elle de limiter les dommages collatéraux et les victimes civiles ou de les étendre ? Toutes les armées qui déploient ces systèmes assurent garder la main : qu’il y a toujours un humain pour valider les décisions de l’IA, mais on sait que cela tient d’une fable plus que d’une réalité. Le contrôle humain tient d’un slogan vague et mal conçu. Les systèmes embarquent les biais du renseignement avec eux et peuvent mal identifier les personnes depuis les lacunes des systèmes de reconnaissance. La Convention sur le contrôle des armes (CCW GGE) discute depuis 2014 du problème des armes autonomes. Pour Mary Wareham, longtemps responsable de la question de l’armement à Human Rights Watch, l’une des initiatrices de Stop Killer Robots, nous devrions pousser les Etats à signer un traité pareille à celui de la réduction des mines antipersonnelles. Mais pour Cukor, comme pour l’armée américaine, le risque vient bien plus du risque de développement d’armes autonomes par ses ennemis. L’armée est plus inquiète de sa capacité à neutraliser une attaque que de réguler les siennes. Pour l’administration Trump, l’IA est une contribution essentielle et positive à la guerre en tout point, comme si les critiques n’avaient aucune voix au chapitre. Si la Chine semble plus modérée sur le développement d’armes autonomes, c’est certainement pour ralentir l’avancée américaine, explique Katrina Manson, qui semble avoir été contaminée par la perspective de guerre avec la Chine. Mais plus encore que l’autonomie, le déploiement de l’IA dans les conflits risque de conduire à l’escalade, comme l’expliquait un groupe d’experts de l’ONU.
Pourtant, au terme du livre de Manson, on ne sait toujours pas très bien comment les résultats sont générés. Pour cela, nous ne disposons que d’une poignée d’images très rarement distillées, comme dans cette vidéo récente, relayée par le journaliste Dan Israel dans un article pour Mediapart soulignant l’emprise de Palantir sur l’armée américaine.
Captures d’écrans d’images de Maven. Source.
Ce que l’on y voit semble tenir d’une forme de jeu vidéo, un outil de simulation qui ne simule pas, où chaque paramètre semble appréciable, mais où nombre de décisions sont automatisées, proposées pour validation, choisies par le système.
En mai 2025, le directeur de l’unité d’innovation pour la Défense américaine, Doug Beck, expliquait que l’Ukraine consommait 4000 drones par jour (autant que ce que le département de la défense achetait en un an). L’Ukraine a produit 3 millions de drones en 2025, un million de plus de ce qu’elle produisait en 2024 (voir notre article sur le sujet). Pour chaque drone commercial fabriqué aux Etats-Unis, la Chine en produit 100 de plus, rappelle Manson. Dans son budget 2026, le Pentagon prévoit de dépenser 13,4 milliards pour des systèmes autonomes, dont le Replicator, un avion de chasse sans pilote. Face à ces perspectives, les Etats-Unis souhaitent reconstruire leurs capacités industrielles militaires. Plus facile à dire qu’à faire.
Chez JP Morgan, Drew Cukor ne s’intéresse plus à mettre de l’IA dans les armes, mais dans la finance (pas sur que ce soit plus rassurant). Les modèles d’IA vont permettre de redéfinir le fonctionnement des prêts, des hypothéques, des cartes de crédit, des placements, s’apprêtant à « turbocharger » l’économie, tout en contournant la conformité et les régulations établies, au risque là encore des biais, des erreurs et de l’injustice.
Le débat sur la moralité de la guerre reste entier. Pas sûr que l’autonomie ne nous aide à la faire progresser, bien au contraire. Si l’armée semble prendre l’éthique au sérieux, il y a de quoi être cynique. L’IA renforce la distance des combattants à l’acte de tuer, mais risque également de les éloigner de la décision de tuer. Ce double mouvement échoue à reconnaître l’humanité de l’opposant, qui est de plus en plus mise à distance. « Les outils d’IA risque d’abord de désensibiliser les combattants et l’armée, d’actes dont nul ne sera plus responsable », s’inquiète la journaliste. L’IA devrait pouvoir minimiser les erreurs et les dommages collatéraux, mais ce qu’on en voit pour l’instant, c’est qu’elle fait surtout s’envoler le volume de dommages plutôt qu’elle ne le réduit. La technologie rejoue le paradoxe de Jevons : « les technologies qui améliorent l’efficacité et abaissent les coûts conduisent invariablement à l’augmentation de leur consommation ». Les systèmes d’IA produisent plus de cibles, plus vites et rendent plus facile leur élimination. Les cibles générées par une boîte noire rendent le commandement trop sûr de lui. Ces systèmes transforment la guerre en jeu vidéo. De partout, il simplifie la destruction. L’ennemi est désormais plus facile à tuer qu’à capturer. Ces systèmes ne font aucun prisonnier. Ils ne proposent aucune clémence. Le paradoxe de Jevons nous le dit depuis longtemps : « plus quelque chose est efficace, plus vous allez avoir tendance à l’accomplir ». Pire, termine-t-elle. Non seulement cette technologie peut faire des choses horribles, mais les garde-fous peuvent également être facilement ajustés voire enlevés, comme le montrait Lavender, l’équivalent de Maven pour l’armée israélienne, où le nombre de victimes collatérales d’un tir pouvait être abaissé ou relevé, au gré des besoins de la guerre. Pour Mark Milley, l’ex chef d’Etat major de l’armée américaine, le champ de bataille sous IA ouvre une boîte de pandore… Les atrocités ne vont pas disparaître avec l’IA, rappelle Manson. Pour un autre gradé américain, le champ de bataille prend le tournant de l’autonomie, mais ce n’est pas parce qu’on est capable de le faire que nous devrions y aller. Trump a renommé le ministère de la Défense en ministère de la Guerre. En septembre 2025, Pete Hegseth, secrétaire de la Défense américain, devant tous les généraux de l’armée US, a affirmé vouloir plus d’IA partout et plus du tout de contraintes d’engagement excessives.
40 millions de personnes sont mortes durant la Première Guerre mondiale. 85 durant la seconde. Maven est désormais partout. Dans tous les services sur tous les continents. Jusqu’aux outils des alliés de l’Amérique. L’IA est désormais au cœur de toutes les opérations militaires américaines. Les mavenites sont pour la plupart partis dans d’autres entreprises du complexe techno-militaire américain, et notamment les entreprises d’IA qui rend Maven désormais puissant : Palantir, Microsoft, Anduril, OpenAI. La Maven mafia est partout.
Mais surtout, ces systèmes reposent d’abord sur une surveillance invisible et sans limite aucune, au prétexte d’obtenir toujours plus de données pour optimiser toujours plus ses cibles et ses frappes. Le succès de l’IA repose sur une surveillance toujours plus totale, sans limite ni garde-fous. C’est l’éléphant dans la pièce de l’autonomie. Celle d’une surveillance de tous sans limite.
C’est à nouveau la grande limite du livre pourtant très documenté de Katrina Mason. La journaliste semble passer à côté de ce à quoi elle n’a pas eu accès, malgré la profondeur de son enquête. C’est pourtant dans ce qu’on ne voit pas dans ce livre que se cache le monstre à venir. Un monde qui rêve d’assurer sa sécurité sans plus aucune limite quand bien même pour cela il serait finalement surtout prêt à se détruire lui-même, dans un impérialisme sans limite, dans un autoritarisme sans plus aucune contrainte.
Hubert Guillaud
La journaliste de Bloomberg, Katrina Manson, a publié en mars un livre consacré au Project Maven : A Marine Colonel, his Team, and the Dawn of AI Warfare (Norton & Company, 2026, non traduit). Maven est le nom du programme d’IA développé par l’armée américaine pour faire la guerre (l’équivalent des programmes israélien que nous avons longuement évoqué dans DLA, notamment dans L’IA, ça sert, d’abord, à faire la guerre). Le livre raconte la bataille d’un officier des Marines, Drew Cukor, pour imposer le projet et convertir l’armée américaine aux promesses de la guerre automatisée.
On regrettera vivement que le livre soit parfois peu précis sur ce que fait et ne fait pas Maven. Si on y apprend toute son histoire, on n’apprend pas comment le système fonctionne concrètement, ce qu’il arme ni comment. Si le livre évoque longuement le travail sur certaines données, notamment les images et vidéos satellitaires et de drones, c’est au détriment de toutes les autres qui nourrissent aussi le tableau de bord pour faire la guerre, et notamment les données provenant des écoutes téléphoniques, de la surveillance et du renseignement. Son interface qui semble la plus grande réussite du programme à en croire Manson ne nous est jamais montrée.
Il faut comprendre que l’enquête de la journaliste porte plutôt sur le développement de projet agile au sein d’une bureaucratie contrainte et retorse. Si le livre propose une solide chronologie, Manson semble parfois rater certains enjeux au profit d’une ode à la persévérance et à l’innovation, comme fascinée par ce que Cukor et son équipe sont parvenus à imposer, dans l’adversité.
Lancé en 2017, le projet Maven est désormais pleinement opérationnel. Il est le projet fondateur du ciblage automatisé. S’il n’est que l’un des 800 projets IA de l’armée américaine utilisés sur les champs de bataille, Maven est devenu son système phare, déployé dans toutes les branches militaires américaines. Plus qu’un outil de ciblage sans précédent, Maven est une plateforme qui concentre les dispositifs de renseignement et d’opérations.
Drew Cukor était officier dans les Marines à Kandahar en Afghanistan après les attentats du 11 septembre 2001. C’est là qu’il découvre les ordinateurs sur le terrain d’opération. Autant dire que sa déception est grande. A l’époque, les listes de cibles produites par le renseignement étaient enfermées dans des fichiers Excel. Chaque service avait ses propres outils d’analyse. Mais ces outils étaient inexploitables sur le terrain. Dès sa thèse dans le corps des marines en 97, Cukor défend que l’intelligence des machines est inutile si les soldats de terrain n’y ont pas accès. Pour lui, les ordinateurs doivent aider à transformer la donnée en intelligence pour l’action. En Afghanistan, puis à Bagdad en Irak, il constate que les ordinateurs sont inutiles aux soldats. Quand il devient le responsable du département du renseignement des Marines en 2010, son objectif est de réparer le renseignement et pour lui, cela signifie y déployer la plateforme de gestion de données proposée par une startup américaine, Palantir, dont il a apprécié la démonstration en 2009. In-Q-Tel, le fond d’investissement de la CIA a investi en 2005, 2 millions de dollars dans Palantir. A l’époque, Palantir n’est qu’un démonstrateur pourtant : il affiche des données provenant de nombreux silos du renseignement et permet de voir quel analyste y accède. Il garde la trace des changements et des indications que portent sur ces informations les agents. Une forme de wiki du renseignement permettant de discuter des informations, de les valider ou de les écarter. Parmi les données disponibles, il y a des appels téléphoniques et leurs transcriptions, des rapports d’interrogatoires, des images et vidéos… Et un système de requête permettant de trouver la trace d’informations dans toutes les informations disponibles pour les recouper. Palantir n’est qu’une interface qui permet d’afficher les données et de coopérer entre analystes sur des données qui proviennent du renseignement. Un tableau de bord.
Le rapport de la commission du 11 septembre a pointé les défaillances du renseignement et plus encore de matériel pour l’exploiter. Cukor partage le même avis. Pour Cukor, comme pour Thiel et Karp, les fondateurs de Palantir, les attentats de 2001 ont été un choc. Pour eux, le renseignement américain a échoué à empêcher le drame. Pour eux, l’IA est la réponse à apporter : elle a pour mission de transformer le renseignement et les opérations. Mais, les Marines, où Cukor travaille, est le plus petit des services de la Défense américaine et son département spécialisé dans le renseignement est encore plus insignifiant. Cukor décide néanmoins d’utiliser Palantir sur le terrain en Afghanistan, en 2011. Très rapidement, les officiers de terrain le trouvent utile. La Marine l’utilise pour déterminer des routes et des zones d’atterrissage. L’outil est pourtant très imparfait, mais il fait vite la démonstration de ses possibilités. Pour Cukor, comme il le défendra dans une note, la modernisation du renseignement militaire est clé : à l’avenir, l’analyse déterminera qui l’emportera sur le champ de bataille. Le but est d’accélérer et d’améliorer la décision avec l’aide de l’IA. A l’heure où Google fait rouler des voitures autonomes, pourtant, l’armée n’a pas ces outils dans son catalogue. Pas même de système cloud. Et ce quand bien « même si l’internet a été une création du Pentagon et qu’il dépense 38 milliards de dollars par an dans les nouvelles technologies »…. Pour Cukor, tout est à faire. Mais pour convaincre, estime le soldat, il faut des applications concrètes, qui collent au terrain, utiles sur site.
Cukor propose d’utiliser l’IA pour analyser les données des drones et améliorer l’information satellitaire. Cukor va visiter les entreprises qui produisent des voitures autonomes. En 2017, il rencontre IDenTV, une startup qui construit un modèle de vision par ordinateur pour drones, capable de repérer des objets sur une image. Le Congrès valide les fonds. Le projet Maven est lancé. Son ambition est tout de suite de faire du ciblage. Pour lui, l’IA doit aider à sélectionner et prioriser les cibles et aider à apparier la réponse appropriée. Pour lui, le département de la Défense ne devrait plus jamais acheter de systèmes d’armement sans IA intégrée. Son idée fixe est de créer une application de ciblage révolutionnaire et démontrer que l’IA peut « réduire la durée de la chaîne d’engagement entre la détection d’une cible et son traitement : repérer, localiser, neutraliser ». Pour lui, le département de la Défense doit fonctionner bien plus comme une entreprise logicielle que comme une usine d’armement pour être capable de traiter la donnée, actif capital du terrain.
Pour cela, Cukor se dote d’une équipe dédiée bien sûr. Tous semblent des avoir des profils atypiques, si l’on en croit Katrina Manson. Cukor, plus qu’un visionnaire, est plutôt décrit comme un psychopathe par certains d’entre eux. Un bourreau de travail, obsédé par sa vision. Manson délaye les commentaires des uns sur les autres…
Du côté de la création de Maven, elle explique que l’enjeu a été d’intégrer peu à peu des informations provenant de différents types de drones et notamment les images qu’ils produisaient, qu’il a fallu faire parler, analyser, pour que les systèmes reconnaissent des formes. Une gageure pas si simple, notamment pour les drones qui volent le plus haut, qui renvoient des images où les informations sont difficiles à identifier du fait même de l’éloignement. Certains motifs ne font parfois que quelques pixels. L’étiquetage des images pour l’entraînement des systèmes n’était pas simple, d’autant que ces images sont produites selon différents angles, altitudes… L’autre enjeu de Maven a consisté à construire l’infrastructure pour sécuriser ces données tout en donnant accès aux agents assermentés comme aux logiciels des entreprises privées. Dès le début Maven se conçoit comme un projet en partie ouvert aux industries de l’IA, notamment aux entreprises capables d’apporter les capacités de traitement et de sécurisation, celles capables d’apporter les logiciels d’analyses des flux vidéos, etc. Manson montre surtout que les capacités du renseignement américain ne reposent pas seulement sur les capacités techniques des agences, mais visent surtout à agencer des infrastructures sécurisées, capables de traiter les volumes de données et l’information, et délimiter les capacités d’action de chacun. La structuration a consisté à ce que le gouvernement s’occupe des données et loue les licences d’usages des systèmes, à charge de les intégrer sans que ceux-ci n’accèdent aux données et les intégrer aux lourds systèmes sécurisés de l’armée. Ces travaux ne se sont pas menés avec les grandes entreprises du secteur, mais plutôt avec de petits acteurs, comme Clarifai.ai ou Xnor… Peu à peu, les entreprises fourbissent des dizaines d’algorithmes d’analyses, certains pour identifier les visages, d’autres pour les images de drones ou satellitaires. Faire apprendre la reconnaissance de formes aux systèmes prend du temps.
L’enjeu pour Cukor était d’obtenir un démonstrateur utile sur le terrain, même si imparfait. Les premières démonstrations ont lieu en Somalie, 8 mois après le lancement de Maven. La démonstration n’est pourtant pas totalement concluante. L’écran se peuple d’indications de détection et toutes ne sont pas exactes (la moitié sont mêmes complètement fausses). La détection est lente. Mais l’IA montre qu’elle est capable de compter des humains sur un marché, de suivre des convois de véhicules en mouvement, de suivre des individus ciblés. Et puis, elle pointe des individus cachés dans des buissons qu’aucun humain n’avait détectés. L’IA venait de faire la démonstration de son utilité. Malgré ses défauts, l’exemple était saisissant.
Cukor va tenter de rallier nombre d’acteurs à ses projets. Notamment Google et sa filiale, DeepMind, forte de son succès au jeu de Go, alors que son patron, Demis Hassabis a signé une lettre ouverte en 2015 contre les périls à utiliser l’IA pour la guerre. Les approches de Cukor pour inviter à rallier son projet sont difficiles. Partout, des déclarations s’en prennent au déploiement de l’IA, à l’image des plus actifs et radicaux, les acteurs de Stop Killer Robots, lancé dès 2012. Alors que les dépenses militaires soutiennent des entreprises de la Silicon Valley depuis longtemps, les révélations d’Edward Snowden en 2013 ont refroidi l’ambiance. Une entité de Google finira par signer un contrat avec Maven, pour le stockage d’infrastructure, pour aider l’armée à construire son propre cloud. En mars 2018, ce contrat entre Google et Maven est rendu public, déclenchant une vaste contestation dans l’entreprise… jusqu’à ce que Google annonce son retrait du projet (ou son implication semblait surtout anecdotique, mais symbolique). Microsoft prendra sa place. Puis bien d’autres. En février 2025, Google remisera ses principes. Peu à peu, les entreprises vont se joindre au projet, au prétexte de prêter leur concours à la sécurité nationale. En 2025, Hassabis lui-même affirmera que « les valeurs démocratiques de l’occident sont menacées ». La plupart de ceux qui ont dénoncé les dangers de l’IA se sont rangés pour se mettre au service du marché des armées. Après le retrait de Google d’ailleurs, le projet Maven est renforcé : le programme obtient « l’exemption de sécurité nationale », lui permettant de ne pas répondre de ses actions. Son budget passe de 16 millions de dollars en 2018 à 93 en 2019. Sous la gouvernance de Cukor, le programme Maven aura englouti 1 milliards de dollars.
Maven de son côté étend son projet à d’autres enjeux que l’analyse des images de drones, pour y intégrer des contenus de caméras de sécurité et surtout, des analyses de textes, de contenus audios provenant de l’écoute des communications, de fichiers provenant de documents capturés à l’ennemi. La labellisation permet aux algorithmes de progresser et d’identifier de plus en plus correctement de plus en plus d’objets. Ses équipes se déplacent d’un terrain d’opération l’autre pour tester ses outils, notamment en Afghanistan, où l’équipe se rend compte qu’il faut améliorer les modèles car les données d’entraînement utilisées en Somalie ne fonctionnent pas aussi bien ailleurs. Pour l’instant Maven ne fait que de la détection, mais pour Cukor, l’enjeu est déjà de passer à la phase suivante : cibler. Quand les algorithmes de détection s’améliorent en Afghanistan, ils s’effondrent aux Philippines : les véhicules à détecter ne sont pas les mêmes, l’environnement non plus… À mesure que l’outil s’étend, le travail s’étend. L’enjeu à suivre des cibles est plus complexe que la simple détection… Malgré l’effort de détection, les frappes de drones sont loin d’être parfaitement sécurisées, les erreurs et les dommages collatéraux sont élevés. Mais surtout, Maven va peu à peu devenir ce pourquoi il est peut-être vraiment créé : pas seulement optimiser l’information, mais peut-être plus encore optimiser les ressources militaires, c’est-à-dire concentrer la puissance de feu pour qu’elle ait plus d’effets. L’IA pour faire la guerre est aussi, si ce n’est d’abord, un outil pour optimiser les ressources, décider de quelle arme employer… Maven semble un tableau de bord comme les autres : utilisé pour optimiser et contrôler les dépenses !
Au détour de son histoire, Mason raconte souvent l’obsession chinoise de l’armée américaine. A tous les niveaux, l’armée US semble convaincue que le prochain terrain d’opération sera une confrontation avec la Chine. Les américains sont convaincus que la Chine va reprendre Taïwan, plateforme de la construction des puces électroniques mondiales. Et l’armée américaine est convaincue que l’IA peut les aider à détecter l’offensive chinoise qu’ils attendent et contre laquelle ils se préparent.
Manson évoque bien sûr Palantir et son PDG, Alex Karp, « le dealer d’armes IA du XXIe siècle ». En quelques années, Palantir est devenu le premier fournisseur de systèmes de Défense au monde. « La seule façon d’être en sécurité pour les Américains, est de s’assurer que ses adversaires aient peur », clame Karp. Pour lui, les activistes de la paix sont une infection. Ses systèmes savent agréger comme nul autre toutes les données, tous les détails sur une carte permettant aux systèmes d’IA et aux analystes de tout voir et de tout planifier. En s’imposant peu à peu comme l’acteur incontournable des systèmes de Défense, Palantir a décroché un accord de 10 milliards de dollars avec l’armée américaine pour les multiples licences à utiliser ses outils. Elle est devenue l’une des entreprises les plus rentables du monde. En 2018, alors que Maven se déploie timidement, Cukor veut déjà aller plus loin. Il voudrait que Maven incorpore tous les systèmes que l’armée utilise pour devenir la plateforme unique, le tableau de bord de la guerre, et notamment, incorporer les vidéos dans sa carte pour permettre aux analystes d’avoir accès à toujours plus d’informations, simplement ou leur permettre de cliquer sur une cible pour que le système la trace et la détruise. Pour cela, Cukor estime qu’il faut intégrer l’IA plus avant, dans le flux de ciblage lui-même. Le problème, c’est qu’à l’époque, l’argent de Maven est destiné à l’intelligence, pas à l’opérationnel. L’armée dispose d’innombrables options logicielles et intégrer l’IA est encore hautement controversé. En avril 2018, Cukor rencontre Palantir et déploie sa vision des systèmes de Défense pour les 10 prochaines années. Il imagine une sorte de Google Earth appliqué à la guerre. Un tableau de bord rassemblant toutes les informations, les structurant, les rendant disponibles… et les analysant. Il demande à Palantir de réimaginer l’interface utilisateur qu’ils proposent avec Gotham, l’un de ses logiciels. De faire quelque chose sur mesure. Cukor va initier des discussions avec nombre de start-ups. En octobre, l’équipe de Maven installe Palantir sur ses serveurs. La communauté militaire est rapidement convaincue de l’apport, malgré les coûts, même si l’installation de Palantir rend Maven moins essentiel. Cukor insiste pour que tout soit profondément séparé, aucune donnée n’est autorisée à passer d’un système à l’autre. Si la protection des données semble assurée, d’autres critiquent le fait que le Pentagon construise des services en couches, comme des tranches de cake superposées. Mais Palantir ajoute une couche d’analyse sur Maven : « La nouvelle plateforme de Palantir superposait de la réalité augmentée aux flux vidéo, traçant des lignes de planification de mission aux couleurs vives sur les images pour désigner les itinéraires comme étant sûrs ou dangereux. Des cercles concentriques, appelés cercles de portée, rayonnaient depuis un site d’attaque potentiel sur la carte pour indiquer la zone où des victimes pourraient subir des dommages collatéraux. Cette superposition attribuait également des numéros à des bâtiments spécifiques, facilitant grandement la communication entre des équipes disparates. » L’interface rend le tableau de bord et les cartes plus lisibles. Dans l’équipe de Maven, plusieurs pensent que l’intégration de Palantir est problématique. Cukor fait entrer nombre d’autres entreprises dans Maven, bien avant les grands acteurs de l’IA que seront OpenAI ou Anthropic, pour développer des modèles pour analyser les images et les données.
Mason égraine les relations partenariales entre Maven et d’innombrables startups de la Valley. Leur flux, leurs reflux… Les avancées, les reculs, les hésitations.. Les luttes internes dans l’armée pour piloter les programmes d’IA, les guerres de territoires autour du partage de données qui permettent aux programmes de fonctionner. Beaucoup estiment que les protections imposées par Cukor sur les données restent son pire échec, empêchant leur partage entre différents services plutôt qu’empêchant les startups d’y accéder. La dernière partie du livre est toute entière autour de cette guerre de territoire entre différents services de l’armée. Derrière cette bataille interne, tout l’enjeu est de permettre non seulement de repérer, mais plus encore d’éliminer, de raccourcir la kill chain, comme l’ânonne chacun.
Reste que les débuts de ces intégrations n’en sont pas moins laborieux. « Les détections par IA semblaient initialement encore plus laborieuses avec le nouveau système de Palantir. Les détections apparaissaient sous forme de points si volumineux qu’ils masquaient les objets, rendant impossible la distinction entre adultes et enfants par exemple ». En octobre 2019, Maven est sur le front pour éliminer Abu Bakr al-Baghdadi…Trump est ravi de voir l’assassinat en direct, comme s’il regardait un film. 35 000 frappes contre l’Etat islamique sont déclenchées en même temps que le raid. Maven remplit son contrat. A nouveau, le système détecte des problèmes que les analystes n’avaient pas vu. « L’IA apparaît enfin capable de déchirer le brouillard de la guerre ». Même si les frappes sont loin d’être sans erreurs, comme le pointait la presse à l’époque. Entre 1437 et 8000 civiles seront tués en 5 années d’opération contre l’Etat islamique en Irak et Syrie, comme le révéleront les investigations de la NPR et du New York Times. L’armée américaine sera contrainte à mener une deuxième enquête après les contestations de la première pour éclaircir ce point, mais ses résultats ne seront jamais publiés.
Les défaillances de l’IA sont pour l’instant passées sous silence, mais nombre de civiles sont souvent confondus avec des combattants. L’IA ne distingue pas les bons des mauvais. Ce qu’il voit devient souvent une cible puisqu’il est conçu pour en produire. Pour les défenseurs de la généralisation de l’IA, l’IA n’est pas toujours en cause, renvoyant la responsabilité aux humains. Pour les prosélytes de ces systèmes, ils permettent d’accéder à plus de données que jamais pour mieux décider. Pour les journalistes, les victimes civiles sont toujours plus nombreuses que comptées dans les rapports de l’armée. Lors de l’opération Tempête du désert en 1991, 90% des bombardements manquaient leur cible, faute de précision. Désormais les erreurs proviennent bien plus des biais des systèmes, du défaut de contexte ou de l’ignorance. Pas sûr que ce soit plus rassurant. En 2015, l’armée américaine a bombardé un hôpital en Afghanistan faisant 42 morts : la faute à de mauvaises coordonnées et à des erreurs humaines, reconnaîtra l’armée.
Pour s’améliorer, Maven a capitalisé sur l’étiquetage des données pour mieux aider à entraîner ses systèmes et améliorer leur performance. La labellisation coûte de l’argent et prend du temps. En septembre 2020, avec l’aide de Palantir, Scale AI puis Enabled Intelligence, la labellisation devient un gros business pour ses acteurs : elle représente 708 millions de dollars de contrats pour l’armée, sans compter les 400 étiqueteurs de données, des militaires employés directement par Maven, qui disposerait désormais de quelques 100 millions d’images étiquetées. Une arme sur une épaule ne se distingue bien souvent que sur deux ou trois pixels. Mais une fois entraînés, les systèmes se révèlent meilleurs que les humains, puisqu’ils peuvent voir ce que les analystes ne peuvent pas voir. En fusionnant les données provenant d’innombrables sources (images, signal radio et électromagnétique…), tout l’enjeu est d’améliorer la détection d’objets qui ne sont pas visibles aux humains et de les faire apparaître sur la carte. Pour l’armée, l’IA n’identifie pas toujours des objets mieux que l’humain, mais elle les identifie avant et plus vite que l’humain.
La journaliste évoque encore la difficulté à sélectionner les armes appropriées, qui doit répondre à des contraintes nombreuses, de disponibilité, de temporalité et de communications. Ou encore, la difficulté à distinguer les combattants de ceux qui ne le sont pas. La Défense américaine se dote de documents de cadrage sur le ciblage, sans les publier.
Alors que Drew Cukor a quitté le programme en octobre 2021, en février 2022, Maven est déployé en soutien à l’Ukraine en Allemagne. Ses capacités de détection, confrontées à un nouvel environnement, nécessitent à nouveau une mise à jour pour s’améliorer. A nouveau, les algorithmes doivent s’adapter aux données et les données être labellisées pour s’adapter aux terrains et aux objets de guerre locaux. L’Ukraine n’est pas le désert. Il faut identifier les systèmes russes, comme les Tracteur-érecteur-lanceurs russes. Cela ne prendra que deux semaines seulement. Maven fait la demonstration que son système est capable de s’adapter très rapidement.
L’armée américaine va très vite partager des informations avec l’Ukraine, mais sans leur donner accès à ses systèmes pour ne pas être accusée de participer à la guerre. Elle aide les analystes urkrainiens à regarder aux bons endroits. Depuis son QG allemand, Maven améliore son infrastructure cloud et sa connectivité pour éviter nombre de problèmes de latence. L’équipe transmet des cibles détectées à l’Ukraine, une trentaine par jour, 3 fois plus que ce qu’elle n’en voyait en Irak 5 ans plus tôt. La vitesse de la guerre a triplé en 5 ans, souligne Manson. Le nombre de détections ne va cesser de s’améliorer… Notamment en intégrant toujours de nouvelles données par exemple les interceptions de communications téléphoniques et radios russes, les explosions de missiles entendus via ces communications, les réseaux sociaux, comme les informations provenant de TikTok ou Twitter… « Les Etats-Unis deviennent les yeux de l’Ukraine ». Ils signalent également des points d’intérêts (jusqu’à 267 par jour en 2022) grâce à Maven. Mais l’enjeu n’est déjà plus l’identification de cibles, que les ressources en armes, missiles, munitions, drones…
La guerre devient une question de puissance brute. Alors que l’armée américaine envoie des ressources sur le terrain, Maven teste et évalue plus de 1500 algorithmes pour améliorer son système. L’Ukraine va permettre à Maven de s’améliorer encore. Maven permet à l’armée ukrainienne de voir plus loin que le front. Après avoir progressé sur les cibles fixes, Maven s’améliore sur les cibles dynamiques. La communication s’améliore. Les ukrainiens sont désormais capables de détruire des cibles 18 minutes après que les Américains les leur aient communiqué. En 2024, l’Ukraine a détruit plus de 2600 tanks russes et plus de 5000 véhicules armés. Pour l’armée US, le soutien à l’Ukraine a permis d’engranger d’innombrables progrès. Le succès de Maven ne repose pas seulement sur ses algorithmes, mais bien plus sur ses données et la façon dont les flux s’interconnectent. Les systèmes sont désormais capables d’identifier un objet dès qu’une seule image se présente. Ils font encore des erreurs, peuvent ne pas tout voir, mais savent désormais repérer des objets, même avec peu de données d’entraînements. En 2024, l’armée américaine ne fait plus passer qu’une douzaine de points d’intérêts par jour à l’armée ukrainienne. Mais c’est d’abord parce que celle-ci a également énormément progressé et a bien moins besoin de l’aide américaine. Les taux d’erreurs se réduisent selon les chiffres de l’armée. La précision s’améliore. L’armée russe a utilisé des faux marqueurs sur le terrain, pour tromper les modèles de détection satellitaires, mais Maven a vite appris à les distinguer. Les données sont devenues le nerf de la guerre. Leur intégration de plus en plus rapide fait la différence. Maven est un système adaptable, qui se met à jour rapidement, comme un logiciel, explique Manson. « Il peut produire ce dont le commandement a besoin ». Sous le commandement de Whitworth, Maven est devenu un projet public, qui a quitté le secret. Le tir est désormais prêt à être entièrement automatisé. Au printemps 2025, le contrat du Pentagon pour Maven Smart System est passé à 1,3 milliards de dollars. Celui de Palantir à 480 millions de dollars.
Les machines combattent les machines. La NSA écoute le monde entier. Et désormais, la NGA le regarde. Elle observe le globe en permanence. « En 2024, le commandement alimentait le système intelligent Maven avec 179 flux de données en temps réel provenant des domaines terrestre, maritime, aérien, spatial et cybernétique. » Désormais, les opérateurs qui utilisent Maven approuve ou désapprouvent le ciblage depuis le tableau de bord de ciblage fourni par Palantir, déterminent les priorités, hiérarchisent les ciblages, et envoient directement des messages aux systèmes de tirs. La kill chain est effectivement devenue bien courte. « Une cible peut désormais passer de détectée à engagée en quelques minutes, contre plusieurs heures auparavant ». Maven sait désormais détecter et tracer les missiles ennemis en temps réel et travaille à prévoir là où ils vont frapper. 32 entreprises différentes travaillent sur le programme Maven, 25 000 personnes l’utilisent. Il a accumulé plus d’un milliard de détection d’objets. Depuis 2024, Northcom et le Norad l’utilisent.
L’adoption de Maven est totale. Il est utilisé pour faire de la détection de franchissement de frontières aux Etats-Unis ou pour surveiller le trafic de drogue dans les Caraïbes. La garde nationale l’utilise pour surveiller les départs de feux. Les promoteurs de Maven comme ceux de Palantir estiment que Maven n’est pas un système d’armement, que valider une cible ne déclenche pas le largage d’une munition sur celle-ci. Mais cette défense semble de plus en plus une parade argumentative. Le système apparie les munitions aux cibles et propose une priorisation des cibles que les analystes peuvent certes aménager…
Pour certains militaires, Maven nécessiterait une doctrine d’usage. Ce que montre Katrina Mason dans ses conclusions, c’est que pour l’instant, la seule doctrine consiste à l’utiliser. « L’IA dotée d’une capacité d’action autonome va non seulement complexifier le projet Maven et l’usage général de l’IA dans la guerre, mais aussi la rendre plus opaque pour l’utilisateur. Elle va également accélérer le rythme des conflits et en amplifier l’ampleur ; par ailleurs – et en dépit des arguments vantant le potentiel de désescalade de l’IA – elle risque de rendre la guerre plus probable. »
L’ajout de LLM dans Maven, via Palantir et d’autres entreprises, comme OpenAI ou Anthropic, a pris du temps. Les premières tentatives ont été déceptives. Elles semblent surtout utilisée pour développer des prototypes de campagne et pour planifier des décisions militaires. Mais leur usage est pour l’instant observé avec défiance, estime Mason, notamment par crainte qu’ils empoisonnent les systèmes. Cela n’empêche pas leur intégration de s’étendre, même si on connaît fort mal la manière dont l’IA générative est utilisée.
Katrina Mason termine son livre en revenant sur les propos d’Antonio Guterres, le secrétaire général des Nations Unies, qui souhaite interdire le recours aux armes autonomes et qui s’inquiète du développement de l’IA dans le domaine militaire. La balance est pour l’instant difficile à faire, par manque d’information sur les systèmes et leurs conséquences. L’IA dans la guerre permet-elle de limiter les dommages collatéraux et les victimes civiles ou de les étendre ? Toutes les armées qui déploient ces systèmes assurent garder la main : qu’il y a toujours un humain pour valider les décisions de l’IA, mais on sait que cela tient d’une fable plus que d’une réalité. Le contrôle humain tient d’un slogan vague et mal conçu. Les systèmes embarquent les biais du renseignement avec eux et peuvent mal identifier les personnes depuis les lacunes des systèmes de reconnaissance. La Convention sur le contrôle des armes (CCW GGE) discute depuis 2014 du problème des armes autonomes. Pour Mary Wareham, longtemps responsable de la question de l’armement à Human Rights Watch, l’une des initiatrices de Stop Killer Robots, nous devrions pousser les Etats à signer un traité pareille à celui de la réduction des mines antipersonnelles. Mais pour Cukor, comme pour l’armée américaine, le risque vient bien plus du risque de développement d’armes autonomes par ses ennemis. L’armée est plus inquiète de sa capacité à neutraliser une attaque que de réguler les siennes. Pour l’administration Trump, l’IA est une contribution essentielle et positive à la guerre en tout point, comme si les critiques n’avaient aucune voix au chapitre. Si la Chine semble plus modérée sur le développement d’armes autonomes, c’est certainement pour ralentir l’avancée américaine, explique Katrina Manson, qui semble avoir été contaminée par la perspective de guerre avec la Chine. Mais plus encore que l’autonomie, le déploiement de l’IA dans les conflits risque de conduire à l’escalade, comme l’expliquait un groupe d’experts de l’ONU.
Pourtant, au terme du livre de Manson, on ne sait toujours pas très bien comment les résultats sont générés. Pour cela, nous ne disposons que d’une poignée d’images très rarement distillées, comme dans cette vidéo récente, relayée par le journaliste Dan Israel dans un article pour Mediapart soulignant l’emprise de Palantir sur l’armée américaine.
Captures d’écrans d’images de Maven. Source.
Ce que l’on y voit semble tenir d’une forme de jeu vidéo, un outil de simulation qui ne simule pas, où chaque paramètre semble appréciable, mais où nombre de décisions sont automatisées, proposées pour validation, choisies par le système.
En mai 2025, le directeur de l’unité d’innovation pour la Défense américaine, Doug Beck, expliquait que l’Ukraine consommait 4000 drones par jour (autant que ce que le département de la défense achetait en un an). L’Ukraine a produit 3 millions de drones en 2025, un million de plus de ce qu’elle produisait en 2024 (voir notre article sur le sujet). Pour chaque drone commercial fabriqué aux Etats-Unis, la Chine en produit 100 de plus, rappelle Manson. Dans son budget 2026, le Pentagon prévoit de dépenser 13,4 milliards pour des systèmes autonomes, dont le Replicator, un avion de chasse sans pilote. Face à ces perspectives, les Etats-Unis souhaitent reconstruire leurs capacités industrielles militaires. Plus facile à dire qu’à faire.
Chez JP Morgan, Drew Cukor ne s’intéresse plus à mettre de l’IA dans les armes, mais dans la finance (pas sur que ce soit plus rassurant). Les modèles d’IA vont permettre de redéfinir le fonctionnement des prêts, des hypothéques, des cartes de crédit, des placements, s’apprêtant à « turbocharger » l’économie, tout en contournant la conformité et les régulations établies, au risque là encore des biais, des erreurs et de l’injustice.
Le débat sur la moralité de la guerre reste entier. Pas sûr que l’autonomie ne nous aide à la faire progresser, bien au contraire. Si l’armée semble prendre l’éthique au sérieux, il y a de quoi être cynique. L’IA renforce la distance des combattants à l’acte de tuer, mais risque également de les éloigner de la décision de tuer. Ce double mouvement échoue à reconnaître l’humanité de l’opposant, qui est de plus en plus mise à distance. « Les outils d’IA risque d’abord de désensibiliser les combattants et l’armée, d’actes dont nul ne sera plus responsable », s’inquiète la journaliste. L’IA devrait pouvoir minimiser les erreurs et les dommages collatéraux, mais ce qu’on en voit pour l’instant, c’est qu’elle fait surtout s’envoler le volume de dommages plutôt qu’elle ne le réduit. La technologie rejoue le paradoxe de Jevons : « les technologies qui améliorent l’efficacité et abaissent les coûts conduisent invariablement à l’augmentation de leur consommation ». Les systèmes d’IA produisent plus de cibles, plus vites et rendent plus facile leur élimination. Les cibles générées par une boîte noire rendent le commandement trop sûr de lui. Ces systèmes transforment la guerre en jeu vidéo. De partout, il simplifie la destruction. L’ennemi est désormais plus facile à tuer qu’à capturer. Ces systèmes ne font aucun prisonnier. Ils ne proposent aucune clémence. Le paradoxe de Jevons nous le dit depuis longtemps : « plus quelque chose est efficace, plus vous allez avoir tendance à l’accomplir ». Pire, termine-t-elle. Non seulement cette technologie peut faire des choses horribles, mais les garde-fous peuvent également être facilement ajustés voire enlevés, comme le montrait Lavender, l’équivalent de Maven pour l’armée israélienne, où le nombre de victimes collatérales d’un tir pouvait être abaissé ou relevé, au gré des besoins de la guerre. Pour Mark Milley, l’ex chef d’Etat major de l’armée américaine, le champ de bataille sous IA ouvre une boîte de pandore… Les atrocités ne vont pas disparaître avec l’IA, rappelle Manson. Pour un autre gradé américain, le champ de bataille prend le tournant de l’autonomie, mais ce n’est pas parce qu’on est capable de le faire que nous devrions y aller. Trump a renommé le ministère de la Défense en ministère de la Guerre. En septembre 2025, Pete Hegseth, secrétaire de la Défense américain, devant tous les généraux de l’armée US, a affirmé vouloir plus d’IA partout et plus du tout de contraintes d’engagement excessives.
40 millions de personnes sont mortes durant la Première Guerre mondiale. 85 durant la seconde. Maven est désormais partout. Dans tous les services sur tous les continents. Jusqu’aux outils des alliés de l’Amérique. L’IA est désormais au cœur de toutes les opérations militaires américaines. Les mavenites sont pour la plupart partis dans d’autres entreprises du complexe techno-militaire américain, et notamment les entreprises d’IA qui rend Maven désormais puissant : Palantir, Microsoft, Anduril, OpenAI. La Maven mafia est partout.
Mais surtout, ces systèmes reposent d’abord sur une surveillance invisible et sans limite aucune, au prétexte d’obtenir toujours plus de données pour optimiser toujours plus ses cibles et ses frappes. Le succès de l’IA repose sur une surveillance toujours plus totale, sans limite ni garde-fous. C’est l’éléphant dans la pièce de l’autonomie. Celle d’une surveillance de tous sans limite.
C’est à nouveau la grande limite du livre pourtant très documenté de Katrina Mason. La journaliste semble passer à côté de ce à quoi elle n’a pas eu accès, malgré la profondeur de son enquête. C’est pourtant dans ce qu’on ne voit pas dans ce livre que se cache le monstre à venir. Un monde qui rêve d’assurer sa sécurité sans plus aucune limite quand bien même pour cela il serait finalement surtout prêt à se détruire lui-même, dans un impérialisme sans limite, dans un autoritarisme sans plus aucune contrainte.
Hubert Guillaud
Mais pourquoi l’IA est-elle utilisée pour faire la guerre ?, demande le sociologue Ori Schwarz dans un passionnant article pour Big Data & Society, en observant l’usage qu’en a fait l’armée israélienne à Gaza (voir notre dossier L’IA ça sert, d’abord, à faire la guerre). Qu’apporte-t-elle, que permet-elle que les techniques de guerre traditionnelle n’apportent pas ?
Pour le chercheur, l’IA a été utilisée pour accélérer la génération de cibles, car l’armée israélienne a adopté une doctrine axée sur la « létalité » (visant à maximiser le nombre de victimes) tout en intégrant le droit international humanitaire (qui impose de distinguer les cibles militaires des civils). L’IA n’était pas tant requise pour personnaliser le traitement, que pour justifier d’un traitement uniforme en créant des justifications adaptées, explique-t-il. Elle a été instrumentalisée pour légitimer tueries et destructions de masse en fusionnant et en analysant automatiquement des données pour transformer des milliers d’individus et de bâtiments en cibles légitimes assorties de scores de probabilité individuels.
Pour le chercheur, le profilage, la « singularisation automatisée » (que proposait le sociologue allemand Andreas Reckwitz dans son livre, The Society of Singularities, Polity, 2020), c’est-à-dire le fait que chacun soit traité différemment selon les données récoltées sur lui, est utilisée avec succès dans tous les domaines que le numérique transforme (marketing, médecine, tarification…). Mais, alors que le profilage ne cesse de promettre une distinction plus précise, il permet finalement de générer des effets de masses désastreux, comme dans le cas des destructions lors de la guerre à Gaza, brouillant la distinction entre cibles militaires et populations protégées. « Plus de 71 000 Palestiniens ont été tués, selon les chiffres officiels palestiniens et les estimations de l’armée israélienne. Mais seuls 20 % d’entre eux seraient des militants du Hamas alors que près de la moitié des victimes seraient des femmes et des mineurs. Des milliers d’autres sont portés disparus et d’autres encore sont morts de maladie et de malnutrition. Près de 2 millions de personnes ont perdu leur logement, la plupart des bâtiments résidentiels de Gaza ayant été détruits ou gravement endommagés. L’ampleur des pertes civiles a conduit la Cour internationale de Justice à saisir Israël pour violation présumée de la Convention sur le génocide. »
Une grande partie de ces victimes et destructions visait des cibles identifiées par les services de renseignement israéliens grâce à une utilisation sans précédent de technologies numériques sophistiquées. Schwartz y voit un paradoxe. D’un côté, l’armée israélienne s’est vantée d’effectuer la sélection des cibles à l’aide d’outils d’IA et d’analyse de données les plus sophistiqués pour identifier des cibles humaines et des infrastructures liées au Hamas ; pourtant, le résultat de cet investissement sans précédent dans un ciblage sophistiqué donne l’impression d’une destruction et de tueries massives et indiscriminées. « Si l’objectif est de tuer sans distinction, pourquoi une technologie aussi avancée est-elle nécessaire ? »
Pour Schwarz, si l’IA est utilisée pour procéder à des tueries de masse, c’est justement en raison de sa capacité de distinction : « en singularisant les justifications de tueries indiscriminées, elle produit de la distinction au service de l’indiscrimination ». Cela se produit parce que les effets sociaux de l’IA ne sont pas prédéterminés par les caractéristiques technologiques, mais façonnés par les contextes juridique, structurel, culturel, politique et moral dans lesquels la technologie s’inscrit. En particulier, les tueries et les destructions indiscriminées découlent de la construction politique de « cibles ». À une époque où le droit international humanitaire ainsi que les normes éthiques et professionnelles militaires exigent de ne viser que des « cibles » légitimes, l’impact du big data sur la guerre ne consiste pas nécessairement à réduire les massacres et les destructions en trouvant « l’aiguille dans la botte de foin », comme on l’affirme généralement. Mais, tout le contraire : « il s’agit de transformer le foin en aiguilles, en « incriminant » presque tous habitants ou tous les immeubles résidentiels par l’élaboration d’un récit singulier les associant exclusivement à l’ennemi, légitimant ainsi une destruction indiscriminée. » Pour le chercheur, les massacres et les destructions ne s’expliquent pas uniquement par ces développements technologiques bien sûr, mais la justification technique a permis de renforcer les dynamiques politiques en cours.
Longtemps, les assassinats extrajudiciaires se limitaient à de rares opérations clandestines visant des opposants de haut rang, rappelle le chercheur. Puis l’élimination ciblée s’est transformée en une politique déclarée, systématiquement mise en œuvre à une échelle toujours plus vaste.
Cette politique s’appuie sur trois principes. Premièrement, l’individualisation de la guerre : l’affrontement est requalifié en une action de police ou de poursuite judiciaire visant des individus. Les individus deviennent des cibles non pas en raison de leur statut (appartenance à une force armée ennemie), mais en raison de leur comportement ou de la menace qu’ils représentent. Chaque individu reçoit un score qui détermine son implication quelque soit les biais du calcul. Et la valeur que l’on attribue à cette implication peut varier.
Deuxièmement, la juridicisation de la guerre : face à la complexité croissante du droit international humanitaire, les armées ont intégré des juristes à leurs équipes pour protéger leurs personnels des poursuites. Désormais, il faut pouvoir établir la légalité des attaques, au regard de principes de nécessité, de proportionnalité et de distinction. Tout en trouvant des modalités pour interpréter le droit international de manière extensive… La juridicisation a conduit à devoir collecter des données pour établir la légalité des ciblages.
Troisièmement, le transfert de risque vise à minimiser le risque pour les soldats en les transférant aux civils ennemis, par exemple en recourant à des bombardements aériens, de préférence par drones, plutôt qu’à des combats terrestres ou à des arrestations. « Depuis 2000, l’ampleur des « assassinats ciblés » a connu une croissance spectaculaire, passant de quelques dizaines à plusieurs milliers de victimes. Cette augmentation est due à l’élargissement controversé de la définition des cibles légitimes », qui a inclus les membres non combattants d’organisations terroristes, puis les civils ayant contribué indirectement aux hostilités. Cet élargissement a engendré un nouveau défi que les systèmes d’IA ont cherché à relever par le scoring : prouver le lien de la cible avec l’organisation ennemie. Si ce lien était évident lorsqu’il s’agissait de cibler des commandants de haut rang, il est devenu de plus en plus difficile à prouver à mesure que le nombre de cibles augmentait. Ce n’est qu’au cours de la guerre de Gaza de 2023, avec la décision d’attaquer des dizaines de milliers de jeunes militants du Hamas, que la nécessité de vérifier si la cible envisagée pour un assassinat avait un lien quelconque avec une organisation terroriste, s’est imposée. « L’utilisation du big data a transformé les cibles d’exécutions extrajudiciaires, passant d’individus isolés (des personnes importantes et connues) à des cas regroupés en clusters dynamiques calculés par des algorithmes. Si les « assassinats ciblés » requièrent certaines technologies de renseignement et de surveillance, l’analyse des mégadonnées a été progressivement introduite, d’abord pour réduire le taux élevé d’erreurs d’identification humaine, puis, à plus grande échelle, pour rationaliser les opérations d’assassinat, en réduire les coûts et en étendre la portée ». Bien que l’utilisation de l’IA pour « incriminer » des cibles repose sur l’individualisation et la juridicisation de la guerre, la quantification automatique des risques entre en conflit avec des principes juridiques fondamentaux tels que le raisonnement, la réflexion et la prise de décision contextualisée. Les chercheurs critiques Nicola Perugini et Neve Gordon affirment que les assassinats ciblés reposent sur un « dispositif de distinction » conçu pour désigner des cibles humaines à des fins militaires en identifiant des « anomalies » dans les relations entre les données, c’est-à-dire en surveillant les comportements et en repérant les irrégularités. Les écarts statistiques sont alors considérés comme des écarts normatifs passibles de la peine de mort, comme l’expliquait le politologue Hendrik Huelss.
Avant même leur automatisation, les assassinats se fondaient déjà sur l’identification de schémas de vie associés au terrorisme. La surveillance et les données permettent de requalifier des individus, auparavant considérés comme des « civils » protégés, en cibles ennemies jugées moralement et légalement abattables, même lorsqu’ils ne participent pas directement aux hostilités. Eric Bonds a qualifié ce phénomène de « violence humanisée », une nouvelle forme de violence qui se manifeste à la fois par une pratique (fondée sur la surveillance et les technologies d’élimination de précision) et par un discours de légitimation (qui s’appuie sur le langage des droits de l’homme et qui, comme le présente ses partisans, paraît rationnel, mesuré et humain, car ils s’efforcent de minimiser les dommages causés aux civils innocents en évaluant les dommages collatéraux prévus de chaque frappe par rapport à son avantage militaire). Ceci produit un « effet paradoxal » : le strict respect des procédures et des critères juridiques (qui interdisent de cibler les civils ne participant pas aux hostilités et exigent que les dommages causés aux civils soient minimaux) tout en permettant de les contourner.
Le paradoxe, c’est que la justification par le calcul renforce la tolérance à l’égard des meurtres de civils. « L’utilisation de technologies avancées visant à réduire les dommages causés aux civils (par exemple, la reconnaissance faciale pour éviter les erreurs d’identification et l’imagerie satellitaire pour estimer les dommages collatéraux et calculer la proportionnalité avec une précision actuarielle) et le recours à des calculs proportionnels à l’avantage militaire renforcent la légitimité et la tolérance à l’égard des meurtres de civils ».
En effet, ces calculs rendent chaque attaque juridiquement justifiée et les décès de civils regrettables, mais légitimes. Les efforts déployés pour minimiser les « dommages collatéraux » (en avertissant les civils avant les attaques et grâce aux calculs de proportionnalité) présentent les incidents ayant entraîné de nombreuses victimes civiles comme des accidents involontaires comme l’explique Craig Jones dans son livre The War Lawyers (Oxford University Press 2020 ou Yael Levy, dans le sien Shooting without crying: The new militarization of Israel in the 2000s, 2023). Et la numérisation renforce considérablement cette légitimation : les scores calculés par algorithme bénéficient d’une aura d’objectivité et de confiance en raison de la confiance bien documentée accordée aux chiffres – notamment par l’historien des sciences Theodore Porter dans son livre, La confiance dans les chiffres (Les Belles lettres, 2017). En convertissant l’incertitude quant aux dommages potentiels causés aux citoyens en « risques » mesurables, les algorithmes transforment les dilemmes moraux en procédures technico-informatiques et finalement réduisent les doutes moraux et la réflexivité, comme le montrait Lucy Suchman dans un article de recherche. Finalement, le ciblage automatisé permet de légitimer les frappes, qu’importe les dégâts qu’elles causent. Or, la violence « humanisée » tue principalement des civils (60 % à 90 % des décès sont des « dommages collatéraux » expliquaient déjà Perugini et Gordon, rappelant également qu’elle est imprécise et surtout qu’elle restreint les catégories protégées tout en légitimant le meurtre).
Contrairement aux tirs des chars, les frappes aériennes contres des cibles spécifiées par le renseignement sont soumises aux principes du droit international humanitaire qui définit les conditions de la légitimité de la violence militaire et doivent donc être traduit en procédures formelles qui encadrent la définition des cibles. Le droit humanitaire repose notamment sur des principes de distinction (ne cibler que les cibles militaires dont l’attaque procure un avantage militaire, et non les civils ou les infrastructures civiles), de proportionnalité (interdire les attaques qui causent des dommages disproportionnés aux civils par rapport à l’avantage militaire obtenu) et de précaution. Mais une autre doctrine est venue également changer le cours de la guerre : la doctrine de la létalité. Plus que le contrôle du terrain, le nombre de morts ennemis est devenu le principal critère d’évaluation des opérations militaires ou des performances des unités. L’industrialisation de l’extermination de précision, défendue par Aviv Kokhavi, chef d’état major de l’armée israélienne, exigeait la production en masse de cibles pour les frappes aériennes. Mais la cible, même légitime, est une construction politique et sociale, comme le montrait l’article de +972 Magazine, qui évolue selon le contexte, à l’image des dommages collatéraux afférents autorisés ou du niveau du scoring qui transforme un soupçon en cible.
En effet, les procédures utilisées pour transformer des personnes ou des bâtiments en cibles impliquent divers acteurs s’intégrant à un réseau : non seulement les définitions juridiques, les concepts moraux et les agents de renseignement, mais aussi les documents de renseignement, les technologies de surveillance qui les produisent et les technologies utilisées pour les traiter et les analyser. La construction des cibles n’étant pas uniquement un processus social, les évolutions technologiques peuvent la transformer. Et le scoring est justement en passe de devenir le facteur d’accélération.
Comment l’IA a-t-elle modifié la construction des cibles, qui n’est pas uniquement un processus social ? Lors de la guerre de Gaza, Israël a utilisé deux types de systèmes d’IA distincts, l’un pour les cibles d’infrastructure et l’autre pour les cibles humaines, explique Schwarz. Ces systèmes avaient des historiques différents, mais présentaient de nombreux points communs. Les personnes interrogées ont souligné que ces deux systèmes ne prenaient pas de décisions à la place des humains, mais accéléraient la production de cibles de deux manières : en fusionnant les informations provenant de sources multiples et en rendant accessibles aux analystes toutes les informations pertinentes concernant chaque cible potentielle ; et en classant les cibles potentielles selon leur probabilité estimée. Ainsi, les analystes humains peuvent se concentrer exclusivement sur les cibles les plus susceptibles d’être approuvées : « [Supposons] que vous disposiez d’un milliard d’informations et que (…) vous n’ayez que 100 cibles alors que vous avez 10 000 candidats. Alors, à quoi sert l’IA ? À une seule chose : les trier par ordre de priorité. (…) [L’ordinateur] a pris les 10 000 suspects, a examiné quelques milliers de cas avérés et [a reçu l’instruction de trier] tout ce qui se ressemble sur tous les points. Ensuite, la machine établit les priorités, c’est tout. Une fois les priorités établies, elle indique aux services de renseignement : vérifiez ceci, cela et cela. Attribuez une file d’attente. (…) Cela signifie que le travail est rationalisé. Mais aucune machine ne décide », déclarait un officier de l’armée israélienne.
Ce discours humaniste et anthropocentrique, également fréquent dans les déclarations de Tsahal sur l’IA, minimise le rôle de la technologie, la réduisant à un simple outil au service d’objectifs humains. L’armée israélienne a décrit le système d’IA « Gospel » comme un simple « outil technique destiné aux analystes du renseignement », car sa traçabilité et son intelligibilité permettent aux analystes d’examiner eux-mêmes les éléments de renseignement sur lesquels reposent ses recommandations. Cependant, même une délégation partielle du ciblage peut avoir des conséquences plus importantes : d’une part, les pressions organisationnelles de niveau intermédiaire en faveur de l’efficacité et les biais d’automatisation de niveau micro peuvent conduire les analystes humains à approuver les recommandations du système de manière quasi automatique (comme nous le disions dans la seconde partie de notre dossier) ; d’autre part, les outils ne se contentent pas de réaliser les objectifs des utilisateurs, mais les façonnent également en proposant de nouvelles pistes d’action permettant l’accélération. Yossi Sariel, ancien commandant de l’unité de renseignement 8200 de Tsahal, a soutenu que l’accélération est l’une des deux principales contributions de l’automatisation informatique au renseignement. Selon lui, la production d’un plus grand nombre de cibles est nécessaire pour exercer une pression constante sur l’ennemi et le vaincre, mais l’intervention humaine constitue un goulot d’étranglement, car la création d’un tel nombre de cibles exigerait des milliers d’enquêteurs traitant et analysant les données pendant des années. Pour lever cet obstacle, il faudrait une « équipe homme-machine » capable de constituer une base de données de dizaines de milliers de cibles et d’en générer des milliers d’autres chaque jour de combat, comme il l’expliquait dans son livre éponyme. La seconde contribution identifiée par Sariel est la prédiction, définie comme le fait de « compléter les informations manquantes » à partir des tendances observées dans les données massives. La prédiction n’est donc pas seulement orientée vers l’avenir (prédire qui commettra un attentat-suicide), mais surtout vers le présent et le passé (prédire où des armes ont été dissimulées). Les prédictions revêtent alors une importance épistémologique : « elles permettent d’incriminer des personnes et des lieux sur la base d’informations incriminantes inconnues, déduites d’éléments non incriminants connus ». L’IA sert à la production d’inférences, de décisions probabilistes que leur niveau de probabilité valide.
La génération par IA de cibles d’infrastructures (de bâtiments) s’effectue au sein de la Direction du ciblage de l’armée israélienne, créée en 2019, explique Schwarz. Cette création faisait suite à un rapport du Contrôleur de l’État indiquant que la banque de cibles disponible au début de la guerre de 2014 entre Israël et le Hamas était bien inférieure au potentiel réel. Une personne interrogée a expliqué les raisons de la création de cette direction en ces termes : « On veut disposer d’une banque de cibles de qualité, que l’on peut frapper pour contraindre le Hamas à capituler » ; or, en 2014, « cela ne s’est pas passé ainsi : il a fallu envoyer des troupes au sol ». L’armée et les médias israéliens ont présenté cette direction et le système d’IA « Gospel » comme la solution.
Lors des conflits précédents, la banque de cibles s’épuisait après quelques jours ou semaines de bombardements intensifs, limitant le volume de tirs. La direction a promis de remédier à ce problème en accélérant et en rationalisant la génération de cibles, tant avant que pendant les hostilités, afin de « transformer la capacité de destruction de Tsahal en un système industriel » capable de « détruire des milliers de cibles chaque jour », explique un article de Ynet, l’un des journaux en ligne hébreu. Pour y parvenir, Gospel fusionne des milliards de données provenant de sources variées (et notamment du renseignement, telles que des appels téléphoniques interceptés et des photographies aériennes), identifie des cibles potentielles grâce à l’apprentissage automatique (en se fondant sur leur ressemblance avec des cibles précédemment validées) et les classe selon la probabilité qu’il s’agisse de cibles légitimes et de qualité. Ces recommandations classées sont ensuite transmises à des analystes humains pour décision, puis à des officiers supérieurs pour approbation.
Cette automatisation partielle accélère considérablement la génération de cibles. Un officier supérieur du renseignement a noté : « Gospel dispose d’une interface utilisateur très simple qui organise la file d’attente des cibles en fonction de la probabilité et de l’importance. Ainsi, l’opérateur humain reçoit simplement une liste établie par la machine, indiquant la probabilité qu’il s’agisse d’une cible valide ainsi que son importance. Le système fonctionne par scores. Par exemple, il s’agit d’une cible avec une probabilité de 80 % ou de 30 %. La machine émet donc une recommandation : « À mon avis, c’est une cible. » L’opérateur prend alors le relais, vérifie le processus suivi par la machine, exerce son jugement – car la machine peut parfois commettre des erreurs – et décide finalement s’il s’agit bien d’une cible. »» Un autre officier a expliqué que la priorisation automatisée était devenue nécessaire en raison de la « croissance exponentielle » du volume de données (consécutive à la numérisation, à la « datafication » et à l’impératif de collecter et d’analyser toutes les données), rendant l’analyse humaine impossible : « Que faire ? Recruter 50 000 agents de renseignement ? Nous ne les avons pas. Alors, utilisons un bon ordinateur pour effectuer la priorisation à notre place. En somme, c’était la mission assignée à la Direction du ciblage. » Un juriste impliqué dans l’élaboration des cibles a affirmé que la cadence de production du système était 50 fois supérieure à celle d’une équipe de 20 officiers de renseignement. Les personnes interrogées ainsi que les déclarations officielles de l’armée ont souligné que la Direction du ciblage avait pour vocation de « constituer de vastes banques de données » afin de permettre l’attaque de « milliers de cibles en une seule journée », industrialisant ainsi l’extermination. Comme souvent, cette industrialisation s’est accompagnée d’une intensification du travail : dès 2019, les soldats de cette direction nouvellement créée ont fait état de pressions visant à accélérer la production de cibles en faisant l’impasse sur un examen approfondi, avec des mesures incitatives – telles que des jours de congé – pour les équipes les plus « productives ». La durée de validité limitée des cibles a été prolongée grâce à une modification des procédures, autorisant le bombardement de cibles plusieurs mois après leur identification, sans nouvel examen, expliquait Haaretz.
« L’accélération de la production de cibles est jugée cruciale en temps de guerre et l’IA permet justement d’accélérer la production ». Cette accélération a atteint son paroxysme lors de la guerre contre Gaza : au 27e jour du conflit, Tsahal a annoncé avoir frappé 12 000 cibles tout en générant simultanément 1 200 nouvelles cibles grâce à son « usine à cibles » fonctionnant 24 heures sur 24.
Mais l’utilisation de l’IA pour identifier des listes de personnes à cibler plutôt que des lieux relève d’une autre dynamique, explique Schwarz. Une dynamique qui a débuté avec le recours à l’IA pour des arrestations préventives.
À l’automne 2015, Israël a dû faire face à une vague d’attaques spontanées, perpétrées principalement par des adolescents. Il était difficile de déjouer ces attaques, car les auteurs n’étaient affiliés à aucun réseau terroriste ou de guérilla. En conséquence, les services de renseignement israéliens ont mis au point un modèle visant à prédire quels adolescents étaient les plus susceptibles de commettre des attaques, en analysant les schémas d’activité sur les réseaux sociaux (publications, « like », commentaires, émojis, nouveaux liens) ainsi que des données provenant d’autres sources (par exemple, les données de localisation), en attribuant à chaque adolescent palestinien un score de risque. Le modèle s’appuyait sur des schémas prédictifs identifiés à la fois par l’apprentissage automatique (analyse de mégadonnées) et par des analystes humains (par exemple, de nouvelles coupes de cheveux, les auteurs d’attentats-suicides adoptant souvent une nouvelle coiffure peu avant de passer à l’acte). Ce modèle a conduit à l’arrestation préventive de centaines d’adolescents palestiniens.
D’autres systèmes ont été développés par la suite pour identifier des membres d’organisations terroristes en vue de leur arrestation et de leur interrogatoire. Lors de la guerre à Gaza, cette stratégie a été étendue pour dresser des listes de cibles à éliminer d’une longueur sans précédent, appliquant les principes de la police prédictive pour produire des cibles à éliminer. Le système d’IA « Lavender » attribuait à presque tous les habitants de Gaza un score de probabilité d’appartenance au Hamas, en se fondant sur des facteurs couramment utilisés dans la police prédictive comme le montre la sociologue Sarah Brayne dans son livre, Predict and surveil (2021, Oxford university Press), notamment les réseaux personnels, les habitudes de vies comme les lieux fréquentés et les déplacements. 37 000 Palestiniens ont été identifiés par algorithme comme étant probablement des membres du Hamas comme le montrait Abraham dans son article pour +972 Magazine.
« Les scores de probabilité transforment la distinction entre terroriste et civil, passant d’une catégorie binaire à un continuum statistique ». Les individus classés par l’IA comme membres probables du Hamas étaient alors ajoutés aux listes de cibles à éliminer sans réel examen supplémentaire. D’autres rapports font état d’une certaine forme de supervision humaine ; par exemple, des officiers auraient corrigé une erreur d’interprétation de l’IA qui avait pris une liste d’élèves du secondaire pour une liste de militants potentiels, une erreur qui aurait pu conduire à désigner à tort 1 000 adolescents comme cibles.
Reste que l’accélération n’a pas été que technologique, elle a aussi été politique. Le Premier ministre Benjamin Netanyahu aurait reproché au chef d’état-major Herzi Halevi de n’avoir bombardé « que » 1 500 cibles au cours des 48 premières heures du conflit ; il a rejeté l’explication de Halevi, qui indiquait ne pas disposer de 5 000 cibles, en déclarant : « Je m’en fiche ». Sans l’IA, estime Schwarz, « il aurait été difficile d’atteindre une telle ampleur de morts et de destructions ».
L’armée israélienne a assoupli son interprétation du droit international humanitaire pendant la guerre sans pour autant abandonner totalement ce cadre, par exemple en relevant les seuils de « dommages collatéraux » et en autorisant des attaques ciblées contre chacun des 37 000 membres présumés de rang inférieur du Hamas, à condition que le nombre de décès civils anticipés reste inférieur au seuil. La pratique du « roof-knocking » (bombardements d’avertissement) a été abandonnée et des cibles présentant une probabilité moindre ont été prises en compte. En conséquence, le taux de mortalité civile s’est envolé. L’approche vis-à-vis des infrastructures civiles a également évolué pour maximiser la destruction : des immeubles de grande hauteur et des bâtiments universitaires par exemple ont été désignés comme des cibles essentielles et visés en raison de la présence d’un objectif militaire légitime à un seul étage, mais détruits par un armement provoquant l’effondrement de l’édifice tout entier.
Au regard du droit international, cela pourrait être considéré comme une violation des principes de proportionnalité et de précaution. Mais cette proportionnalité et ces précautions, on le voit, permettent aussi de faire varier les classement en ajustant les justifications, sur la base de données singulières et spécifiques l’associant au Hamas avec une certaine probabilité. Tout l’enjeu consiste à fourbir des probabilités et les compléter de narratifs adaptés afin de produire des explications. La destruction des infrastructures civiles, quelle que soit la raison, est devenu l’objectif derrière les justifications : toutes les cibles détectées sont devenues un moyen pour raser Gaza.
Pour Ori Schwarz, « les systèmes d’IA ont épargné les dilemmes moraux en légitimant les attaques. Le rôle de l’IA a donc consisté à ériger le général en singulier, transformant presque tout en cible ». Pour Schwarz, avec la guerre à Gaza, l‘IA est devenue un outil de légitimation : l’automatisation permet le respect des procédures. Elle est un moyen pour « préserver les normes éthiques en les inscrivant dans le code, les transformant de règles réglementaires en règles génératives inviolables ».
Comme c’est le cas depuis longtemps, l’automatisation est censée garantir l’éthique. Mais ce n’est pas si vrai. D’abord parce que le système permet d’abaisser le seuil de confiance du ciblage et donc faire que la machine contourne la règle. Et surtout que l’opacité et la complexité du calcul permettent de faire disparaître ses défaillances et la surveillance par les opérateurs humains.
Le statut moral dépend désormais des procédures et non des résultats. Mais surtout, en validant les dommages collatéraux, l’IA a servi de mécanisme de légitimation des massacres de civils. Tactiquement, le rasage des zones urbaines avant les manœuvres terrestres permettait aussi de protéger les soldats israéliens. Enfin, le ciblage fournit un prétexte pour la destruction, une « couverture morale ».
Certains officiers souhaitaient que l’IA puisse générer elle-même les attaques depuis les scores produits. Cette proposition ne s’est pas encore concrétisée, mais les digues sont prêtes à lâcher, estime Schwarz. Notamment parce que les humains dans la boucle de la vérification ne servent déjà plus que d’agents d’enregistrement, chargés de validés les cibles en quelques secondes, sans avoir le temps d’examiner les données ni de comprendre les calculs qui les produisent. Pour Schwarz, si l’armée israélienne n’a pas franchi le pas, c’est notamment parce que le droit international humanitaire exige qu’un humain réponde de chaque décision. Mais plus encore, parce que garder un humain dans la boucle donne l’apparence d’une décision issue d’une délibération humaine.
C’est oublier que l’IA n’organise pas seulement la file d’attente des cibles, elle les désigne. Ce sur quoi les humains ont encore le contrôle reste surtout les critères pris en compte par les données et les seuils. Pour Schwarz, l’élaboration des cibles n’est pas un processus purement social, mais elle n’est pas non plus purement technologique. Le ciblage doit pouvoir être expliqué, contre-interprété. Les opérateurs ne font pas nécessairement confiance aux scores produits, tant qu’ils ne pensent pas les comprendre « et après l’avoir testé sur la durée, en constatant qu’il est cohérent avec le scénario qu’il a en tête » (même constat pour les radiologues confrontés aux résultats de l’IA). La validation d’une cible repose toujours sur une preuve, c’est à dire un récit. Et les analystes doivent souvent défendre leurs choix et validation, comme s’ils étaient face à un tribunal. Ils doivent défendre la cohérence des éléments qu’ils ont sous les yeux. Le risque à terme, suggère Schwarz, c’est que l’IA produise aussi les récits, quand bien même ils seraient aussi faux que les éléments cohérents que valident les humains. Un système d’IA pourrait identifier un lieu fréquenté par plusieurs militants et lui attribuer une priorité élevée, sans envisager qu’il puisse s’agir d’un restaurant, ou qu’une conversation interceptée évoquant le terrorisme provienne en réalité d’un film diffusé à la télévision. Les systèmes d’IA servent « à trouver des corrélations (…) entre toutes sortes de variables que vous ne jugiez pas intéressantes jusqu’alors (…) Évidemment, je présente aux analystes du renseignement une grande quantité de données et de corrélations en leur disant : « Regardez, c’est intéressant ». » Les analystes tentent ensuite d’ouvrir la « boîte noire » et d’élaborer un récit expliquant le fonctionnement du modèle et les raisons de son efficacité, une étape nécessaire pour que le modèle inspire confiance et soit mis en service. « Je leur montre des points de données très précis, [des variables prédictives] », explique un officier chargé de la formation des agents aux outils. Toutefois, il souligne que dans ces situations, les prédictions du système ne servent pas à désigner des cibles tant que les analystes n’ont pas ouvert la boîte noire et expliqué pourquoi ces variables spécifiques intégrées au modèle permettent de prédire les résultats. Pour Schwarz, ces débats contredisent la promesse épistémologique de l’IA – fondée sur un empirisme radical – selon laquelle la prédiction rendrait l’explication superflue, ou qu’il n’y aurait plus besoin de théorie.
Reste, rappelle Schwarz, que même si vous faites confiance à vos experts en science des données et que vous avez collecté et testé les données avec soin, vous ne pouvez pas juger de leur qualité. Vous devez expliquer le plus précisément possible ce que les variables indiquent et pourquoi le modèle prédit ce qu’il prédit. Par conséquent, l’analyste ne renoncera pas à comprendre la signification des corrélations et les raisons des choix du modèle. Les développeurs débattent souvent de la meilleure façon de représenter ces corrélations sans induire les utilisateurs en erreur. Si la classification algorithmique des individus comme cibles à forte probabilité est effectuée automatiquement, sans récit, les agents de renseignement en construisent, à la fois en amont, lors du développement du système, et ultérieurement, afin de conférer sens et légitimité aux recommandations algorithmiques (même si cette dernière dimension a pu s’éroder en raison de l’accélération de la production de cibles en temps de guerre).
La confiance dans les chiffres n’est pas aussi omniprésente et automatique que la littérature pourrait le laisser croire. Dans notre cas, les utilisateurs finaux des systèmes de mégadonnées (analystes du renseignement) étaient initialement méfiants à l’égard de l’automatisation et des probabilités calculées algorithmiquement. Un développeur que Schwarz a interviewé leur a reproché de se méfier des systèmes d’IA en raison de leur « peur de l’erreur » et de leur prudence excessive (« Ils ont besoin d’un niveau de certitude non pas de 100 %, mais de 200 %, et une telle chose n’existe pas »). Face aux soupçons et à la nécessité de « faire confiance aux chiffres », les developpeurs du système ont entrepris un travail de sensibilisation et élaboré une stratégie sophistiquée : dissimuler le rôle de l’IA et insister sur l’implication humaine. « Les agents du renseignement n’utilisent pas l’IA, ils utilisent des outils conçus pour eux, et de leur point de vue (…), s’il y a de l’IA, d’après mon expérience, ils ne lui font pas confiance. En fait, pour les inciter à l’utiliser, nous n’avons pas dit “c’est de l’IA pure”, mais nous nous sommes assurés que l’agent qui examine une cible puisse voir que Sharon l’a déjà examinée, qu’il puisse voir le nom de la personne qui l’a fait, et qu’il connaisse Sharon. » Ils doivent savoir que Sharon est la meilleure pour identifier les cibles et, par conséquent, ils peuvent lui faire confiance. Dans cet exemple, ils ont tiré parti de la confiance que le personnel du renseignement accordait à une ancienne agente de renseignement très appréciée (« Sharon »), promue et mutée au sein de l’équipe technique. Elle y étiquette les données et valide les cibles générées par algorithme avant leur transmission aux services de renseignement et juridiques pour approbation. La confiance personnelle en Sharon peut faire toute la différence : « Nous avons constaté que lorsqu’une personne comme Sharon est présente, ils font confiance au système ; en revanche, lorsqu’on leur dit “ce n’est qu’un modèle”, ils n’y croient pas [et recommencent le processus manuellement depuis le début]. » Paradoxalement, la confiance dans l’IA (nécessaire à la délégation partielle du travail de renseignement aux algorithmes) exigeait la confiance envers les personnes qui faisaient confiance à l’IA, camouflant ainsi le rôle de cette dernière.
Nous savons que l’IA n’est pas une magie sans intervention humaine ; elle repose sur le travail humain, parfois dissimulé sous l’apparence de décisions de la machine, rappelle Schwarz en évoquant les travaux relatifs au Digital Labor. Or, ici, c’est l’inverse qui se produit : lors du développement des modèles, les décisions des machines doivent être expliquées par des experts humains qui en reconstituent la logique ; et plus tard, lorsque ces systèmes sont utilisés pour produire des cibles, leurs recommandations doivent être camouflées en décisions d’experts humains. Enfin, en temps de guerre, lorsque les analystes du renseignement consacrent à peine 20 secondes à approuver les recommandations de l’IA, le travail de cette dernière est une fois de plus dissimulé sous l’apparence de délibérations humaines.
C’est peut-être à cela que sert encore l’humain dans la boucle : valider les procédures humaines plus que juger du travail des systèmes d’IA.
En examinant de près l’utilisation de l’IA pendant la guerre de Gaza, l’article de Ori Schwarz montre que l’IA était nécessaire non pas pour personnaliser le traitement, mais pour justifier un traitement uniforme en créant des justifications personnalisées pour le ciblage de presque chaque bâtiment ou agent présumé du Hamas, et pour accélérer l’incrimination et la production de cibles à des niveaux sans précédent sans s’écarter complètement du cadre du droit international humanitaire, légitimant ainsi des massacres et des destructions de masse effroyables en s’appuyant sur des calculs et des procédures de probabilité prétendument objectifs, inscrits dans le code.
L’article de Schwarz, montre également que les études critiques sur les impacts sociaux des algorithmes doivent aller au-delà de la simple critique de leurs erreurs et de leurs biais. Ces derniers ont constitué jusqu’à présent le cœur des critiques, et ce pour une bonne raison : malgré leur prétention à la neutralité, les systèmes d’IA sont sujets aux erreurs en général et, en particulier, à la reproduction d’inégalités découlant de biais, dans la mesure où les données utilisées pour leur entraînement consignent et reflètent des préjugés humains. Plus précisément, les erreurs et les biais sont au centre des débats sur l’usage de l’IA dans la guerre, y compris lors du conflit à Gaza.
Mais, estime-t-il, un système d’IA parfait, sans erreur ni biais, « pourrait aboutir aux mêmes conséquences effroyables, simplement en accélérant considérablement la production de cibles et en en réduisant le coût » : le fait de cibler des dizaines de milliers d’objectifs identifiés par le renseignement – une tâche dont la réalisation était pratiquement impossible avant l’IA – conduit presque inévitablement à des destructions et à des tueries de civils à grande échelle. Pire, l’IA permet bien plus de produire des justifications, même de ses erreurs et errements, en les recouvrant d’une complexité et d’un vernis d’explication.
Si la destruction de Gaza répondait à des motivations politique, l’IA a été indispensable pour inscrire la destruction dans le cadre du droit international humanitaire (tout comme les ciblages sociaux s’inscrivent également dans le cadre du droit, malgré leurs défaillances manifestes). Ce potentiel de légitimation pourrait être exploité au-delà du contexte israélien, alors que des systèmes similaires sont adoptés par d’autres armées officiellement attachées au respect du droit humanitaire international. « Si l’accélération peut sembler relever d’un simple changement quantitatif, elle a en réalité engendré une transformation qualitative majeure. Le rôle joué par l’IA dans la légitimation de ces massacres nous rappelle que les caractéristiques et les affordances ne définissent pas les technologies de manière isolée : elles sont façonnées par les contextes juridiques, structurels, culturels et moraux, ainsi que par les réseaux ou dispositifs hétérogènes au sein desquels les technologies opèrent. Il est crucial de prendre en compte ce contexte pour comprendre comment il a pu engendrer des effets effroyables, mais aussi pourquoi il s’est avéré impossible d’éliminer l’humain de la boucle, et pourquoi le travail culturel de production de sens effectué par les humains était nécessaire pour légitimer l’automatisation partielle ayant conduit à cette accélération sans précédent de la production de cibles.»
*
La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des armées à leurs missions. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées. Et c’est ce que produit le score d’appartenance à l’ennemi et les seuils de dommages collatéraux autorisés. La guerre de demain se joue sur les données, leurs croisements sans limites et les seuils adaptables. Des éléments sur lesquels le droit international n’a pour l’instant pas défini de pratiques et qui, sans encadrement, risquent de permettre tous les glissements moraux du calcul, comme on le constate partout où le scoring se déploie.
Hubert Guillaud
MAJ du 31/08/2026 : Cet été, une source militaire a expliqué à plusieurs journaux, dont Le Monde, les pratiques de l’armée israélienne pour relier les civils tués ou blessés au Hamas, lors de frappes à Gaza. Cette incrimination rétrospective passe d’abord par des incriminations et des justifications mensongères, difficiles à debunker et des enquêtes jamais refermées. Les combattre nécessite pour les victimes d’apporter à leur tour des preuves d’exactions, qui ne sont pas toujours disponibles (d’autant que les journalistes ont du mal à accéder aux terrains d’opérations et que nombre d’entre eux, sur place, ont été tués). Les plaintes Gazouis sont rarement instruites par les autorités judiciaires israëliennes et l’information en Israël est très activement censurée (6 265 articles partiellement et 1 635 totalement en 2024, un record).
Les autorités internationales devraient surtout pouvoir avoir accès aux enregistrements des systèmes d’IA avant frappes pour mener des enquêtes sur la façon dont ils ont été utilisés.
Mais pourquoi l’IA est-elle utilisée pour faire la guerre ?, demande le sociologue Ori Schwarz dans un passionnant article pour Big Data & Society, en observant l’usage qu’en a fait l’armée israélienne à Gaza (voir notre dossier L’IA ça sert, d’abord, à faire la guerre). Qu’apporte-t-elle, que permet-elle que les techniques de guerre traditionnelle n’apportent pas ?
Pour le chercheur, l’IA a été utilisée pour accélérer la génération de cibles, car l’armée israélienne a adopté une doctrine axée sur la « létalité » (visant à maximiser le nombre de victimes) tout en intégrant le droit international humanitaire (qui impose de distinguer les cibles militaires des civils). L’IA n’était pas tant requise pour personnaliser le traitement, que pour justifier d’un traitement uniforme en créant des justifications adaptées, explique-t-il. Elle a été instrumentalisée pour légitimer tueries et destructions de masse en fusionnant et en analysant automatiquement des données pour transformer des milliers d’individus et de bâtiments en cibles légitimes assorties de scores de probabilité individuels.
Pour le chercheur, le profilage, la « singularisation automatisée » (que proposait le sociologue allemand Andreas Reckwitz dans son livre, The Society of Singularities, Polity, 2020), c’est-à-dire le fait que chacun soit traité différemment selon les données récoltées sur lui, est utilisée avec succès dans tous les domaines que le numérique transforme (marketing, médecine, tarification…). Mais, alors que le profilage ne cesse de promettre une distinction plus précise, il permet finalement de générer des effets de masses désastreux, comme dans le cas des destructions lors de la guerre à Gaza, brouillant la distinction entre cibles militaires et populations protégées. « Plus de 71 000 Palestiniens ont été tués, selon les chiffres officiels palestiniens et les estimations de l’armée israélienne. Mais seuls 20 % d’entre eux seraient des militants du Hamas alors que près de la moitié des victimes seraient des femmes et des mineurs. Des milliers d’autres sont portés disparus et d’autres encore sont morts de maladie et de malnutrition. Près de 2 millions de personnes ont perdu leur logement, la plupart des bâtiments résidentiels de Gaza ayant été détruits ou gravement endommagés. L’ampleur des pertes civiles a conduit la Cour internationale de Justice à saisir Israël pour violation présumée de la Convention sur le génocide. »
Une grande partie de ces victimes et destructions visait des cibles identifiées par les services de renseignement israéliens grâce à une utilisation sans précédent de technologies numériques sophistiquées. Schwartz y voit un paradoxe. D’un côté, l’armée israélienne s’est vantée d’effectuer la sélection des cibles à l’aide d’outils d’IA et d’analyse de données les plus sophistiqués pour identifier des cibles humaines et des infrastructures liées au Hamas ; pourtant, le résultat de cet investissement sans précédent dans un ciblage sophistiqué donne l’impression d’une destruction et de tueries massives et indiscriminées. « Si l’objectif est de tuer sans distinction, pourquoi une technologie aussi avancée est-elle nécessaire ? »
Pour Schwarz, si l’IA est utilisée pour procéder à des tueries de masse, c’est justement en raison de sa capacité de distinction : « en singularisant les justifications de tueries indiscriminées, elle produit de la distinction au service de l’indiscrimination ». Cela se produit parce que les effets sociaux de l’IA ne sont pas prédéterminés par les caractéristiques technologiques, mais façonnés par les contextes juridique, structurel, culturel, politique et moral dans lesquels la technologie s’inscrit. En particulier, les tueries et les destructions indiscriminées découlent de la construction politique de « cibles ». À une époque où le droit international humanitaire ainsi que les normes éthiques et professionnelles militaires exigent de ne viser que des « cibles » légitimes, l’impact du big data sur la guerre ne consiste pas nécessairement à réduire les massacres et les destructions en trouvant « l’aiguille dans la botte de foin », comme on l’affirme généralement. Mais, tout le contraire : « il s’agit de transformer le foin en aiguilles, en « incriminant » presque tous habitants ou tous les immeubles résidentiels par l’élaboration d’un récit singulier les associant exclusivement à l’ennemi, légitimant ainsi une destruction indiscriminée. » Pour le chercheur, les massacres et les destructions ne s’expliquent pas uniquement par ces développements technologiques bien sûr, mais la justification technique a permis de renforcer les dynamiques politiques en cours.
Longtemps, les assassinats extrajudiciaires se limitaient à de rares opérations clandestines visant des opposants de haut rang, rappelle le chercheur. Puis l’élimination ciblée s’est transformée en une politique déclarée, systématiquement mise en œuvre à une échelle toujours plus vaste.
Cette politique s’appuie sur trois principes. Premièrement, l’individualisation de la guerre : l’affrontement est requalifié en une action de police ou de poursuite judiciaire visant des individus. Les individus deviennent des cibles non pas en raison de leur statut (appartenance à une force armée ennemie), mais en raison de leur comportement ou de la menace qu’ils représentent. Chaque individu reçoit un score qui détermine son implication quelque soit les biais du calcul. Et la valeur que l’on attribue à cette implication peut varier.
Deuxièmement, la juridicisation de la guerre : face à la complexité croissante du droit international humanitaire, les armées ont intégré des juristes à leurs équipes pour protéger leurs personnels des poursuites. Désormais, il faut pouvoir établir la légalité des attaques, au regard de principes de nécessité, de proportionnalité et de distinction. Tout en trouvant des modalités pour interpréter le droit international de manière extensive… La juridicisation a conduit à devoir collecter des données pour établir la légalité des ciblages.
Troisièmement, le transfert de risque vise à minimiser le risque pour les soldats en les transférant aux civils ennemis, par exemple en recourant à des bombardements aériens, de préférence par drones, plutôt qu’à des combats terrestres ou à des arrestations. « Depuis 2000, l’ampleur des « assassinats ciblés » a connu une croissance spectaculaire, passant de quelques dizaines à plusieurs milliers de victimes. Cette augmentation est due à l’élargissement controversé de la définition des cibles légitimes », qui a inclus les membres non combattants d’organisations terroristes, puis les civils ayant contribué indirectement aux hostilités. Cet élargissement a engendré un nouveau défi que les systèmes d’IA ont cherché à relever par le scoring : prouver le lien de la cible avec l’organisation ennemie. Si ce lien était évident lorsqu’il s’agissait de cibler des commandants de haut rang, il est devenu de plus en plus difficile à prouver à mesure que le nombre de cibles augmentait. Ce n’est qu’au cours de la guerre de Gaza de 2023, avec la décision d’attaquer des dizaines de milliers de jeunes militants du Hamas, que la nécessité de vérifier si la cible envisagée pour un assassinat avait un lien quelconque avec une organisation terroriste, s’est imposée. « L’utilisation du big data a transformé les cibles d’exécutions extrajudiciaires, passant d’individus isolés (des personnes importantes et connues) à des cas regroupés en clusters dynamiques calculés par des algorithmes. Si les « assassinats ciblés » requièrent certaines technologies de renseignement et de surveillance, l’analyse des mégadonnées a été progressivement introduite, d’abord pour réduire le taux élevé d’erreurs d’identification humaine, puis, à plus grande échelle, pour rationaliser les opérations d’assassinat, en réduire les coûts et en étendre la portée ». Bien que l’utilisation de l’IA pour « incriminer » des cibles repose sur l’individualisation et la juridicisation de la guerre, la quantification automatique des risques entre en conflit avec des principes juridiques fondamentaux tels que le raisonnement, la réflexion et la prise de décision contextualisée. Les chercheurs critiques Nicola Perugini et Neve Gordon affirment que les assassinats ciblés reposent sur un « dispositif de distinction » conçu pour désigner des cibles humaines à des fins militaires en identifiant des « anomalies » dans les relations entre les données, c’est-à-dire en surveillant les comportements et en repérant les irrégularités. Les écarts statistiques sont alors considérés comme des écarts normatifs passibles de la peine de mort, comme l’expliquait le politologue Hendrik Huelss.
Avant même leur automatisation, les assassinats se fondaient déjà sur l’identification de schémas de vie associés au terrorisme. La surveillance et les données permettent de requalifier des individus, auparavant considérés comme des « civils » protégés, en cibles ennemies jugées moralement et légalement abattables, même lorsqu’ils ne participent pas directement aux hostilités. Eric Bonds a qualifié ce phénomène de « violence humanisée », une nouvelle forme de violence qui se manifeste à la fois par une pratique (fondée sur la surveillance et les technologies d’élimination de précision) et par un discours de légitimation (qui s’appuie sur le langage des droits de l’homme et qui, comme le présente ses partisans, paraît rationnel, mesuré et humain, car ils s’efforcent de minimiser les dommages causés aux civils innocents en évaluant les dommages collatéraux prévus de chaque frappe par rapport à son avantage militaire). Ceci produit un « effet paradoxal » : le strict respect des procédures et des critères juridiques (qui interdisent de cibler les civils ne participant pas aux hostilités et exigent que les dommages causés aux civils soient minimaux) tout en permettant de les contourner.
Le paradoxe, c’est que la justification par le calcul renforce la tolérance à l’égard des meurtres de civils. « L’utilisation de technologies avancées visant à réduire les dommages causés aux civils (par exemple, la reconnaissance faciale pour éviter les erreurs d’identification et l’imagerie satellitaire pour estimer les dommages collatéraux et calculer la proportionnalité avec une précision actuarielle) et le recours à des calculs proportionnels à l’avantage militaire renforcent la légitimité et la tolérance à l’égard des meurtres de civils ».
En effet, ces calculs rendent chaque attaque juridiquement justifiée et les décès de civils regrettables, mais légitimes. Les efforts déployés pour minimiser les « dommages collatéraux » (en avertissant les civils avant les attaques et grâce aux calculs de proportionnalité) présentent les incidents ayant entraîné de nombreuses victimes civiles comme des accidents involontaires comme l’explique Craig Jones dans son livre The War Lawyers (Oxford University Press 2020 ou Yael Levy, dans le sien Shooting without crying: The new militarization of Israel in the 2000s, 2023). Et la numérisation renforce considérablement cette légitimation : les scores calculés par algorithme bénéficient d’une aura d’objectivité et de confiance en raison de la confiance bien documentée accordée aux chiffres – notamment par l’historien des sciences Theodore Porter dans son livre, La confiance dans les chiffres (Les Belles lettres, 2017). En convertissant l’incertitude quant aux dommages potentiels causés aux citoyens en « risques » mesurables, les algorithmes transforment les dilemmes moraux en procédures technico-informatiques et finalement réduisent les doutes moraux et la réflexivité, comme le montrait Lucy Suchman dans un article de recherche. Finalement, le ciblage automatisé permet de légitimer les frappes, qu’importe les dégâts qu’elles causent. Or, la violence « humanisée » tue principalement des civils (60 % à 90 % des décès sont des « dommages collatéraux » expliquaient déjà Perugini et Gordon, rappelant également qu’elle est imprécise et surtout qu’elle restreint les catégories protégées tout en légitimant le meurtre).
Contrairement aux tirs des chars, les frappes aériennes contres des cibles spécifiées par le renseignement sont soumises aux principes du droit international humanitaire qui définit les conditions de la légitimité de la violence militaire et doivent donc être traduit en procédures formelles qui encadrent la définition des cibles. Le droit humanitaire repose notamment sur des principes de distinction (ne cibler que les cibles militaires dont l’attaque procure un avantage militaire, et non les civils ou les infrastructures civiles), de proportionnalité (interdire les attaques qui causent des dommages disproportionnés aux civils par rapport à l’avantage militaire obtenu) et de précaution. Mais une autre doctrine est venue également changer le cours de la guerre : la doctrine de la létalité. Plus que le contrôle du terrain, le nombre de morts ennemis est devenu le principal critère d’évaluation des opérations militaires ou des performances des unités. L’industrialisation de l’extermination de précision, défendue par Aviv Kokhavi, chef d’état major de l’armée israélienne, exigeait la production en masse de cibles pour les frappes aériennes. Mais la cible, même légitime, est une construction politique et sociale, comme le montrait l’article de +972 Magazine, qui évolue selon le contexte, à l’image des dommages collatéraux afférents autorisés ou du niveau du scoring qui transforme un soupçon en cible.
En effet, les procédures utilisées pour transformer des personnes ou des bâtiments en cibles impliquent divers acteurs s’intégrant à un réseau : non seulement les définitions juridiques, les concepts moraux et les agents de renseignement, mais aussi les documents de renseignement, les technologies de surveillance qui les produisent et les technologies utilisées pour les traiter et les analyser. La construction des cibles n’étant pas uniquement un processus social, les évolutions technologiques peuvent la transformer. Et le scoring est justement en passe de devenir le facteur d’accélération.
Comment l’IA a-t-elle modifié la construction des cibles, qui n’est pas uniquement un processus social ? Lors de la guerre de Gaza, Israël a utilisé deux types de systèmes d’IA distincts, l’un pour les cibles d’infrastructure et l’autre pour les cibles humaines, explique Schwarz. Ces systèmes avaient des historiques différents, mais présentaient de nombreux points communs. Les personnes interrogées ont souligné que ces deux systèmes ne prenaient pas de décisions à la place des humains, mais accéléraient la production de cibles de deux manières : en fusionnant les informations provenant de sources multiples et en rendant accessibles aux analystes toutes les informations pertinentes concernant chaque cible potentielle ; et en classant les cibles potentielles selon leur probabilité estimée. Ainsi, les analystes humains peuvent se concentrer exclusivement sur les cibles les plus susceptibles d’être approuvées : « [Supposons] que vous disposiez d’un milliard d’informations et que (…) vous n’ayez que 100 cibles alors que vous avez 10 000 candidats. Alors, à quoi sert l’IA ? À une seule chose : les trier par ordre de priorité. (…) [L’ordinateur] a pris les 10 000 suspects, a examiné quelques milliers de cas avérés et [a reçu l’instruction de trier] tout ce qui se ressemble sur tous les points. Ensuite, la machine établit les priorités, c’est tout. Une fois les priorités établies, elle indique aux services de renseignement : vérifiez ceci, cela et cela. Attribuez une file d’attente. (…) Cela signifie que le travail est rationalisé. Mais aucune machine ne décide », déclarait un officier de l’armée israélienne.
Ce discours humaniste et anthropocentrique, également fréquent dans les déclarations de Tsahal sur l’IA, minimise le rôle de la technologie, la réduisant à un simple outil au service d’objectifs humains. L’armée israélienne a décrit le système d’IA « Gospel » comme un simple « outil technique destiné aux analystes du renseignement », car sa traçabilité et son intelligibilité permettent aux analystes d’examiner eux-mêmes les éléments de renseignement sur lesquels reposent ses recommandations. Cependant, même une délégation partielle du ciblage peut avoir des conséquences plus importantes : d’une part, les pressions organisationnelles de niveau intermédiaire en faveur de l’efficacité et les biais d’automatisation de niveau micro peuvent conduire les analystes humains à approuver les recommandations du système de manière quasi automatique (comme nous le disions dans la seconde partie de notre dossier) ; d’autre part, les outils ne se contentent pas de réaliser les objectifs des utilisateurs, mais les façonnent également en proposant de nouvelles pistes d’action permettant l’accélération. Yossi Sariel, ancien commandant de l’unité de renseignement 8200 de Tsahal, a soutenu que l’accélération est l’une des deux principales contributions de l’automatisation informatique au renseignement. Selon lui, la production d’un plus grand nombre de cibles est nécessaire pour exercer une pression constante sur l’ennemi et le vaincre, mais l’intervention humaine constitue un goulot d’étranglement, car la création d’un tel nombre de cibles exigerait des milliers d’enquêteurs traitant et analysant les données pendant des années. Pour lever cet obstacle, il faudrait une « équipe homme-machine » capable de constituer une base de données de dizaines de milliers de cibles et d’en générer des milliers d’autres chaque jour de combat, comme il l’expliquait dans son livre éponyme. La seconde contribution identifiée par Sariel est la prédiction, définie comme le fait de « compléter les informations manquantes » à partir des tendances observées dans les données massives. La prédiction n’est donc pas seulement orientée vers l’avenir (prédire qui commettra un attentat-suicide), mais surtout vers le présent et le passé (prédire où des armes ont été dissimulées). Les prédictions revêtent alors une importance épistémologique : « elles permettent d’incriminer des personnes et des lieux sur la base d’informations incriminantes inconnues, déduites d’éléments non incriminants connus ». L’IA sert à la production d’inférences, de décisions probabilistes que leur niveau de probabilité valide.
La génération par IA de cibles d’infrastructures (de bâtiments) s’effectue au sein de la Direction du ciblage de l’armée israélienne, créée en 2019, explique Schwarz. Cette création faisait suite à un rapport du Contrôleur de l’État indiquant que la banque de cibles disponible au début de la guerre de 2014 entre Israël et le Hamas était bien inférieure au potentiel réel. Une personne interrogée a expliqué les raisons de la création de cette direction en ces termes : « On veut disposer d’une banque de cibles de qualité, que l’on peut frapper pour contraindre le Hamas à capituler » ; or, en 2014, « cela ne s’est pas passé ainsi : il a fallu envoyer des troupes au sol ». L’armée et les médias israéliens ont présenté cette direction et le système d’IA « Gospel » comme la solution.
Lors des conflits précédents, la banque de cibles s’épuisait après quelques jours ou semaines de bombardements intensifs, limitant le volume de tirs. La direction a promis de remédier à ce problème en accélérant et en rationalisant la génération de cibles, tant avant que pendant les hostilités, afin de « transformer la capacité de destruction de Tsahal en un système industriel » capable de « détruire des milliers de cibles chaque jour », explique un article de Ynet, l’un des journaux en ligne hébreu. Pour y parvenir, Gospel fusionne des milliards de données provenant de sources variées (et notamment du renseignement, telles que des appels téléphoniques interceptés et des photographies aériennes), identifie des cibles potentielles grâce à l’apprentissage automatique (en se fondant sur leur ressemblance avec des cibles précédemment validées) et les classe selon la probabilité qu’il s’agisse de cibles légitimes et de qualité. Ces recommandations classées sont ensuite transmises à des analystes humains pour décision, puis à des officiers supérieurs pour approbation.
Cette automatisation partielle accélère considérablement la génération de cibles. Un officier supérieur du renseignement a noté : « Gospel dispose d’une interface utilisateur très simple qui organise la file d’attente des cibles en fonction de la probabilité et de l’importance. Ainsi, l’opérateur humain reçoit simplement une liste établie par la machine, indiquant la probabilité qu’il s’agisse d’une cible valide ainsi que son importance. Le système fonctionne par scores. Par exemple, il s’agit d’une cible avec une probabilité de 80 % ou de 30 %. La machine émet donc une recommandation : « À mon avis, c’est une cible. » L’opérateur prend alors le relais, vérifie le processus suivi par la machine, exerce son jugement – car la machine peut parfois commettre des erreurs – et décide finalement s’il s’agit bien d’une cible. »» Un autre officier a expliqué que la priorisation automatisée était devenue nécessaire en raison de la « croissance exponentielle » du volume de données (consécutive à la numérisation, à la « datafication » et à l’impératif de collecter et d’analyser toutes les données), rendant l’analyse humaine impossible : « Que faire ? Recruter 50 000 agents de renseignement ? Nous ne les avons pas. Alors, utilisons un bon ordinateur pour effectuer la priorisation à notre place. En somme, c’était la mission assignée à la Direction du ciblage. » Un juriste impliqué dans l’élaboration des cibles a affirmé que la cadence de production du système était 50 fois supérieure à celle d’une équipe de 20 officiers de renseignement. Les personnes interrogées ainsi que les déclarations officielles de l’armée ont souligné que la Direction du ciblage avait pour vocation de « constituer de vastes banques de données » afin de permettre l’attaque de « milliers de cibles en une seule journée », industrialisant ainsi l’extermination. Comme souvent, cette industrialisation s’est accompagnée d’une intensification du travail : dès 2019, les soldats de cette direction nouvellement créée ont fait état de pressions visant à accélérer la production de cibles en faisant l’impasse sur un examen approfondi, avec des mesures incitatives – telles que des jours de congé – pour les équipes les plus « productives ». La durée de validité limitée des cibles a été prolongée grâce à une modification des procédures, autorisant le bombardement de cibles plusieurs mois après leur identification, sans nouvel examen, expliquait Haaretz.
« L’accélération de la production de cibles est jugée cruciale en temps de guerre et l’IA permet justement d’accélérer la production ». Cette accélération a atteint son paroxysme lors de la guerre contre Gaza : au 27e jour du conflit, Tsahal a annoncé avoir frappé 12 000 cibles tout en générant simultanément 1 200 nouvelles cibles grâce à son « usine à cibles » fonctionnant 24 heures sur 24.
Mais l’utilisation de l’IA pour identifier des listes de personnes à cibler plutôt que des lieux relève d’une autre dynamique, explique Schwarz. Une dynamique qui a débuté avec le recours à l’IA pour des arrestations préventives.
À l’automne 2015, Israël a dû faire face à une vague d’attaques spontanées, perpétrées principalement par des adolescents. Il était difficile de déjouer ces attaques, car les auteurs n’étaient affiliés à aucun réseau terroriste ou de guérilla. En conséquence, les services de renseignement israéliens ont mis au point un modèle visant à prédire quels adolescents étaient les plus susceptibles de commettre des attaques, en analysant les schémas d’activité sur les réseaux sociaux (publications, « like », commentaires, émojis, nouveaux liens) ainsi que des données provenant d’autres sources (par exemple, les données de localisation), en attribuant à chaque adolescent palestinien un score de risque. Le modèle s’appuyait sur des schémas prédictifs identifiés à la fois par l’apprentissage automatique (analyse de mégadonnées) et par des analystes humains (par exemple, de nouvelles coupes de cheveux, les auteurs d’attentats-suicides adoptant souvent une nouvelle coiffure peu avant de passer à l’acte). Ce modèle a conduit à l’arrestation préventive de centaines d’adolescents palestiniens.
D’autres systèmes ont été développés par la suite pour identifier des membres d’organisations terroristes en vue de leur arrestation et de leur interrogatoire. Lors de la guerre à Gaza, cette stratégie a été étendue pour dresser des listes de cibles à éliminer d’une longueur sans précédent, appliquant les principes de la police prédictive pour produire des cibles à éliminer. Le système d’IA « Lavender » attribuait à presque tous les habitants de Gaza un score de probabilité d’appartenance au Hamas, en se fondant sur des facteurs couramment utilisés dans la police prédictive comme le montre la sociologue Sarah Brayne dans son livre, Predict and surveil (2021, Oxford university Press), notamment les réseaux personnels, les habitudes de vies comme les lieux fréquentés et les déplacements. 37 000 Palestiniens ont été identifiés par algorithme comme étant probablement des membres du Hamas comme le montrait Abraham dans son article pour +972 Magazine.
« Les scores de probabilité transforment la distinction entre terroriste et civil, passant d’une catégorie binaire à un continuum statistique ». Les individus classés par l’IA comme membres probables du Hamas étaient alors ajoutés aux listes de cibles à éliminer sans réel examen supplémentaire. D’autres rapports font état d’une certaine forme de supervision humaine ; par exemple, des officiers auraient corrigé une erreur d’interprétation de l’IA qui avait pris une liste d’élèves du secondaire pour une liste de militants potentiels, une erreur qui aurait pu conduire à désigner à tort 1 000 adolescents comme cibles.
Reste que l’accélération n’a pas été que technologique, elle a aussi été politique. Le Premier ministre Benjamin Netanyahu aurait reproché au chef d’état-major Herzi Halevi de n’avoir bombardé « que » 1 500 cibles au cours des 48 premières heures du conflit ; il a rejeté l’explication de Halevi, qui indiquait ne pas disposer de 5 000 cibles, en déclarant : « Je m’en fiche ». Sans l’IA, estime Schwarz, « il aurait été difficile d’atteindre une telle ampleur de morts et de destructions ».
L’armée israélienne a assoupli son interprétation du droit international humanitaire pendant la guerre sans pour autant abandonner totalement ce cadre, par exemple en relevant les seuils de « dommages collatéraux » et en autorisant des attaques ciblées contre chacun des 37 000 membres présumés de rang inférieur du Hamas, à condition que le nombre de décès civils anticipés reste inférieur au seuil. La pratique du « roof-knocking » (bombardements d’avertissement) a été abandonnée et des cibles présentant une probabilité moindre ont été prises en compte. En conséquence, le taux de mortalité civile s’est envolé. L’approche vis-à-vis des infrastructures civiles a également évolué pour maximiser la destruction : des immeubles de grande hauteur et des bâtiments universitaires par exemple ont été désignés comme des cibles essentielles et visés en raison de la présence d’un objectif militaire légitime à un seul étage, mais détruits par un armement provoquant l’effondrement de l’édifice tout entier.
Au regard du droit international, cela pourrait être considéré comme une violation des principes de proportionnalité et de précaution. Mais cette proportionnalité et ces précautions, on le voit, permettent aussi de faire varier les classement en ajustant les justifications, sur la base de données singulières et spécifiques l’associant au Hamas avec une certaine probabilité. Tout l’enjeu consiste à fourbir des probabilités et les compléter de narratifs adaptés afin de produire des explications. La destruction des infrastructures civiles, quelle que soit la raison, est devenu l’objectif derrière les justifications : toutes les cibles détectées sont devenues un moyen pour raser Gaza.
Pour Ori Schwarz, « les systèmes d’IA ont épargné les dilemmes moraux en légitimant les attaques. Le rôle de l’IA a donc consisté à ériger le général en singulier, transformant presque tout en cible ». Pour Schwarz, avec la guerre à Gaza, l‘IA est devenue un outil de légitimation : l’automatisation permet le respect des procédures. Elle est un moyen pour « préserver les normes éthiques en les inscrivant dans le code, les transformant de règles réglementaires en règles génératives inviolables ».
Comme c’est le cas depuis longtemps, l’automatisation est censée garantir l’éthique. Mais ce n’est pas si vrai. D’abord parce que le système permet d’abaisser le seuil de confiance du ciblage et donc faire que la machine contourne la règle. Et surtout que l’opacité et la complexité du calcul permettent de faire disparaître ses défaillances et la surveillance par les opérateurs humains.
Le statut moral dépend désormais des procédures et non des résultats. Mais surtout, en validant les dommages collatéraux, l’IA a servi de mécanisme de légitimation des massacres de civils. Tactiquement, le rasage des zones urbaines avant les manœuvres terrestres permettait aussi de protéger les soldats israéliens. Enfin, le ciblage fournit un prétexte pour la destruction, une « couverture morale ».
Certains officiers souhaitaient que l’IA puisse générer elle-même les attaques depuis les scores produits. Cette proposition ne s’est pas encore concrétisée, mais les digues sont prêtes à lâcher, estime Schwarz. Notamment parce que les humains dans la boucle de la vérification ne servent déjà plus que d’agents d’enregistrement, chargés de validés les cibles en quelques secondes, sans avoir le temps d’examiner les données ni de comprendre les calculs qui les produisent. Pour Schwarz, si l’armée israélienne n’a pas franchi le pas, c’est notamment parce que le droit international humanitaire exige qu’un humain réponde de chaque décision. Mais plus encore, parce que garder un humain dans la boucle donne l’apparence d’une décision issue d’une délibération humaine.
C’est oublier que l’IA n’organise pas seulement la file d’attente des cibles, elle les désigne. Ce sur quoi les humains ont encore le contrôle reste surtout les critères pris en compte par les données et les seuils. Pour Schwarz, l’élaboration des cibles n’est pas un processus purement social, mais elle n’est pas non plus purement technologique. Le ciblage doit pouvoir être expliqué, contre-interprété. Les opérateurs ne font pas nécessairement confiance aux scores produits, tant qu’ils ne pensent pas les comprendre « et après l’avoir testé sur la durée, en constatant qu’il est cohérent avec le scénario qu’il a en tête » (même constat pour les radiologues confrontés aux résultats de l’IA). La validation d’une cible repose toujours sur une preuve, c’est à dire un récit. Et les analystes doivent souvent défendre leurs choix et validation, comme s’ils étaient face à un tribunal. Ils doivent défendre la cohérence des éléments qu’ils ont sous les yeux. Le risque à terme, suggère Schwarz, c’est que l’IA produise aussi les récits, quand bien même ils seraient aussi faux que les éléments cohérents que valident les humains. Un système d’IA pourrait identifier un lieu fréquenté par plusieurs militants et lui attribuer une priorité élevée, sans envisager qu’il puisse s’agir d’un restaurant, ou qu’une conversation interceptée évoquant le terrorisme provienne en réalité d’un film diffusé à la télévision. Les systèmes d’IA servent « à trouver des corrélations (…) entre toutes sortes de variables que vous ne jugiez pas intéressantes jusqu’alors (…) Évidemment, je présente aux analystes du renseignement une grande quantité de données et de corrélations en leur disant : « Regardez, c’est intéressant ». » Les analystes tentent ensuite d’ouvrir la « boîte noire » et d’élaborer un récit expliquant le fonctionnement du modèle et les raisons de son efficacité, une étape nécessaire pour que le modèle inspire confiance et soit mis en service. « Je leur montre des points de données très précis, [des variables prédictives] », explique un officier chargé de la formation des agents aux outils. Toutefois, il souligne que dans ces situations, les prédictions du système ne servent pas à désigner des cibles tant que les analystes n’ont pas ouvert la boîte noire et expliqué pourquoi ces variables spécifiques intégrées au modèle permettent de prédire les résultats. Pour Schwarz, ces débats contredisent la promesse épistémologique de l’IA – fondée sur un empirisme radical – selon laquelle la prédiction rendrait l’explication superflue, ou qu’il n’y aurait plus besoin de théorie.
Reste, rappelle Schwarz, que même si vous faites confiance à vos experts en science des données et que vous avez collecté et testé les données avec soin, vous ne pouvez pas juger de leur qualité. Vous devez expliquer le plus précisément possible ce que les variables indiquent et pourquoi le modèle prédit ce qu’il prédit. Par conséquent, l’analyste ne renoncera pas à comprendre la signification des corrélations et les raisons des choix du modèle. Les développeurs débattent souvent de la meilleure façon de représenter ces corrélations sans induire les utilisateurs en erreur. Si la classification algorithmique des individus comme cibles à forte probabilité est effectuée automatiquement, sans récit, les agents de renseignement en construisent, à la fois en amont, lors du développement du système, et ultérieurement, afin de conférer sens et légitimité aux recommandations algorithmiques (même si cette dernière dimension a pu s’éroder en raison de l’accélération de la production de cibles en temps de guerre).
La confiance dans les chiffres n’est pas aussi omniprésente et automatique que la littérature pourrait le laisser croire. Dans notre cas, les utilisateurs finaux des systèmes de mégadonnées (analystes du renseignement) étaient initialement méfiants à l’égard de l’automatisation et des probabilités calculées algorithmiquement. Un développeur que Schwarz a interviewé leur a reproché de se méfier des systèmes d’IA en raison de leur « peur de l’erreur » et de leur prudence excessive (« Ils ont besoin d’un niveau de certitude non pas de 100 %, mais de 200 %, et une telle chose n’existe pas »). Face aux soupçons et à la nécessité de « faire confiance aux chiffres », les developpeurs du système ont entrepris un travail de sensibilisation et élaboré une stratégie sophistiquée : dissimuler le rôle de l’IA et insister sur l’implication humaine. « Les agents du renseignement n’utilisent pas l’IA, ils utilisent des outils conçus pour eux, et de leur point de vue (…), s’il y a de l’IA, d’après mon expérience, ils ne lui font pas confiance. En fait, pour les inciter à l’utiliser, nous n’avons pas dit “c’est de l’IA pure”, mais nous nous sommes assurés que l’agent qui examine une cible puisse voir que Sharon l’a déjà examinée, qu’il puisse voir le nom de la personne qui l’a fait, et qu’il connaisse Sharon. » Ils doivent savoir que Sharon est la meilleure pour identifier les cibles et, par conséquent, ils peuvent lui faire confiance. Dans cet exemple, ils ont tiré parti de la confiance que le personnel du renseignement accordait à une ancienne agente de renseignement très appréciée (« Sharon »), promue et mutée au sein de l’équipe technique. Elle y étiquette les données et valide les cibles générées par algorithme avant leur transmission aux services de renseignement et juridiques pour approbation. La confiance personnelle en Sharon peut faire toute la différence : « Nous avons constaté que lorsqu’une personne comme Sharon est présente, ils font confiance au système ; en revanche, lorsqu’on leur dit “ce n’est qu’un modèle”, ils n’y croient pas [et recommencent le processus manuellement depuis le début]. » Paradoxalement, la confiance dans l’IA (nécessaire à la délégation partielle du travail de renseignement aux algorithmes) exigeait la confiance envers les personnes qui faisaient confiance à l’IA, camouflant ainsi le rôle de cette dernière.
Nous savons que l’IA n’est pas une magie sans intervention humaine ; elle repose sur le travail humain, parfois dissimulé sous l’apparence de décisions de la machine, rappelle Schwarz en évoquant les travaux relatifs au Digital Labor. Or, ici, c’est l’inverse qui se produit : lors du développement des modèles, les décisions des machines doivent être expliquées par des experts humains qui en reconstituent la logique ; et plus tard, lorsque ces systèmes sont utilisés pour produire des cibles, leurs recommandations doivent être camouflées en décisions d’experts humains. Enfin, en temps de guerre, lorsque les analystes du renseignement consacrent à peine 20 secondes à approuver les recommandations de l’IA, le travail de cette dernière est une fois de plus dissimulé sous l’apparence de délibérations humaines.
C’est peut-être à cela que sert encore l’humain dans la boucle : valider les procédures humaines plus que juger du travail des systèmes d’IA.
En examinant de près l’utilisation de l’IA pendant la guerre de Gaza, l’article de Ori Schwarz montre que l’IA était nécessaire non pas pour personnaliser le traitement, mais pour justifier un traitement uniforme en créant des justifications personnalisées pour le ciblage de presque chaque bâtiment ou agent présumé du Hamas, et pour accélérer l’incrimination et la production de cibles à des niveaux sans précédent sans s’écarter complètement du cadre du droit international humanitaire, légitimant ainsi des massacres et des destructions de masse effroyables en s’appuyant sur des calculs et des procédures de probabilité prétendument objectifs, inscrits dans le code.
L’article de Schwarz, montre également que les études critiques sur les impacts sociaux des algorithmes doivent aller au-delà de la simple critique de leurs erreurs et de leurs biais. Ces derniers ont constitué jusqu’à présent le cœur des critiques, et ce pour une bonne raison : malgré leur prétention à la neutralité, les systèmes d’IA sont sujets aux erreurs en général et, en particulier, à la reproduction d’inégalités découlant de biais, dans la mesure où les données utilisées pour leur entraînement consignent et reflètent des préjugés humains. Plus précisément, les erreurs et les biais sont au centre des débats sur l’usage de l’IA dans la guerre, y compris lors du conflit à Gaza.
Mais, estime-t-il, un système d’IA parfait, sans erreur ni biais, « pourrait aboutir aux mêmes conséquences effroyables, simplement en accélérant considérablement la production de cibles et en en réduisant le coût » : le fait de cibler des dizaines de milliers d’objectifs identifiés par le renseignement – une tâche dont la réalisation était pratiquement impossible avant l’IA – conduit presque inévitablement à des destructions et à des tueries de civils à grande échelle. Pire, l’IA permet bien plus de produire des justifications, même de ses erreurs et errements, en les recouvrant d’une complexité et d’un vernis d’explication.
Si la destruction de Gaza répondait à des motivations politique, l’IA a été indispensable pour inscrire la destruction dans le cadre du droit international humanitaire (tout comme les ciblages sociaux s’inscrivent également dans le cadre du droit, malgré leurs défaillances manifestes). Ce potentiel de légitimation pourrait être exploité au-delà du contexte israélien, alors que des systèmes similaires sont adoptés par d’autres armées officiellement attachées au respect du droit humanitaire international. « Si l’accélération peut sembler relever d’un simple changement quantitatif, elle a en réalité engendré une transformation qualitative majeure. Le rôle joué par l’IA dans la légitimation de ces massacres nous rappelle que les caractéristiques et les affordances ne définissent pas les technologies de manière isolée : elles sont façonnées par les contextes juridiques, structurels, culturels et moraux, ainsi que par les réseaux ou dispositifs hétérogènes au sein desquels les technologies opèrent. Il est crucial de prendre en compte ce contexte pour comprendre comment il a pu engendrer des effets effroyables, mais aussi pourquoi il s’est avéré impossible d’éliminer l’humain de la boucle, et pourquoi le travail culturel de production de sens effectué par les humains était nécessaire pour légitimer l’automatisation partielle ayant conduit à cette accélération sans précédent de la production de cibles.»
*
La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des armées à leurs missions. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées. Et c’est ce que produit le score d’appartenance à l’ennemi et les seuils de dommages collatéraux autorisés. La guerre de demain se joue sur les données, leurs croisements sans limites et les seuils adaptables. Des éléments sur lesquels le droit international n’a pour l’instant pas défini de pratiques et qui, sans encadrement, risquent de permettre tous les glissements moraux du calcul, comme on le constate partout où le scoring se déploie.
Hubert Guillaud
MAJ du 31/08/2026 : Cet été, une source militaire a expliqué à plusieurs journaux, dont Le Monde, les pratiques de l’armée israélienne pour relier les civils tués ou blessés au Hamas, lors de frappes à Gaza. Cette incrimination rétrospective passe d’abord par des incriminations et des justifications mensongères, difficiles à debunker et des enquêtes jamais refermées. Les combattre nécessite pour les victimes d’apporter à leur tour des preuves d’exactions, qui ne sont pas toujours disponibles (d’autant que les journalistes ont du mal à accéder aux terrains d’opérations et que nombre d’entre eux, sur place, ont été tués). Les plaintes Gazouis sont rarement instruites par les autorités judiciaires israëliennes et l’information en Israël est très activement censurée (6 265 articles partiellement et 1 635 totalement en 2024, un record).
Les autorités internationales devraient surtout pouvoir avoir accès aux enregistrements des systèmes d’IA avant frappes pour mener des enquêtes sur la façon dont ils ont été utilisés.
L’interview du ministre des Affaires étrangères russe, Sergueï Lavrov par Léa Salamé, diffusée sur France 2, ne m’a pas mise en colère. Elle m’a confirmé dans la conviction qu’il y a une urgence à réfléchir aux raisons de la vulnérabilité de nos médias à l’influence russe, dont les manifestations sont devenues récurrentes. Cette vulnérabilité renvoie, selon moi, à deux phénomènes : la difficulté à anticiper et identifier les manipulations informationnelles russes, et la difficulté à concilier plusieurs grammaires contradictoires du travail journalistique.
Le choix de la rédaction d’interroger Sergueï Lavrov ne me pose aucun problème. La conservation de l’initiative, la liberté du journaliste de choisir qui interroger et sur quel sujet, est un principe fondamental du métier. Nous n’avons pas à nous substituer aux journalistes dans leur choix, et surtout pas à ceux qui travaillent dans les médias de service public ; les seules personnes susceptibles de critiquer le choix de l’interview sont, selon moi, les confrères et consœurs journalistes de Léa Salamé, au nom d’une éthique professionnelle partagée.
Ce qui est manifeste dans l’interview de Lavrov par Salamé, c’est précisément la perte de l’initiative par la journaliste. La prise de contrôle de l’entretien par le ministre russe est visible dans la configuration matérielle de l’entretien : c’est Lavrov qui décide du tempo de l’interview, enlevant son oreillette quand il se lance dans un monologue, ne laissant aucune chance à Salamé, coincée de l’autre côté de l’écran d’ordinateur, de venir l’interrompre. La perte de contrôle se révèle également dans l’incapacité de la journaliste d’opposer des faits précis aux mensonges proférés par son interlocuteur. Le résultat est accablant : l’entretien se transforme en une tribune pour le ministre russe où rien ni personne ne l’empêche de dérouler son discours.
Pourquoi l’entretien a-t-il ainsi déraillé ? Une partie, me semble-t-il, tient aux contradictions inhérentes au travail du journaliste. Comme l’a souligné le sociologue Cyril Lemieux dans « Mauvaise presse », les principes déontologiques du métier que les journalistes s’efforcent de respecter se heurtent aux exigences de la « grammaire réaliste », à savoir un certain nombre de contraintes rédactionnelles. Il est possible que la journaliste ait été mise en difficulté par le temps de préparation trop court, ainsi que par le dispositif visio, probablement imposés par les Russes. Il est également possible que la perspective de sortir un entretien exclusif, dans un contexte de rareté de la parole des dignitaires russes sur nos antennes, ait été tellement attractive pour la rédaction que les journalistes n’aient pas pris les précautions nécessaires pour préparer l’interview. Manifestement, ils n’ont jugé utile ni de procéder à un fact-checking systématique (qui était possible à l’avance, au vu de la prévisibilité du discours de Lavrov), ni de s’interroger sur les raisons pour lesquelles l’interview a été accordée par Moscou et les objectifs que Moscou cherchait à y atteindre.
Ce dernier point me semble central. En surestimant leur capacité à maintenir l’initiative et à contrôler l’entretien, en cherchant à respecter un autre principe fondamental de leur métier qui est l’exigence de polyphonie, les journalistes augmentent considérablement les chances d’être manipulés et de devenir des canaux par lesquels des acteurs hostiles s’aménagent un espace dans notre paysage médiatique. Le risque est encore augmenté lorsque les journalistes ne proposent pas un dispositif solide de mise en contradiction des discours de leurs interviewés par une préparation soignée et une présence de spécialistes du sujet.
Le pouvoir russe ne cherche plus à nous convaincre de le suivre : il cherche à projeter une image de force, de contrôle et de détermination. L’objectif de Lavrov n’est pas de retourner les opinions françaises, il est de créer une image de puissance du pouvoir russe, susceptible de démobiliser nos opinions. L’image que nous avons projetée dans cet entretien est celle de notre faiblesse, sans avoir obtenu en retour la moindre information exclusive. 1 : 0 pour la Russie.
Que pouvons-nous faire aujourd’hui pour rendre nos médias moins vulnérables à cette instrumentalisation informationnelle ? Voici quatre propositions réalistes.
Le sujet de l’extrême droite en Ukraine ne cesse de faire son come-back. Je me rappelle par exemple avoir parlé dans ce fil Twitter, dans les premières semaines de la guerre de haute intensité lancée par la Russie, du caractère récurrent de la dénonciation et de la focalisation sur le sujet.
La goutte de poison. J’avoue être épuisée de devoir encore et encore, pour la millième fois depuis 2014, faire le point sur l'extrême-droite et les "néonazis" en Ukraine. Des dizaines d’articles et d’interventions de multiples chercheurs. Et il faut recommencer. Long
— Anna Colin Lebedev (@colinlebedev) March 18, 20221/30
Récemment encore, un reportage vidéo du Monde revenait sur la question, et identifiait des combattants, mais aussi des commandants charismatiques des régiments ukrainiens qui appartiennent ou appartenaient manifestement à des mouvements d’extrême-droite. Une enquête sérieuse? Oui. Et je ne vais pas accuser le journaliste auteur du reportage d’être au service de la propagande du Kremlin (d’ailleurs, il est tout à fait explicite sur ce point dans la vidéo).
Cependant, cette couverture me semble profondément insatisfaisante, car jouant essentiellement sur nos émotions et nos réflexes, plus que sur la réflexion et la compréhension de ce qu’on observe. Nous autres chercheurs en portons une part de responsabilité, car c’est à nous d’introduire de la profondeur dans un sujet qui parle en premier aux tripes. La question de l’extrême droite est aussi légitime à aborder sur le terrain ukrainien que sur le terrain russe, français ou américain, à condition de bien la traiter, en l’inscrivant dans son contexte, en la mettant en perspective et en s’appuyant sur une recherche de terrain. Sinon, on ne fait que réagir de manière réflexe à la volonté de Moscou de nous imposer ce sujet.
La discussion que nous avons conduite avec mon collègue Bertrand de Franqueville, publiée dans Le Grand Continent, adopte une démarche d’explication, pas de dénonciation. Bertrand a conduit une longue recherche en Ukraine sur les extrêmes politiques, à la fois de gauche et de droite , dans les milieux militants comme militaires. Cette profondeur de champ lui permet de réfléchir à l’histoire de ces mouvements, à leur ancrage dans le paysage politique ukrainien, à leur rôle dans la conduite de la guerre et à leur avenir politique. J’espère que la thèse de doctorat qu’il a consacrée à ce sujet sera bientôt publiée, et je renvoie également le lecteur désireux de continuer à approfondir le sujet à l’article en accès libre coécrit par Bertrand de Franqueville et Adrien Nonjon en 2023, portant sur le mouvement Azov, ou encore à cet ouvrage collectif, In the eye of the Storm, co-dirigé par Adrien.
Les mouvements ultranationalistes – vous allez le comprendre en lisant notre entretien avec Bertrand – ne sont pas un sujet central dans la vie politique ukrainienne. Ils ne sont pas non plus un non sujet. Mais ils cesseront de nourrir nos fantasmes à partir du moment où on aura une vision un peu posée de leur place dans la société. Tout ce que nous écrivons sur l’extrême-droite en Ukraine peut être (et sera) instrumentalisé par des acteurs pro-russes. Tout, sauf précisément ce qui introduit de la nuance et donne des outils pour comprendre.
Mon petit texte « Ukraine: la force des faibles » est sorti en librairie le 13 juin. Dans les présentations que je peux en faire ici et là, j’explique l’intention qui l’anime: faire comprendre comment la société ukrainienne s’est transformée pendant les dix années de guerre, et en quoi cette transformation très particulière a donné lieu à un mode très particulier de résistance armée .
J’entends d’ores et déjà, dans les premières questions qui me sont adressées, un doute. Serait-ce encore l’un de ces textes qui idéalisent la résistance ukrainienne, héroïsent la conduite de la guerre, cherchent à entraîner le lecteur dans l’admiration? Evidemment, ce sera aux lecteurs de trancher. Le texte est imprégné d’une émotion que je n’ai pas cherché à cacher.
Cependant, pour moi, ce petit essai n’est un pas un pamphlet, mais un carnet de terrain d’une enquête qui s’étale désormais sur dix ans. Une enquête conduite à Kyiv, Zhytomyr, Dnipro, Lviv, Vynnytsia, mais aussi Tchernivtsy, Kharkiv, Mykolaiv, Kherson… Ce que raconte « Ukraine: la force des faibles », sous ce petit format qui ne permet pas une véritable démonstration de la preuve, ce sont quelques observations tirées de cette longue enquête. Je souhaiterais donner ici un aperçu de l’émergence de cette recherche et de sa cuisine interne.
J’aurais aimé emmener les lecteurs à travers ces dix ans de recherche en photos, mais je suis une photographe plutôt timide, et je demande rarement aux personnes que j’interroge l’autorisation de les photographier. Encore moins, paradoxalement, lorsque l’entretien s’est très bien passé, et qu’un véritable lien humain s’est tissé entre l’enquêteur et l’enquêté. Les images que je ramène de mes enquêtes sont prises à la va-vite, pour me permettre de garder une trace, vérifier une inscription, fixer une date, plutôt que pour les partager. Mes photos sont aussi très souvent kyiviennes, car dans cette ville qui m’est très familière, je suis d’autant plus sensible aux moindres changements du paysage urbain dans ces années de guerre.
En voici quand-même une. Nous sommes en juillet 2014, en plein centre ville de Kyiv, aux abords de la place de l’Indépendance, le Maïdan. La révolution du Maïdan s’est terminée, après des semaines d’affrontements meurtriers, quelques mois auparavant, mais les Ukrainiens mettront un certain temps à enlever les débris calcinés de la place. Ces débris sont les premiers mémoriaux aux manifestants tombés. Ils sont constellés de photos, fleurs, mots de condoléances. Je n’étais pas à Kyiv pendant les dernières semaines sanglantes de la révolution du Maïdan, et déambuler au milieu de ces débris calcinés de barricades était très émouvant pour moi. Pourtant, on n’était pas seulement à la fin d’une séquence importante pour l’histoire du pays, mais aussi et surtout au début d’une époque nouvelle. En ce juillet 2014, quelque chose de fondamental avait changé. L’annexion de la Crimée avait eu lieu. la guerre faisait déjà rage à l’est du pays, avec une Russie qui attisait l’insurrection dans le Donbass, mais intervenait aussi directement, militairement.
Quelques mois plus tard, les volontaires ramèneront et exposeront dans les villes ukrainiennes les carcasses calcinée des voitures, les blindés et les lance-roquettes russes ramenés du front de l’est. Quand je reviens en Ukraine en février 2015, j’assiste à cette exposition en plein air où se pressent les familles. Il y a pour moi à l’époque quelque chose d’un peu troublant de voir des enfants grimper dans les chars russes, et je me fais la réflexion que leurs parents ne réalisent sans doute pas qu’ils ne sont pas dans un musée de la guerre, mais dans une guerre au présent. Aujourd’hui, dans les villes ukrainiennes, on voit encore de tels trophées exposés. Mais je ne vois plus aucun enfant grimper dessus…
Je crois que l’un des objectifs était celui-là: faire prendre conscience aux Ukrainiens de la nature de cette guerre, et surtout leur faire comprendre que la Russie était en train d’agresser militairement l’Ukraine. Car dans cette année 2015, l’incertitude sur l’agresseur et sur la responsabilité sont parfois là, et certains Ukrainiens confessent leur difficulté à comprendre ce qui se déroule vraiment à l’est.
A côté des carcasses de blindés et des restes de missiles, une petite expo est montée dans des containers. « Preuves de l’agression militaire russe sur le territoire ukrainien ». Ce n’est pas par hasard que le titre est (aussi) en anglais: il s’agit entre autres d’interpeller la communauté internationale qui, à ce moment-là et pour de longues années, va faire tout son possible pour ne pas voir la Russie derrière les activistes séparatistes.
Cette guerre-là, entre 2014 et 2022, les Ukrainiens la conduisent seuls, sans soutien militaire international, et avec un soutien politique tiède de pays occidentaux encore sensibles à la vision russe de la guerre. C’est parce qu’ils ne peuvent compter que sur eux-mêmes, parce que leur armée est défaillante et leur Etat fragile, que les Ukrainiens ordinaires, pour l’essentiel des civils, vont s’engager dans la conduite de la guerre.
Très rapidement en 2014, je commence à enquêter sur ces civils qui prennent les armes pour la première fois pour défendre leur pays, où qui s’organisent pour soutenir cette défense.
Les premiers que j’interroge sont mes anciens enquêtés, les vétérans de la guerre soviétique en Afghanistan, groupe avec qui j’avais fait des entretiens en 2010-2011. J’avais déjà visité, lors de ma première enquête, le petit musée de leur association kyivienne, où ils avaient exposé des objets militaires de l’époque soviétique. Quand je reviens les voir en 2015, le musée est transformé en entrepôt où, à côté des artefacts soviétiques, s’empilent les uniformes et pièces d’équipement neufs achetés par eux qui attendent d’être apportés sur le front: pantalons chauds, casques en kevlar (terme qui fait alors son entrée dans mon vocabulaire) et d’autres objets que je n’arrive pas à l’époque à identifier. J’ai pris cette photo dans une pièce trop sombre, parce que je voulais absolument garder l’image de la vieille mitrailleuse soviétique Maxim, à l’arrière de la photo, qui contrastait tellement avec les objets neufs d’une guerre nouvelle. Dix ans plus tard, j’ai vu une Maxim similaire dans la caserne d’une unité de défense locale composée de civils, dans une petite ville ukrainienne. En 2025, cette Maxim-là n’avait rien d’une pièce de musée: très efficace pour abattre les drones, m’expliquaient les combattants qui lui avaient fabriqué une nouvelle tourelle sur mesure.
En 2014, « mes » vétérans d’Afghanistan faisaient partie des rares groupes de personnes qui, en Ukraine, avaient une expérience quelconque d’une guerre. Bien que plutôt âgés pour combattre – la cinquantaine, voire la soixantaine – un certain nombre d’entre eux avaient choisi de partir au front. D’autres avaient décidé de les soutenir: équiper, armer, ravitailler. Et parfois, les deux à la fois: prendre les armes quelques jours ou quelques semaines; puis revenir à l’arrière et collecter de l’équipement pour le prochain voyage vers le front. J’avais fait de mon enquête sur ces vétérans reprenant les armes un article, intitulé « D’une guerre à l’autre: Les vétérans d’Afghanistan dans le conflit armé dans le Donbass ».
Mais déjà, je voyais partout en Ukraine émerger une nouvelle génération de combattants et un tissu associatif soutenant la guerre. On voyait se former en Ukraine des bataillons volontaires, se substituant aux unités insuffisantes de l’armée régulière. J’ai commencé à interroger ces combattants qui, à partir de 2015, rentraient progressivement du front. On voyait aussi également émerger des initiatives de soutien au front à l’arrière, parfois structurées en associations, parfois plus flexibles. Souvent d’ailleurs, les personnes à l’origine de ces initiatives étaient elles aussi des anciens combattants.
Financés par toutes sortes de donateurs – mais très peu l’Etat – et composés de civils qui n’avaient pas de statut de militaire des forces armées de l’Ukraine, les bataillons volontaires étaient très visibles dans l’espace public en Ukraine.
Les bataillons, comme « Donbass » dont on voit une voiture sur cette photo de février 2015, collectaient de l’argent, et des associations à l’arrière se chargeaient de faire circuler les cagnottes, d’identifier de quoi les combattants avaient besoin, de soutenir les familles. Les bataillons ont été assez vite intégrés dans l’armée régulière. En 2017, j’avais publié une étude sur ces groupes armés et leur place dans la conduite de la guerre.
En février 2015, les accords de Minsk 2, signés dans des conditions favorables à la Russie, ont marqué la fin de la première période de la guerre russo-ukrainienne, en la faisant entrer dans une seconde longue période, celle de la guerre de basse intensité qui durera sept ans de plus.
Ces sept années-là sont un angle mort pour la société française. C’est une période où les journalistes français avaient du mal à vendre à leurs rédactions un papier sur la guerre dans le Donbass qui n’intéressait pas grand-monde. « Ah bon, la guerre continue? », me demandait-on également en France quand je rentrais d’Ukraine. Pourtant, si la guerre était cantonnée à l’est du pays (et je ne suis jamais allée sur les zones de front), j’en voyais les traces sur tout le territoire de l’Ukraine. Une guerre « discrètement omniprésente », ai-je écrit dans un article, et c’est cela que me permettait l’approche sociologique et la longue fréquentation du terrain: voir la présence de la guerre là où un observateur de passage n’aurait pas remarqué la différence. Parfois, notre premier capteur, c’est ça: la sensation que dans un endroit qu’on connaît bien, dans un groupe qu’on connaît bien, quelque chose a changé.
En Ukraine, en réalité, le changement était massif, et il était porté par plusieurs groupes sociaux qui se recoupaient partiellement : ceux qui s’étaient engagés aux côtés la révolution du Maïdan; ceux qui étaient partis combattre dans le Donbass et qui revenaient à la vie civile; ceux qui avaient été forcés à fuir de chez eux ou à changer de vie du fait de la guerre. Puisque je continuais mon enquête sur les civils qui prenaient les armes, c’est surtout avec les combattants et anciens combattants que j’ai conduit mes enquêtes, mettant un pied dans un réseau de plus en plus vaste d’associations, groupements informels, entreprises, services ministériels, tous liés à la conduite de la guerre ou à la prise en charge des effets de la guerre. Après les entretiens, nous restions souvent en contact avec mes enquêtés; c’était d’autant plus facile que beaucoup d’entre eux étaient de milieux sociaux urbains et éduqués, proche du mien, et qu’à force, nous avions de plus en plus de connaissances en commun. Je suivais de loin, souvent sur les réseaux sociaux, les projets dans lesquels ils s’engageaient, liés à la réforme de l’Etat et de l’armée, à la défense et à la prise en charge des vétérans et des populations vulnérables, à l’information et à la culture comme vecteurs pour dire la guerre. J’en décris un petit nombre dans « La force des faibles », mais il y en aurait tant d’autres dont l’histoire mérite d’être racontée. Tout au long de ces années, jusqu’au Covid, nous essayions d’emmener des doctorants et post-docs, réunis en école d’été que nous organisions avec un groupe de collègues, voir l’une ou l’autre de ces associations.
Un exemple de ces associations, « Station Kharkiv« , lieu d’accueil pour les déplacés internes, créé en 2014, que nous sommes allés voir avec les étudiants lors de notre école d’été dans cette ville en 2016, deux ans après le début de la guerre. Les deux femmes que vous voyez au fond de la photo sont toujours aux manettes d’une association qui s’est élargie et professionnalisée entre 2014 et 2022. Dès les premiers jours de mars 2022, Station Kharkiv était en train de collecter des vivres et des médicaments, et de les livrer aux personnes vulnérables qui se sont trouvées plus isolées que jamais. Dans les premiers jours de l’invasion russe, l’association avait d’ailleurs perdu l’une de ses jeunes bénévoles, victime d’une attaque de missile.
D’autres groupes sont plus directement impliquées dans la conduite de la guerre. C’est par exemple le cas de « Notre bataillon », association fondée par un entrepreneur de la ville de Tcherkassy qui s’est engagé dans l’aide à l’armée lorsque l’un de ses salariés est parti au front. En 2014, la petite ONG se donne pour mission de parrainer et approvisionner « son » bataillon. Petit à petit, elle élargit son action à d’autres unités. La photo ci-dessous du stand de l’association a été prise en 2017, lors d’une journée de rencontre de vétérans et d’ONG. Quand on regarde la photo, tout ça a l’air très artisanal, et je trouve que c’est ça qui est intéressant: le soutien à l’armée part d’une toute petite échelle, puis se développe, se professionnalise, se structure.
Les bénévoles se forment aux besoins des forces armées, deviennent compétents en équipement militaire. Des liens solides se tissent entre l’armée et la société à l’arrière. Tout comme « Station Kharkiv », « Notre bataillon » se met immédiatement en action et s’ajuste aux nouveaux besoins qui émergent avec l’agression de février 2022. L’ONG continue à approvisionner le front aujourd’hui.
Ces initiatives sont une illustration de ce que je décris dans « La force des faibles »: quand la Russie tente d’envahir l’Ukraine en février 2022, la société ukrainienne est aussi prête qu’elle peut l’être, car elle a derrière elle huit ans de développement d’une société civile engagée dans la guerre.
« Ce que je trouve formidable dans notre société, me disait en 2024 autour d’un thé une collègue et amie ukrainienne, c’est que je sais que pour chaque problème qu’un citoyen pourra rencontrer, il y aura un groupe ou une association qui sera là pour l’aider. » Je suis d’accord avec elle, mais j’aurais pu compléter sa phrase: « … parce que l’Etat ne sera pas forcément là. » Le point de départ de « La force des faibles » est précisément dans ce paradoxe: si les Ukrainiens étaient aussi actifs, aussi innovants, aussi engagés, c’est parce qu’ils ne pensaient pas pouvoir se reposer sur leur Etat. Ni pour conduire la guerre, ni pour construire une armée performante, ni pour prendre en charge les plus fragiles. C’est de leur cheminement que je donne un aperçu dans le petit livre.
Beaucoup de collègues ont travaillé sur les mouvements associatifs qui ont émergé à partir de 2014. Je cite notamment dans le petit livre les travaux de Ioulia Shukan et d’Anastasia Fomitchova (dont on lira d’ailleurs bientôt un témoignage personnel). Pour ma part, je me suis tout particulièrement intéressée au parcours des civils, hommes et femmes, qui ont pris les armes depuis 2014. Pour moi, leur rôle a été crucial dans l’évolution des forces armées ukrainiennes et la préparation de la société à la guerre de haute intensité. J’ai consacré un article à cet « état de qui-vive » qui caractérise ces anciens combattants dans les années 2015-2022. Mais si cette action a pu se déployer, c’est parce qu’un lien entre les initiatives privées / associatives et l’Etat s’est tissé. Ce lien, je l’observais déjà en 2015-2022, par exemple via l’intégration des anciens combattants dans les institutions locales et centrales, autour de projets liés à l’armée ou aux vétérans.
C’est le cas par exemple de Ivan, jeune homme à droite de la photo, enseignant en informatique à l’université dans la ville de Dnipro, mobilisé dès le mois d’avril 2014 en tant que chef de peloton blindé. Quand il est démobilisé après une année sur le front, il est immédiatement invité par l’administration régionale a prendre la tête du Centre d’aide aux vétérans nouvellement créé. Lorsque nous nous rencontrons en 2017, cela fait deux ans à peu près qu’il occupe cette fonction. (Mes qualités de photographe sont encore une fois clairement démontrées sur l’image ci-dessous).
Dans les années suivantes et jusqu’à aujourd’hui, Ivan a pris en charge les projets de résilience et de sécurité numérique dans l’administration régionale, cette « ligne de front numérique » qui concilie son expérience militaire et sa spécialisation universitaire. Pour lui, le passage de l’armée à l’administration a été durable et facilité par sa position sociale. Pour d’autres personnes, la coopération avec l’Etat a été plus brève ou plus houleuse, mais en tout cas ce va-et-vient entre le front et l’arrière, la société civile et les institutions publiques est l’un des mécanismes au cœur de l’agilité et de l’adaptation de l’Ukraine à la guerre. J’y porte une attention particulière dans les enquêtes de terrain que je conduis aujourd’hui.
Beaucoup de mes enquêtés sont, comme Ivan, urbains, éduqués, internationalisés. J’ai très vite identifié ce biais de mon enquête: la proximité sociale avec les personnes que j’interroge. Comme je suis une sociologue consciencieuse, j’ai constamment cherché à élargir le cercle d’interviewés, pour voir des personnes avec qui nous avions moins de choses en commun. Et pourtant – je m’en rends compte maintenant – la proximité sociale a aussi été une ressource pour la recherche. Mes enquêtés n’étaient pas seulement proches de moi par leur position socioprofessionnelle; ils me ressemblaient parce que nos vies avant la guerre étaient similaires, dans les années où j’avais vécu en Ukraine. On avait peut-être eu des loisirs semblables, on avait vécu un quotidien semblable. Avec certains d’entre eux, les plus âgés, on avait eu des enfances semblables, même si la mienne était à Moscou alors que la leur se déroulait en Ukraine. Du fait de cette proximité, je ressentais d’autant mieux le choc de la guerre, la difficulté des choix qu’ils ont dû faire, les forces et les fragilités qui en ont été les conséquences. Oui, en tant qu’être humain, j’ai une admiration pour beaucoup de ces hommes et de ces femmes. Quels que soient mes efforts d’objectivation et de prise de distance, cette admiration, je n’arriverai pas à – et je n’aurai pas envie de – m’en défaire.
Cependant, « La force des faibles » n’est pas un hommage que je leur rends. C’est plutôt une tentative de démystifier la vision que l’on peut avoir de résistance d’une nation. Non pas glorifier la résistance, mais comprendre les mécanismes individuels et collectifs qui rendent une société prête à résister. Mais il y a un autre aspect de mon enquête qui est très présent dans ce texte. C’est cette question que je me pose d’entretien en entretien, d’observation en observation: et moi, qu’aurais-je fait à leur place? Que ferais-je dans un tel moment de grand bouleversement? Le jour où je finaliserai le grand manuscrit tiré de cette recherche, je m’en sortirai peut-être en mettant en œuvre des dispositifs de distanciation et de prise de conscience de la position sociale de l’enquêteur. J’évacuerai d’une manière ou d’une autre cette question troublante. Mais aujourd’hui, dans « La force des faibles », je ne souhaite pas l’évacuer, car il faut laisser son espace au trouble que suscite cette question essentielle : qui serions-nous, face à l’inconcevable?
La « conscription du printemps », campagne semestrielle d’appel de jeunes hommes sous les drapeaux de l’armée russe démarre en ce début d’avril, et c’est rare que je laisse passer un cycle sans faire un petit commentaire.
Le début de la campagne de conscription a fait hier l’objet de brèves dans beaucoup de médias, sans que la raison pour laquelle on en parle soit explicite… Le sous-entendu derrière est que l’armée russe se renforce, puisque le message essentiel est l’augmentation du nombre d’appelés visé: 160 000, un objectif record. Mais est-ce comme ça qu’il faut le lire?
En premier lieu, si augmentation il y a, elle est plutôt graduelle:
| Campagne d’appel | Nombre d’appelés visé |
| Printemps 2025 | 160 000 |
| Automne 2024 | 133 000 |
| Printemps 2024 | 150 000 |
| Automne 2023 | 130 000 |
| Printemps 2023 | 147 000 |
Plus qu’à la campagne précédente, il faut comparer les chiffres à la saison précédente: le printemps 2025 doit être comparé au printemps 2024 plutôt qu’à l’automne 2024. En effet, l’appel du printemps a traditionnellement des objectifs chiffrés supérieurs, car il touche notamment les étudiants qui viennent d’être diplômés (ou radiés) à la fin de l’année scolaire, et deviennent donc mobilisables, alors qu’ils bénéficiaient d’un sursis pendant le temps de leurs études. L’augmentation de la cible entre les printemps 2024 et 2025 est de 10 000 appelés; ce n’est pas rien, mais ce n’est pas énorme non plus. Rappelons que l’âge maximal de la conscription est, depuis le 1er janvier 2024, passé à 30 ans au lieu de 27 auparavant. L’augmentation graduelle du nombre de conscrits peut donc relever d’un rattrapage du surplus qui devrait être généré par l’ajout d’une cohorte supplémentaire? En tout cas, l’augmentation n’est pas illogique.
Au-delà de ces considérations un peu techniques, la question que les commentateurs se posent est peut-être: ces 160 000 sont-ils des combattants potentiels sur le front ukrainien?
La réponse est oui. Pas tant parce que les conscrits seront envoyés sur le front (même si dans les faits, un certain nombre le sont, et des cas de conscrits morts au combat émergent régulièrement), que parce que les conscrits sont un formidable vivier de recrutement sous contrat pour l’armée russe. Depuis le début de la guerre, et avec une intensité croissante, on constate une pression sur ces jeunes garçons pour signer un contrat – j’en parlais en octobre dernier dans cet article. La législation permet désormais à l’armée de les recruter dès le début de leur service (là où il fallait 4 mois de formation avant), et ce public est particulièrement vulnérable. Nous n’avons cependant aucune donnée chiffrée qui nous permette de dire quelle proportion de conscrits se retrouve en définitive enrôlée sous contrat.
L’Etat russe peut-il aller au-delà, et augmenter considérablement ses capacités de recrutement? La réponse ici est tout autant politique que logistique. Les nouveaux conscrits, comme les nouvelles recrues sous contrat, doivent être logés, équipés, entraînés. Le recrutement lui-même mobilise de la ressource humaine et administrative. Le passage à un système de convocations électroniques – dont on ne sait trop s’il est vraiment opérationnel et s’il va être massivement utilisé – devrait dégager un peu de personnel recruteur. Mais il faudra probablement toujours aller chercher les récalcitrants et organiser une battue aux appelés à la fin de la période de conscription, pour être sûrs de remplir les quotas fixés. Or, les autorités militaires sont aussi activement engagées dans l’organisation du recrutement de soldats sous contrat, avec une pression forte de la hiérarchie. Je ne suis pas certaine que l’administration militaire ait tout simplement les capacités matérielles et humaines à recruter beaucoup plus, en un temps plutôt court.
Quoi surveiller dans cette campagne de recrutement? Probablement cette base de données électronique des citoyens au regard de leur obligation militaire. Le nouveau système offre en théorie à l’armée des données actualisées sur les conscrits potentiels, et des outils de sanction en cas de non réponse à la convocation militaire. Donnera-t-elle à l’Etat russe des moyens de coercition vraiment plus efficaces – et réutilisables dans le cas d’une nouvelle vague de mobilisation militaire? Jusqu’à maintenant, la preuve n’en a pas été apportée, mais peut-être que cette campagne de conscription changera la donne. En tout cas, elle donnera forcément des informations utiles sur les capacités organisationnelles de l’armée russe… mais elle fournira aussi beaucoup d’éléments sur la volonté des citoyens russes à servir ou à échapper au service militaire.
On parle souvent du coût de la guerre pour la Russie: en dépenses pour la défense, en impact des sanctions, en hommes. On ne réfléchit pas assez au coût inverse, celui du risque politique qu’entraînerait, pour le pouvoir russe, l’arrêt des combats. Quelques notes rapides pour évoquer cet aspect rarement abordé.
Le premier risque politique est lié à la démobilisation des combattants actuellement engagés sur le front. La Russie a traité avec une grande violence l’ensemble des hommes qu’elle a engagés dans la guerre. Les militaires sous contrat que comptait l’armée en 2022 ont été cloués au front par une transformation de leurs contrats en engagement à durée indéterminée, sans possibilité de démissionner. Les mobilisés, civils recrutés de force en 2022 et envoyés au front dans des conditions terribles, y demeurent toujours deux ans et demi plus tard. Les nouveaux soldats sous contrat bénéficient, certes, d’une rémunération confortable, mais ne sont ni correctement formés, ni correctement équipés, ni traités avec respect.
Démobiliser ces hommes, même en les glorifiant, et les laisser revenir dans la vie civile, c’est prendre le risque de voir le récit des facettes sombres de la conduite de la guerre se diffuser dans la société. C’est aussi devoir faire face à des centaines de milliers d’hommes qui pourraient en vouloir à leur pouvoir politique, qui sont profondément traumatisés, et qui savent désormais manier les armes. Le Kremlin a en partie conscience du problème et met en place de modestes politiques d’intégration des vétérans dans la vie civile, mais vu le contour de ces dispositifs, ils risquent de se révéler très insuffisants. Le pouvoir russe s’est refusé jusqu’à maintenant de démobiliser le moindre combattant et essaiera, autant que possible, de reculer le moment de la démobilisation.
Le second risque politique est la conséquence d’une transformation du système de rentes et de rétributions liées à la guerre. La croissance affichée par l’économie russe est une croissance nourrie par la conduite de la guerre. L’économie s’est recentrée sur la commande militaire, les actifs économiques ont été redistribués et réorganisés pour faire face aux sanctions. La guerre et les sanctions ont frappé beaucoup d’acteurs économiques, mais représentent également une nouvelle rente pour beaucoup d’autres. Si la Russie veut maintenir l’apparence de solidité économique et garder la loyauté des élites, elle ne peut se permettre, dans les années qui viennent, de sortir de ce modèle économique centré sur la conduite de la guerre.
Le troisième risque politique est celui des territoires qui resteraient sous occupation russe. L’expérience d’intégration des territoires saisis par la force par la Fédération de Russie se limite aujourd’hui à la Crimée; or, celle-ci a été annexée dans des conditions très différentes, avec un usage limité de la violence et les faveurs d’une partie de la population. Installer l’État russe sur les territoires conquis depuis 2022 sera un défi d’une autre taille, car la population de ces régions a une forte conscience de vivre sous occupation militaire. La violence, notamment contre les civils, y est considérable: le pouvoir russe n’a pas le consentement des habitants de ces régions. A certains égards, la situation risque d’y être plus proche de la Tchétchénie en 1995 que de la Crimée en 2014. C’est une guerre diffuse que la Russie devra conduire dans les territoires annexés.
Pour les républiques séparatistes du Donbass, j’ai beaucoup plus de difficultés pour l’instant à évaluer la situation et à faire des projections. Ces régions qui ont été dévastées et maltraitées depuis 10 ans, mais j’ai peu de sources fiables pour prendre le pouls de ce qui s’y passe et de la manière dont les habitants qui y vivent encore se projettent dans l’avenir.
Existe-t-il un risque réputationnel, où Poutine pourrait être accusé par son entourage de ne pas avoir atteint ses objectifs de guerre? Ce risque me semble limité, car en cas de cessez-le-feu ou d’un autre type d’accord, le pouvoir aura sécurisé sa victoire principale: arriver à faire admettre aux Occidentaux qu’ils sont impuissants face à la Russie.
Les trois risques structurels que j’ai pointés ici me semblent en revanche sérieux. Ils peuvent, me semble-t-il, amener la Russie à privilégier tout scénario où la guerre ne s’arrête pas vraiment, où le pouvoir peut garder un gros volume de forces armées mobilisé, investir dans la consolidation de l’industrie militaire et dans la production massive d’armes, maintenir une occupation militaire (plutôt qu’une administration civile) dans les territoires annexés.
On a souvent dit que la Russie n’avait pas intérêt à une négociation autre qu’une capitulation, parce qu’elle se voyait en train de gagner sur le front. Mais la Russie est aussi dans une situation politique interne qui la pousserait plutôt à éviter les scénarios de paix durable qui seraient paradoxalement aujourd’hui plus déstabilisateurs que la guerre. Le scénario le plus favorable au Kremlin, celui qui lui permettrait de garder le contrôle interne, serait celui d’une baisse de l’intensité de la guerre sans démobilisation, sans abandon de la rhétorique guerrière, et sans ralentissement de l’économie de guerre et du réarmement. Une guerre moins coûteuse en hommes et en armes, plus confortable pour l’économie, moins stressante pour la population, mais toujours une guerre.
Un cessez-le-feu instable et régulièrement violé serait peut-être le meilleur cadeau que l’on pourrait faire aujourd’hui au Kremlin.
Il n’a jamais été simple de parler du Bélarus en France sans tomber dans le cliché. La formulation « dernière dictature d’Europe » a encore été reprise par les médias aujourd’hui pour évoquer le scrutin présidentiel qui s’est tenu dimanche, et j’en veux un peu aux journalistes pour cette paresse intellectuelle.
« Dernière dictature d’Europe » était une formule confortable pour se rassurer sur le processus de démocratisation qui aurait été en voie de généralisation sur le continent européen; certes, à des vitesses variables, mais quand-même quasiment certain. Le Bélarus faisait alors office d’épouvantail et de dernier bastion d’un monde en cours de disparition. Cela empêchait de voir les dynamiques réelles sur place (et de s’interroger par exemple sur la manière dont la stabilité, les politiques sociales et le progrès économique pouvaient atrophier la sensibilité politique). Cela faisait aussi du bien à l’égo européen.
Nous n’en sommes plus là aujourd’hui, bien évidemment, et dans un contexte de montée d’attractivité des autoritarismes, le Belarus est plutôt un cas d’école qui devrait attirer notre attention. Dire que l’élection présidentielle qui vient de s’écouler était un simulacre, c’est à la fois vrai et stérile, parce que c’est une manière de dire « point, à la ligne, on passe à autre chose » qui neutralise toute volonté de compréhension.
Malheureusement, la guerre conduite par la Russie contre l’Ukraine m’a empêché d’être suffisamment vigilante sur le Bélarus pour livrer une analyse approfondie. Ce que je dis est à prendre avec des pincettes; ce sont des pistes à creuser.
Un régime politique autoritaire fonctionne grâce à un certain dosage de coercition et d’adhésion; il doit non seulement mettre en place une répression suffisamment forte pour bloquer les oppositions, mais aussi distribuer suffisamment de bénéfices pour susciter l’adhésion. Plus le ratio est en faveur des bénéfices, plus le pouvoir est stable; plus il penche du côté répressif, plus le régime est fragile. Pendant longtemps, le régime politique du Belarus s’est attaché à distribuer beaucoup de bénéfices à la population, notamment à travers des politiques sociales, des politiques de développement et une promesse de stabilité et de prévisibilité. Les Bélarusses vivaient – économiquement – plutôt mieux que beaucoup de leurs voisins, et en avaient conscience. Le prix politique à payer apparaissait donc comme acceptable.
Evidemment, le soutien de la Russie était et reste l’exosquelette du régime bélarusse, aussi bien d’un point de vue politique qu’économique.
Les protestations massives de 2020 étaient intervenues dans le contexte d’une certaine fragilisation du modèle, et notamment d’une perception du régime comme moins protecteur, mais aussi en décalage avec les demandes de la société. Les répressions violentes qui ont suivi et qui se sont maintenues tout au long des années suivantes ont fait basculer le ratio répression/bénéfices en faveur de la répression. Cette période violente va compter dans l’histoire politique bélarusse: on ne le perçoit pas encore, mais elle a donné naissance à une expérience différente, moins marginale de l’opposition politique, de la répression et de la prison. Elle a aussi permis de structurer une opposition à l’étranger et de lui donner des canaux de prise de parole. Derrière les apparences de « il ne se passe rien », le Belarus est en réalité bien plus prêt qu’en 2020 à entamer une transition politique, avec une nouvelle génération de citoyens jetés avec violence dans la politique.
Cependant, et paradoxalement, c’est la guerre en Ukraine qui a redonné de la stabilité au régime bélarusse. En effet, dans un contexte où la Russie essaie de toutes ses forces de faire du Bélarus un cobelligérant, il y a des choses que Loukachenko a réussi à protéger. Certes, des unités armées russes et des complexes d’armement sont désormais basés au Belarus, qui sert de base aux attaques contre l’Ukraine. Cependant, aucune unité armée bélarusse ne combat aux côtés de la Russie contre l’Ukraine. Pensez au paradoxe: des soldats nord-coréens, mais pas de soldats bélarusses, alors que le pays se déclare être le plus proche allié de la Russie. Le territoire du Bélarus reste un territoire en paix. Cela, les citoyens savent qu’ils le doivent en partie à Loukachenko… mais aussi en partie aux Ukrainiens qui ne désespèrent pas de retourner les Bélarusses contre Moscou, et qui ne les perçoivent pas de la même manière que les Russes.
La politique menée par Loukachenko vis-à-vis de la Russie a été caractérisée par un de mes anciens collègues bélarusses par la formule suivante: « on dit oui à tout, puis on bureaucratise au maximum le processus pour finalement ne rien faire ». C’est aussi une stratégie que les Bélarusses appliquent au quotidien vis-à-vis de leur Etat. Il y a une certaine résilience stratégique de la société bélarusse qu’on ferait bien de souligner. Ne nous laissons pas tromper par cette apparence de calme plat: le Bélarus n’est pas la Russie et suivra une dynamique qui lui sera propre.
Je suis un peu négligente dans la mise à jour de ce site, toutes mes excuses.
Je me permets de partager deux articles récents qui traitent tous deux du recrutements de combattants, en Russie et en Ukraine. Les deux partagent un point de départ: on ne mobilise pas des hommes pour combattre et perdre potentiellement la vie sur le front comme on mobilise une ressource financière, ou comme on sort des stocks un armement qui attendait d’être utilisé. Recruter des combattants engage fortement les sociétés, avec leurs valeurs, mais aussi leurs peurs et tabous.
Dans The Conversation, je m’interroge sur les raisons pour lesquelles le pouvoir russe n’a pas encore pris la décision d’envoyer des conscrits sur le front.
Dans l’article du Grand Continent, je propose une analyse des difficultés de recrutement militaire en Ukraine, au-delà des analyses courantes – que je pense erronées – qui voient dans ces analyses une preuve de la démotivation des Ukrainiens.
Tribune parue sur le site web du journal Le Monde le 19 février 2024, et dans le journal papier du 21 février 2024.
Le décalage dans la perception de la mort de l’opposant entre les Russes et les Ukrainiens éclaire sur la complexité des relations entre ceux qui font pourtant face au même ennemi, Vladimir Poutine, analyse l’universitaire, spécialiste des sociétés postsoviétiques, dans une tribune au « Monde ».
Dans les fils de mes réseaux sociaux, ce 16 février, deux mondes. D’un côté, mes contacts russes, abasourdis, endeuillés, écrasés par le chagrin de l’annonce de la mort de l’opposant Alexeï Navalny dans la colonie pénitentiaire où il purgeait une peine infligée par l’appareil répressif russe. Des portraits de Navalny, des photos prises sur les sites de commémoration spontanée où les Russes viennent se recueillir. De l’autre, le fil de mes contacts ukrainiens, écrasés par l’inquiétude et la fatigue, bouillonnants de colère, partageant les nouvelles du front, commémorant les civils et les soldats tués dans les frappes russes, collectant de l’argent pour acheter des drones ou de l’équipement militaire. Aucune trace d’Alexeï Navalny dans ces messages, mis à part, de temps à autre, un commentaire ironique sur sa mort, maniant cet humour noir et cruel qui aide les Ukrainiens à tenir dans la guerre.
Ce décalage profondément troublant n’a rien d’anecdotique. Il permet de prendre la mesure de la complexité des relations entre les Ukrainiens et les Russes opposés à la guerre, qui font pourtant face au même ennemi, le Kremlin. La figure de Navalny est le révélateur d’une incompréhension profonde de l’autre, dont les racines plongent bien plus loin que 2022.
D’Alexeï Navalny les Russes retiennent l’indéniable courage, la ténacité dans l’opposition au régime poutinien, la capacité à insuffler une foi dans un avenir meilleur. Si sa personnalité et ses choix politiques n’ont pas toujours fait l’unanimité dans les cercles opposés à Poutine, depuis son retour en Russie, en 2021, Navalny a acquis une stature symbolique qui a gommé les doutes et les clivages. De sa prison, il était devenu le leader de l’opposition russe.
Les Ukrainiens, pourtant, ont bien des choses à reprocher à Navalny. La première d’entre elles est sa position ambiguë sur l’annexion de la péninsule de Crimée par la Russie, en 2014. Tout en reconnaissant une violation flagrante des normes internationales, sur la radio Echo de Moscou, l’opposant avait suggéré aux Ukrainiens de ne pas se faire d’illusions : « La Crimée restera une partie de la Russie et ne ferait plus, dans un avenir prévisible, partie de l’Ukraine. » Aux yeux des Ukrainiens, cette posture revenait à reconnaître de fait l’annexion.
Si Navalny a cherché, par la suite, à nuancer sa position, évoquant le projet de décider du sort de la péninsule par un référendum, les Ukrainiens étaient loin de se satisfaire de cette idée, qui entretenait la vision d’une Crimée peuplée par des citoyens russes et gommait la nature violente de l’imposition d’un gouvernement russe sur place. Ce n’est qu’en 2022, déjà derrière les barreaux, que l’opposant russe a radicalement modifié sa position, en condamnant l’agression armée conduite par la Russie, et affirmé son attachement à l’intégrité territoriale de l’Ukraine dans ses frontières de 1991, incluant donc la Crimée et les républiques autoproclamées du Donbass.
Cependant, derrière les déclarations publiques, les Ukrainiens perçoivent un contentieux plus profond. En 2014, la population russe est euphorique : 88 % approuvent l’annexion de la Crimée. Ce soutien ne descendra jamais au-dessous de 86 % dans les années qui suivent. Même dans les cercles critiques du pouvoir, la majorité a continué d’approuver l’annexion de la Crimée, et, en s’inscrivant dans cette majorité, Navalny a contribué à légitimer l’agression dans les milieux de l’opposition. Mais la responsabilité personnelle de l’opposant numéro un est, aux yeux des Ukrainiens, plus lourde encore. L’affiliation passée de Navalny aux mouvements nationalistes est connue, et lui a valu une exclusion du parti politique prodémocratique Iabloko, en 2007.
Entre 2007 et 2011, il a participé à des « Marches russes » – qu’il a parfois coorganisées –, manifestations annuelles de différentes mouvances nationalistes et ultranationalistes du pays. Internet garde la trace de sa violence verbale à l’égard des migrants en général, et des habitants du Caucase en particulier.
On reproche aussi à l’opposant son discours méprisant sur l’Ukraine. Ainsi, dans une vidéo de 2019, tout en reconnaissant l’élection démocratique de Volodymyr Zelensky, Navalny décrit un pays en déliquescence, dirigé par des élites qui sont « une bande de salopards tellement corrompus que nos propres salopards corrompus se sentent complexés ». Difficile de dire, dans ces positionnements, ce qui relève d’une conviction profonde, d’un bon mot lâché à la va-vite ou d’un ajustement stratégique aux préférences des citoyens russes.
Au fond, peu importe : ces éléments font de Navalny, aux yeux d’un certain nombre d’Ukrainiens, une autre tête du même monstre politique, une deuxième émanation d’un impérialisme russe profondément enraciné. Par son soutien à l’annexion de la Crimée, mais aussi par son dénigrement de ce qui est non russe, Navalny apparaît, aux yeux de certains Ukrainiens, comme coresponsable de l’agression de la Russie contre l’Ukraine. Si, bien évidemment, il n’est pas celui qui a orchestré l’invasion, il a été jugé responsable, parmi d’autres personnalités qui comptent aux yeux de la population, d’avoir contribué à légitimer l’idée de l’agression et l’idéologie qui la sous-tend.
Au-delà de la figure de Navalny, le reproche est adressé à ceux que l’on qualifie en Ukraine – les guillemets sont importants – de « bons Russes », ceux qui condamnent la guerre, mais partagent les idées impérialistes du pouvoir, qui s’opposent au Kremlin, mais font le choix de l’exil plutôt que du soulèvement, qui souhaitent la fin de la guerre, mais refusent d’y prendre part, laissant les Ukrainiens combattre le pouvoir russe et mourir à leur place.
Avec ces « bons Russes », pas de discussion possible. La possibilité d’un dialogue entre les deux sociétés repose, aux yeux des Ukrainiens, sur deux préalables : la reconnaissance et l’abandon de la posture impérialiste de la société russe vis-à-vis de ses voisins, d’une part ; l’engagement dans un combat contre le pouvoir poutinien, d’autre part.
Prendre le chemin de ce dialogue demanderait aux opposants russes de se détacher explicitement d’une partie de l’héritage de Navalny – la posture nationaliste grand-russe – pour embrasser l’autre dimension de cet héritage, à savoir le courage, la colère et l’inventivité de l’homme qui a défié le Kremlin.
Anna Colin Lebedev est maîtresse de conférences en science politique (UFR droit et science politique, université de Nanterre).
Ce carnet se devait de partager une histoire de Noël: la voici. Une histoire en apparence anecdotique, liée à une comédie romantique soviétique qui se passe la nuit du 31 décembre. Une histoire dont le sens politique est saisissant.
Tous ceux qui ont mis, de près ou de loin, un pied en Russie ces dernières décennies, ont entendu parler de L’ironie du sort, comédie romantique soviétique sortie en 1976 dont l’action se passe le soir du réveillon du Nouvel an. La publication par l’anthropologue russe Alexandra Arkhipova d’un article déconstruisant une idée reçue liée à ce film classique, celle qui le présente comme une tradition de longue date des célébrations des fêtes de fin d’année en Russie, a jeté un certain trouble dans les réseaux sociaux russophones.
La comédie de Eldar Riazanov est souvent décrite comme un film qui accompagne le 31 décembre des Russes à chaque passage vers l’année nouvelle, ceci depuis de longues années, dans une continuité qui dépasse les changements de régime. Un élément fort de l’identité culturelle soviétique, puis russe. La page Wikipédia française du film reprend aussi ce cliché en parlant de « comédie culte du cinéma soviétique, dont la diffusion chaque année à la télévision le 31 décembre est devenue une tradition, même dans la Russie d’aujourd’hui« .
Faux, répond Arkhipova, statistiques des programmes TV à l’appui. Le film sorti en 1976 est, certes, diffusé l’année de sa sortie, puis en 1977 et 1979, mais ensuite il n’est montré que trois fois dans la décennie suivante. Pas de quoi en faire un film culte tout au long des dernières années soviétiques; surtout, pas de quoi déclarer que le film est depuis sa sortie un incontournable du programme des festivités télévisuelles.
L’analyse statistique des programmes de télévision montre que L’ironie du sort ne revient en grâce sur les principales chaînes de la télévision qu’au milieu des années 1990, en même temps que d’autres programmes qui jouent sur la nostalgie de l’époque soviétique. Mais c’est dans les années 2000 que sa diffusion explose (plusieurs dizaines de diffusion chaque 31 décembre, sur plusieurs chaînes) et que les chaînes de télévision lui attribuent ce caractère de film fondateur des traditions festives russes. L’ironie du sort, présentée comme un rituel partagé par le monde russophone, devient ainsi, par l’action des médias contrôlés par l’Etat, une tradition inventée au sens d’Hobsbawm et Ranger: une pratique récente à laquelle on attribue un caractère traditionnel afin d’en faire un réceptacle des valeurs du groupe ou un support de légitimité. Le groupe de référence ici, c’est la nation russe, mais au-delà, toutes les nations ayant fait partie de l’Union soviétique qui sont supposées avoir partagé ce rituel depuis les années 1970.
La publication de l’article d’Arkhipova qui montre la construction récente et artificielle de cette « tradition » a provoqué des remous dans les réseaux sociaux russophones. Beaucoup de commentateurs l’accusent avec indignation de manipuler les données, et jurent avoir regardé le film le 31 décembre de chaque année à l’époque soviétique, ce que les programmes de télévision de l’époque démentent. Ces faux souvenirs implantés dans l’esprit des spectateurs montrent bien la force du matraquage des grandes chaînes russes de télévision, capables de créer en quelques années des illusions mnésiques frappantes. La puissance du faux souvenir est intéressante en soi; elle l’est encore plus quand on comprend le rôle politique qui lui est attribuée.
La mythologisation consciente du film a lieu dans les années 2000, et c’est dans ces mêmes années qu’on voit se cristalliser une réhabilitation officielle du passé soviétique. Lorsqu’en 2010, Vladimir Poutine affirmait que celui qui ne regrettait pas la disparition de l’URSS n’avait pas de cœur, j’avais tendance à penser que c’est à l’Union soviétique telle qu’elle est montrée dans L’ironie du sort qu’il faisait référence: un univers quotidien reconnaissable, le décor familier des villes brejnéviennes, un univers urbain, rassurant, pacifique, plutôt centré sur la vie de famille. Le même que l’on retrouve par exemple sur les tableaux du peintre du Tatarstan Ilguiz Guimranov.
L’URSS de L’Ironie du sort est un pays à mille lieux de ce l’URSS imaginaire des observateurs occidentaux. C’est un univers idéologiquement neutre, riche en émotions, peuplé de personnages fragiles. Les hommes y sont plus vulnérables que virils, les femmes se montrent autonomes et directives. Aucune posture militariste, aucune référence à l’Occident, aucun bâtisseur de communisme en vue. Il m’est souvent arrivé d’utiliser ce film, ainsi qu’un autre film du même réalisateur, pour expliquer la répartition genrée des rôles sociaux à l’époque soviétique, mal comprise et méconnue dans les pays occidentaux. C’est sans doute parce qu’il est une comédie de Noël humaniste qui met en valeur des dimensions non controversées de l’histoire soviétique, que le film fait un retour sur les écrans au milieu des années 1990, quand la déception monte face à une transition démocratique qui ne tient pas ses promesses. Mais c’est un tournant différent qui est pris lorsqu’il a été décidé – et je n’ai pas assez creusé le sujet pour dire comment a été prise cette décision – d’en faire un symbole de célébration nationale, un symbole de la continuité entre le passé et le présent, une passerelle immuable de l’année qui s’écoule vers l’année nouvelle.
L’ironie du sort n’est pas uniquement un symbole national: le film a aussi été un puissant support de soft power à l’extérieur des frontières russes, couplé à d’autres marqueurs doux du soviétisme comme les produits alimentaires nostalgiques ou les dessins animés pour enfants. La popularité du film dans les pays de l’ex-URSS a été considérable. L’ironie du sort a été ainsi diffusée dans les périodes de fêtes de fin d’année par des chaînes de télévision en Ukraine et en Moldavie, au Belarus et au Kazakhstan, en Lettonie ou en Lituanie, pour ne citer que ceux-là. Il n’existe pas à ma connaissance d’étude sur le public et la réception du film dans ces pays. La diffusion du film n’y avait cependant pas le même statut gravé dans le marbre qu’en Russie. Il me semble que le rituel a cependant circulé, s’est diffusé, soutenant l’idée d’un référentiel culturel commun, de l’appartenance à un même espace. Le « Monde russe » était en grande partie l’univers de L’ironie du sort.
Le glissement de la politique d’influence russe vers des actions plus belliqueuses a été suivie, à l’extérieur de la Russie, d’une prise de distance vis-à-vis des produits culturels tels que L’ironie du sort: destinés aux russophones, entretenant une nostalgie de l’époque soviétique, et conduisant à certains moments à des positions politiques pro-russes.
Au-delà de l’effet possible du film sur les esprits des citoyens, une autre dimension, invisible à la plupart des spectateurs russes, joue dans la méfiance vis-à-vis du film. L’universel soviétique dont L’ironie du sort est voulue l’incarnation, n’est pas si universel que cela. L’univers cosy et feutré qu’il décrit est celui, prospère, de Moscou et Leningrad; les héros du film sont des Russes des grandes villes; les références culinaires et musicales sont, elles aussi, étroitement russes. Aujourd’hui où la culture russe est de plus en plus vue dans les anciennes périphéries de l’Empire comme un outil d’homogénéisation et d’écrasement des cultures locales, L’ironie du sort peut être perçue comme un outil d’imposition d’une idée de centralité de la culture russe, un outil du maintien de la domination coloniale.
En Ukraine, le rejet du film ne s’est pas fondé dans un premier temps sur une critique de l’imposition culturelle. Suite à l’annexion de la Crimée et au début de la guerre dans le Donbass en 2014, la critique s’est concentrée sur certains acteurs du film qui avaient publiquement soutenu l’annexion et visité la Crimée occupée. La diffusion d’œuvres avec la participation de ces stars du cinéma a été interdite dans les médias ukrainiens. En 2014, l’initiative « Boycott du cinéma russe » a lancé une campagne publique contre le cinéma du pays agresseur, accusé de diffuser des messages d’héroïsation des bourreaux du régime soviétique. Dès 2017, la critique cible L’ironie du destin. Si l’interdiction de diffusion du film qui n’a pas été officiellement actée, il n’a plus sa place à la télévision ukrainienne depuis l’agression russe, tout comme d’autres productions russes. Seulement 12% d’Ukrainiens avouent en 2022 consommer des produits médiatiques russes. Si ce chiffre masque certainement une sous-déclaration, il nous renseigne clairement sur une chose: regarder un média russe n’est plus une pratique socialement approuvée en Ukraine.
Sur le terrain cependant, les choses sont bien plus complexes. Ce n’est pas tant le vieux classique L’ironie du sort qui donne du fil à retordre à l’Etat ukrainien, qu’un produit culturel russe nouveau: la série Parole de garçon (la traduction du titre est très mauvaise) mettant en scène des gangs criminels d’une ville de province dans les dernières années soviétiques.
Massivement visionnée sur des sites pirates par les jeunes Ukrainiens, la série est accusée par le Ministère de la culture ukrainien de promouvoir les valeurs de l’ennemi et d’être un outil de propagande utilisé par l’agresseur. Des personnalités ukrainiennes se joignent à la critique. « Toutes ces signes d’approbation et ces commentaires du genre ‘retournons en URSS’ sont aussi dangereux que la guerre elle-même« , affirme l’actrice ukrainienne Irma Vitovska.
Comment comprendre la popularité de la série, y compris en temps de guerre? Pour certains, la raison de son succès est l’identification – problématique – des jeunes des banlieues ukrainiennes, connaissant leur lot de misère et de violence, au monde des banlieues russes des années 1980. Pour d’autres, c’est l’absence de contenus de qualité produits récemment en Ukraine qui amène les adolescents à télécharger du contenu russe. En tout cas, le scandale provoqué par la popularité de cette série montre la complexité du paysage culturel ukrainien, mais aussi la politisation de plus en plus grande des produits culturels et de la consommation de la culture.
Ni le film de réveillon, ni la série pour jeune public, ne peuvent aujourd’hui être regardés indépendamment du contexte politique de la guerre.
Article publié par Le Grand Continent, dans le cadre du sommet en Vallée d’Aoste.
Est-il possible de penser l’après-guerre en Ukraine aujourd’hui ? Ce projet n’a rien d’évident, à un moment où la guerre est dans une phase difficile, et où il devient certain qu’elle demandera aux Ukrainiens comme aux partenaires de l’Ukraine du courage, des ressources et du temps, pour une durée qu’il est impossible d’anticiper aujourd’hui.
Pourtant, réfléchir à l’après-guerre, ce n’est pas seulement penser l’avenir de ce pays, c’est aussi comprendre ce qui, dans le présent, construit cet avenir. Penser l’Ukraine de demain est donc une manière importante de soutenir celle d’aujourd’hui en comprenant mieux quelles sont ses fragilités et ses forces, ses héritages et ses transformations.
Le concept même d’après-guerre, en apparence transparent, n’est pas une réalité empiriquement aisée à cerner. Les limites de la guerre sont ambiguës, et les sciences sociales se sont saisies ces dernières années de cette ambiguïté pour questionner la frontière entre la guerre et la paix. À rebours des conflits racontés par les manuels scolaires où l’on peut délimiter clairement un état de guerre et un état de paix, une déclaration de guerre qui fait office de moment zéro et la signature d’un document qui en marque l’arrêt, une période de violence à laquelle succède une période de non-violence, un grand nombre de conflits armés, qu’ils soient contemporains ou plus anciens, présentent des configurations plus fluides. Très souvent, l’usage de la violence armée n’est pas précédé d’une déclaration de guerre, d’autant qu’elle ne se limite pas forcément au temps de guerre. Les logiques et hiérarchies sociales construites dans la guerre trouvent leur fondement dans la structure sociale d’avant-guerre, et ne disparaissent pas dans l’après-guerre. Enfin, les situations de « ni guerre, ni paix »1, qui sont des états sociaux à la qualification incertaine, ont cessé d’être considérés comme anormales ou transitoires, pour être questionnées par les chercheurs dans la durée et dans leur configuration propre.
Devant une actualité du Proche-Orient qui occupe une grande partie de la couverture médiatique de l’actualité internationale, une inquiétude se fait entendre : celle du risque d’oublier l’Ukraine, occultée par une autre guerre. Le recentrement des médias sur le Proche-Orient n’est pourtant que le révélateur d’une question qui se pose depuis plusieurs mois déjà : celle de trouver la bonne manière de parler de la guerre en cours sur le continent européen. Il me semble que nos sociétés n’ont pas oublié la guerre en Ukraine ; elles ont plutôt une difficulté croissante à la penser.
Depuis le début de l’agression russe en février 2022, j’ai été très fréquemment invitée par les médias, les associations, les groupes de réflexion à parler de la guerre. Mon observation personnelle – qui n’a pas la prétention d’aller au-delà – est que ces derniers mois, l’intensité des sollicitations n’a pas baissé, mais que le spectre des questions a considérablement rétréci, pour porter essentiellement sur la réussite ou l’échec des opérations militaires ukrainiennes ; sur le maintien et les fluctuations du soutien international à l’Ukraine ; sur la figure de Vladimir Poutine et sa puissance ; sur le soutien de la population russe au pouvoir.
Loin de moi l’idée d’accuser les médias, dont le travail est souvent remarquable dans cette guerre, de l’appauvrissement des questionnements. Il me semble plutôt que cette réorientation de la couverture médiatique révèle les failles de nos propres réflexions.
La guerre s’installe dans la durée : c’est un constat factuel que l’on fait au bout de un an et huit mois de conflit armé. Cependant, la frontière est mince entre ce constat et une certaine normalisation de la guerre que nous l’on accepte de voir installée dans le quotidien de l’actualité, voire dans le quotidien tout court. En 2022, la guerre semblait inacceptable ; en 2023, elle est décrite comme inévitable. Les drapeaux ukrainiens ont été enlevés petit à petit des bâtiments publics, mais aussi des fenêtres de nos concitoyens. Ce revirement n’est pas l’effet de notre indifférence : il est l’écho social de l’impossibilité à trouver une solution politique de la guerre.
La difficulté croissante à concevoir la fin de la guerre a transformé la couverture médiatique. Celle-ci ne porte plus tant sur les « enjeux » – la sortie de guerre – que sur le « jeu », à savoir les opérations armées, observées sous l’angle du succès et des échecs sur le champ de bataille. Il est alors logique que la question des armes présentes sur le front et de leurs livraisons prenne une place centrale dans les médias. Il est logique également qu’un manque de coups d’éclats dans le « jeu », d’événements que l’on puisse présenter comme des « victoires » ou des « défaites », crée l’impression d’une guerre enlisée, d’une actualité molle et répétitive. Une guerre qui peut donc bien être mise de côté pendant quelque temps, à la faveur d’une actualité plus brûlante, puisqu’au fond il ne s’y passe pas grand-chose.
« Il ne s’y passe pas grand-chose » : un constat qui est évidemment très loin du vécu de la guerre côté ukrainien. Les attaques russes de missiles et de drones ne se sont jamais arrêtées, continuant à faire des morts parmi les civils partout sur le territoire. Des cercueils ne cessent de revenir du front, posant avec de plus en plus d’acuité la question du coût humain de la guerre. Posant aussi à chaque civil ukrainien la question douloureuse : suis-je prêt à être le suivant à partir et à mourir sur le front ? Les Ukrainiens n’ont de cesse de collecter l’aide pour tout ce qui continue à manquer : véhicules, équipement militaire, matériel médical… Non, la guerre n’a jamais baissé d’intensité pour eux, et les nouvelles de l’attaque du Hamas contre Israël n’ont fait que s’intercaler entre les bilans des bombardements russes et les nouvelles du front. Les Ukrainiens n’ont pas le luxe de changer de focus médiatique. Leur guerre est un long tunnel sans haltes ni trêves, un tunnel dont il est pourtant indispensable de voir le bout pour continuer à avancer.
A plusieurs reprises, j’ai entendu les Ukrainiens exprimer la perception que le soutien militaire occidental était formaté pour être juste suffisant pour éviter l’effondrement, pour permettre au front de tenir, mais certainement pas pour gagner militairement la guerre. « On nous laisse survivre à petit feu », disent certains, et c’est une certaine manière de dire « on nous laisse mourir à petit feu ».
Paradoxalement, c’est la capacité de l’Ukraine à contenir l’avancée russe, ainsi que notre capacité à tenir le choc de la crise énergétique l’hiver dernier, qui ont eu pour effet d’émousser la conscience d’une guerre à nos portes. La guerre a cessé d’être une urgence qui nous concerne directement. Le président russe avait affirmé clairement en 2022 que l’Occident était son adversaire principal ; cette donnée-là se noie dans le détail du suivi des batailles. La capacité de l’Ukraine à tenir permet à nos sociétés de refaire de la guerre un problème localisé, un problème ukrainien, un problème extérieur à nos préoccupations. Une guerre qui serait de moins en moins la nôtre.
Les Ukrainiens n’ont de cesse, depuis le début de la guerre, de chercher de nouvelles manières de parler de leur pays. Ils ont compris que l’enjeu était de rendre palpable ce que nous partageons avec eux : une commune humanité, mais aussi des références culturelles communes et des questions de société similaires. Un exemple de ces initiatives : le Laboratoire de journalisme d’intérêt public a lancé un projet destiné à mieux faire comprendre ce qui se passe en Ukraine aux journalistes africains et latino-américains. Rapprocher les questionnements, créer des parallèles. Sans échapper à un certain nombre de clichés tenaces, l’Ukraine est devenue de mieux en mieux connue dans nos sociétés. On ne peut dire la même chose de la Russie.
La Russie est un autre impensé de la guerre. La finesse de notre expertise sur la Russie et de notre compréhension de ses dynamiques internes diminue. Il est vrai que le terrain russe est devenu de plus en plus fermé . Les rares journalistes occidentaux qui peuvent encore y exercer font un travail remarquable, dans des conditions très contraintes. Les chercheurs ne se rendent plus en Russie que de manière exceptionnelle, et craignent de faire prendre des risques à leurs interlocuteurs, même en les interrogeant à distance. Des projets émergent, cherchant d’autres manières d’approcher le terrain russe. Cependant, le riche travail d’analyse qui est fait par les uns et les autres semble se noyer parfois dans le flot des commentaires circulant dans les médias qui souffre de plusieurs biais : une focalisation sur la figure de Vladimir Poutine et occasionnellement d’une petite poignée de personnages dans son entourage, un souci de dénonciation qui se fait au détriment de la compréhension, un plaquage des grilles analytiques formatées pour les sociétés occidentales. Pour le dire brutalement, le Kremlin, les falsifications des élections et la soumission de la population font le gros des débats du moments. Or, penser un pays de 140 millions d’habitants étalé sur onze fuseaux horaires comme gouverné par une poignée de dignitaires, avec pour seule logique la soumission, ne peut être que très réducteur. Nous avons une difficulté à concevoir la Russie comme un système complexe, avec ses jeux d’équilibre, ses modes de répartition du pouvoir et de compétition interne, ses distributions de bénéfices et ses manières d’absorber les chocs. Comprendre finement ce qui se passe à l’intérieur de la Russie est pourtant un enjeu majeur, précisément pour penser la sortie de guerre et nos relations avec ce pays. Nous, chercheurs, avons une responsabilité sur cette question : c’est à nous de proposer de nouveaux cadrages et de nouveaux sujets, de partager nos questionnements et nos intuitions au-delà des institutions universitaires.
Pour recommencer à penser la guerre en Ukraine et à en parler, il est enfin indispensable de reprendre conscience du fait qu’elle ne peut pas être une nouvelle normalité. J’aurais pu dire « ne doit pas être », et rejoindre en cela le discours du droit international qui n’autorise pas à entériner une agression armée. Je préfère dire « ne peut pas être », car cette guerre n’est pas un état d’équilibre.
Ni pour l’Ukraine, ni pour la Russie, ni pour nos pays.
Connexion