IA et redevabilité : la confiance ne s'automatise pas
Imaginez une ligne d'écoute humanitaire toujours disponible. Une voix qui répond à toute heure, dans la langue de la personne qui l'appelle. Elle recueille les besoins, oriente vers le service le plus proche, enregistre une plainte. Elle ne s'impatiente jamais, ne juge jamais. Tout indique que quelqu'un écoute. Mais derrière, il n'y a personne.
Ce scénario n'a plus rien de futuriste. Les grands modèles de langage ont rendu possible, en quelques mois, ce qui paraissait lointain il y a encore trois ans. Et les organisations humanitaires, prises entre des besoins qui explosent et des financements qui reculent, sont naturellement tentées.
Dans son numéro 32, consacré à l'intelligence artificielle, la revue Alternatives Humanitaires publie une analyse de trois praticiens reconnus du secteur : Charly Pierluigi (Groupe URD), Maëve de France (CartONG) et Simon Weiss (Humanité & Inclusion). Leur question est simple, et elle nous concerne directement : l'IA renforce-t-elle la confiance et la participation des communautés, ou risque-t-elle de les vider de leur sens ?
Leur réponse est nuancée, et c'est ce qui la rend précieuse. Nous en reprenons ici les grandes lignes, avec notre propre lecture de praticiens.
Deux façons d'utiliser l'IA avec les communautés
Les auteurs distinguent deux familles d'usages, qui ne soulèvent pas les mêmes questions.
Face aux populations : les chatbots et au-delà
La plus visible est l'interface directe. Pour une personne affectée par une crise, le changement le plus concret est de pouvoir poser une question à un service numérique, sur un canal qu'elle utilise déjà, et d'obtenir une réponse rapide.
Derrière une apparence conversationnelle très semblable, les choix techniques diffèrent profondément :
- Les chatbots à parcours prédéfinis guident l'utilisateur à travers des menus et des réponses validées à l'avance. C'est le cas de Clara, le chatbot de la Croix-Rouge américaine.
- Les chatbots fondés sur de grands modèles de langage traitent des questions formulées librement, en temps réel et dans de nombreuses langues. Signpost, lancé en 2015 par l'International Rescue Committee et Mercy Corps, a ainsi évolué vers Signpost AI, qui repose depuis 2024 sur plusieurs modèles de langage.
Les deux approches répondent à des besoins réels. La première offre davantage de contrôle sur l'information délivrée, la seconde davantage de souplesse. Mais les auteurs rappellent un point essentiel : une réponse fluide et convaincante n'est pas nécessairement exacte. Même lorsqu'un modèle est relié à une base documentaire validée par l'organisation, rien ne garantit à lui seul que la réponse soit juste, ni adaptée à une situation sensible.
L'IA ouvre aussi de nouvelles façons d'écouter : messages vocaux, textes libres, échanges sur WhatsApp ou par serveur vocal. La traduction automatique et la reconnaissance vocale peuvent rendre ces canaux accessibles aux personnes qui ne lisent pas, ou en situation de handicap. Elles peuvent aussi, notent les auteurs, accroître l'exclusion de celles et ceux qui n'ont pas d'accès sûr au numérique.
En coulisses : trier, traduire, analyser
La seconde famille est moins visible, mais peut-être plus transformatrice. Transcription, traduction, classification, structuration : ces opérations, devenues quasi instantanées, permettent de traiter des volumes de retours qu'aucune équipe n'aurait pu absorber. Des messages vocaux en langues locales, longtemps difficiles à exploiter, deviennent analysables à grande échelle.
Au-delà du traitement, l'IA aide à interpréter : repérer des tendances, prioriser des besoins, détecter des signaux faibles, croiser des sources. Elle nourrit aussi des logiques d'anticipation. GiveDirectly utilise par exemple des signaux de risque d'inondation au Bangladesh et au Nigeria pour déclencher des transferts monétaires avant la catastrophe.
Ce déplacement est central. Comme l'écrivent les auteurs, l'IA « ne se contente pas de traiter les données issues des communautés, elle participe à la manière dont celles-ci sont interprétées, priorisées et transformées en action ». Autrement dit, elle ne se contente plus d'outiller la décision : elle commence à la façonner.
La confiance, condition de toute redevabilité
La redevabilité envers les populations affectées repose sur un exercice responsable du pouvoir. Et ce pouvoir ne peut s'exercer légitimement qu'à une condition : la confiance. C'est elle qui permet aux communautés de partager leurs données, leurs besoins, leurs plaintes.
L'IA peut renforcer cette confiance, ou l'abîmer. Les auteurs citent à ce sujet l'expérience du SOLIS Bot au Liban : une part significative des utilisateurs a déclaré préférer, sur certains sujets, échanger avec le chatbot plutôt qu'avec une personne. Ce résultat, soulignent-ils, traduit moins un rejet du contact humain qu'une forme de confiance envers l'organisation elle-même, qui facilite le partage d'informations.
Ils relèvent aussi un choix délibéré : pas d'IA générative en contact direct avec les utilisateurs, mais un arbre de décision dont chaque message est rédigé et validé par des équipes humaines. Ce choix, nous le faisons depuis le début, et cette analyse en éclaire bien la raison : dans les contextes critiques (demande d'asile, accès aux services essentiels, information de santé), une information erronée peut avoir des conséquences graves et entamer durablement la légitimité d'une organisation.
La confiance est lente à construire, et rapide à perdre.
Participation réelle ou « participation washing » ?
Si la confiance conditionne la redevabilité, la participation réelle conditionne la confiance. C'est sur ce point que l'IA pose, selon les auteurs, les questions les plus exigeantes.
Co-concevoir dès le départ. Impliquer les communautés dès la définition du problème, et pas seulement en phase de test, est la première condition d'un déploiement légitime. Sans cela, l'outil reflète les besoins que les organisations projettent sur les populations, pas ceux qu'elles vivent.
Corriger les biais de langue et de culture. Les modèles d'IA sont en grande partie entraînés sur des contenus occidentaux et anglophones. Ils risquent d'invisibiliser les populations du Sud global et de passer à côté des subtilités locales du langage. Des initiatives comme Masakhane, autour des langues africaines, ou « 4 milliards de conversations » de Clear Global cherchent à combler ce fossé.
Rééquilibrer le pouvoir. L'IA ne doit pas devenir un instrument d'extraction : collecter des données sans retour pour les communautés, décider à distance sur la base d'algorithmes opaques, ou entretenir l'illusion d'une consultation sans influence réelle sur les choix. Ce risque de participation washing est d'autant plus insidieux que les outils numériques lui donnent une apparence de modernité et d'inclusion. Les auteurs vont jusqu'à évoquer une forme de « technocolonialisme ».
Garder l'humain accessible. L'IA peut libérer du temps et traiter des volumes importants. Mais l'accès à un travailleur humanitaire doit rester possible dès qu'une demande touche à un droit, à une protection ou à une situation sensible. Leur formule est limpide : « La technologie peut appuyer la relation ; elle ne peut se substituer à la responsabilité de répondre. »
Les zones de friction
Les auteurs identifient plusieurs tensions que l'enthousiasme, souvent légitime, pour la transformation numérique ne doit pas masquer.
Le piège du technosolutionnisme
La technologie ne résout pas les problèmes qui précèdent son déploiement : fracture numérique, inégalités d'accès, déséquilibres de représentation dans les données. Elle peut même les masquer. Le risque, écrivent-ils, est de « déplacer l'attention et les ressources de la relation humaine vers l'outil, tout en créant l'illusion d'une redevabilité modernisée et fantasmée ».
L'écoute n'est pas un enregistrement
Le tri automatique de grands volumes de retours a une utilité réelle. Mais une machine ne perçoit pas ce qui n'est pas dit, ne contextualise pas une demande, ne montre pas à une personne qu'elle a été entendue. Pour les auteurs, l'écoute « est aussi un acte de reconnaissance ». Lorsqu'un chatbot devient le point d'entrée principal, voire unique, d'un mécanisme de plaintes, l'organisation fait de l'accès à une machine la condition de l'écoute.
Cette tension est particulièrement forte en matière de protection et de soutien psychosocial. Une interface peut informer, orienter ou signaler une urgence. Elle « ne peut prendre la responsabilité d'une relation d'aide ».
Qui contrôle l'infrastructure ?
Capacités de calcul et hébergement sont concentrés entre les mains de quelques acteurs privés, principalement américains. Or une gestion responsable des données exige de pouvoir expliquer, à tout moment, comment une donnée est collectée, stockée, traitée, partagée et supprimée. Quand cette chaîne dépend d'entités opaques et difficiles à auditer, la confiance promise aux communautés repose sur une infrastructure que l'organisation ne maîtrise plus.
Les auteurs soulignent aussi que ces technologies sont à double usage. Selon plusieurs enquêtes qu'ils citent, des composants proches de ceux qu'utilisent aujourd'hui les organisations humanitaires auraient servi à produire des recommandations de ciblage militaire à grande échelle. Cette proximité n'interdit pas l'usage de l'IA, mais elle impose de regarder lucidement ce que le secteur délègue, et à qui.
D'autres coûts restent hors champ : le travail d'annotation et de modération souvent externalisé dans des conditions précaires, l'empreinte environnementale de systèmes déployés à grande échelle, et des garde-fous éthiques pensés d'abord pour le marché américain, qui offrent une protection incertaine ailleurs.
Des compétences qui manquent
La réponse ne peut être seulement juridique. Elle passe par des compétences internes : des profils capables d'auditer des flux de données, de déployer des modèles, d'en évaluer les limites et de négocier en connaissance de cause. Des alternatives existent : les meilleurs modèles dits « à poids ouverts » rattrapent en quelques mois les modèles fermés les plus avancés, et permettent des hébergements maîtrisés et des mutualisations sectorielles. La vraie question, rappellent les auteurs, n'est pas seulement quel outil utiliser, mais « qui contrôle les conditions techniques de la confiance ».
Or, selon une étude de mars 2026 qu'ils citent, seules 35,7 % des organisations interrogées disposent d'une politique sur l'IA. Le défi est d'autant plus grand pour les ONG locales et nationales, dont le rôle grandit, dans un environnement technologique de plus en plus complexe.
Les bonnes questions à se poser
Le cœur de l'analyse tient en une idée : la redevabilité n'est pas la perfection d'un service ininterrompu. C'est la capacité d'une organisation à reconnaître ses limites, à dire ce qu'elle peut faire, et surtout à répondre de ce qu'elle ne peut pas faire. Une machine, elle, ne reconnaît ni le doute ni l'erreur.
Pour les auteurs, confondre la production de texte avec la communication réduit la redevabilité à une fonction technique, alors qu'elle est « un acte politique ». Avant tout déploiement, ils proposent donc de se demander :
- Pourquoi recourir à l'IA ?
- À la place de quoi ?
- Au bénéfice de qui ?
- Avec quelle possibilité, pour les communautés, de contester les décisions qui les concernent ?
Et ils posent des principes clairs : ne pas nuire, obtenir le consentement, minimiser les données, ne jamais attribuer une aide sur la base d'une décision automatisée. Garder les communautés dans la boucle dès la conception, comme sujets et non comme simples fournisseuses de données. Maintenir un accès réel à un interlocuteur humain pour la protection et les droits essentiels, en acceptant que cet accès ait un coût. Investir dans les compétences internes.
Ce que cela signifie pour nous
Cette analyse rejoint des choix que nous avons faits très tôt avec le SOLIS Bot, et elle nous aide à les formuler plus clairement.
Pas d'IA générative face aux personnes. Chaque message reçu par une personne affectée a été écrit et validé par une équipe humanitaire. Nous acceptons de perdre en souplesse pour garantir l'exactitude de ce qui est dit, et la possibilité d'en répondre.
Un complément, jamais un substitut. Le bot s'ajoute aux visites de terrain, aux lignes téléphoniques et aux boîtes à plaintes. Il absorbe les demandes simples pour libérer du temps humain pour ce qui l'exige.
Le bot ne décide jamais seul. Un seuil d'alerte franchi produit une notification aux équipes, jamais une action automatique. Aucune assistance n'est attribuée sur la base d'un traitement automatisé.
Minimiser, toujours. Nous ne collectons que le strict nécessaire, avec consentement, et certaines données ne transitent jamais par ce canal. L'infrastructure est hébergée en France, conforme au RGPD, et régulièrement auditée.
Un bien commun plutôt qu'un produit. Mutualiser l'outil entre organisations, y compris des ONG locales, c'est aussi répondre à la question de la maîtrise : qui contrôle l'infrastructure, qui décide de son évolution, à qui elle rend des comptes.
Ces choix ne règlent pas tout. Les biais d'accès au numérique restent réels, la co-conception avec les communautés demande du temps que les projets n'ont pas toujours, et la tentation d'automatiser davantage grandira avec la pression budgétaire. Mais ils donnent un cap.
Décider ensemble de ce qu'on confie aux machines
L'intelligence artificielle est entrée dans le secteur humanitaire, et elle n'en sortira pas. La question n'est donc plus de savoir s'il faut l'utiliser, mais de décider collectivement ce qui peut lui être confié. Cette décision, rappellent les auteurs, est déjà en soi un acte de redevabilité.
Leur conclusion mérite d'être citée telle quelle : « L'enjeu n'est pas d'humaniser les machines. C'est de ne pas déshumaniser l'action humanitaire. »
Nous partageons cette conviction. Si vous travaillez sur ces questions, que vous construisiez des outils, que vous les évaluiez ou que vous hésitiez à vous lancer, nous serons heureux d'échanger : solisbot@solidarites.org.
Cet article s'appuie sur « Organisations humanitaires et communautés affectées : une relation à l'épreuve de l'intelligence artificielle », de Charly Pierluigi, Maëve de France et Simon Weiss, publié le 29 juillet 2026 dans Alternatives Humanitaires, numéro 32 « Intelligence artificielle : usages, tensions et enjeux ». Lire l'article original sur Alternatives Humanitaires