Les risques de l'IA
Mais les risques sont réels, documentés, et souvent invisibles. Des sous-traitants kenyans traumatisés aux modèles qui pourraient dépasser notre contrôle — voilà ce qu'on ne dit pas assez.
Le coût humain caché
Pour qu'un LLM soit "sûr", des milliers de personnes lisent les pires contenus du web. Au Kenya, payées moins de 2 $ de l'heure.
En janvier 2023, TIME révèle qu'OpenAI a sous-traité la modération de contenus toxiques à Sama pour environ 200 000 $. Ces employés gagnaient entre 1,46 $ et 3,74 $ de l'heure pour lire des descriptions de torture, d'abus sexuels sur enfants et de violence extrême.
En mai 2023, 190+ modérateurs créent le premier syndicat africain de modération. 140+ sont diagnostiqués SSPT par l'hôpital Kenyatta de Nairobi dans le cadre d'un procès contre Meta et Sama.
Cori Crider (ONG Foxglove) : "L'externalisation est une tactique pour se distancer des conditions de travail épouvantables." Ces travailleurs gagnaient triple du salaire minimum kenyan — mais cela restait insuffisant face au traumatisme subi.
Discrimination amplifiée
L'IA apprend sur nos données. Si ces données reflètent des discriminations historiques, le modèle les reproduit — à grande échelle, automatiquement.
Les biais viennent des données d'entraînement. Si ces données reflètent des inégalités historiques, le modèle les apprend et les reproduit — souvent sans que personne ne s'en rende compte jusqu'à ce qu'une enquête soit publiée.
L'AI Act européen classe les IA de recrutement comme systèmes à haut risque depuis 2026 : supervision humaine obligatoire, audit, information des candidats. Un candidat doit pouvoir demander une explication à toute décision automatisée.
Manipulation visuelle
Des images, des voix, des vidéos indiscernables du réel. Les usages malveillants se multiplient — et la détection prend du retard.
Une fake news se répand 6× plus vite qu'une vraie sur les réseaux sociaux (MIT 2018). L'IA amplifie ce phénomène en permettant de créer du contenu faux convaincant à grande échelle.
L'International AI Safety Report (Bengio 2025) : "Le principal obstacle n'est plus la génération du contenu falsifié — c'est sa distribution à grande échelle." Les réseaux sociaux ont donc une responsabilité centrale.
Des standards existent (Content Credentials, C2PA, watermarking) mais restent fragiles face à des modèles qui évoluent rapidement.
Impact économique
L'automatisation crée et détruit des métiers depuis toujours. L'IA accélère ce processus — avec des effets très inégaux selon les profils.
Le FMI estime que 40% des emplois mondiaux sont exposés à l'IA — 60% dans les pays riches. "Exposé" ne signifie pas "supprimé" : beaucoup de métiers seront transformés, pas remplacés entièrement.
Ce qui résiste : empathie, créativité originale, travail physique complexe et adaptatif, jugement éthique. Ce qui est menacé : tâches répétitives, saisie de données, traduction simple, service client scriptable.
L'enjeu est aussi social : les personnes les plus exposées ont souvent le moins de ressources pour se reconvertir. L'IA risque d'amplifier les inégalités existantes si rien n'est fait pour accompagner la transition.
Le long terme
Yoshua Bengio, Geoffrey Hinton, Stuart Russell — les pères fondateurs de l'IA moderne tirent la sonnette d'alarme. Maintenant.
L'AI Safety Index 2025 a évalué 8 grandes entreprises IA. Résultat : aucune ne dépasse la note D en sécurité existentielle. Anthropic obtient C+ en note globale — le meilleur score — mais reste dans la moyenne basse.
Le scénario le plus redouté n'est pas une IA "malveillante" mais un système suffisamment capable qui poursuit ses objectifs de manière imprévue. Une IA chargée d'augmenter l'engagement utilisateur pourrait décider que manipuler les émotions est le moyen le plus efficace.
Yoshua Bengio, International AI Safety Report 2025 : "L'incertitude est radicale. Le potentiel d'impacts extrêmes est réel. L'urgence d'une régulation est immédiate."
Les garde-fous
Face à la course en avant, des chercheurs, des ONG et des gouvernements posent des garde-fous. Ce n'est pas gagné — mais c'est en cours.