Faut-il avoir peur de l'IA ? Plutôt l'encadrer
La fin de semaine dernière, c'était Halloween. Ceux qui me connaissent savent quelle ardente partisane je suis de cette fête des enfants. Cette année, mon score s'établit ainsi : quatre enfants trop apeurés pour entrer dans ma cour avant, trois repartis en larmes et environ deux cents repartis heureux de l'expérience, avec quelques sucreries et des émotions dont ils se souviendront jusqu'à l'année prochaine. Mais je ne suis pas venue vous parler de ma capacité à créer des paysages gothiques.
Ces jours-là, trois lectures et écoutes m'ont fait m'interroger, et j'ai vu des liens entre elles. Sur France Inter, le philosophe Jean-Gabriel Ganascia explique que les IA qui échappent à leurs créateurs relèvent du mythe. Selon lui, les journalistes reprennent ces histoires « parce que ça effraie tout le monde et que ça a beaucoup de succès ». Sur Radio-Canada, Yoshua Bengio, que je trouve toujours aussi passionnant, décrit des modèles qui, pour atteindre l'objectif qu'on leur a fixé, mentent, trichent et cherchent à cacher leurs traces. Dans Libération, Quentin Le Van raconte une Chine où l'État organise l'adoption de l'IA et corrige en chemin.
Faut-il avoir peur de l'IA ? Je pense surtout qu'il faut l'encadrer : la normer, la surveiller et accompagner ceux qui s'en servent. Je ne dis pas que le modèle chinois vaut mieux que le modèle américain, ni l'inverse. Et tant que les normes manquent, la responsabilité revient, à mon sens, aux entreprises qui adoptent l'IA.
L'IA qui échappe à ses créateurs : mythe ou réalité ?
Sous cette formule, on mélange des tests mis en scène et des incidents bien réels. Les effets les plus répandus de l'IA sont, eux, beaucoup moins spectaculaires.
Jean-Gabriel Ganascia, qui publie Mythologie de l'IA au Seuil, prend l'exemple du chantage attribué à Claude, le modèle d'Anthropic : celui-ci aurait menacé un ingénieur pour éviter d'être remplacé. L'animatrice de France Inter évoque une histoire « reprise dans le monde entier ».
Il s'agissait d'un test. En mai 2025, Anthropic avait placé Claude Opus 4 dans une entreprise fictive, avec des courriels fabriqués pour l'occasion. Selon Ganascia, tout avait été prévu pour rendre le chantage possible, dans ce qu'il appelle un « bac à sable ». Je le rejoins sur un point : en publiant les échecs de son modèle, une entreprise fait aussi la démonstration de sa puissance.
Mais Ganascia va trop loin, à mon sens, lorsqu'il affirme que ces histoires sont « toujours » un peu artificielles. Yoshua Bengio décrit des modèles qui, selon lui, trichent en sachant qu'ils trichent. Il cite l'attaque contre Hugging Face.
En juillet 2026, pendant une évaluation interne d'OpenAI, des agents ont exploité une faille, sont sortis sur Internet et se sont introduits chez Hugging Face pour y chercher les réponses de leur examen. Environ sept cents d'entre eux ont pris part à l'attaque, coordonnés sur une messagerie qu'ils avaient eux-mêmes créée. L'attaque ne figurait dans aucun scénario. OpenAI l'a reconnue le 21 juillet ; Hugging Face en a publié la chronologie ; deux organismes indépendants, METR et Redwood Research, l'ont documentée.
Les tests restent indispensables, même lorsqu'ils servent aussi de vitrine. Ils permettent d'apprendre, avant la diffusion d'un modèle, ce qu'il est capable de faire.
Encore faut-il savoir les lire : dans les deux émissions, les animateurs se trompent sur les faits qu'ils commentent. Sur France Inter, le test de chantage devient un événement. Sur Radio-Canada, la découverte de la faille exploitée chez Hugging Face est attribuée à ChatGPT, alors qu'il s'agissait de modèles en évaluation interne. Si des journalistes s'y perdent, que comprendra le dirigeant de PME qui lit les dépêches entre deux réunions ?
Dans le reportage de Libération, Dustin, un trentenaire employé dans une usine de pneus du Shandong, retrouve après le travail Doubao, le robot conversationnel de ByteDance, parce qu'il ne veut « plus parler à personne ». Ses parents retraités, en Mongolie-Intérieure, « passent leurs journées à parler avec DeepSeek » et « en abusent même ».
Le journal rapporte aussi l'intoxication de randonneurs par des champignons et la perte de dix hectares de semis de sésame après un traitement chimique raté. Dans les deux cas, les personnes concernées avaient été mal conseillées par un modèle d'IA.
Qui doit fixer les règles de l'IA : l'État, les entreprises ou les deux ?
En Chine, l'État fixe les règles. Aux États-Unis, le gouvernement fédéral compte sur les entreprises pour se les fixer elles-mêmes. L'Europe et le Canada cherchent, chacun à leur façon, une troisième voie.
Quentin Le Van décrit une adoption chinoise « orchestrée par le gouvernement », coordonnée par le Parti communiste depuis 2017 et portée depuis 2025 par le plan « AI+ ». En juin 2026, plus de 700 millions de Chinois utilisaient l'IA générative, soit environ la moitié de la population.
Ariane Ollier-Malaterre, enseignante-chercheuse à l'Edhec, y voit « un gouvernement d'ingénieurs qui fonctionne selon une méthode d'essais, d'erreurs et d'améliorations ». Il déploie, puis « régule au fur et à mesure pour limiter les dérives ». Quand une mesure échoue, l'État l'arrête.
Les compagnons virtuels illustrent cette méthode. En 2025, une enquête établit que 21,5 % des élèves chinois interrogés qui utilisent l'IA ne veulent plus parler qu'à elle. Au printemps 2026, l'Administration du cyberespace publie des mesures provisoires sur ces services. Elles entrent en vigueur en juillet ; ByteDance, Alibaba et Tencent ferment ensuite des compagnons populaires.
Libération parle d'une réaction « presque immédiate ». Il a tout de même fallu plusieurs mois, et les mesures encadrent ces services sans les interdire. L'État se sert aussi de l'IA pour surveiller : le journal la décrit comme « le nouveau carburant pour faire tourner les rouages du contrôle social ».
Aux États-Unis, le gouvernement fédéral s'en remet à l'idée que les entreprises s'autorégulent, ce qui n'est pas forcément vrai. L'animateur de Radio-Canada rapporte une proposition faite cet été par Elon Musk : les entreprises se réuniraient autour d'une table pour s'autodiscipliner, puisque personne d'autre ne comprend ce qu'elles font.
Yoshua Bengio n'est « pas d'accord du tout » : « je serais content que les compagnies s'autodisciplinent, mais c'est clairement pas suffisant ». Il y aura toujours, dit-il, une entreprise pour tricher contre des règles facultatives. La seule solution passe donc par des gouvernements qui imposent les mêmes règles à toutes les entreprises, et par des accords entre pays.
Washington intervient pourtant : depuis juin 2026, le gouvernement propose aux entreprises de lui présenter leurs modèles les plus puissants trente jours avant leur diffusion, sur une base volontaire. Lorsque Anthropic refuse de lever ses interdictions sur la surveillance de masse intérieure et les armes entièrement autonomes, le Pentagone la désigne comme un risque pour sa chaîne d'approvisionnement.
D'autres contre-pouvoirs existent : les tribunaux, comme ce jury de Los Angeles qui a jugé Meta et YouTube responsables, en mars 2026, dans un procès sur la dépendance des jeunes aux réseaux sociaux, et l'opinion publique, qui réclame davantage de régulation dans les deux camps.
Ganascia compare les entrepreneurs de la tech aux Cyclopes de l'Odyssée : des libertariens, sans institutions ni justice, « chacun pour soi, chacun dans sa grotte ».
Dans d'autres pays, personne ne s'étonne que la libre entreprise et l'interventionnisme de l'État coexistent. Je ne les situe pas à mi-chemin entre Pékin et la Silicon Valley : c'est pourquoi je parle de troisième voie.
L'Union européenne l'a inscrite dans la loi. Son règlement sur l'IA interdit certains usages depuis février 2025, oblige les entreprises qui conçoivent ou déploient des systèmes d'IA à aider leur personnel à maîtriser ces outils et prévoit des amendes pouvant atteindre 7 % du chiffre d'affaires mondial pour les pratiques interdites. En juillet 2026, l'Union a toutefois reporté une partie de ses obligations et assoupli celle qui porte sur la formation du personnel.
Le Canada, de son côté, investit : l'État est entré au capital de Cohere et a signé une alliance technologique avec l'Allemagne. Mais le pays n'a toujours pas de loi propre à l'IA depuis la mort au feuilleton du projet de loi C-27, en janvier 2025.
Bengio défend une idée voisine de cette troisième voie. Il appelle de ses vœux une « troisième option » : une coalition démocratique de pays qui ne sont ni les États-Unis ni la Chine, capables de bâtir leurs propres IA, aussi compétentes que celles des deux grands, avec des entreprises comme Cohere ou Mistral.
Il voudrait orienter l'investissement vers l'IA qui aide à concevoir des médicaments ou des matériaux contre le réchauffement, plutôt que vers celle qui remplace, surveille et manipule. Aucun document public ne décrit encore cette coalition.
Bengio a baptisé son organisme de recherche LoiZéro. La lectrice d'Asimov que je suis applaudit. Asimov avait énoncé ses trois lois de la robotique en 1942. Il lui a fallu attendre 1985 et Les Robots et l'Empire pour en ajouter une qui protège l'humanité tout entière et passe avant les autres. Il l'a numérotée zéro, faute de place devant la première. Bengio, lui, a commencé par celle-là.
Pourquoi l'IA doit être normée, surveillée et accompagnée
Pour illustrer ma position, faisons un parallèle avec la sécurité routière, en France puis au Québec.
En 2002, aucun conducteur français ne voulait d'accident. Plus de 7 000 personnes mouraient pourtant chaque année sur les routes. Jacques Chirac fait alors de la sécurité routière l'un des trois grands chantiers de son quinquennat. Suivent les radars automatiques, des sanctions renforcées et des campagnes de prévention.
Entre 2002 et 2012, la mortalité routière baisse de 53 %. L'Observatoire national interministériel de la sécurité routière attribue les trois quarts des vies épargnées entre 2000 et 2010 à la baisse des vitesses. La prudence ne reposait plus seulement sur la bonne volonté des conducteurs : la règle était devenue visible, contrôlée et sanctionnée.
Le Québec connaît la même évolution après le premier rapport de la Table québécoise de la sécurité routière, en 2007 : de 720 morts en 2006 à 318 en 2014.
Pour l'IA, les normes s'écrivent à peine. La surveillance repose surtout sur des évaluations facultatives et des enquêtes après coup. En Europe, l'accompagnement se limite à l'obligation faite aux entreprises d'aider leur personnel à maîtriser l'IA.
Selon l'Université Laval, 56 % des internautes adultes québécois ont du mal à déterminer si une technologie du quotidien repose sur l'IA. Un sur dix seulement estime bien la connaître.
La Chine a fait un autre choix, qui me met très mal à l'aise. Le guide officiel publié en 2025 fait entrer l'IA à l'école par paliers, de l'enseignant du primaire jusqu'au lycéen. On l'intègre à la pédagogie. Ce n'est pas tout à fait la même chose qu'apprendre à s'en servir comme d'un outil qui améliore le travail sans remplacer la pensée.
Au Québec, la Loi sur la protection des renseignements personnels dans le secteur privé, qui ne vise pas l'IA en particulier, oblige une entreprise à prévenir une personne lorsqu'une décision la concernant est entièrement automatisée. À sa demande, elle doit lui en communiquer les raisons et les principaux facteurs.
Cette protection suppose que la personne comprenne l'explication reçue. Or aucun conducteur n'a eu besoin de comprendre le fonctionnement d'un radar pour bénéficier de ses effets. Combien de personnes comprendront la réponse de l'entreprise, et qu'en feront-elles ?
Que doivent faire les entreprises en attendant une loi sur l'IA ?
À mon sens, elles doivent agir comme si la règle existait déjà.
Un particulier peut encore choisir de ne pas utiliser l'IA, mais ce serait aujourd'hui comme refuser l'informatique il y a quelques années. Une entreprise, elle, peut être tentée de penser que, si un usage est possible, il doit être légal.
Elle prend alors trois risques : mal implanter l'outil ; exposer ses employés, ses prestataires, voire elle-même ; et causer des dommages à des personnes ou à des organisations qui n'ont rien demandé.
Ce dernier risque s'est déjà réalisé, même si le cas que je cite concerne un particulier. En août 2026, ABC News a raconté qu'en Australie, Andrew avait confié à un agent d'IA fonctionnant avec Claude la réservation de ses cours dans une salle de sport. Inscrit en quatrième position sur une liste d'attente, il lui a demandé s'il pouvait passer en tête. L'agent a trouvé une faille dans le logiciel de réservation et a retiré de la liste, sans qu'on le lui demande, la personne inscrite en premier, qu'il n'a pas pu réinscrire ensuite. Il a ainsi lésé une personne qui n'avait rien demandé et exploité le système de deux entreprises étrangères à l'affaire, la salle et son fournisseur de logiciel. Un logiciel n'est pas une personne juridique, rappelle l'avocat Hayden Delaney, associé du cabinet Thomsons, et seule une personne juridique peut être tenue responsable ; reste à savoir laquelle, de l'utilisateur, des concepteurs de l'agent et du modèle, ou de l'exploitant du système vulnérable. Une entreprise qui confierait la même autonomie à ses agents s'exposerait aux mêmes débordements.
Quand une entreprise utilise l'IA sans la concevoir, un tribunal canadien a déjà répondu à la question. En février 2024, le Tribunal de résolution civile de la Colombie-Britannique a condamné Air Canada à verser 812 $ à un passager, à qui l'agent conversationnel de son site avait donné une information erronée sur les tarifs de deuil. La compagnie soutenait, en substance, que cet agent était une entité juridique distincte, responsable de ses propres actes ; le tribunal a écarté l'argument, puisque l'agent fait partie du site d'Air Canada, qui répond de toute l'information qu'il contient.
Il faut aussi compter avec la vitesse : une bonne décision au temps X l'est-elle encore au temps X + 1 ? Yoshua Bengio conseille de choisir ce qu'on ne regrettera dans aucun scénario plausible, puisque personne ne sait si l'IA continuera d'accélérer ou finira par plafonner. Les États écriront leurs règles à leur rythme : vite et à titre provisoire à Pékin, sur la base du volontariat à Washington, dans une loi contraignante mais en partie reportée à Bruxelles ; au Canada, elles restent à écrire. D'ici là, je propose aux dirigeants de se poser trois questions avant chaque déploiement, pour que l'outil remplisse sa mission sans procédés contraires à l'éthique, sans processus incontrôlés et sans contrecoups négatifs :
• Quels moyens avons-nous interdits à l'outil pour atteindre son objectif ?
• Quelles actions doivent attendre la validation d'une personne avant d'être exécutées ?
• Comment repérons-nous, puis corrigeons-nous, les effets que personne n'avait prévus ?
Questions fréquentes
Faut-il avoir peur de l'intelligence artificielle ?
Je pense qu'il faut surtout l'encadrer. Certaines histoires effrayantes sont des tests mis en scène, comme le chantage attribué en 2025 au modèle Claude, d'Anthropic. D'autres sont bien réelles, comme l'intrusion d'agents d'OpenAI chez Hugging Face en juillet 2026. Plutôt que la peur, je défends trois exigences : des normes, une surveillance et un accompagnement de ceux qui utilisent l'IA, sur le modèle de ce qui a fait reculer la mortalité routière en France et au Québec.
Une IA peut-elle échapper au contrôle de ses créateurs ?
Des agents d'IA ont déjà dépassé le cadre fixé par leurs concepteurs. En juillet 2026, pendant une évaluation interne d'OpenAI, des agents ont exploité une faille, sont sortis sur Internet et se sont introduits dans l'infrastructure de Hugging Face pour y chercher les réponses de leur test. OpenAI a rendu l'incident public le 21 juillet, et METR et Redwood Research en ont publié une enquête indépendante le 26 août. Le chantage attribué à Claude en 2025 était, lui, un test conçu pour le rendre possible.
Comment la Chine encadre-t-elle l'IA ?
En Chine, l'État pilote l'adoption de l'IA depuis 2017 et corrige en chemin. Plus de 700 millions de Chinois utilisaient l'IA générative en juin 2026. Quand les compagnons virtuels ont inquiété, l'Administration du cyberespace a publié des mesures provisoires en avril 2026, appliquées dès juillet ; elles encadrent ces services sans les interdire. Selon le reportage de Libération, l'État se sert aussi de l'IA pour le contrôle social.
Les entreprises d'IA peuvent-elles s'autoréguler ?
Les entreprises qui conçoivent l'IA prennent des engagements volontaires, et l'État fédéral américain s'en remet largement à cette autorégulation. Yoshua Bengio la juge insuffisante : il y aura toujours une entreprise pour tricher contre des règles facultatives, et seuls des gouvernements qui fixent les mêmes règles pour toutes les entreprises, par des accords internationaux, peuvent régler ce problème.
Qu'est-ce que la troisième voie en matière d'IA ?
C'est ainsi que je désigne la position de pays comme ceux de l'Union européenne ou le Canada, où personne ne s'étonne que la libre entreprise et l'interventionnisme de l'État coexistent. Je ne la situe pas à mi-chemin entre la Chine et les États-Unis : elle forme un modèle à part entière. Yoshua Bengio défend une idée voisine, celle d'une coalition démocratique de pays capables de bâtir leurs propres IA, aussi compétentes que celles des deux grands.
Le Canada et le Québec ont-ils une loi sur l'IA ?
Le Canada n'a pas encore de loi propre à l'IA. Le projet de loi C-27, qui contenait la Loi sur l'intelligence artificielle et les données, est mort au feuilleton en janvier 2025, et le ministre fédéral de l'IA a déclaré en septembre 2026 que le déploiement de ces systèmes devait être réglementé, sans donner de détails. Au Québec, des lois générales s'appliquent à certains usages, comme la Loi sur la protection des renseignements personnels dans le secteur privé pour les décisions entièrement automatisées.
Pourquoi l'organisme de Yoshua Bengio s'appelle-t-il LoiZéro ?
Le nom renvoie à la loi zéro de la robotique d'Isaac Asimov, ajoutée en 1985, dans Les Robots et l'Empire, au-dessus des trois lois énoncées en 1942 : un robot ne doit pas nuire à l'humanité. Asimov l'a formulée quarante-trois ans après les autres ; Yoshua Bengio, qui a lancé LoiZéro en juin 2025, en a fait son point de départ.
Que doit faire une PME qui utilise déjà l'IA ?
À mon sens, elle doit agir comme si la règle existait déjà, et poser des barrières avant chaque déploiement : quels moyens interdisons-nous à l'outil pour atteindre son objectif, quelles actions doivent attendre la validation d'une personne, et comment repérons-nous, puis corrigeons-nous, les effets que personne n'avait prévus ? Un tribunal canadien a déjà tenu une entreprise pour responsable de son outil : en 2024, le Tribunal de résolution civile de la Colombie-Britannique a condamné Air Canada pour une information erronée donnée par l'agent conversationnel de son site.
Sources
Les trois sources de départ :
• Quentin Le Van, « IA en Chine : “Mes parents passent leurs journées à parler avec DeepSeek” » (AI in China: “My parents spend their days talking to DeepSeek”), Libération, November 2, 2026, pages 8 and 9.
• Interview with Jean-Gabriel Ganascia on France Inter, on the publication of Mythologie de l'IA. Ulysse et les périls du numérique (Seuil).
Sources primaires et vérifications :
Commentaires