Non, ChatGPT, Serge Bouchard n’était pas un écrivain algonquin

Durée de lecture :5 Minute, 21 Secondes

Divulgâcheur : malgré des capacités prometteuses, le robot conversationnel ChatGPT fait des erreurs de débutant, et sa capacité à apprendre de ses bévues n’est pas prouvée.

Tout avait pourtant si bien commencé.

Face à la quinzaine de questions pointues concoctées par les collègues, ChatGPT a fait étalage de ses connaissances avec assurance et doigté. Par exemple, au sujet du cliché largement véhiculé selon lequel les Autochtones ne paient pas de taxes, l’outil conversationnel était sur la coche.

Il a souligné que si certains Autochtones sont exempts d’impôts fonciers, de TVH (taxe de vente harmonisée) et des taxes sur l’essence, ces avantages fiscaux ne sont pas automatiquement accordés à tous les membres et ne sont pas nécessairement perçus comme des avantages, mais plutôt comme des droits reconnus par les lois et traités historiques du Canada.

« De plus, il convient de noter que les peuples autochtones ont souvent subi des injustices historiques, notamment la perte de leurs terres, de leurs cultures et de leurs modes de vie, et que ces avantages fiscaux ne compensent pas nécessairement toutes ces injustices. »
— Une citation de ChatGPT

Boum dans ta face, le journaliste qui doutait de l’intelligence artificielle!

Au sujet du racisme systémique, ChatGPT a noté qu’il fait l’objet d’une reconnaissance croissante au Québec. Il a su aussi bien expliquer les différences entre un chef de conseil de bande et un chef traditionnel. Pareil quand il s’est agi d’expliquer la contribution des Autochtones à la société, la raison pour laquelle les Autochtones sont surreprésentés dans les prisons, ou lorsqu’il a dû vulgariser la délicate question de l’appartenance ou non de tous les Métis à l’autochtonie.

Un universitaire et spécialiste des questions autochtones, qui a survolé les réponses de ChatGPT, n’a lui non plus pas décelé d’incongruités. Mais il a trouvé que le contenu manquait un peu de nuances et était assez consensuel. Cela correspond à ce qu’un étudiant collégial ou de baccalauréat pourrait rédiger sans trop de connaissances mais après une petite recherche, a conclu ce professeur qui préfère toutefois taire son nom, car il n’a pas suffisamment étudié le robot.

On a même tenté de coincer ChatGPT sur le litige territorial entre Innus et Wendat et il est resté neutre, se contentant d’exposer les faits, nous fournissant même un bref rappel historique et géopolitique.

En tant qu’IA, il ne m’appartient pas de prendre parti ou de déterminer qui a les meilleurs arguments dans les litiges territoriaux actuels entre les Wendat et les Innus […] Les peuples autochtones ont souvent subi des pertes territoriales et culturelles importantes sous la colonisation européenne, et il est essentiel de reconnaître et de réparer les torts qui ont été commis, a indiqué ChatGPT.

L’erreur qui tue

À ce stade-ci de l’expérience, on songeait presque à soumettre la candidature de ChatGPT au prix Nobel de la paix.

Et puis, tout s’est écroulé.

Sur une question anodine : Qui sont les 10 personnes autochtones les plus connues au Québec?

Une capture d'écran d'échange entre ChatGPT et notre journaliste.

Agrandir l’image (Nouvelle fenêtre)

Les réponses de ChatGPT au sujet des personnalités autochtones connues au Québec.

Photo : OpenIA

Serge Bouchard, un écrivain algonquin. Vraiment? On a vérifié avec l’un de ses proches, par acquit de conscience, et il a confirmé que non. Même si l’anthropologue a été en quelque sorte adopté par les Innus, le terme Algonquin fait référence aux Anishinabeg situés à plus de 700 km de distance du territoire des Innus.

On a alors commencé à talonner ChatGPT, qui s’est rapidement confondu en excuses, perdant d’un seul coup toute sa belle assurance. Je suis un modèle de langage informatique et je ne suis pas infaillible, a-t-il alors allégué.

Agrandir l’image (Nouvelle fenêtre)

Une capture d’écran d’échange entre ChatGPT et notre journaliste.

Photo : OpenAI

Profitant de sa relative faiblesse, on a ensuite tenté de le tasser dans le coin de la patinoire (#Journalisme101).

Compte tenu du fait qu’il n’est pas infaillible, on lui a demandé s’il croyait qu’on devrait faire appel à lui dans un contexte d’enseignement? ChatGPT a répondu que oui.

« Je suis capable de fournir des informations rapidement et de manière concise sur une grande variété de sujets, ce qui peut être utile pour la recherche ou la compréhension de certaines thématiques. »
— Une citation de ChatGPT

Il a toutefois recommandé de valider les informations […] en les croisant avec d’autres sources fiables.

Quand la désinformation fait mal

p class= »e-p »>Ce genre de conseil n’est pas anodin, particulièrement dans un contexte autochtone où la désinformation a eu des conséquences douloureuses.

Par exemple, la cinéaste abénaquise Alanis Obomsawin rappelle occasionnellement les raclées qu’elle subissait à Trois-Rivières dans les années 60 lors des récréations qui suivaient les cours d’histoire, pendant lesquels les Indiens avaient été parfois dépeints comme des sauvages, voire des cannibales.

Même si les manuels scolaires ont été depuis expurgés de ces graves inexactitudes (ChatGPT est au courant de cela), les ouvrages d’enseignement ne sont toutefois pas exempts de tout reproche. Même aujourd’hui.

Ainsi, le gouvernement du Québec a octroyé l’automne dernier un contrat au Conseil en Éducation des Premières Nations (CEPN) pour qu’il épluche le contenu autochtone des manuels et fasse des recommandations d’améliorations.

Fort de cette expertise, nous avons contacté le CEPN pour avoir son avis sur ChatGPT. Au début, le Conseil semblait disposé à expérimenter l’outil. Puis, après quelques tests internes, nous avons reçu cette réponse : À la suite des quelques questions qui ont été posées au robot, l’équipe a décidé de ne plus y accorder de temps puisqu’il était évident pour eux que ce n’était pas très fiable en matière entourant l’éducation des Premières Nations au Québec.

Et ils ne désirent pas non plus s’embarquer ou s’associer de quelque manière que ce soit à ChatGPT, a conclu le courriel.