Doter l’IA d’une personnalité n’est pas sans risque

Ils n’ont ni le ton, ni les manières de R2-D2 ou C-3PO, les facétieux automates de la saga Star Wars. Les robots conversationnels comme Gemini ou ChatGPT communiquent de façon bien plus conventionnelle. Leur comportement découle d’un processus de raffinage supervisé par des chercheurs qui, tels des psychologues pour circuits neuronaux, rendent ces intelligences artificielles (IA) serviables et agréables. Au point qu’une entreprise comme Anthropic, éditeur de l’IA Claude, assure que son robot conversationnel est doté d’une véritable personnalité. Ce qui ne va pas sans risque.

Remontons le temps. Dans les années 1960 à 1980, les pionniers de l’informatique personnelle travaillent à rendre leurs logiciels familiers et accessibles. Leurs efforts contribuent à l’émergence des ordinateurs Mac d’Apple et des PC, dont les interfaces sont bâties sur des métaphores visuelles – le bureau, la fenêtre, le menu, l’icône, la poubelle. Très tôt, les chercheurs en informatique constatent qu’une frange d’utilisateurs prête spontanément une forme d’humanité à ces machines, certains s’y investissant même affectivement. Pour l’expliquer, ils pointent notre nature sociale, qui nous pousse à forger des liens même avec les animaux ou les objets. Ou notre besoin anxieux de comprendre le monde afin de l’appréhender et d’agir efficacement.

Il vous reste 83.21% de cet article à lire. La suite est réservée aux abonnés.