ChatGPT va être interdit par la Ville de Montpellier au sein de ses équipes "par précaution et à titre conservatoire"

C’est une première en France, qui pourrait inspirer d’autres collectivités. Dans une note interne adressée au directeur général des services de la Ville et de la Métropole de Montpellier, l’adjoint au maire chargé du numérique, Manu Reynaud, demande à bannir ChatGPT au sein de ses équipes."Et même à nos interlocuteurs dans le cadre de contrats qui nous lient", ajoute-t-il. Une décision "par précaution et à titre conservatoire", le temps de digérer le bon usage d’un outil, qu’il présente comme "une révolution dont on ne connaît pas encore l’ampleur".

ChatGPT, c’est une intelligence artificielle (IA) dite générative, qui a débarqué dans notre quotidien en novembre dernier et permet de produire nombre de contenus à partir d’une simple consigne. Le géant Microsoft a mis 10 milliards de dollars sur la table pour embarquer la dernière version, baptisée GPT-4, dans ses applications "Office 365" que 400 millions de personnes utilisent à travers le monde. Objectif : rendre le moteur de recherche Google désuet. Pas moins.

Aucune garantie sur la fiabilité des réponses

"Cela doit arriver dans les quinze jours. Or, beaucoup d’experts considèrent que cette IA va marquer notre époque comme jadis la révolution industrielle. Mais on n’en a pas encore la notice…", détaille Manu Reynaud. D’où sa prudence. Voire son alerte. GPT-4 pose, selon l’élu, plusieurs questions.

La première, très pratique, pour des agents de sa collectivité qui confieraient des tâches à l’intelligence artificielle. "L’outil peut être influencé par les données qui lui sont fournies, ce qui peut entraîner des réponses inexactes ou inappropriées. La base d’apprentissage de ChatGPT n’est par ailleurs pas clairement identifiée, ceci n’apporte donc aucune garantie sur la qualité des données utilisées pour l’analyse et par conséquent des résultats qui en découlent".

Quel degré de sécurité ?

Surtout, dit-il, la fourniture d’un contexte confié à l’outil pour obtenir des réponses amène à exposer et transmettre des données à une entité tierce, "au sein de laquelle nous n’avons aucune idée, ni maîtrise des réutilisations possibles de ces données. Nous ne pouvons garantir que des informations échangées avec la plateforme seront protégées contre les éventuelles violations de sécurité, de droits ou de confidentialité". À côté, estime-t-il, la polémique récente sur le réseau social TikTok reste de la roupie de sansonnet.

Cela justifie la demande élargie aux entreprises qui travaillent avec la Ville et la Métropole, notamment dans le cadre d’appels d’offres.Avec une préoccupation aussi juridique, au-delà des enjeux de confidentialité. "Nombre de marchés sont calculés sur un volume horaire de travail. Si l’IA permet de faire en quelques minutes une commande de plusieurs semaines, cela peut engendrer des contentieux, même si les moyens de contrôle n’existent pas encore", concède l’élu.

Un débat aussi politique et philosophique

Manu Reynaud entend aussi lancer un débat à la fois économique, politique et philosophique. "On dit que l’IA peut impacter 95 % des métiers, y compris ceux que l’on ne soupçonne pas, par exemple la médecine puisque l’outil est capable d’analyser un nombre infini de données pour délivrer un diagnostic. Des entreprises seront forcément tentées de remplacer leurs salariés comme jadis la machine a suppléé l’homme".

Don't Look Up

Les perspectives sont à la fois effrayantes et… merveilleuses, dit-il, si l’on parvient à maîtriser la technologie et ses impacts. Manu Reynaud compare la démocratisation annoncée de GPT-4 à la météorite du film "Don’t Look Up" (sorti en 2021 sur Netflix), dont les décideurs du monde ignorent tous les dangers malgré les nombreuses alertes.

L’élu montpelliérain chargé du numérique a donc proposé au maire et président Michaël Delafosse de lancer un travail au plus vite, avec des experts, pour mesurer les changements qui ne manqueront pas de se produire dans un délai très court. Et de voir dans quelle mesure l’intelligence artificielle peut aider à guider l’action locale.