Le gouvernement canadien a affirmé mercredi qu'il pourrait envisager de nouvelles régulations pour les agents conversationnels IA si OpenAI n'améliore pas ses protocoles de sécurité. Le concepteur de ChatGPT étant accusé de ne pas avoir signalé aux autorités l'activité sur la plateforme de l'autrice d'une tuerie qui a marqué le pays.
De hauts responsables du géant américain de l'intelligence artificielle générative étaient convoqués à Ottawa. Le gouvernement fédéral reproche à ChatGPT de ne pas avoir transmis à la police des messages écrits au chatbot par Jesse Van Rootselaar, la jeune femme qui a tué huit personnes début février à Tumbler Ridge, dans l'ouest du pays.
OpenAI a confirmé avoir fermé son compte en raison de questions liées à des activités violentes mais n'a pas transmis ces informations à la police canadienne. Si l'entreprise ne prend pas de mesures, le gouvernement le fera, a menacé le ministre de la Justice Sean Fraser.
«Le message que nous avons transmis, sans la moindre ambiguïté, est que nous nous attendons à ce que des changements soient mis en oeuvre et que, s'ils ne sont pas introduits très rapidement, le gouvernement se chargera lui-même d'en apporter», a-t-il déclaré, selon des propos rapportés par la presse canadienne.
OpenAI s'est défendu
«Au cours des derniers mois, nous avons pris des mesures pour renforcer nos garde-fous et avons modifié notre protocole de signalement aux forces de l'ordre pour les cas impliquant des activités violentes», a déclaré un porte-parole de l'entreprise dans un communiqué transmis à l'AFP. «Mais les ministres ont souligné que les Canadiens s'attendent à la poursuite d'actions concrètes, et nous avons reçu ce message cinq sur cinq,» ajoute le communiqué, évoquant de possibles «mesures supplémentaires».
Le 10 février, une jeune femme transgenre originaire de Tumbler Ridge a tué sa mère et son demi-frère avant de se rendre dans son ancien collège-lycée et d'y abattre cinq enfants de 12 et 13 ans et une éducatrice de 39 ans. Jesse Van Rootselaar, qui s'est ensuite donnée la mort, était victime de troubles de la santé mentale et la police s'était plusieurs fois rendue au domicile familial.
OpenAI a précisé qu'il n'avait pas notifié sa décision de suspendre le compte lié à Jesse Van Rootselaar aux autorités car celui-ci ne remplissait pas ses critères permettant de déclencher un tel signalement, notamment parce que le contenu n'indiquait pas que la préparation d'une attaque était crédible ou imminente.
