Comme les Etats-Unis et le Royaume-Uni, l'Union européenne s'inquiète des risques pour la cybersécurité que pourrait poser Mythos, le nouveau modèle d'intelligence artificielle d'Anthropic, et elle a commencé à en discuter avec l'entreprise, a indiqué jeudi la Commission européenne.
«Un nouveau modèle d'IA est sur le point d'être déployé. Il comporte certains risques, et nous avons besoin d'informations à ce sujet. C'est pourquoi nous avons contacté la plateforme Anthropic», a déclaré à la presse Thomas Regnier, porte-parole de l'UE sur les questions numériques. Une première réunion avec l'entreprise s'est déroulée mercredi, a-t-il indiqué.
«Nous avons déjà reçu certaines informations et d'autres réunions de suivi auront lieu», a-t-il ajouté, sans donner plus de détails sur ces discussions. D'après plusieurs médias, des dirigeants de grandes banques américaines ont rencontré le secrétaire au Trésor des Etats-Unis, Scott Bessent, et le président de la Réserve fédérale (Fed), Jerome Powell, pour discuter des dangers que ce modèle d'IA représente pour le secteur financier.
Le gouvernement britannique a quant à lui alerté mercredi les entreprises, dans une lettre ouverte, sur les risques de cybersécurité posés par des modèles d'intelligence artificielle (IA) toujours plus performants, en référence notamment aux dernières créations d'Anthropic et d'OpenAI.
Très performant pour une cyberoffensive
Anthropic a affirmé le 7 avril que Mythos était capable de détecter des failles informatiques inédites à une vitesse et une échelle sans précédent. Et qu'elle avait confié à un consortium d'entreprises de la tech, dont Google, Nvidia, Apple, Microsoft et Palo Alto Networks, la tâche de tester le modèle et de combler les failles avant d'envisager sa publication.
Les tests effectués par l'Institut de sécurité de l'IA du ministère britannique des Sciences, de l'Innovation et de la Technologie «ont montré que ce modèle est nettement plus performant en matière de cyberoffensive que tout autre modèle que nous avons évalué jusqu'à présent», selon la lettre du gouvernement britannique.
