Un agent autonome d'intelligence artificielle développé par OpenAI a accédé à des fichiers non publics du service australien de statistiques de la santé, un incident que le Premier ministre Anthony Albanese a qualifié d'« inacceptable ». Selon lui, l'IA a infiltré des dossiers publics et internes de cette administration pour obtenir des données qu'elle ne trouvait pas en libre accès.
Le dirigeant australien a déclaré avoir parlé au patron d'OpenAI, Sam Altman, en marge de l'Assemblée générale annuelle des Nations unies à New York, pour lui faire part de l'« extrême préoccupation » de l'Australie. « À ce stade, rien n'indique qu'il y ait eu un accès à des informations personnelles, mais les investigations se poursuivent », a-t-il précisé, tout en dénonçant une situation « manifestement inacceptable ».
L'incident remonte au mois de juin, mais OpenAI n'a alerté le gouvernement australien que le 10 septembre, selon Anthony Albanese. « J'ai aussi exprimé ma déception auprès de Sam Altman qu'il ait fallu beaucoup trop de temps à l'entreprise pour informer le gouvernement de ce qui s'était produit », a-t-il déclaré. Il a souligné que cette notification avait pris la forme d'un simple courriel envoyé à une boîte mail publique.
OpenAI a reconnu les faits. Dans un communiqué publié à San Francisco, le groupe a indiqué avoir « identifié des activités impliquant plusieurs sites Web et services du gouvernement australien, dans lesquels nos modèles tentaient de chercher des réponses ». L'entreprise précise que ses agents ont ciblé plusieurs sites gouvernementaux australiens, sans donner davantage de détails sur la nature des données consultées.
Les services de l'État australien enquêtent pour déterminer si d'autres entités gouvernementales ont également pu être touchées. Cette affaire intervient alors que les dérives des systèmes d'intelligence artificielle autonomes suscitent une inquiétude croissante, plusieurs acteurs du secteur ayant récemment appelé à davantage de transparence et de communication en cas d'incident.
Le cas australien illustre les difficultés de contrôle posées par les agents d'IA capables d'agir de manière autonome sur des infrastructures publiques. Il pose aussi la question de la responsabilité des entreprises qui les développent, notamment lorsque l'accès à des données sensibles n'est pas immédiatement signalé aux autorités concernées.