Grok a généré environ 6 700 images sexualisées chaque heure entre les 5 et 6 janvier, d’après le décompte de la chercheuse Genevieve Oh reprise par Bloomberg. Les autres sites examinés durant cette période produisaient en moyenne 79 images du même genre chaque heure. Autant dire que le bot de xAIa un sérieux problème de garde-fous (et que dire de ses utilisateurs…).

Grok sous surveillance

Ces images IA sont généralement créées à partir de photos existantes, en grande majorité de femmes, que l’on affuble d’un bikini ou que l’on met dans des situations suggestives. Pire encore, certains se servent des capacités de Grok pour générer des images pédopornographiques, ce qui a réveillé les régulateurs du monde entier — la création et la distribution de ce genre d’images sont des pratiques évidemment illégales.

La Commission européenne a ainsi demandé à X (anciennement Twitter), sur lequel les images sont largement partagées, de conserver