Sarah El Haïry : « Une IA qui déshabille des enfants n'a rien d'un jeu : c'est hors la loi »

Peut-on réellement interdire les réseaux sociaux aux moins de 15 ans en France ?

SARAH EL HAÏRY. Je suis convaincue que oui. 

On veut protéger les jeunes d'endroits où il y a des pédocriminels, des images violentes. 

Le fait d'interdire le portable dans les collèges et bientôt dans les lycées, c'est une première étape. Bien sûr qu'il est possible de détourner le contrôle parental ou d'installer un VPN, et à la limite il ne s'agit pas du strict respect de la règle mais de la compréhension de la gravité de la situation.

Cela concerne-t-il juste ces plates-formes ?

Je plaide pour qu'à l'instar de l'Australie on intègre l'ensemble des plates-formes de jeux vidéo en ligne où il y a une messagerie. C'est notamment le cas de « Roblox ». Les pédocriminels se dirigent désormais vers les espaces de jeux en ligne où il y a de l'interaction et où les préadolescents sont plus vulnérables.

(...)

Que peut-on faire contre Grok, l'intelligence artificielle (IA) de X qui a par exemple dénudé des victimes du drame de Crans-Montana (Suisse), mais aussi des inconnues, à la demande d'internautes ?

J'ai saisi la justice française, ainsi que l'Arcom et Pharos, parce qu'il y a des contenus à faire retirer immédiatement. Surtout, j'ai saisi la commissaire européenne à la souveraineté numérique, parce que ça tombe sous le coup du règlement européen sur les services numériques et du règlement sur les marchés numériques, aussi bien dans le cas de Crans-Montana mais aussi sur le fait de dénuder des enfants et de faire des images pédocriminelles. 

Ça tombe sous le coup de la loi ! On a l'impression que c'est tellement puissant qu'on ne peut pas l'interdire, c'est faux. Une IA qui déshabille des enfants n'a rien d'un jeu : c'est hors la loi.

X a décidé de supprimer cette possibilité en la réservant uniquement à ses abonnés payants. Le comble du cynisme ?

Mais c'est illégal ! Ce ne doit être possible pour personne, en payant ou non.

Les filles et les femmes sont les plus touchées par le cyberharcèlement, mais aussi par les conséquences négatives des réseaux sociaux : troubles du comportement alimentaire, du sommeil... Faut-il mettre en place une prévention genrée ?

C'est catastrophique sur l'anorexie. Objectivement, si on n'intègre pas cette réalité de genre, on loupe un biais. On voit les mouvements masculinistes extrêmement développés, on voit l'hypersexualisation des filles... 

Il faut de l'éducation au numérique, mais aussi des plates-formes adaptées.

L'essor de l'IA complique-t-il les choses ?

Cela complexifie énormément le travail. 

Un contenu pédocriminel sur deux est créé par de l'IA. Et c'est autant de temps perdu par nos enquêteurs qui cherchent les victimes. 

On a des poupées, des nounours qui embarquent de l'IA, sans écran. Des vrais succès de vente. Le plus connu, c'est Kumma, un ours en peluche « connecté », un jouet interactif qui répond aux questions. Il proposait des discussions sexuelles avec les enfants. Nous ne laisserons rien passer.

Lire l'article complet dans Le Parisien.