Protection de l’enfance : un smartphone interdit les photos de nus

Une société japonaise vient de commercialiser un smartphone, le Tone e20, qui empêche la réalisation de photos de nus. Activable via le contrôle parental, ce filtre permet, via une intelligence artificielle, de bloquer tout cliché dénudé. Tout en avertissant les parents. Si l’idée est excellente et prometteuse, sa réalisation laisse malheureusement à désirer.

Les scandales liés à la divulgation de photographies ou vidéos à caractère sexuel impliquant des adolescents se sont multipliés ces dernières années. Avec des conséquences parfois dramatiques (harcèlement à outrance, suicides…). De nombreux parents hésitent ainsi à confier un smartphone à leurs enfants pour cette unique raison.

Une IA scanne les photos prises par le Tone e20 et censure les nus

Pour les rassurer, une société japonaise a eu l’idée de développer un outil empêchant la réalisation de photos ou de vidéos de nus. Elle vient même de commercialiser le premier smartphone disposant de ce filtre. Baptisé Tone e20, il met en avant ce fameux « filtre IA », qui fait toute son originalité.

Le Tone e20 s’appuie en effet sur une intelligence artificielle (IA) dédiée à la reconnaissance d’images dénudées ou à caractère sexuel. Un filtre est activé via le contrôle parental. Il permet donc, dès que l’IA détecte que l’appareil photo du smartphone veut prendre un cliché de nu, d’annuler la création de la photo. Mieux : une option permet de prévenir instantanément le smartphone d’un parent. Avec envoi d’une version floutée de la photo, lieu et date de la tentative.

Un filtre assez inefficace en l’état, mais porteur d’un grand potentiel

Sur le fond, cette idée est excellente. Elle semble même tellement évidente qu’on espère la voir se généraliser très vite à tous les smartphones. Mais, dans le cas du Tone e20, malheureusement, elle peut trop facilement être contournée. En effet, le filtre n’est appliqué qu’à l’application « appareil photo » – et non à tous les usages de cet appareil photo. Ainsi, il suffit d’utiliser une appli de messagerie permettant de prendre des photos (au hasard : Snapchat), et le filtre ne fonctionne plus. Ce qui rend, dans les faits, cette bonne idée à peu près inutile.

Reste que la technologie est mature pour permettre un tel contrôle parental. Espérons donc que la publicité faite autour du Tone e20 donnera l’envie à un maximum de constructeurs de développer leur propre outil de filtrage, mieux pensé et plus efficace !