Ces pulls de Noël n’existent pas : cette nouvelle forme d’arnaque rendue possible par l’IA

Un site se met à brader des pulls de Noël qui semblent haut de gamme, fournis de détails et pleins de couleurs. Sauf qu'ils n'existent pas et n'ont jamais été créés. En réalité, ils ont été générés par une IA (certainement Midjourney). L'occasion pour des sites frauduleux d'en profiter pour arnaquer les internautes.

Halloween est passée et Mariah Carey commence à se faire entendre. On le sent, c’est bientôt le retour de Noël et de ses fameux pulls moches. On en trouve sur beaucoup de sites Internet, mais également sur les sites frauduleux. C’est ainsi qu’un nouveau genre a été découvert : l’arnaque générée par intelligence artificielle.

30 dollars pour un beau pull de Noël : l’offre trop belle pour être vraie

Sur X, le journaliste Ulysse Thevenon a partagé ses découvertes autour du site CCMom, par le biais d’une publicité sur Instagram qu’il a vue. Et pour cause : plein de couleurs, plein de reliefs : ces pulls pour enfants donnent envie. D’autant plus au vu de leur prix : normalement vendus à 99 dollars, ils sont « bradés » à 29,99 dollars. Une affaire donc, mais trop belle pour être vraie.

C’est d’ailleurs ce qui a paru suspect à Ulysse Thevenon : « un tel travail ne peut pas valoir ce prix. Et les prétendues réductions affichées ne m’ont pas convaincu. » D’ailleurs, les clients semblent mécontents, si l’on en croit les avis laissés sur Trustpilot ; le site a d’ailleurs retiré de faux avis à propos du site, pensant qu’ils proviennent de « réseaux de vendeurs d’avis qui achètent et vendent de faux avis ». Il est possible que CCMom ait acheté de faux avis positifs sur Trustpilot.

La note est salée : 2/5 en moyenne, avec 70 % de notes à une étoile. Commande jamais envoyée, service client défectueux, pas de remboursement : certains pulls n’existent pas. Heureusement pour les consommateurs, certains existent… mais sont de très mauvaise qualité. Surtout, ils ne ressembleraient pas aux photos.

En bref, les internautes accusent CCMom d’être une arnaque. Sur les photos, comme le rappelle Ulysse Thevenon, « l’effet 3D est simplement un imprimé sur une surface lisse. Ou bien, il s’agit tout simplement de vêtements très bas de gamme. »

Tout pourrait d’ailleurs s’arrêter là : un site qui fait semblant de vendre des pulls de cette qualité, en n’envoyant rien, sinon une pâle copie. C’est la vérité, mais pas toute la vérité.

Une escroquerie qui se base sur l’IA : ces pulls n’existent pas

Le prix et les réductions ne sont pas les seuls éléments suspicieux sur CCMom. Il y a aussi les images, et surtout les photographies d’enfants, posant avec ces pulls. « Des gosses sans âme » pour le journaliste. Après un tour sur Reddit, le consensus établit que ces images ont été générées avec Midjourney, un modèle d’IA générative parmi les plus poussés. D’ailleurs, ces faux pulls peuvent être générés par n’importe qui : Ulysse Thevenon a même pu en créer lui-même.

Sur Instagram, on trouve quelques publications de la marque qui mettent la puce à l’oreille. Quelques vêtements (et pas que des pulls) sont publiés, portés par des enfants.

Seulement, leurs traits semblent lisses, tout comme ceux de leurs vêtements. La texture des vêtements semble elle aussi étrange, comme s’ils n’étaient pas fabriqués en coton. Pourtant, si des indices laissent à penser que c’est Midjourney qui a généré ces images, impossible d’en avoir le cœur net. Le modèle ne propose pas d’outil permettant de déterminer cela. Ce qui pose de nouvelles questions quant au contrôle des contenus générés par l’intelligence artificielle. À terme, il se pourrait qu’au sein de l’Union européenne, tous les contenus générés doivent être signalés comme tels. Une législation dédiée à l’IA, nommée AI Act, est en cours de rédaction et de vote au Parlement.