ChatGPT : sa nouvelle mise à jour majeure sur la génération d'image suscite la controverse

Une toute nouvelle mise à jour vient d'être déployée sur ChatGPT. L'intelligence artificielle promet désormais une génération d'image sans restrictions, ce qui présente plusieurs problématiques.

ChatGPT marque un grand pas dans la génération d'images. Autrefois peu convaincants et désuets, les clichés générés par l'intelligence artificielle d'OpenAI connaissent ce mardi 25 mars 2025 une importante mise à jour. La concurrence avec Midjourney et Aurora est relancée.

La nouvelle mise à jour de ChatGPT, bien qu'elle apporte une amélioration très attendue (qui plus est gratuite) de son outil de génération d'images, a suscité une certaine controverse sur Internet. De fait, Sam Altman, le PDG d'OpenAI, a misé sur une liberté d'expression totale, quitte à "offenser les gens" à travers les diverses créations.

Un outil de génération d'images amélioré

ChatGPT accueille ce 25 mars 2025 une toute nouvelle extension pour GPT-4o, son modèle multimodal gratuit déployé en mai 2024. L'outil de génération d'images développé par OpenAI, sobrement baptisé "4o Image Generation", promet une meilleure compréhension des requêtes et des performances nettement améliorées.

"Nous lançons quelque chose de nouveau aujourd'hui : des images dans ChatGPT !", s'est exclamé Sam Altman, PDG d'OpenAI, sur X (anciennement Twitter). "C'est une technologie incroyable [...] Nous pensons que les gens vont l'adorer, et nous sommes impatients de voir la créativité qui en résultera".

GPT-4o peut désormais générer des images fidèles à la demande des utilisateurs. L'intelligence artificielle d'OpenAI est de fait capable de comprendre entre dix et vingt informations en un seul prompt. Des performances bien meilleures que Dall-E, le programme de génération d'images de ChatGPT, qui lui ne peut en intégrer que trois ou quatre.

GPT-4o dispose également d'une capacité d'édition d'images. Les utilisateurs peuvent soumettre le cliché de leur choix pour voir celui-ci modifié selon leur requête. Le modèle de ChatGPT est doté d'une "mémoire" et retient sans problème jusqu'à 15 photos, utile lorsque l'on veut soumettre à l'IA des références ou des inspirations.

Un manque de modération concernant

Prometteuse, la mise à jour de ChatGPT est à prendre avec des pincettes. Dans un souci de réalisme et de liberté d'expression, Sam Altman a annoncé sur son compte X que son IA pourrait désormais générer des visages connus du grand public : "Cela représente un nouveau sommet pour nous en matière de liberté créative. Les gens vont créer des choses vraiment incroyables, mais aussi des choses qui risquent offenser les gens".

Sam Altman incite toutefois les utilisateurs de ChatGPT à rester respectueux : "Ce que nous aimerions viser, c'est que l'outil ne crée pas de contenu offensant à moins que vous ne le souhaitiez, auquel cas il le fera dans la limite du raisonnable [...]. Nous surveillerons comment les choses se dérouleront et écouterons la communauté".

Il semble évident néanmoins que cette nouvelle liberté d'expression incorporée sur ChatGPT amènera plusieurs dérives. Le manque de modération rend possible la génération d'images offensantes et humiliantes et multiplie les risques de désinformation. Quelques gardes-fous ont heureusement été mis en place avec la mise à jour, notamment l'interdiction de générer des images érotiques ou des deepfakes pornographiques.

Les nouvelles fonctionnalités de ChatGPT sont accessibles pour tous gratuitement. Si la mise à jour a été déployée le 25 mars, les utilisateurs sans abonnements ont dû patienter jusqu'au 1^er avril pour en bénéficier. Ces derniers sont limités à trois générations d'images par jour.