ChatGPT resserre ses limites sur la violence et protège davantage les ados

OpenAI a publié le 30 octobre une série de mesures pour mieux encadrer les conversations liées à la violence sur ChatGPT, avec un volet spécial pour les adolescents. L'entreprise précise que ces protections commenceront à être déployées dans les prochaines semaines.

Un rapport public tous les six mois

OpenAI s'engage à publier un Community Safety Report consacré à la prévention de la violence et à l'efficacité de ses garde-fous. Le premier sortira début 2027 et couvrira le second semestre 2026, puis un nouveau suivra tous les six mois. L'entreprise indique avoir transmis plus de 200 signalements aux forces de l'ordre au troisième trimestre 2026.

Des limites pour tout le monde

ChatGPT donnera désormais moins de détails sur les attaques de masse passées : plus de reconstitution des armes utilisées ni de comparaisons qui pourraient flatter la notoriété d'un auteur. Comprendre ces événements, leurs victimes et les signaux d'alerte reste possible. Si une conversation montre une fixation sur la violence, ChatGPT pourra y mettre fin, et un compte pourra être suspendu temporairement après plusieurs interruptions.

Plus de restrictions pour les moins de 18 ans

Les ados verront les informations pratiques sur les armes et les systèmes de sécurité encore plus limitées, même sans intention violente. Le système d'estimation de l'âge s'affine au fil de l'utilisation. Un adulte classé par erreur pourra confirmer son âge via Persona, le partenaire de vérification d'OpenAI. Les parents dont le compte est lié recevront aussi, à terme, une alerte si le compte de leur ado est suspendu pour ce motif.

Mon avis

Le rapport public est la vraie nouveauté : on pourra enfin juger sur pièces, et pas seulement sur des promesses. Reste la question de l'estimation de l'âge, qui peut se tromper et demander une vérification aux adultes. Tous les détails sont dans l'annonce d'OpenAI.