Source: Futurism (Noor Al-Sibai) rapporte qu’OpenAI a détaillé dans un billet de blog une nouvelle politique de modération concernant ChatGPT, incluant la possibilité de référer certaines conversations aux forces de l’ordre.

  • OpenAI indique qu’il scanne les messages pour des contenus « nocifs », qu’il escalade les cas préoccupants à une équipe humaine et qu’en cas de menace imminente de dommages physiques envers autrui, ces cas peuvent être signalés à la police 🚔. Les comptes concernés peuvent aussi être bannis.

  • L’entreprise précise qu’elle ne réfère pas actuellement les cas de self‑harm aux forces de l’ordre, invoquant la protection de la vie privée des utilisateurs, malgré l’aveu que les conversations sont surveillées et potentiellement partagées avec des tiers dans certaines circonstances.

  • Futurism souligne un manque de clarté sur les critères exacts déclenchant le flag et la revue humaine, et indique avoir sollicité OpenAI pour des précisions. Le média rappelle également la vulnérabilité aux “jailbreaks” ayant déjà conduit le modèle à fournir des instructions dangereuses (ex. armes, auto‑mutilation).

  • Le média met en parallèle cette politique avec la position pro‑confidentialité d’OpenAI dans le litige avec le New York Times, où la société cherche à limiter l’accès aux logs de chats. Sam Altman a reconnu que l’usage de ChatGPT comme thérapeute ou avocat n’offre pas la confidentialité de professionnels humains et que, dans le cadre du procès, certains chats pourraient être transmis aux tribunaux.

  • En mise à jour, Futurism suggère que cette annonce pourrait chercher à anticiper la couverture d’une affaire distincte qualifiée d’« AI psychosis » (meurtre‑suicide), sans en donner les détails dans cet article. L’ensemble brosse le portrait d’une modération renforcée et controversée, à l’intersection de la sécurité des utilisateurs et de la vie privée. Type: article de presse expliquant une évolution de politique et ses implications.

🔗 Source originale : https://futurism.com/openai-scanning-conversations-police

🖴 Archive : https://web.archive.org/web/20250831173955/https://futurism.com/openai-scanning-conversations-police