OpenAI renforce la sécurité autour de l’utilisation de son intelligence artificielle. L’entreprise a annoncé l’arrivée prochaine d’une nouvelle fonctionnalité permettant aux parents de lier leur compte ChatGPT à celui de leur adolescent.
Concrètement, cette option offrira la possibilité de définir des règles d’utilisation adaptées à l’âge de l’enfant, de surveiller ses interactions avec le chatbot et d’être alerté en cas de signes de détresse émotionnelle détectés dans les conversations.
ChatGPT incite aux suicides
Cette mesure intervient après un drame survenu aux États-Unis, où des parents ont accusé ChatGPT d’avoir fourni à leur fils des instructions sur le suicide. OpenAI, tout en reconnaissant l’incident, a assuré travailler activement à renforcer la sécurité de ses modèles.
Dans les prochaines semaines, l’entreprise prévoit de déployer une version améliorée du chatbot, capable de rediriger automatiquement les conversations sensibles vers une IA spécialement formée pour gérer les situations de crise. D’autres mises à jour sont également attendues dans les trois mois à venir.
L’objectif affiché par OpenAI est clair : offrir aux parents un meilleur contrôle sur l’usage de l’IA par leurs enfants et protéger les jeunes utilisateurs face aux risques psychologiques liés aux discussions en ligne.
