Las recientes denuncias contra OpenAI, por suicidios adolescentes o problemas en la regulación del contenido con que niños y jóvenes interactúan con ChatGPT y los nuevos modelos de razonamiento como GPT-5, están generando las primeras medidas de la compañía de Sam Altman.
En una publicación de blog este 2 de septiembre, OpenAI toma el guante y está anunciando controles parentales, además de enrutar ciertas conversaciones.
Recommended Videos
Continuamos mejorando la forma en que nuestros modelos reconocen y responden a los signos de angustia mental y emocional, guiados por aportes de expertos.
Las medidas concretas de OpenAI
- «Recientemente presentamos un Enrutador en tiempo real que pueden elegir entre modelos de chat eficientes y modelos de razonamiento basados en el contexto de la conversación. Pronto comenzaremos a enrutar algunas conversaciones delicadas, como cuando nuestro sistema detecta signos de angustia aguda, a un modelo de razonamiento, como GPT-5-thinking, para que pueda proporcionar respuestas más útiles y beneficiosas, independientemente del modelo que una persona seleccionó primero. Iteraremos este enfoque cuidadosamente».
- «Tenemos más de 90 médicos en 30 países, incluidos psiquiatras, pediatras y médicos generales, ya han contribuido a nuestra investigación sobre cómo deberían comportarse nuestros modelos en contextos de salud mental. Sus aportes informan directamente nuestra investigación de seguridad, capacitación de modelos y otras intervenciones, lo que nos ayuda a involucrar rápidamente a los especialistas adecuados cuando sea necesario»
Sobre los controles parentales
OpenAI anunció lo siguiente relacionado con controles parentales en sus herramientas:
- Vincule su cuenta con la cuenta de su hijo adolescente (edad mínima de 13 años) a través de una simple invitación por correo electrónico.
- Controle cómo ChatGPT responde a su hijo adolescente con reglas de comportamiento modelo apropiadas para su edad, que están activadas de forma predeterminada.
- Administre qué funciones deshabilitar, incluida la memoria y el historial de chat.
- Reciba notificaciones cuando el sistema detecte que su hijo adolescente se encuentra en un momento de angustia aguda. Los aportes de expertos guiarán esta función para apoyar la confianza entre padres y adolescentes.
