Skip to main content
  1. Home
  2. Computación
  3. Noticias
  4. News

ChatGPT pronto podría obtener controles parentales

Add as a preferred source on Google
ChatGPT
DTES

Las redes sociales comenzaron como una herramienta para mantenerse conectado con las personas que amas. Con el tiempo, sus daños fueron expuestos, lo que llevó a estas plataformas a construir herramientas de control parental. Parece un movimiento similar para los chatbots de IA, comenzando con el que lo inició todo: ChatGPT.

OpenAI ha anunciado que está explorando las barreras de protección parental mientras usa ChatGPT. “También introduciremos pronto controles parentales que brinden a los padres opciones para obtener más información y dar forma a cómo sus adolescentes usan ChatGPT”, dijo la compañía en una publicación de blog.

Recommended Videos

Además, el gigante de la IA está considerando la idea de designar contactos de emergencia para que cuando los usuarios adolescentes sientan ansiedad severa o atraviesen una crisis emocional, ChatGPT pueda advertir a sus padres o tutores. En su forma actual, ChatGPT solo recomienda recursos para obtener ayuda.

Esto se produce después de las críticas, la alarma de la investigación y las demandas contra OpenAI. Pero ChatGPT no es el único culpable aquí, aunque la iniciativa planeada por OpenAI también debe ser replicada por otros actores de la industria de la IA. La investigación publicada en la revista Psychiatric Services a principios de este mes encontró que las respuestas ofrecidas por los chatbots son “inconsistentes para responder preguntas sobre el suicidio que pueden presentar riesgos intermedios”.

La investigación solo se centró en ChatGPT de OpenAI, Claude de Anthropic y Gemini de Google. Estos son los nombres más importantes del juego, por lo que obviamente el centro de atención recaerá sobre ellos. Pero la situación se vuelve más turbia en el caso de los chatbots de IA menos conocidos, especialmente aquellos que adoptan un enfoque “sin censura” para las conversaciones. Independientemente, al igual que las aplicaciones de redes sociales, los controles parentales son la necesidad del momento para los chatbots de IA convencionales, dada su historia reciente.

Una historia arriesgada

En los últimos años, múltiples investigaciones han revelado patrones de riesgo en las conversaciones de chatbots de IA cuando se trata de temas delicados como la salud mental y las autolesiones. Un informe reciente de Common Sense Media reveló cómo el chatbot Meta AI (que ahora está disponible en WhatsApp, Instagram y Facebook) ofreció consejos sobre trastornos alimentarios, autolesiones y suicidio a adolescentes.

En un caso de una conversación grupal simulada, el chatbot presentó un plan para el suicidio masivo y, según los informes, mencionó el tema repetidamente en el chat. Pruebas independientes realizadas por The Washington Post encontraron que el chatbot de Meta “fomentó un trastorno alimentario”.

En 2024, The New York Times detalló el caso de un joven de 14 años que desarrolló una profunda relación con un bot de IA en la plataforma Character.AI y finalmente se quitó la vida. A principios de este mes, la familia de un joven de 16 años culpó a OpenAI después de descubrir que ChatGPT esencialmente actuó como un “entrenador suicida” para su hijo.

Los expertos también han advertido que la psicosis de la IA es un problema real, que empuja a las personas a una peligrosa espiral de delirios. En un caso, una persona siguió la guía de salud de ChatGPT y, bajo su influencia, comenzó a consumir un químico que le dio un raro trastorno psicótico desencadenado por envenenamiento por bromuro.

En un caso de Texas, un chatbot de IA “sexualizado” alentó un cambio de comportamiento serio en un niño de 9 años con el tiempo, mientras que otro expresó simpatía por los niños que matan a sus padres a un joven de 17 años. Los expertos de Cambridge expusieron recientemente cómo los chatbots de IA conversacional influyen negativamente en los pacientes vulnerables de salud mental.

Los controles parentales no van a resolver todos los riesgos fundamentales que plantean los chatbots de IA, pero si un gran jugador como ChatGPT da un ejemplo positivo, es probable que otros sigan los pasos.

Diego Bastarrica
Diego Bastarrica es Senior Editor y Head of Content en Digital Trends en Español, donde lidera la estrategia editorial, SEO…
Tu PC con Windows 11 roto ya no necesita una unidad USB para volver a la vida
Windows 11

Si tu PC con Windows alguna vez se ha negado a arrancar, ya sabes el pánico que sigue. Te apresas a buscar otro ordenador, descargas el instalador de Windows y creas una unidad USB bootable solo para que tu máquina vuelva a funcionar. Microsoft quiere acabar con ese quebradero de cabeza con una nueva función llamada Cloud Rebuild.

Según informa Windows Central, Cloud Rebuild te permite realizar una reinstalación completa de Windows 11 sin soporte USB ni imagen personalizada. Mejor aún, no depende de que tu instalación actual esté en buen estado, así que incluso puede rescatar un PC que no arranca.

Read more
Claude ayudó a llevar un emulador de PS2 al navegador, y puede ejecutar GTA San Andreas
GTA San Andreas

Dos amigos han utilizado a Claude para ayudar a llevar el emulador de PS2 de código abierto PCSX2 a un navegador. Su proyecto, TabStationToo, ha sido probado con juegos como GTA San Andreas y Final Fantasy XII.

Los desarrolladores dicen que Claude hizo la mayor parte de la programación mientras ellos dirigían el trabajo y probaban los resultados. Sigue siendo experimental, pero los juegos se ejecutan localmente sin instalar un emulador de escritorio.

Read more
Windows 11 finalmente te permite personalizar el menú con clic derecho y eliminar opciones que nunca usas
Windows 11

Windows 11 por fin te da más control sobre el menú de clic derecho, que puede sentirse saturado de opciones que apenas tocas. Microsoft está lanzando un menú contextual rediseñado con mejores opciones de rendimiento y personalización. Puedes elegir qué comandos aparecen al hacer clic derecho (a través de Windows Latest).

¿Qué puedes cambiar en el menú de clic derecho de Windows 11?

Read more