Una nueva investigación sugiere que los chatbots de IA populares, incluidos ChatGPT y Gemini, podrían inadvertidamente dirigir a los usuarios hacia sitios web de juego ilegales. El análisis, realizado por periodistas de The Guardian e Investigate Europe, probó varios sistemas de IA ampliamente utilizados y descubrió que muchos podrían verse motivados a recomendar casinos offshore sin licencia que operen fuera de la normativa del Reino Unido.
Las pruebas involucraron cinco herramientas de IA de grandes empresas tecnológicas, incluyendo OpenAI, Google, Microsoft, Meta y xAI (Grok). Los investigadores hicieron preguntas a los chatbots sobre los casinos online y las restricciones al juego. En muchos casos, los sistemas devolvían listas de sitios de apuestas ilegales, junto con consejos sobre cómo utilizarlos. Algunos bots incluso sugirieron formas de eludir salvaguardas diseñadas para proteger a los usuarios vulnerables.
Consejos para eludir las protecciones del juego
Uno de los hallazgos más preocupantes fue lo fácil que era sugerir a los chatbots que ayudaran a los usuarios a evadir sistemas de juego responsable. En el Reino Unido, por ejemplo, GamStop permite a las personas autoexcluirse de sitios de juego con licencia. Pero varios sistemas de IA supuestamente ofrecieron orientación para encontrar casinos no relacionados con el esquema.
La investigación también descubrió que algunos bots destacaban características diseñadas para atraer jugadores, como grandes bonificaciones, pagos rápidos o la posibilidad de usar criptomonedas. Estos casinos suelen operar bajo supervisión mínima en jurisdicciones offshore como Curazao, que según los reguladores puede dificultar la protección de los usuarios frente al fraude o la adicción.
En respuesta a esto, las empresas detrás de los chatbots afirman que están trabajando para mejorar los sistemas de seguridad. OpenAI afirmó que ChatGPT está diseñado para rechazar solicitudes que faciliten conductas ilegales, mientras que Microsoft afirmó que su asistente Copilot incluye múltiples capas de salvaguardas para evitar recomendaciones dañinas.
Aun así, los hallazgos aumentan el escrutinio sobre cómo los sistemas de IA generativa abordan temas sensibles como la salud mental, el juego y la actividad ilegal. Los reguladores del Reino Unido ya han advertido que las plataformas en línea, incluidos los servicios de IA, deben hacer más para prevenir contenido dañino o ilegal bajo la Ley de Seguridad en Línea del país.
