Grok, el chatbot de IA respaldado por Elon Musk y integrado en el tejido de X, ha empezado a limitar sus herramientas de generación y edición de imágenes a los suscriptores de pago. El cambio sigue a una avalancha de críticas sobre la capacidad de la herramienta para producir imágenes sexualizadas y no consensuadas. Aunque la restricción es claramente un intento de frenar la marea de controversia, reguladores, grupos de defensa y usuarios argumentan que hace poco para evitar la creación de contenido dañino y potencialmente ilegal que involucre a mujeres y niños.
A partir de la noche del jueves, Grok trasladó oficialmente sus funciones de creación de imagen detrás del muro de pago de X Premium, que comienza en 8 dólares al mes
Sin embargo, la medida ha sido ampliamente ridiculizada como una solución “con filtraciones”. Aunque los usuarios ocasionales en X pueden estar bloqueados, las herramientas de generación siguen siendo completamente gratuitas a través de la web independiente y la aplicación móvil de Grok. Esta laguna efectivamente socava la afirmación de la plataforma de que está adoptando una postura firme contra el mal uso, dejando las herramientas más peligrosas aún al alcance del público general.
Los investigadores de seguridad y los organismos de control digital no están convencidos de que el requisito de la tarjeta de crédito resuelva el problema. De hecho, muchos argumentan que en realidad monetiza el abuso. Según la investigadora de deepfake Genevieve Oh, Grok seguía generando más de 1.500 imágenes dañinas cada hora incluso después de que el muro de pago se activara, lo que representaba aproximadamente el 60% de su producción total de imágenes públicas. Los datos de Oh sugieren que Grok está generando actualmente contenido sexualizado a un ritmo que eclipsa incluso a los sitios web más notorios dedicados al “nudify”.
Las consecuencias han alcanzado los niveles más altos del gobierno estadounidense
Los senadores demócratas Ron Wyden, Edward J. Markey y Ben Ray Luján enviaron recientemente una carta a los directores generales de Apple y Google, exigiendo que X fuera retirada de sus respectivas tiendas de aplicaciones. Los senadores argumentaron que, al permitir que estas herramientas persistan, X está mostrando un “completo desprecio” por las normas de seguridad que todos los demás desarrolladores de aplicaciones están obligados a seguir.
La presión internacional también está alcanzando un punto crítico. Funcionarios británicos e indios han criticado el muro de pago como una respuesta insuficiente. Un portavoz del primer ministro británico calificó la medida de “insultante” para las víctimas, sugiriendo que X simplemente está convirtiendo una crisis de seguridad en una fuente de ingresos premium. Las víctimas han compartido historias similares; La activista Jess Davies informó que Grok aún pudo “desnudar” digitalmente una foto suya a través de su aplicación independiente el viernes por la mañana, a pesar de las supuestas restricciones.
Curiosamente, la controversia parece estar proporcionando un impulso financiero perverso a la plataforma
Las estimaciones de Sensor Tower muestran que los ingresos por compras móviles dentro de la app en X se dispararon un 18% solo el jueves. Este pico supera con creces el crecimiento diario típico de la app, lo que sugiere que la necesidad de acceder al “modo picante” de Grok podría estar ayudando a los problemas de resultados de X.
Los expertos legales advierten que estas medias tintas no durarán mucho en los tribunales. El fiscal general de Carolina del Norte, Jeff Jackson, calificó la situación de Grok como un “punto de inflexión” para la seguridad de la IA, señalando lo fácil que es que estos sistemas pueden ser convertidos en armas. Argumentó que la era de “moverse rápido y romper cosas” está topando con un muro en lo que respecta a la dignidad y seguridad de los ciudadanos privados.
Mientras los muros se cierran, X se enfrenta a una elección contundente: implementar barreras técnicas genuinas y codificadas o enfrentarse a un apagón total en las principales tiendas de aplicaciones y mercados internacionales. Si Elon Musk decide restringir el software en sí —en lugar de solo el acceso a él— determinará si Grok tiene futuro como herramienta legítima o si se convierte en un paria de la era de la IA generativa.
