DuckDuckGo ha construido su reputación con la búsqueda que prioriza la privacidad, pero esta semana, su asistente de IA ha tenido problemas por una razón completamente distinta. Aparentemente, Duck.ai afirmó con confianza que el presidente estadounidense Donald Trump había muerto de rabia a principios de este mes, con detalles fabricados sobre el vicepresidente JD Vance, Robert F. Kennedy Jr. y noticias falsas de apoyo. Nada de eso era cierto.
Una campaña falsa de Reddit logró engañar a la IA de Pato
Según el sitio Futurism, la extraña respuesta no fue el resultado de una sola alucinación. En cambio, parece haber sido provocada por una campaña coordinada de desinformación originada en la comunidad r/poisonai de Reddit, donde los usuarios publican deliberadamente historias absurdas diseñadas para “envenenar” los modelos de búsqueda con IA. En este caso, los miembros inundaron internet con afirmaciones fabricadas de que JD Vance había muerto de rabia antes de que Donald Trump supuestamente sucumbiera a la misma enfermedad, llegando incluso a crear artículos de noticias falsas y parodiar sitios web de noticias locales para reforzar la narrativa.
Duck.ai no fue la única víctima. Futurism también descubrió que la IA de Brave Search repetía afirmaciones falsas similares antes de corregirse más tarde. DuckDuckGo, por su parte, reconoció el error en Reddit con una respuesta irónica: “Vale, nos han esquivado en esto.” La empresa afirmó que el problema se había resuelto y añadió que Search Assist había sido “engañado deliberadamente”, prometiendo mejoras para manejar mejor ataques similares en el futuro.
El informe también señala que la historia falsa ganó credibilidad porque la búsqueda con IA citó un sitio web fabricado que se hacía pasar por un medio de noticias local legítimo, que a su vez parecía haber sido generado con IA y armado a partir del mismo engaño de Reddit. En otras palabras, la IA no se estaba inventando cosas. Repetía con confianza desinformación que se había difundido deliberadamente en la red.
Esto tiene menos que ver con DuckDuckGo y más sobre el futuro de la búsqueda con IA
Lo curioso es que esto no es realmente un problema de DuckDuckGo. Es un problema de búsqueda por IA. Los asistentes de IA modernos dependen cada vez más de la información recopilada de toda la web, y si se publica suficiente contenido falso en suficientes lugares, esos sistemas pueden empezar a tratar la ficción como un hecho.
Eso es lo que hace que este incidente sea tan preocupante. Llevamos años preocupándonos de que la IA alucine respuestas de la nada, pero los intentos coordinados de envenenar la búsqueda por IA podrían resultar aún más peligrosos. Si los actores malintencionados pueden manipular lo que los modelos de IA “aprenden” simplemente inundando internet con desinformación convincente, entonces mejorar la IA ya no consiste solo en construir modelos más inteligentes. Se trata de construir sistemas que sepan en quién, y en qué, deben confiar.
