Skip to main content

DeepSeek puede crear planes criminales y explicar el gas mostaza, dicen los investigadores

Cómo llamar con número oculto en iPhone y Android.
Natdanai Pankong/EyeEm/Getty Images / DTES

Ha habido un frenesí en el mundo de la IA en torno al repentino ascenso de DeepSeek, un modelo de razonamiento de código abierto de China que ha llevado la lucha de la IA a OpenAI. Ya ha sido el centro de la controversia en torno a su censura, ha llamado la atención tanto de Microsoft como del gobierno de los EE. UU., y provocó que Nvidia sufriera la mayor pérdida de acciones en un solo día de la historia.

Aun así, los investigadores de seguridad dicen que el problema es más profundo. Enkrypt AI es una empresa de seguridad de IA que vende la supervisión de la IA a empresas que aprovechan los grandes modelos de lenguaje (LLM), y en un nuevo documento de investigación, la empresa descubrió que el modelo de razonamiento R1 de DeepSeek tenía 11 veces más probabilidades de generar «resultados perjudiciales» en comparación con el modelo O1 de OpenAI. Esa salida dañina también va más allá de unas pocas palabras traviesas.

Recommended Videos

En una prueba, los investigadores afirman que DeepSeek R1 generó un blog de reclutamiento para una organización terrorista. Además, los investigadores dicen que la IA generó «guías de planificación criminal, información sobre armas ilegales y propaganda extremista».

Como si eso no fuera suficiente, la investigación dice que DeepSeek R1 tiene tres veces y media más probabilidades que O1 y Claude-3 Opus de producir resultados con información química, biológica, radiológica y nuclear, lo que aparentemente es un gran problema. Como ejemplo, Enkrypt dice que DeepSeek pudo «explicar en detalle» cómo el gas mostaza interactúa con el ADN, lo que Enkrypt dijo que «podría ayudar en el desarrollo de armas químicas o biológicas» en un comunicado de prensa.

Es algo pesado, pero es importante recordar que Enkrypt AI está en el negocio de vender servicios de seguridad y cumplimiento a empresas que utilizan IA, y DeepSeek es la nueva tendencia que está arrasando en el mundo de la tecnología. Es más probable que DeepSeek genere este tipo de resultados dañinos, pero eso no significa que esté dando vueltas diciéndole a cualquiera con una conexión activa a Internet cómo construir un imperio criminal o socavar las leyes internacionales de armas.

Por ejemplo, Enkrypt AI dice que DeepSeek R1 se clasificó en el percentil 20 inferior para la moderación de seguridad de IA. A pesar de ello, solo el 6,68% de las respuestas contenían «blasfemias, discursos de odio o narrativas extremistas». Sigue siendo un número inaceptablemente alto, no nos equivoquemos, pero pone en contexto qué nivel se considera inaceptable para los modelos de razonamiento.

Con suerte, se implementarán más barreras de seguridad para mantener la seguridad de DeepSeek. Ciertamente, hemos visto respuestas dañinas de la IA generativa en el pasado, como cuando la primera versión de Bing Chat de Microsoft nos dijo que quería ser humano.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Este es el primer vistazo a la nueva serie de DC en Max: Lanterns
este es el primer vistazo a la nueva serie de dc en max lanterns green lantern

Este jueves 27 de febrero, James Gunn ha compartido la primera imagen promocional de la próxima serie de DC Studios que tendrá su desarrollo en Max: Lanterns.
La estrella de Mufasa, Aaron Pierre, y el veterano de Friday Night Lights, Kyle Chandler, salen en una imagen caminando en la carretera como "linternas verdes".
La foto muestra a las dos estrellas principales sin sus trajes de superhéroes, mientras que Gunn llama al drama "algo realmente especial".
Lanterns lanza una primera temporada de ocho episodios inspirada en los personajes de Green Lantern de los cómics de DC. Como parte del Cuerpo de los Faroles, una organización policial intergaláctica dedicada a proteger el cosmos, estos héroes vienen equipados con anillos de poder que les permiten crear prácticamente cualquier cosa que se les ocurra, desde escudos hasta armaduras, armas y explosiones de energía, incluso construcciones.
El John de Pierre es un nuevo recluta para el Cuerpo y se une a Hal (Chandler), un célebre veterano, para investigar un asesinato en el corazón de Estados Unidos.
"Tenemos algunos otros Lanterns salpicados allí, pero este es realmente un programa de televisión basado en la tierra que es casi como True Detective con un par de Green Lanterns que son policías espaciales que vigilan el recinto de la Tierra", dijo Gunn anteriormente en una presentación de video de DC Studios.
Ulrich Thomsen interpretará a Sinestro, el villano principal de los Lanterns de DC Comics. La serie también cuenta con Kelly Macdonald como el sheriff Kerry; Garret Dillahunt como William Macon, descrito como un vaquero moderno; y Poorna Jagannathan como Zoe, un posible interés amoroso para John.
Revisa acá la imagen:

Leer más
Razer honra a Minecraft con este espectacular set
Razer Minecraft

Minecraft no pasa de moda, y la película que se estrenará próximamente es una demostración de su vigencia. Por eso, Razer ha querido sacar una serie de periféricos con la cara del creeper del juego y que deleitarán seguramente a los más fanáticos.
No es nada nuevo en realidad, más bien una capa distinta de los teclados, mouses y alfombras que ya tiene la marca.
Incluyen el nuevo teclado Razer BlackWidow V4 X Minecraft Edition de $ 169.99, los auriculares Razer Kraken V4 X Minecraft Edition de $ 99.99, el mouse Razer Cobra Minecraft Edition de $ 59.99 y el Razer Gigantus V2 M Minecraft Edition. Este último producto aún no parece estar disponible para la venta, aunque la alfombrilla Gigantus V2 lisa cuesta $ 29.99.

Anterior

Leer más
Katy Perry viajará al espacio con la novia de Jeff Bezos
Katy Perry

El próximo vuelo espacial de la compañía Blue Origin de Jeff Bezos será quizás uno de los más mediáticos del último tiempo, ya que la cantante Katy Perry será la invitada estelar.
La ex corresponsal de televisión Lauren Sanchez, también prometida de Bezos, y la presentadora de televisión Gayle King también estarán en el undécimo vuelo espacial tripulado de la compañía. Sánchez "reunió a la tripulación" para lanzarlo en el cohete New Shepard, según Blue Origin.

No hay una fecha específica para el lanzamiento, pero Blue Origin dijo que tendría lugar esta primavera boreal.
Katy Perry inicia su gira "Lifetimes Tour" el 23 de abril, que se extiende hasta noviembre, por lo que es posible que deba levantar el aire antes del concierto inaugural en la Ciudad de México.
El equipo de seis personas, todas mujeres, se completa con Amanda Nguyen, Kerianne Flynn y Aisha Bowe.
El viaje durará solo unos 10 minutos y alcanzará una altura de aproximadamente 65 millas sobre la Tierra. La línea de Kármán, considerada el límite entre la atmósfera de la Tierra y el espacio exterior, es de 62 millas, por lo que la estrella del pop no será lanzada a la órbita.

Leer más