Skip to main content

DeepSeek puede crear planes criminales y explicar el gas mostaza, dicen los investigadores

Cómo llamar con número oculto en iPhone y Android.
Natdanai Pankong/EyeEm/Getty Images / DTES

Ha habido un frenesí en el mundo de la IA en torno al repentino ascenso de DeepSeek, un modelo de razonamiento de código abierto de China que ha llevado la lucha de la IA a OpenAI. Ya ha sido el centro de la controversia en torno a su censura, ha llamado la atención tanto de Microsoft como del gobierno de los EE. UU., y provocó que Nvidia sufriera la mayor pérdida de acciones en un solo día de la historia.

Aun así, los investigadores de seguridad dicen que el problema es más profundo. Enkrypt AI es una empresa de seguridad de IA que vende la supervisión de la IA a empresas que aprovechan los grandes modelos de lenguaje (LLM), y en un nuevo documento de investigación, la empresa descubrió que el modelo de razonamiento R1 de DeepSeek tenía 11 veces más probabilidades de generar «resultados perjudiciales» en comparación con el modelo O1 de OpenAI. Esa salida dañina también va más allá de unas pocas palabras traviesas.

Recommended Videos

En una prueba, los investigadores afirman que DeepSeek R1 generó un blog de reclutamiento para una organización terrorista. Además, los investigadores dicen que la IA generó «guías de planificación criminal, información sobre armas ilegales y propaganda extremista».

Como si eso no fuera suficiente, la investigación dice que DeepSeek R1 tiene tres veces y media más probabilidades que O1 y Claude-3 Opus de producir resultados con información química, biológica, radiológica y nuclear, lo que aparentemente es un gran problema. Como ejemplo, Enkrypt dice que DeepSeek pudo «explicar en detalle» cómo el gas mostaza interactúa con el ADN, lo que Enkrypt dijo que «podría ayudar en el desarrollo de armas químicas o biológicas» en un comunicado de prensa.

Es algo pesado, pero es importante recordar que Enkrypt AI está en el negocio de vender servicios de seguridad y cumplimiento a empresas que utilizan IA, y DeepSeek es la nueva tendencia que está arrasando en el mundo de la tecnología. Es más probable que DeepSeek genere este tipo de resultados dañinos, pero eso no significa que esté dando vueltas diciéndole a cualquiera con una conexión activa a Internet cómo construir un imperio criminal o socavar las leyes internacionales de armas.

Por ejemplo, Enkrypt AI dice que DeepSeek R1 se clasificó en el percentil 20 inferior para la moderación de seguridad de IA. A pesar de ello, solo el 6,68% de las respuestas contenían «blasfemias, discursos de odio o narrativas extremistas». Sigue siendo un número inaceptablemente alto, no nos equivoquemos, pero pone en contexto qué nivel se considera inaceptable para los modelos de razonamiento.

Con suerte, se implementarán más barreras de seguridad para mantener la seguridad de DeepSeek. Ciertamente, hemos visto respuestas dañinas de la IA generativa en el pasado, como cuando la primera versión de Bing Chat de Microsoft nos dijo que quería ser humano.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
La NASA organizará la primera transmisión de Twitch desde la Estación Espacial Internacional
Astronautas juntos en la Estación Espacial Internacional

El trabajo de las agencias espaciales como la NASA no es solo investigar temas científicos e impulsar la exploración espacial, sino también comunicarse con el público sobre ese trabajo y entusiasmarlos con la investigación espacial. Con ese fin, la NASA organiza con frecuencia eventos como astronautas en el espacio respondiendo preguntas de los escolares, colaborando con proyectos de ciencia ciudadana o alentando a los astrónomos aficionados y a los observadores de estrellas curiosos a participar en eventos astronómicos. Ahora, el último impulso de la agencia para involucrar a los jóvenes es ir a donde muchos de ellos están: en Twitch.
La NASA organizará su primer evento de Twitch desde la Estación Espacial Internacional la próxima semana, en un movimiento con la esperanza de atraer a una nueva audiencia interesada en la ciencia y la investigación espacial. El evento hará que los astronautas de la NASA que viven actualmente en la estación espacial hablen sobre su vida a bordo y el trabajo que están haciendo, y les dará a los espectadores de Twitch la oportunidad de hacerles preguntas.
El evento está programado para el miércoles 12 de febrero a las 11:45 a.m. ET y se transmitirá en el canal de Twitch de la NASA.
Los funcionarios de la NASA dicen que esperan poder atraer a nuevas personas a su trabajo con el evento. "Este evento de Twitch desde el espacio es el primero de muchos", dijo Brittany Brown, directora de la División de Comunicaciones Digitales y Tecnología, en la sede de la NASA en Washington. "Hablamos con los creadores digitales en la TwitchCon sobre su deseo de streams diseñados pensando en sus comunidades, y los escuchamos. Además de nuestras caminatas espaciales, lanzamientos y aterrizajes, organizaremos más transmisiones exclusivas de Twitch como esta. Twitch es una de las muchas plataformas digitales que utilizamos para llegar a nuevas audiencias y entusiasmarlas con todo lo relacionado con el espacio".
El evento incluirá al astronauta Don Pettit, quien actualmente vive en la estación espacial y recientemente tomó una foto increíble de la vista desde la órbita, y el astronauta Matt Dominick, quien terminó su rotación en la estación el año pasado.
Además de este evento de Twitch y otras transmisiones frecuentes, como los astronautas que organizan eventos desde la estación espacial, también hay una transmisión disponible en YouTube las 24 horas del día, los 7 días de la semana, de las vistas de la ISS y video de la ISS, que incluye vistas internas de la tripulación en el trabajo, así como vistas de la Tierra vista desde el espacio.

Leer más
Google Maps reveló las atracciones más populares de Hispanoamérica y lanzó nuevas funcionalidades
Google Maps

Google Maps cumple 20 años ayudando -cada mes- a más de 2 mil millones de personas a recorrer, explorar y descubrir nuevos lugares en todo el mundo. Para celebrar esta nueva década, la plataforma comparte los puntos de interés más relevantes en el mundo y en la Argentina, Chile y Colombia en los últimos años, la incorporación de nuevas herramientas para desplazarse de manera más responsable y divertida, y un viaje por sus principales hitos y lanzamientos.
“Hace 20 años, Google Maps nació como una revolución, transformando la manera en que el mundo se desplaza. Hoy, es mucho más que un mapa: es una herramienta esencial para más de 2 mil millones de personas que confían en ella cada mes. Gracias a nuestra comunidad de 500 millones de colaboradores,que realizan 100 millones de actualizaciones, Google Maps ofrece información actualizada de 250 millones de negocios y lugares, y ha guiado a las personas por 1 billón de kilómetros de direcciones. ¡Seguimos innovando para que puedas explorar el mundo con confianza!”, explica Miriam Daniel, vicepresidenta de Google Maps.
Lo nuevo que presenta Google Maps
Google Maps aprovechó estos 20 años para presentar novedades:

Novedad en materia de sustentabilidad. A partir de hoy, las personas en todo el mundo podrán visualizar en la plataforma y elegir la ruta más eficiente en combustible o energía a su destino. Disponible en iOS y Android.
Nuevo avatar. Justo a tiempo para la celebración de cumpleaños, los conductores podrán cambiar la flecha azul de navegación de Google Maps por un autobús de fiesta.
Capturas de pantalla para descubrir lugares. Con la ayuda de las capacidades de Gemini, Google Maps identificará automáticamente distintos lugares, restaurante, atracciones y más en las capturas de pantalla y los agregará a una lista personalizada para cada usuario, sin necesidad de crearla uno mismo, ya sea que se esté planeando un viaje o el próximo lugar para una reunión grupal. Esta nueva función se lanza en iOS en los EE. UU. este mes y pronto llegará a Android.

Leer más
El Vivo X200 Ultra podría lanzarse con un sensor de cámara mucho más potente
Vivo X200 Pro

Cuando Vivo lanzó la línea x200 el año pasado, se burló de un modelo Ultra, pero dijo que no lo veríamos hasta 2025. Si bien todavía no tenemos clara la fecha de lanzamiento, hemos aprendido algunos detalles sobre la configuración de la cámara del próximo buque insignia que nos tienen emocionados. Un informante filtró la información en Weibo y reveló varios detalles clave sobre qué esperar de este teléfono.
Se dice que el Vivo X200 Ultra tiene una configuración de tres cámaras que incluye una cámara principal de 50MP, una cámara de teleobjetivo periscópica de 200MP y una cámara ultra gran angular de 50MP. Si eso te suena un poco familiar, es porque el Vivo X200 Pro tiene las mismas unidades principal y teleobjetivo. Lo que distingue al X200 Ultra es el sensor de su ultra gran angular. Un sensor de 1/2,76 pulgadas permitirá que entre mucha más luz, lo que lo hace ideal para tomar fotos de mayor resolución incluso en condiciones de poca luz.
Además, la cámara principal tendrá un zoom de 1,5x por defecto. Eso es aproximadamente una distancia focal de 35 mm en su zoom estándar, y el ultra gran angular tendrá un ajuste de zoom de 1x en lugar de 0,5x o 0,6x. Sin embargo, como cualquier otro teléfono, podrás ajustar el zoom sobre la marcha.

Tushar Mehta /DT

Leer más