Skip to main content

Windows 11 pronto aprovechará su GPU para la IA generativa

Tras la introducción de Copilot, su último asistente inteligente para Windows 11, Microsoft vuelve a avanzar en la integración de la IA generativa con Windows. En la conferencia de desarrolladores Ignite 2023 en curso en Seattle, la compañía anunció una asociación con Nvidia en TensorRT-LLM que promete elevar las experiencias de los usuarios en computadoras de escritorio y portátiles con Windows con GPU RTX.

La nueva versión está configurada para introducir soporte para nuevos modelos de lenguaje grandes, lo que hace que las cargas de trabajo de IA exigentes sean más accesibles. Cabe destacar su compatibilidad con la API de chat de OpenAI, que permite la ejecución local (en lugar de en la nube) en PC y estaciones de trabajo con GPU RTX a partir de 8 GB de VRAM.

Recommended Videos

La biblioteca TensorRT-LLM de Nvidia se lanzó el mes pasado y se dice que ayuda a mejorar el rendimiento de los modelos de lenguaje grandes (LLM) que utilizan los Tensor Cores en las tarjetas gráficas RTX. Proporciona a los desarrolladores una API de Python para definir LLM y crear motores TensorRT más rápido sin un conocimiento profundo de C++ o CUDA.

Con el lanzamiento de TensorRT-LLM v0.6.0, navegar por las complejidades de los proyectos personalizados de IA generativa se simplificará gracias a la introducción de AI Workbench. Se trata de un conjunto de herramientas unificado que facilita la creación, prueba y personalización rápidas de modelos de IA generativa y LLM preentrenados. También se espera que la plataforma permita a los desarrolladores optimizar la colaboración y la implementación, asegurando un desarrollo de modelos eficiente y escalable.

Un gráfico que muestra el rendimiento de inferencia de TensorRT-LLM en Windows 11.
Nvidia

Reconociendo la importancia de apoyar a los desarrolladores de IA, Nvidia y Microsoft también están lanzando mejoras de DirectML. Estas optimizaciones aceleran los modelos de IA fundamentales como Llama 2 y Stable Diffusion, lo que proporciona a los desarrolladores mayores opciones para la implementación entre proveedores y establece nuevos estándares de rendimiento.

La nueva actualización de la biblioteca TensorRT-LLM también promete una mejora sustancial en el rendimiento de la inferencia, con velocidades hasta cinco veces más rápidas. Esta actualización también amplía la compatibilidad con otros LLM populares, incluidos Mistral 7B y Nemotron-3 8B, y amplía las capacidades de los LLM locales rápidos y precisos a una gama más amplia de dispositivos portátiles de Windows.

La integración de TensorRT-LLM para Windows con la API de chat de OpenAI a través de un nuevo contenedor permitirá que cientos de proyectos y aplicaciones impulsados por IA se ejecuten localmente en PC equipadas con RTX. Esto eliminará potencialmente la necesidad de depender de los servicios en la nube y garantizará la seguridad de los datos privados y propietarios en las PC con Windows 11.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Por esta poderosa razón Windows 11 es más que la IA
WIndows 11 forzudo

Se ha hablado mucho de los PC con IA este año, pero ¿han cumplido realmente su promesa? Un nuevo análisis de TrendForce dice que el aumento significativo en las ventas de computadoras portátiles en 2024 tiene más que ver con las actualizaciones de Windows 11 que con las nuevas y sofisticadas funciones de IA.

"El impacto de los portátiles integrados en IA en el mercado general sigue siendo limitado por ahora", afirma el informe. "Sin embargo, se espera que las características de IA se integren naturalmente en las especificaciones de los portátiles a medida que las marcas las incorporen gradualmente, lo que resulta en un aumento constante en las tasas de penetración de los portátiles de IA".

Leer más
Microsoft advierte que la última actualización de Windows 11 puede bloquear los juegos de PC
Los mejores juegos multiplataforma para consolas y PC.

Microsoft ha vuelto a detener temporalmente el lanzamiento de su última gran actualización de Windows 11, también conocida como 24H2. Esta vez es para sistemas que ejecutan juegos seleccionados de Ubisoft luego de informes generalizados de usuarios sobre bloqueos y problemas de rendimiento. Los títulos afectados incluyen Assassin's Creed Valhalla, Assassin's Creed Origins, Assassin's Creed Odyssey, Star Wars Outlaws y Avatar: Frontiers of Pandora.

Las quejas comunes incluyen pantallas negras, congelación y falta de respuesta durante el juego o al cargar estos títulos. "Acabo de comprar un nuevo portátil para juegos con RTX 4080, Intel i9 14900hx. No puedo jugar el juego (Origins) ni siquiera durante 5 minutos porque se bloquea en una pantalla negra, con audio, y la única forma de cerrarlo es desde el administrador de tareas. Imposible jugar", compartió un usuario en Reddit. Otros informaron frustraciones similares, citando el error persistente "NTDLL.dll" que hace que sus juegos no se puedan jugar.

Leer más
La actualización de Windows 11 24H2 está causando aún más problemas
Windows 11 vs. Windows 10: ¿deberías actualizarte?

La actualización de Windows 11 24H2 ya había estado dando a los usuarios un verdadero dolor de cabeza con problemas como errores en los diseños visuales y fallas en ciertas aplicaciones de fondos de pantalla. Y ahora, como confirma Microsoft en un documento de soporte, algunas personas sin privilegios administrativos no pueden cambiar la zona horaria en la vista de fecha y hora, entre otros innumerables problemas relacionados con la importante actualización de Windows 11.

Una publicación del Centro de opiniones también informa de un problema de tiempo después de salir del modo de suspensión, concretamente después de uno de cada cinco ciclos de sueño nocturno. También hay un informe que indica que la hora no se sincroniza correctamente después del horario de verano. Dicho de otra manera, la actualización no rompe la zona horaria, sino que solo afecta al interruptor o hace que sea muy difícil modificarlo.

Leer más