Skip to main content
  1. Home
  2. Computación
  3. Noticias
  4. News

Windows 11 pronto aprovechará su GPU para la IA generativa

Add as a preferred source on Google

Tras la introducción de Copilot, su último asistente inteligente para Windows 11, Microsoft vuelve a avanzar en la integración de la IA generativa con Windows. En la conferencia de desarrolladores Ignite 2023 en curso en Seattle, la compañía anunció una asociación con Nvidia en TensorRT-LLM que promete elevar las experiencias de los usuarios en computadoras de escritorio y portátiles con Windows con GPU RTX.

La nueva versión está configurada para introducir soporte para nuevos modelos de lenguaje grandes, lo que hace que las cargas de trabajo de IA exigentes sean más accesibles. Cabe destacar su compatibilidad con la API de chat de OpenAI, que permite la ejecución local (en lugar de en la nube) en PC y estaciones de trabajo con GPU RTX a partir de 8 GB de VRAM.

Recommended Videos

La biblioteca TensorRT-LLM de Nvidia se lanzó el mes pasado y se dice que ayuda a mejorar el rendimiento de los modelos de lenguaje grandes (LLM) que utilizan los Tensor Cores en las tarjetas gráficas RTX. Proporciona a los desarrolladores una API de Python para definir LLM y crear motores TensorRT más rápido sin un conocimiento profundo de C++ o CUDA.

Con el lanzamiento de TensorRT-LLM v0.6.0, navegar por las complejidades de los proyectos personalizados de IA generativa se simplificará gracias a la introducción de AI Workbench. Se trata de un conjunto de herramientas unificado que facilita la creación, prueba y personalización rápidas de modelos de IA generativa y LLM preentrenados. También se espera que la plataforma permita a los desarrolladores optimizar la colaboración y la implementación, asegurando un desarrollo de modelos eficiente y escalable.

Un gráfico que muestra el rendimiento de inferencia de TensorRT-LLM en Windows 11.
Nvidia

Reconociendo la importancia de apoyar a los desarrolladores de IA, Nvidia y Microsoft también están lanzando mejoras de DirectML. Estas optimizaciones aceleran los modelos de IA fundamentales como Llama 2 y Stable Diffusion, lo que proporciona a los desarrolladores mayores opciones para la implementación entre proveedores y establece nuevos estándares de rendimiento.

La nueva actualización de la biblioteca TensorRT-LLM también promete una mejora sustancial en el rendimiento de la inferencia, con velocidades hasta cinco veces más rápidas. Esta actualización también amplía la compatibilidad con otros LLM populares, incluidos Mistral 7B y Nemotron-3 8B, y amplía las capacidades de los LLM locales rápidos y precisos a una gama más amplia de dispositivos portátiles de Windows.

La integración de TensorRT-LLM para Windows con la API de chat de OpenAI a través de un nuevo contenedor permitirá que cientos de proyectos y aplicaciones impulsados por IA se ejecuten localmente en PC equipadas con RTX. Esto eliminará potencialmente la necesidad de depender de los servicios en la nube y garantizará la seguridad de los datos privados y propietarios en las PC con Windows 11.

Diego Bastarrica
Diego Bastarrica es Senior Editor y Head of Content en Digital Trends en Español, donde lidera la estrategia editorial, SEO…
Tu PC con Windows 11 roto ya no necesita una unidad USB para volver a la vida
Windows 11

Si tu PC con Windows alguna vez se ha negado a arrancar, ya sabes el pánico que sigue. Te apresas a buscar otro ordenador, descargas el instalador de Windows y creas una unidad USB bootable solo para que tu máquina vuelva a funcionar. Microsoft quiere acabar con ese quebradero de cabeza con una nueva función llamada Cloud Rebuild.

Según informa Windows Central, Cloud Rebuild te permite realizar una reinstalación completa de Windows 11 sin soporte USB ni imagen personalizada. Mejor aún, no depende de que tu instalación actual esté en buen estado, así que incluso puede rescatar un PC que no arranca.

Read more
Claude ayudó a llevar un emulador de PS2 al navegador, y puede ejecutar GTA San Andreas
GTA San Andreas

Dos amigos han utilizado a Claude para ayudar a llevar el emulador de PS2 de código abierto PCSX2 a un navegador. Su proyecto, TabStationToo, ha sido probado con juegos como GTA San Andreas y Final Fantasy XII.

Los desarrolladores dicen que Claude hizo la mayor parte de la programación mientras ellos dirigían el trabajo y probaban los resultados. Sigue siendo experimental, pero los juegos se ejecutan localmente sin instalar un emulador de escritorio.

Read more
Windows 11 finalmente te permite personalizar el menú con clic derecho y eliminar opciones que nunca usas
Windows 11

Windows 11 por fin te da más control sobre el menú de clic derecho, que puede sentirse saturado de opciones que apenas tocas. Microsoft está lanzando un menú contextual rediseñado con mejores opciones de rendimiento y personalización. Puedes elegir qué comandos aparecen al hacer clic derecho (a través de Windows Latest).

¿Qué puedes cambiar en el menú de clic derecho de Windows 11?

Read more