Skip to main content
  1. Home
  2. Computación
  3. Noticias
  4. Tendencias
  5. News

Cómo es la base de datos de riesgos de IA creada por el MIT

Add as a preferred source on Google
Robot IA maligno encerrado en jaula
Digital Trends Español

El MIT acaba de estrenar un documento esencial para instituciones laborales, gubernamentales, públicas y estudiantiles sobre los riesgos que conlleva el uso de IA y una categorización de potenciales peligros.

El Repositorio de Riesgos de IA, es una base de datos completa de cientos de riesgos documentados que plantean los sistemas de IA. El repositorio tiene como objetivo ayudar a los responsables de la toma de decisiones en el gobierno, la investigación y la industria a evaluar los riesgos cambiantes de la IA.

Recommended Videos

Como dice la gente del MIT: “Una completa base de datos viva de más de 700 riesgos de IA categorizados por su causa y dominio de riesgo”.

El Repositorio de Riesgos de IA consta de tres partes:

  • La base de datos de riesgos de IA captura 700+ riesgos extraídos de 43 marcos existentes, con citas y números de página.
  • La taxonomía causal de los riesgos de la IA clasifica cómo, cuándo y por qué se producen estos riesgos.
  • La Taxonomía de Dominios de Riesgos de IA clasifica estos riesgos en siete dominios (por ejemplo, “Desinformación”) y 23 subdominios (por ejemplo, “Información falsa o engañosa”).

El repositorio de riesgos de IA proporciona:

  • Una visión general accesible del panorama de riesgos de la IA.
  • Una fuente de información actualizada regularmente sobre nuevos riesgos e investigaciones.
  • Un marco de referencia común para investigadores, desarrolladores, empresas, evaluadores, auditores, responsables políticos y reguladores.
  • Un recurso para ayudar a desarrollar investigaciones, currículos, auditorías y políticas.
  • Una manera fácil de encontrar riesgos e investigaciones relevantes.
The AI Risk Repository explainer video

“Comenzamos nuestro proyecto con el objetivo de comprender cómo las organizaciones están respondiendo a los riesgos de la IA”, dijo Peter Slattery, postdoctorado entrante en MIT FutureTech y líder del proyecto, al sitio VentureBeat. “Queríamos una visión completa de los riesgos de la IA para utilizarla como lista de comprobación, pero cuando analizamos la literatura, descubrimos que las clasificaciones de riesgos existentes eran como piezas de un rompecabezas: individualmente interesantes y útiles, pero incompletas”.

El repositorio utiliza un sistema de clasificación bidimensional. En primer lugar, los riesgos se clasifican en función de sus causas, teniendo en cuenta la entidad responsable (humana o de IA), la intención (intencionada o no intencionada) y el momento del riesgo (antes o después del despliegue). Esta taxonomía causal ayuda a comprender las circunstancias y los mecanismos por los que pueden surgir los riesgos de la IA.

En segundo lugar, los riesgos se clasifican en siete dominios distintos, que incluyen la discriminación y la toxicidad, la privacidad y la seguridad, la desinformación y los actores malintencionados y el uso indebido.

El repositorio de riesgos de inteligencia artificial está concebido como una base de datos dinámica. Está disponible para el público y las organizaciones pueden descargarla para su uso personal. El equipo de investigación tiene previsto actualizar la base de datos regularmente con nuevos riesgos, descubrimientos investigativos y tendencias en desarrollo.

Diego Bastarrica
Diego Bastarrica es Senior Editor y Head of Content en Digital Trends en Español, donde lidera la estrategia editorial, SEO…
Claude ayudó a llevar un emulador de PS2 al navegador, y puede ejecutar GTA San Andreas
GTA San Andreas

Dos amigos han utilizado a Claude para ayudar a llevar el emulador de PS2 de código abierto PCSX2 a un navegador. Su proyecto, TabStationToo, ha sido probado con juegos como GTA San Andreas y Final Fantasy XII.

Los desarrolladores dicen que Claude hizo la mayor parte de la programación mientras ellos dirigían el trabajo y probaban los resultados. Sigue siendo experimental, pero los juegos se ejecutan localmente sin instalar un emulador de escritorio.

Read more
Windows 11 finalmente te permite personalizar el menú con clic derecho y eliminar opciones que nunca usas
Windows 11

Windows 11 por fin te da más control sobre el menú de clic derecho, que puede sentirse saturado de opciones que apenas tocas. Microsoft está lanzando un menú contextual rediseñado con mejores opciones de rendimiento y personalización. Puedes elegir qué comandos aparecen al hacer clic derecho (a través de Windows Latest).

¿Qué puedes cambiar en el menú de clic derecho de Windows 11?

Read more
Descubren cómo recuperar chats de IA eliminados de la memoria de tu teléfono
Mensajes IA borrados

¿Pensabas que pulsar borrar en la conversación de tu chatbot de IA realmente la hace desaparecer? Los investigadores de Georgia Tech acaban de demostrar que eso no es del todo cierto. Han creado una herramienta forense llamada ORISA que puede extraer conversaciones borradas de tu teléfono e incluso reconstruirlas en una sesión de chatbot funcional con la que puedas seguir hablando.

¿Cómo puede ORISA recuperar las conversaciones eliminadas con IA?

Read more