Crean alianza para prevenir amenazas contra la inteligencia artificial

Un total de doce gigantes de la tecnología integra una inédita alianza para prevenir las amenazas contra los sistemas de aprendizaje automático y la inteligencia artificial.

Adversarial Machine Learning Threat Matrix es el nombre de la organización, integrada por Microsoft, Bosch, IBM y Nvidia, entre otras, además de la ONG tecnológica Mitre Corporation.

La Matrix es un marco abierto centrado en la industria, que tiene como objetivo ayudar a los expertos en seguridad a responder y mitigar las amenazas en el futuro, consigna Science Times.

Los expertos en seguridad tendrán acceso a las técnicas comúnmente utilizadas actualmente por los ciberatacantes para eludir las medidas de seguridad de los sistemas de aprendizaje automático.

El objetivo es que los especialistas puedan mejorar sus estrategias de monitoreo y respuesta, además de incrementar la seguridad de los sistemas.

Riesgos en aumento

IA

El aprendizaje automático está transformando una serie de campos, como la defensa, salud, finanzas, que afectan nuestras vidas de formas inconmensurables.

Sin embargo, con el afán de avanzar rápidamente en este campo, muchas empresas ponen en riesgo la seguridad y se vuelven vulnerables.

Según Microsoft, en los últimos cuatro años ha habido un aumento notable de ciberataques dirigidos a sistemas comerciales de aprendizaje automático.

De acuerdo a Gartner, hasta un tercio de todos los ciberataques de inteligencia utilizarán “envenenamiento de datos de entrenamiento, robo de modelos de IA o muestras adversas” para atacar los sistemas.

Entrenamiento real

La estructura de la nueva matriz de amenazas busca trabajar sobre las estrategias utilizadas por los atacantes, para fortalecer la industria de la seguridad.

De hecho, se basa en ataques reales y registrados en sistemas de aprendizaje automático, lo que evitará que los analistas divaguen en escenarios teóricos.

Recomendaciones del editor