miércoles, 28 de octubre de 2020

Se lanza una nueva matriz de amenazas para Machine Learning diseñada por Microsoft y MITRE

ML Microsoft

      Según ha informado Microsoft los ataques dirigidos a sistemas de aprendizaje automático y Machine Learning (ML) han aumentado significativamente estos últimos años y se espera que sigan evolucionando.  Es por ello por lo que Microsoft se ha juntado con MITRE y otras organizaciones para diseñar un marco que ayude a identificar estas amenazas.

En una encuesta realizada por Microsoft se ha desvelado que la mayoría de las empresas encuestadas no tienen las herramientas necesarias para poder proteger sus sistemas de aprendizaje automático y buscan una orientación sobre cómo defender sus sistemas. Microsoft añadió a esta encuesta que no solo había encuestado a pequeñas empresas, sino que grandes compañías como pueden ser Fortune 500, o gobiernos también padecían de este problema.

Para abordar este problema Microsoft ha lanzado un marco abierto centrado en la industria llamado The Adversarial ML Threat Matrix, esta herramienta ha sido lanzada en colaboración con MITRE, IBM, NVIDIA y otras grandes empresas e instituciones.

La herramienta se basa en la observación de ataques realizados con éxito a los sistemas de ML de producción y manda toda la información recopilada sobre las técnicas empleadas en estos ataques, la información enviada por la herramienta va dirigida principalmente a los analistas de seguridad.

Esta herramienta lanzada por Microsoft es un primer intento de crear una base de conocimiento para saber la forma en la que los sistemas automatizados pueden ser atacados y de esa forma dar la oportunidad a las empresas asociadas a modificar con la información recibida de la comunidad de seguridad y aprendizaje automático. 


No hay comentarios:

Publicar un comentario