
A Microsoft anunciou ontem (3) o Counterfit, uma ferramenta de código aberto para ajudar os desenvolvedores a avaliarem a segurança de seus sistemas de aprendizado de máquina (machine learning). Devido ao aumento de ataques cibernéticos, a empresa segue atualizando constantemente sua infraestrutura de segurança para se proteger contra ameaças e o Counterfit vem para aprimorar esta medida.
A ferramenta automatiza testes de segurança dos sistemas de inteligência artificial, sendo o principal objetivo proporcionar às empresas mais confiança de que seus sistemas de IA são efetivamente seguros. A Microsoft observa que das 28 organizações que entrevistou, dentre elas as maiores empresas dos Estados Unidos que compõem a Fortune 500, governos, organizações sem fins lucrativos e pequenas e médias empresas, 25 sentiram que não tinham os mecanismos necessários para proteger os sistemas de IA, e ainda que seus profissionais de segurança estão procurando orientações para lidar com as ameaças cibernéticas.
Counterfit ajuda a realizar avaliações de risco de segurança de IA para garantir que os algoritmos usados nas organizações sejam robustos, seguros e confiáveis.
De acordo com a Microsoft, o Counterfit é fácil de usar para equipes de segurança que utilizam Metasploit ou PowerShell Empyre. A nova ferramenta pode ser usada para testes de penetração e varredura de vulnerabilidade, além de poder registrar ataques a modelos de IA para que equipes de cientistas de dados e de engenharia possam utilizar a telemetria para aumentar ainda mais a segurança de seus sistemas de inteligência artificial.

Divulgação/Microsoft
O Counterfit começou como um conjunto de scripts de ataque escritos especificamente para atingir modelos individuais de IA e, em seguida, se transformou em uma ferramenta de automação que ataca vários sistemas de IA em escala.
O projeto de código aberto Counterfit está disponível no GitHub. No site, você pode encontrar mais informações sobre como implantá-lo em sua organização.
- Categorias
Participe do grupo de ofertas do Mundo Conectado
Confira as principais ofertas de Smartphones, TVs e outros eletrônicos que encontramos pela internet. Ao participar do nosso grupo, você recebe promoções diariamente e tem acesso antecipado a cupons de desconto.
Entre no grupo e aproveite as promoções