A equipe da AI Red está intimamente alinhada com as equipes vermelhas tradicionais, mas também possui a experiência necessária do assunto da IA para realizar ataques técnicos complexos aos sistemas de IA.Os compromissos da equipe vermelha, por exemplo, destacaram vulnerabilidades e fraquezas em potencial, o que ajudou a antecipar alguns dos ataques que vemos agora nos sistemas de IA.
Segurança
19 de julho de 2023
Min Read
Hoje, estamos publicando informações sobre a equipe AI Red do Google pela primeira vez.No mês passado, introduzimos a estrutura de IA segura (SAIF), projetada para ajudar a lidar com os riscos aos sistemas de IA e direcionar os padrões de segurança para a tecnologia de maneira responsável.Eles incluem ataques imediatos, extração de dados de treinamento, backdooring do modelo, exemplos adversários, envenenamento por dados e exfiltração.
