Segurança e IA
As empresas que criaram o problema agora pedem dinheiro público para se defender dele.
Um papo sobre segurança na era da IA, com o Galeno Melo. O ponto de partida é a carta em que OpenAI, Anthropic, Microsoft e outras empresas pedem financiamento governamental e acesso antecipado a tecnologias de defesa contra ataques feitos com IA. A conversa discute se o risco é novo ou se a IA só popularizou ataques que já existiam, como SQL injection e phishing; se a carta é preocupação genuína ou um jeito de buscar dinheiro público; e a insistência dos agentes, que testam caminho atrás de caminho até achar um que passe, como o que alterou o DOM para vencer um CAPTCHA num vídeo da Codecon. Fecha com o lado útil, a IA revisando segurança e gerando cenários de teste, e com modelos locais como saída para privacidade.
Pontos altos:
- O risco maior pode ser volume, não sofisticação: mesmo que a proporção de software vulnerável mude pouco, a quantidade de software feito com IA multiplica o número de sistemas com brecha.
- Os dados sensíveis saíram da máquina de cada usuário e se concentraram em sistemas grandes, e o alvo dos ataques foi junto.