A autonomia de agentes de inteligência artificial exige limites de acesso, responsáveis definidos e registros que permitam rastrear suas ações.
Agentes de inteligência artificial podem acessar documentos e modificar sistemas sem aprovação humana a cada etapa. Segundo minutodaseguranca.blog.br, essa autonomia exige identificar quem autorizou a tarefa e quais acessos foram concedidos.
Reutilizar a sessão de um funcionário pode dar ao agente poderes além dos necessários. A orientação é adotar identidade própria, permissões restritas à tarefa e credenciais de curta duração. Cada ferramenta deve conferir se a operação é permitida ao ser acionada.
Ações de grande impacto precisam de confirmação adicional. Também é necessário definir responsáveis, revisar acessos e permitir sua retirada rápida. Os registros devem conectar o pedido inicial às autorizações, às operações e aos resultados, permitindo apurar o que ocorreu.