Auditoria, otimização e revisão da cobrança por tokens

Requisitos

• Tenho um SaaS em produção que gera e altera contratos societários e cíveis com IA (LLM), voltado a escritórios contábeis
• Procuro um desenvolvedor sênior para duas frentes: Frente 1: Auditoria do código Segurança: - Revisão conforme o OWASP Top 10
• - Verificação de prompt injection, acesso indevido a dados e vazamento do system prompt
• - Isolamento entre clientes
• - Proteção de segredos e chaves de API no código, front e logs
• - Validação de arquivos, tamanho e tipo no upload de PDFs
• - Conformidade com a LGPD
• - Verificação de dependências vulneráveis
• Otimização: - Identificação de gargalos no banco, nas chamadas à IA e na geração de PDF
• - Redução do custo por chamada ao LLM, considerando prompt, cache e modelo
• - Análise de memória e tempo de resposta
• Integridade: - Verificação de transações, chaves e constraints no banco
• - Garantia de que o documento gerado corresponde ao solicitado, sem perda de cláusulas na importação de PDF
• - Tratamento de erros e falhas parciais
• - Cobertura de testes nos fluxos críticos
• Frente 2: Reformulação do consumo de tokens Atualmente, o app cobra 1 crédito por mensagem, independentemente do tamanho
• Preciso de alguém que: - Meça os tokens de entrada e saída de cada requisição, incluindo o contexto do contrato e o system prompt
• - Proponha e implemente cobrança proporcional ao uso real, por tokens ou faixas de tamanho
• - Defina limite máximo por mensagem, com aviso claro ao usuário
• - Mostre uma estimativa de créditos antes do envio
• - Registre no banco o consumo por usuário e requisição
• - Entregue planilha ou relatório comparando custo real e valor cobrado nos modelos atual e novo
• Stack atual: [preencher: linguagem do backend, framework, banco, provedor de IA (Gemini/Vertex AI) e hospedagem] Entregáveis: - Relatório de auditoria com achados classificados por gravidade, explicação e correção recomendada
• - Correção dos achados críticos e altos, ou orçamento separado
• - Novo sistema de tokenização implementado, testado e documentado
• - Relatório de custo e cobrança
• - Reunião final de apresentação
• Condições: - Assinatura de NDA antes do acesso ao código
• - Acesso apenas a ambiente de desenvolvimento ou homologação, sem dados reais
• - Pagamento por etapas, com as frentes orçadas separadamente
• Na proposta, informe experiência com auditoria de segurança e apps que usam LLM, implementação de cobrança por consumo em SaaS, metodologia e ferramentas da auditoria, prazo e valor de cada frente