Soluções / IA e dados
IA em produção é problema de infraestrutura.
Capacidade para rodar modelos, dado organizado antes de virar resposta e uma conta que não cresce sozinha. O modelo costuma ser a parte fácil.
Quando essa conversa aparece
- O piloto funcionou e agora ninguém sabe como colocar aquilo em produção.
- O dado que o modelo precisa está espalhado, sem dono e sem regra de acesso.
- Existe receio de mandar informação sensível para fora e nenhuma política escrita sobre isso.
- O custo por uso cresce sem ninguém conseguir atribuí-lo a um time ou a um produto.
O que não abrimos mão
- Quem acessa o quê é definido antes do primeiro modelo subir.
- O perímetro do dado sensível fica escrito, e a arquitetura é desenhada para respeitá-lo.
- Custo por uso atribuído antes de o consumo começar a crescer.
- Resposta de modelo em produção precisa ser rastreável até a origem.
Como a IA entra em produção
Antes do primeiro modelo
Regra de acesso
Que dado existe, quem pode ver e o que não pode sair do lugar.
Com o dado organizado
Base pronta
O que o modelo vai consumir, arrumado, versionado e com dono.
Com capacidade reservada
Ambiente de execução
Capacidade dedicada ou serviço gerenciado, decidido pelo custo e pelo requisito.
Com uso real
Conta sob controle
Consumo atribuído por time e por produto, com teto definido.
Perguntas que sempre aparecem
- Precisamos de capacidade dedicada?
- Nem sempre. Serviço gerenciado resolve boa parte dos casos. O cálculo muda quando o volume é constante ou quando o dado não pode sair do perímetro.
- Nossos dados vão treinar modelo de terceiro?
- Essa é a primeira coisa que fechamos, e fica escrito no desenho: o que pode sair, o que não pode e sob qual contrato.
- Isso é projeto de dados ou de infraestrutura?
- Os dois, e é por isso que o projeto costuma travar entre as duas áreas. Tratamos a organização do dado e o ambiente de execução na mesma conversa.
- Dá para começar pequeno?
- É o recomendado. Um caso de uso real, com custo atribuído, ensina mais do que uma prova de conceito ampla.