Pós-treine modelos personalizados com Devin e Modal

​

Antes de começar

• Crie um posto avançado no Modal: execute uvx modal-devin init e escolha uma GPU para o app do Modal gerado. Consulte Execute o Devin no Modal e o início rápido do Outposts.
• Conecte seu repositório: o repositório de exemplo, otterchat, é um app de chat com um seletor de modelos de imagem. O posto avançado faz o checkout dele em um Modal Volume persistente.
• Prepare seus dados de treinamento: adicione imagens com legendas ao repositório ou a um Modal Volume montado pelo posto avançado. O exemplo usa 18 imagens de lontras em estilo cartoon, com legendas como “Devin the software engineer in a data center”.
• Adicione segredos: armazene sua chave do Weights & Biases em Configurações → Secrets. O sandbox do Modal já vem com as credenciais do Modal, então o Devin pode implantar endpoints sem nenhuma configuração adicional.
• Defina regras para execuções longas: adicione regras da organização (ou inclua-as no prompt), como: publicar uma atualização de progresso a cada 15 minutos, renderizar imagens de validação a cada checkpoint e incluir o link de prévia em todos os PRs.
• Conecte o Slack (opcional): as execuções de treinamento levam horas, então sincronize a sessão com uma conversa encadeada no Slack para acompanhar o andamento.

​

Etapa 1: Inicie uma sessão no posto avançado

me conte mais sobre o seu ambiente

​

Etapa 2: Verifique os dados de treinamento

ei devin me mostra as imagens que to usando pro aprendizado supervisionado

​

Etapa 3: Inicie a execução do treinamento

faça o pós-treinamento do flux para criar o modelo otterimage 1.0. quando terminar, adicione o otterimage ao seletor de modelos no otterchat

1. Treina o LoRA: cerca de 1.000 etapas, registradas no Weights & Biases, com renderizações de validação a cada 100 etapas.
2. Envia relatórios ao Slack: progresso a cada 15 minutos com as renderizações mais recentes. As primeiras renderizações mostram humanos; a lontra surge à medida que o treinamento avança.
3. Escolhe o melhor checkpoint: a etapa 700, já que as etapas 900 e 1.000 apresentaram sinais de overfitting.
4. Implanta e entrega: executa a etapa 700 como um endpoint serverless no Modal, adiciona otterimage 1.0 ao seletor de modelos do app de chat, grava um teste de ponta a ponta e abre um PR com um link de prévia.

​

Etapa 4: Experimente o modelo

gere uma imagem do devin, o engenheiro de software, comendo espaguete

​

Etapa 5: Itere com sessões filhas

https://arxiv.org/pdf/2309.14859v2 inicie subsessões que treinem o otterimage com as outras técnicas listadas neste artigo, exceto lora

​

Próximas etapas