Postentrena modelos personalizados con Devin y Modal

​

Antes de empezar

• Crea un puesto avanzado de Modal: ejecuta uvx modal-devin init y elige una GPU para la aplicación de Modal generada. Consulta Ejecutar Devin en Modal y el inicio rápido de Outposts.
• Conecta tu repositorio: el repositorio de ejemplo, otterchat, es una aplicación de chat con un selector de modelos de imagen. El puesto avanzado lo clona en un Modal Volume persistente.
• Prepara tus datos de entrenamiento: agrega imágenes con sus descripciones al repositorio o a un Modal Volume que monte el puesto avanzado. El ejemplo usa 18 imágenes de nutrias en estilo de dibujos animados con descripciones como «Devin the software engineer in a data center».
• Agrega secretos: guarda tu clave de Weights & Biases en Configuración > Secretos. El sandbox de Modal ya incluye credenciales de Modal, por lo que Devin puede desplegar endpoints sin configuración adicional.
• Define reglas para ejecuciones largas: agrega reglas de organización (o inclúyelas en el prompt), por ejemplo: publicar una actualización del progreso cada 15 minutos, generar imágenes de validación en cada checkpoint e incluir el enlace de vista previa en cada PR.
• Conecta Slack (opcional): las ejecuciones de entrenamiento tardan horas, así que sincroniza la sesión con un hilo de Slack para seguir su avance.

​

Paso 1: Inicia una sesión en el puesto avanzado

cuéntame más sobre tu entorno

​

Paso 2: Revisa los datos de entrenamiento

hola devin, muéstrame las imágenes que estoy usando para el aprendizaje supervisado

​

Paso 3: Inicia la ejecución de entrenamiento

haz post-entrenamiento de flux para crear el modelo otterimage 1.0. cuando termines, agrega otterimage al selector de modelos en otterchat

1. Entrena el LoRA: unos 1,000 pasos, registrados en Weights & Biases, con renderizados de validación cada 100 pasos.
2. Informa en Slack: comparte el progreso cada 15 minutos junto con los renderizados más recientes. Los primeros renderizados muestran personas; la nutria va apareciendo a medida que avanza el entrenamiento.
3. Elige el mejor checkpoint: el del paso 700, ya que los pasos 900 y 1,000 mostraron indicios de sobreajuste.
4. Despliega y publica: sirve el paso 700 como un endpoint serverless de Modal, agrega otterimage 1.0 al selector de modelos de la aplicación de chat, graba una prueba de extremo a extremo y abre un PR con un enlace de vista previa.

​

Paso 4: Prueba el modelo

genera una imagen de devin, el ingeniero de software, comiendo espaguetis

​

Paso 5: Itera con sesiones secundarias

https://arxiv.org/pdf/2309.14859v2 lanza subsesiones que entrenen otterimage con las demás técnicas mencionadas en este artículo, aparte de lora

​

Próximos pasos