- pares traduzidos
- 211 mil
- de treino numa GPU L4
- ~17 h
- de VRAM na inferência
- ~5 GB
O problema
A equipe do hospital precisa de respostas rápidas sobre condutas e sobre os pacientes internados, em português, sem que a ferramenta invente informação ou faça o papel do médico.
O que fizemos
- Base em português: os 211.269 pares de pergunta e resposta do PubMedQA (PQA-A) foram traduzidos com o Helsinki-NLP opus-mt, corrigidos por um dicionário de 131 termos médicos.
- Fine-tuning com QLoRA do Mistral-7B-Instruct-v0.2 (rank 64): 26.409 passos, loss final de 1,3953, cerca de 17 horas numa GPU L4 do Colab. Na inferência, o modelo usa cerca de 5 GB de VRAM.
- Grafo LangGraph de 9 nós: identifica o paciente por correspondência aproximada de nome, busca o prontuário fictício no ChromaDB, gera alertas clínicos, recusa pedidos de prescrição e registra cada interação para auditoria.
- Interface Gradio publicada como Space no Hugging Face.
Por que a recusa de prescrição importa
Um assistente que sugere dose de medicamento passa a ser um risco. O grafo tem um nó só para isso: ele reconhece o pedido e responde que a decisão é do médico, antes de qualquer chamada ao modelo.