Status: Em observação
Por que estamos falando disso: Este hack não oficial da comunidade ganha força por usar o caminho DMA-BUF do CUDA para mapear a RAM do sistema e o armazenamento NVMe como VRAM estendida.
O que sabemos:
- O projeto usa o caminho documentado, mas pouco conhecido, cudaImportExternalMemory para carregar modelos que excedem a capacidade física de VRAM (fonte: GitLab).
- Relatos de usuários de 14 de março de 2026 confirmam que uma RTX 5070 de 12 GB carregou com sucesso um modelo GLM-4.7 de 32 GB (fonte: User Reports).
- O desempenho fica fortemente limitado pela largura de banda PCIe 4.0/5.0, o que resulta em 2 a 5 tokens por segundo para modelos acima de 30 GB (fonte: GitLab).
- Ele opera na camada de alocação do CUDA e funciona ao lado dos drivers oficiais da Nvidia, sem substituí-los (fonte: Project Readme).
- O risco de instabilidade do sistema é alto, pois o kernel Linux pode acionar o OOM killer durante mapeamentos de memória pesados (fonte: HN).
O que ainda não sabemos:
- A escalabilidade do desempenho com DDR5 continua sem documentação, já que os benchmarks atuais se concentram principalmente em DDR4-3600 (fonte: GitLab).
- O status de suporte para Windows ou WSL2 ainda não foi confirmado ou está ausente da documentação.
Este artigo será atualizado quando tivermos mais dados. Até lá, prossiga com cautela.