Русский
English
Инновационный модуль для ядра Linux, названный GreenBoost, представлен независимым разработчиком Ферраном Дуарри. Эта разработка призвана увеличить доступный объем видеопамяти для ускорителей NVIDIA, задействуя системную оперативную память и быстрые NVMe-накопители.
GreenBoost функционирует как слой кэширования CUDA, открывая путь к эксплуатации ресурсоемких больших языковых моделей, превосходящих объем штатной видеопамяти.
Успешный тест показал возможность запуска нейросети объемом 31.8 ГБ (glm-4.7-flash:q8_0) на видеокарте GeForce RTX 5070, оснащенной 12 ГБ. Система организована в три уровня: первый – собственно видеопамять (336 ГБ/с) для активных слоев, второй – 51 ГБ DDR4 RAM (32 ГБ/с через PCIe 4.0), и третий – 64 ГБ на NVMe-диске (1.8 ГБ/с) как резерв.
Распространяемый под лицензией GPLv2, драйвер с открытым кодом совместим с официальными драйверами NVIDIA. Он управляет выделением памяти блоками по 2 МБ, перехватывая запросы специальной библиотекой. Небольшие задачи (до 256 МБ) обрабатываются напрямую в CUDA, крупные же перенаправляются в системную RAM, обеспечивая прозрачное расширение памяти без модификации приложений. Для надежности интегрирован мониторинг нагрузки на память и накопители.
