Как читать данные в память GPU на Python с помощью NVIDIA GPUDirect Storage

KvikIO и cuFile принимают независимые решения о выборе пути: KvikIO решает, вызывать ли cuFile, а cuFile определяет, использовать ли ускоренный путь через модуль ядра nvidia-fs или совместимый путь через CPU.

Поведение KvikIO управляется переменными окружения, такими как KVIKIO_COMPAT_MODE и KVIKIO_GDS_THRESHOLD, а параметры cuFile задаются в файле cufile.json: execution.parallel_io включает параллельную обработку внутри cuFile, а execution.min_io_threshold_size_kb определяет целевой минимальный размер для внутреннего планирования запросов.

Статистика cuFile на уровне процесса, активируемая через CUFILE_STATS_LEVEL=3, позволяет отслеживать, использовался ли ускоренный путь (счётчики nvfs) или совместимый (счётчики posix).

KvikIO входит в состав библиотек NVIDIA CUDA-X для науки о данных и используется для ускорения ввода-вывода в cuDF, в рабочих процессах цифровой патологии cuCIM, в анализе научных изображений cuPhoton и в GPU-ускоренных аналитических нагрузках Presto.

Пример в статье демонстрирует настройку KvikIO, чтение файла в память GPU и подтверждение активации ускоренного пути в GDS, а также инспекцию настроек KvikIO и cuFile.

KvikIO и cuFile принимают отдельные решения: KvikIO выбирает, использовать ли cuFile, а cuFile определяет окончательный путь передачи и стратегию выполнения.