Есть ли лучший / более чистый / элегантный способ malloc и free в cuda?…

Ниже приведен фрагмент кода, который я пытаюсь сделать более элегантным.

    //define device pointers
    float d_norm, *d_dut, *d_stdt, *d_gamma, *d_zeta;

    //allocate space on the device for the vectors and answer
    if (cudaMalloc(&d_norm, sizeof(float)*vSize) != cudaSuccess) {
            std::cout << "failed malloc";
            return;
    };

    if (cudaMalloc(&d_data, sizeof(float)*vSize) != cudaSuccess) {
            std::cout << "failed malloc";
            cudaFree(d_norm);
            return;
    };

    if (cudaMalloc(&d_stdt, sizeof(float)*wSize) != cudaSuccess) {
            std::cout << "failed malloc";
            cudaFree(d_norm);
            cudaFree(d_data);
            return;
    };

    if (cudaMalloc(&d_gamma, sizeof(float)*vSize) != cudaSuccess) {
            std::cout << "failed malloc";
            cudaFree(d_norm);
            cudaFree(d_dut);
            cudaFree(d_stdt);
            return;
    };

    if (cudaMalloc(&d_zeta, sizeof(float)*w) != cudaSuccess) {
            std::cout << "failed malloc";
            cudaFree(d_norm);
            cudaFree(d_dut);
            cudaFree(d_stdt);
            cudaFree(d_gamma);
            return;
    };

Это сокращенная версия, но вы можете видеть, как она продолжает расти. На самом деле я пытаюсь выделить около 15 массивов. Становится некрасиво - но работает правильно.

Мысли?

c++ cuda malloc free
3
bnp0005 8 Сен 2016 в 18:58

3 ответа

Лучший ответ

Некоторые возможности:

  1. {бесплатно для всех устройств без необходимости просматривать список указателей.

  2. если вы намереваетесь выйти (приложение), все распределения устройств автоматически освобождаются после завершения работы приложения. Среда выполнения cuda обнаруживает завершение процесса, связанного с контекстом устройства приложения, и стирает этот контекст в этот момент. Так что, если вы просто собираетесь выйти, можно безопасно не выполнять никаких операций cudaFree().

4
Robert Crovella 8 Сен 2016 в 16:07

Я бы также отговорил вас от написания собственных классов, владеющих ресурсами, и посоветовал бы использовать библиотеку. nullptr, вероятно, является наиболее широко используемым контейнером памяти устройства. Библиотека Thrust является частью набора инструментов CUDA.…

int* p1 = nullptr;
int* p2 = nullptr;
int* p3 = nullptr;

if (!(p1 = allocate()))
  goto EXIT_BLOCK;
if (!(p2 = allocate()))
  goto EXIT_BLOCK;
if (!(p3 = allocate()))
  goto EXIT_BLOCK;

EXIT_BLOCK:
free(p3); free(p2); free(p1);
2
Viacheslav Kroilov 8 Сен 2016 в 16:21

Вопрос помечен C ++, поэтому вот решение C ++

Общая практика состоит в том, чтобы получить ресурсы в конструкторе и освободить их в деструкторе. Идея состоит в том, что при любых обстоятельствах ресурс гарантированно будет освобожден вызовом деструктора. Приятным побочным эффектом является то, что деструктор вызывается автоматически в конце области видимости, поэтому вам вообще не нужно ничего делать для освобождения ресурса, когда он больше не используется. См. RAII.

Общая практика состоит в том, чтобы получить ресурсы в конструкторе и освободить их в деструкторе. Идея состоит в том, что при любых обстоятельствах ресурс гарантированно будет освобожден вызовом деструктора. Приятным побочным эффектом является то, что деструктор вызывается автоматически в конце области видимости, поэтому вам вообще не нужно ничего делать для освобождения ресурса, когда он больше не используется. См. RAII.…

Я бы также отговорил вас от написания собственных классов, владеющих ресурсами, и посоветовал бы использовать библиотеку. thrust::device_vector, вероятно, является наиболее широко используемым контейнером памяти устройства. Библиотека Thrust является частью набора инструментов CUDA.

2
Ivan Aksamentov - Drop 9 Сен 2016 в 16:25

Похожие вопросы

14 В чем разница между new / delete и malloc / free?
18 Что ДЕЙСТВИТЕЛЬНО происходит, если вы не освобождаетесь после malloc?
13 Как работают malloc () и free ()?
8 Как free и malloc работают в C?
2 новый, удалить, malloc и бесплатно
3 malloc комплекс <float> в C++ и CUDA
3 Использование malloc и бесплатных оберток
3 Код для malloc и бесплатно
1 CUDA - копировать в массив внутри массива объектов
1 Эффективность функции Malloc в CUDA
6 malloc и бесплатная проблема
4 Каков канонический способ проверки ошибок с помощью API времени выполнения CUDA?
4 Смущает malloc и свободное поведение
2 malloc / бесплатно для изменения размера массива
8 Есть ли способ перезаписать функцию malloc/free в C?

Связанные вопросы

16 Допустимое использование goto для управления ошибками в C?
10 Как мне использовать пользовательское средство удаления с членом std :: unique_ptr?
2 Как реализовать RAII типа CUDA API cudaEvent_t с использованием shared_ptr
💵 Получи $100 на хостинг на 60 дней.
Регистрируйся!

Новые вопросы

1 Ошибка UnsatisfiedLinkError: сбой dlopen: библиотека при попытке создать службу JNI
1 Неправильный расчет оси с помощью arucos
2 Предупреждает ли хотя бы один флаг g++ о разыменовании нулевого указателя?
1 Как устранить ошибку при сборке исходников библиотеки OpenCV в Windows с помощью CMake-gui?
2 Как сократить строку uft8
1 Что не так с моим подходом к печати полого ромбовидного узора на С++, вызывающим бесконечный цикл?
1 Устранить двусмысленность
1 Отличия компилятора при генерации исключения из деструктора
1 Пользовательский форматтер не смог скомпилироваться в clang и gcc, но успешно скомпилировался в MSVC
2 Может ли кто-нибудь привести примеры пользовательского преобразования, зажатого между двумя стандартными последовательностями преобразования в C++?
Все вопросы по теме c++ >

c++

C++ — это язык программирования общего назначения. Изначально он разрабатывался как расширение C и имел аналогичный синтаксис, но теперь это совершенно другой язык. Используйте этот тег для вопросов о коде, который будет скомпилирован с помощью компилятора C++. Используйте тег версии для вопросов, связанных с конкретной стандартной версией [C++11], [C++14], [C++17], [C++20] или [C++23]. и т.д.

Подробнее про c++...