OpenForum RSS: v4l2 cuda ускорение копирования кадра в память GPU https://www.opennet.dev/openforum/vsluhforumID9/10107.html Всем привет,<br><br>Пишу код на Ubuntu 14, Tegra 3, камера с разрешением 4224x3156, yuv422, 26Мб. Забираю кадр каждые 70мс, далее memcpy в pinned memory host, cudaMemcpy из pinned host в divice memory и далее обработка в GPU.<br><br>Memcpy занимает 200мс. Это больше чем частота кадров. Как можно ускорить загрузку буфера кадра в память GPU?<br><br>Можно ли использовать v4l2 IO_METHOD_USERPTR в качестве pinned memory, что бы не тратить время на memcpy.<br><br>С уважением Виктор.<br> v4l2 cuda ускорение копирования кадра в память GPU (fail) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#19 Fri, 08 Jul 2016 11:43:56 GMT &gt; Решилось с помощью V4L2_MEMORY_USERPTR.<br>&gt; В найденном варианте v4l2 нашел почти похожий пример(http://www.friendlyarm.net/forum/topic/1006), <br>&gt; как в стандартном примере, но пользовательский буфер выделяется не malloc, а <br>&gt; memalign из malloc.h. Иначе Invalid argument error 22.<br><br>мда, <br>насчет memory alignment - совсем из головы вылетело - хотя:<br><br> - специализированные {C,G}PU <br> - прочая эмбедовка<br><br> к этому фактору бывают очень чуствительны..<br><br>...<br><br> v4l2 cuda ускорение копирования кадра в память GPU (vsw) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#18 Tue, 05 Jul 2016 20:53:09 GMT Решилось с помощью V4L2_MEMORY_USERPTR.<br><br>В найденном варианте v4l2 нашел почти похожий пример(http://www.friendlyarm.net/forum/topic/1006), как в стандартном примере, но пользовательский буфер выделяется не malloc, а memalign из malloc.h. Иначе Invalid argument error 22.<br><br>Настраиваемся на IO_METHOD_USERPTR и в init_userp:<br><br> unsigned int page_size;<br><br> page_size = getpagesize ();<br> buffer_size = (buffer_size + page_size - 1) & ~(page_size - 1);<br><br>..................<br>..................<br><br> for (n_buffers = 0; n_buffers &lt; 4; ++n_buffers) {<br> buffers[n_buffers].length = buffer_size;<br> buffers[n_buffers].start = memalign (/* boundary */page_size,buffer_size);<br><br> if (!buffers[n_buffers].start) {<br> fprintf (stderr, "Out of memory\n");<br> exit (EXIT_FAILURE);<br> }<br> }<br><br><br>И далее работаем с буфером buf.m.userptr размера buf.length.<br><br>Что в отличии от mmap буфера, позволяет быстро копировать данные кадра в pinn v4l2 cuda ускорение копирования кадра в память GPU (vsw) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#17 Mon, 04 Jul 2016 20:28:48 GMT Сделал тест:<br><br><br><br>- memcpy from userspace pointer to userspace pointer is about 33ms per 26mb<br>- memcpy from userspace pointer to pinned pointer is about 33ms per 26mb<br>- memcpy from mmap v4l pointer to pinned is about 200ms per 26mb<br><br>Mmap медленный. Интересно почему..<br><br>Тут у человека такая же проблема: https://devtalk.nvidia.com/default/topic/948258/jetson-tk1/performance-of-v4l2_memory_mmap-buffer-memcpy/<br> v4l2 cuda ускорение копирования кадра в память GPU (vsw) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#16 Sun, 03 Jul 2016 20:10:01 GMT v4l2_memory_dmabuf не поддерживается.<br><br>Только MMAP.<br><br>Пока сделал параллельно. Укладываюсь в 70мс. Но позже надо будет в mp4 жать, надеюсь CUDA на себя все возьмет.<br> v4l2 cuda ускорение копирования кадра в память GPU (vsw) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#15 Mon, 27 Jun 2016 19:21:32 GMT Спасибо. Все ваши советы обязательно проверю. Не было времени пока.<br><br><br> v4l2 cuda ускорение копирования кадра в память GPU (fail_) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#14 Mon, 27 Jun 2016 04:54:30 GMT &gt; По V4L2: <br><br>https://devtalk.nvidia.com/default/topic/894783/jetson-tk1/v4l2_memory_userptr-not-working-with-soc-camera-/ <br>&gt; IO_METHOD_USERPTR не поддерживается. Только MMAP.<br><br>остаются: v4l2_memory_mmap & v4l2_memory_dmabuf<br>может что-то из этого зафурычит..<br><br><br> v4l2 cuda ускорение копирования кадра в память GPU (vsw) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#13 Sun, 26 Jun 2016 22:46:27 GMT По V4L2:<br><br>https://devtalk.nvidia.com/default/topic/894783/jetson-tk1/v4l2_memory_userptr-not-working-with-soc-camera-/<br><br>IO_METHOD_USERPTR не поддерживается. Только MMAP.<br> v4l2 cuda ускорение копирования кадра в память GPU (vsw) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#12 Sun, 26 Jun 2016 21:11:57 GMT Пробовал memcpy из простого буфера в простой:<br><br>uchar * pIn{ new uchar[ size ]};<br>uchar * pOut{ new uchar[ size ]};<br>memcpy( pOut, pIn, size );<br>delete [] pIn;<br>delete [] pOut;<br><br>Тоже около 200мс. <br><br>Пока получается, что на Tegra TK1 4224х3156х2 байт копируются с такой скоростью.<br>Но это учитывая, то, что там драйвер камеры и подсистема V4L2 делает.<br>Буду разбираться. <br><br>Сделал вариант с OpenMP, реально на 4 поделилось время:<br><br>static void memcpy_openmp( uchar * pOut, const uchar * pIn, const int size ) {<br><br> //omp_set_dynamic( 0 );<br> omp_set_num_threads( 4 );<br> //int blockSize{ 1666368 };<br> int blockSize{ size / 4 };<br> int th_id, nthreads;<br> #pragma omp parallel for<br> for( int i = 0; i &lt; size / blockSize; i++ ){<br> int offset{ i * blockSize };<br> memcpy( pOut + offset, pIn + offset, blockSize );<br> th_id = omp_get_thread_num();<br> nthreads = omp_get_num_threads();<br> qDebug() &lt;&lt; th_id &lt;&lt; nthreads;<br> }<br><br>}<br><br>Где-то 70-80м v4l2 cuda ускорение копирования кадра в память GPU (vsw) https://www.opennet.dev/openforum/vsluhforumID9/10107.html#11 Thu, 23 Jun 2016 19:42:22 GMT Реально не знаю.<br>По вики много.<br><br><br>