欢迎您访问365答案网,请分享给你的朋友!
生活常识 学习资料

CUDA代码的高效策略

时间:2023-08-04

1.高效公式
最大化计算强度:
Math/Memory: 数学计算量/每个线程的内存,最大化的就是要么使他的计算量变大,要么使每个线程用的内存变少。要使每个线程使用的内存变少还有两种方法:第一是尽可能的把数据存放在本地内存,或共享内存,不仅仅是全局内存。第二呢,是通过一些技巧,把全局内存做一个合并,这样会加快读取线程的速度。要么增大计算量,要么减少每个线程的内存。要么每个线程读取的数据量变少,要么每个线程读取的速度变快,而又有两种方法,第一是转变内存位置,第二是对读取慢的位置做优化。


1.2 合并全局内存


之所以叫合并全局内存,是因为我们赞成的方式是第一种。

好的代码:

```cpp__global__ void kernel(float *g){float a = 0.00;int i = threadIdx.x;g[i] = a; //write dataa = g[i]; // read data}

一般的```cpp__global__ void kernel(float *g){float a = 0.00;int i = threadIdx.x;g[2*i] = a; //write dataa = g[2*i]; // read data}

避免线程发散
线程发散:同一个线程块中的线程执行不同内容的代码,如图


导致发散的例子:kernel中做条件判断

__global__ void kernel(){if(){ // some code}else{ // some other code}}

循环长度不一


代码

__global__ void kernel(){// pre loop codefor(int i=0;i

Copyright © 2016-2020 www.365daan.com All Rights Reserved. 365答案网 版权所有 备案号:

部分内容来自互联网,版权归原作者所有,如有冒犯请联系我们,我们将在三个工作时内妥善处理。