1.高效公式
最大化计算强度:
Math/Memory: 数学计算量/每个线程的内存,最大化的就是要么使他的计算量变大,要么使每个线程用的内存变少。要使每个线程使用的内存变少还有两种方法:第一是尽可能的把数据存放在本地内存,或共享内存,不仅仅是全局内存。第二呢,是通过一些技巧,把全局内存做一个合并,这样会加快读取线程的速度。要么增大计算量,要么减少每个线程的内存。要么每个线程读取的数据量变少,要么每个线程读取的速度变快,而又有两种方法,第一是转变内存位置,第二是对读取慢的位置做优化。
1.2 合并全局内存
之所以叫合并全局内存,是因为我们赞成的方式是第一种。
好的代码:
```cpp__global__ void kernel(float *g){float a = 0.00;int i = threadIdx.x;g[i] = a; //write dataa = g[i]; // read data}
一般的```cpp__global__ void kernel(float *g){float a = 0.00;int i = threadIdx.x;g[2*i] = a; //write dataa = g[2*i]; // read data}
避免线程发散
线程发散:同一个线程块中的线程执行不同内容的代码,如图
导致发散的例子:kernel中做条件判断
__global__ void kernel(){if(){ // some code}else{ // some other code}}
循环长度不一
代码
__global__ void kernel(){// pre loop codefor(int i=0;i