5.2 CUDA Histogram直方图
Histogramming是一种从大的数据集中提取典型特征和模式的方式.在统计学中，直方图（英语：Histogram）是一种对数据分布情况的图形表示，是一种二维统计图表，它的两个坐标分别是统计样本和该样本对应的某个属性的度量。图像直方图（英语：ImageHistogram）是用以表示数字图像中亮度分布的直方图，标绘了图...
6.2 CUDA streams
nivdia给出的解释是:Asequenceofoperationsthatexecuteinissue-orderontheGPU. 可以理解成在GPU上执行的操作序列.比如下面的这些动作.cudaMemcpy()kernellaunchdevicesynccudaMemcpy()不同的流操作可能是交叉执行...
5.1 CUDA atomic原子操作
和许多多线程并行问题一样，CUDA也存在互斥访问的问题，即当一个线程改变变量Ｘ,而另外一个线程在读取变量Ｘ的值，执行原子操作类似于有一个自旋锁，只有等Ｘ的变量在改变完成之后，才能执行读操作，这样可以保证每一次读取的都是最新的值.在kernel程序中，做统计累加，都需要使用原子操作：atomicAdd();原子操作很明显...
4.2 CUDA Reduction 一步一步优化
每个线程是基于一个树状的访问模型，从上至下，上一层读取数据相加得到下一层的数据．不停的迭代，直到访问完所有的数据．利用这么多的线程块(threadblock)我们需要做的事情如下：１． 处理非常大的数组２． 让GPU的每个处理器保持忙碌３． 每个threadblock迭代减少数组的区域． 比如这个图，第一次是８个数据，...
2.3CUDA矩阵乘法
能相乘的两个矩阵，必须满足一个矩阵的行数和第二个矩阵的列数相同. A(N*P)*B(P*M)=C(N*M). 其中P是行数，N是列数， 从宽高的角度来说，即A的宽度和B的高度是相同的．C矩阵=ha*wb.其中C(i,j)=A矩阵中的i行和B矩阵中的j列进行点乘得到该点的值．//C=A*BvoidMatrixM...
2.2CUDA-Memory(存储)和bank-conflict
在CUDA基本概念介绍有简单介绍CUDAmemory。这里详细介绍：每一个线程拥有自己的私有存储器，每一个线程块拥有一块共享存储器(Sharedmemory)；最后，grid中所有的线程都可以访问同一块全局存储器(globalmemory)。除此之外，还有两种可以被所有线程访问的只读存储器：常数存储器（constant...
2.1CUDA-Thread
在HOST端我们会分配block的dimension，grid的dimension。但是对应到实际的硬件是如何执行这些硬件的呢？如下图：lanuchkernel执行一个grid。一个Grid有8个block，可以有两个硬件执行单元，一个执行一个block,需要执行4次，或者像右边有4个执行单元，一共执行两次。这个就很灵...
win10+tensorflow1.12+cuda9.0+cudnn7.0+vs2017+anaconda3.6 +keras
https://www.cnblogs.com/hezhiyao/p/8292512.htmlhttps://blog.csdn.net/jay100500/article/details/72809338https://blog.csdn.net/weixin_39290638/article/details/800...