GPU高性能计算——OpenACC编程基础与优化进阶

1、 OpenACC基础：概念，与CUDA区别，编译器，生态；

2、 OpenACC开发环境搭建配置；

3、 OpenACC四步开发流程：判断并行性，并行化表达，显式数据传递，优化

     3.1判断并行性：Profile工具pgprof；

3.2并行化表达：引导关键字Kernerls和Parallel Loop；

3.3显式管理数据的拷贝：引导关键字Data；

3.4优化：统一内存管理，线程并行层级，collapse，tile

OpenACC上机实操：

1.   Hellow world；

2．矢量点乘；

GPU高性能计算——CUDA编程基础与优化进阶

1、 CUDA基础：API、数据并行、线程模型、存储模型、控制、同步、并发和通信、加速比；

2、 CUDA开发环境搭建和工具配置；

3、 CUDA优化进阶：线程组织调度，分支语句，访存优化，数据传输，原子操作；

4、 GPU并行计算模式及案例分析：

    分析调试：parallel nsight，visual profiler，cuda-gdb；

5、 CUDA生态系统和相关专业领域软件介绍；

CUDA上机实操：

1、 Helloworld，向量加，cuda库的使用（cuBLAS、cuFFT ）；

2、 矩阵乘，直方图，卷积，规约；

大规模并行开发：多GPU开发

1、 GPU异步编程，多GPU编程（混合OpenMP和MPI）及调试调优工具；

2、 OpenACC互操作性：OpenMP，MPI，CUDA；

OpenACC上机实操：

1、 Jacobi迭代

GPU高性能计算——深度学习

1、 深度学习GPU解决方案：

1.1基于GPU的交互式深度学习训练平台：DIGITS；

1.2深度学习框架的GPU加速：TensorFlow，Caffe等；

1.3 NVIDIA深度学习SDK：cuDNN，TensorRT，NCCL；

     1.4深度学习显卡选择；；

GPU技术前沿

1、 CUDA 10新特性

2、 Pascal，Volta，Turing显卡新架构

Matlab程序基础

（基础语法）

Matlab基本用法，编程语法，matlab工具箱等

Matlab程序性能评估

tic,toc,cputime,clock()

tic(),toc(),cputime(),clock()等相关函数

基于多核处理器的matlab程序加速

任务并行

Matlab线程池的申请和释放，

基于perfor的多线程加速

基于perfevel的多线程并行

数据并行

基于并行计算工具箱的matlab加速

Matlab内置gpu函数，

parallel computing toolbox

Matlab与c/c++接口

MEX库API

MEX库相关函数

利用MEX实现matlab和c语言混编

基于CUDA的matlab加速

基于CUDAkernel，MEX的matlab加速

并行计算

应用场景

并行计算环境

并行算法及相关问题

并行化

Python基础

Python简介（What&Why）

数据类型（num、string、list、dictionary）

输入输出

循环

函数

Numpy模块

Array&Array Operations

线性运算

threading模块

定义一个线程

确定当前线程

实现一个线程

使用queue进行线程通信

multiprocessing模块

产生一个进程

给进程命名

后台运行一个进程

kill一个进程

在子类中使用进程

使用进程池

Mpi4py模块

并行hello

点对点通讯

避免锁死问题

Pycuda模块

Hello GPU

GPU&CPU