AlexeyAB
2018-04-05 943f6e874b819271a87665cf41199388380989a0
src/network_kernels.cu
@@ -39,6 +39,7 @@
float * get_network_output_gpu_layer(network net, int i);
float * get_network_delta_gpu_layer(network net, int i);
float * get_network_output_gpu(network net);
#include "opencv2/highgui/highgui_c.h"
void forward_network_gpu(network net, network_state state)
{
@@ -51,8 +52,24 @@
            fill_ongpu(l.outputs * l.batch, 0, l.delta_gpu, 1);
        }
        l.forward_gpu(l, state);
      cudaStreamSynchronize(get_cuda_stream());
      if(net.wait_stream)
         cudaStreamSynchronize(get_cuda_stream());
        state.input = l.output_gpu;
/*
      cuda_pull_array(l.output_gpu, l.output, l.batch*l.outputs);
      if (l.out_w >= 0 && l.out_h >= 1 && l.c >= 3) {
         int j;
         for (j = 0; j < l.out_c; ++j) {
            image img = make_image(l.out_w, l.out_h, 3);
            memcpy(img.data, l.output+ l.out_w*l.out_h*j, l.out_w*l.out_h * 1 * sizeof(float));
            char buff[256];
            sprintf(buff, "layer-%d slice-%d", i, j);
            show_image(img, buff);
         }
         cvWaitKey(0); // wait press-key in console
         cvDestroyAllWindows();
      }
*/
    }
}
@@ -112,7 +129,15 @@
    state.delta = 0;
    state.truth = *net.truth_gpu;
    state.train = 1;
#ifdef CUDNN_HALF
   int i;
   for (i = 0; i < net.n; ++i) {
      layer l = net.layers[i];
      cuda_convert_f32_to_f16(l.weights_gpu, l.c*l.n*l.size*l.size, l.weights_gpu16);
   }
#endif
    forward_network_gpu(net, state);
   //cudaStreamSynchronize(get_cuda_stream());
    backward_network_gpu(net, state);
}