Merge pull request #766 from HotChick91/AlexeyAB-mask

Alexey

2018-08-15 a723e1c62a27aeb39aaf7fcdeb3beb4e89fba32d

 src/layer.h

@@ -113,6 +113,7 @@
   int tanh;
   int *mask;
   int total;
   float bflops;

    int adam;
    float B1;
@@ -178,6 +179,10 @@
    float *weights;
    float *weight_updates;

    char *align_bit_weights;
    float *mean_arr;
    int lda_align;

    float *col_image;
    int   * input_layers;
    int   * input_sizes;
@@ -281,7 +286,7 @@
    #ifdef CUDNN
    cudnnTensorDescriptor_t srcTensorDesc, dstTensorDesc;
    cudnnTensorDescriptor_t dsrcTensorDesc, ddstTensorDesc;
   cudnnTensorDescriptor_t normTensorDesc, normDstTensorDesc;
   cudnnTensorDescriptor_t normTensorDesc, normDstTensorDesc, normDstTensorDescF16;
    cudnnFilterDescriptor_t weightDesc;
    cudnnFilterDescriptor_t dweightDesc;
    cudnnConvolutionDescriptor_t convDesc;