im2col slightly faster

Joseph Redmon

2014-10-30 1c0fd9bb4726f28b5ccf4491b8d108b00c884ec3

 src/network.c

@@ -85,6 +85,7 @@
    cl_mem prev_input;
    cl_mem prev_delta;
    for(i = net.n-1; i >= 0; --i){
        clock_t time = clock();
        if(i == 0){
            prev_input = input;
            prev_delta = 0;
@@ -112,6 +113,7 @@
            softmax_layer layer = *(softmax_layer *)net.layers[i];
            backward_softmax_layer_gpu(layer, prev_delta);
        }
        printf("back: %d %f\n", i, sec(clock()-time));
    }
}

@@ -386,6 +388,7 @@
{
    int x_size = get_network_input_size(net)*net.batch;
    int y_size = get_network_output_size(net)*net.batch;
    clock_t time = clock();
    if(!*net.input_cl){
        *net.input_cl = cl_make_array(x, x_size);
        *net.truth_cl = cl_make_array(y, y_size);
@@ -393,10 +396,18 @@
        cl_write_array(*net.input_cl, x, x_size);
        cl_write_array(*net.truth_cl, y, y_size);
    }
    //printf("trans %f\n", sec(clock()-time));
    time = clock();
    forward_network_gpu(net, *net.input_cl, *net.truth_cl, 1);
    //printf("forw %f\n", sec(clock()-time));
    time = clock();
    backward_network_gpu(net, *net.input_cl);
    //printf("back %f\n", sec(clock()-time));
    time = clock();
    float error = get_network_cost(net);
    update_network_gpu(net);
    //printf("updt %f\n", sec(clock()-time));
    time = clock();
    return error;
}

@@ -409,7 +420,25 @@
    int i;
    float sum = 0;
    for(i = 0; i < n; ++i){
        get_batch(d, batch, X, y);
        get_random_batch(d, batch, X, y);
        float err = train_network_datum_gpu(net, X, y);
        sum += err;
    }
    free(X);
    free(y);
    return (float)sum/(n*batch);
}

float train_network_data_gpu(network net, data d, int n)
{
    int batch = net.batch;
    float *X = calloc(batch*d.X.cols, sizeof(float));
    float *y = calloc(batch*d.y.cols, sizeof(float));

    int i;
    float sum = 0;
    for(i = 0; i < n; ++i){
        get_next_batch(d, batch, i*batch, X, y);
        float err = train_network_datum_gpu(net, X, y);
        sum += err;
    }
@@ -440,7 +469,7 @@
    int i;
    float sum = 0;
    for(i = 0; i < n; ++i){
        get_batch(d, batch, X, y);
        get_random_batch(d, batch, X, y);
        float err = train_network_datum(net, X, y);
        sum += err;
    }