getting rid of sub_arrays, nvidia driver memory leak

Joseph Redmon

2014-10-28 af4e4f92dc9e5da160eb6c6870a7b38b863f1c6c

 src/cnn.c

@@ -308,15 +308,15 @@

void train_imagenet()
{
   network net = parse_network_cfg("cfg/imagenet_backup_710.cfg");
   network net = parse_network_cfg("/home/pjreddie/imagenet_backup/imagenet_backup_slower_larger_870.cfg");
    printf("Learning Rate: %g, Momentum: %g, Decay: %g\n", net.learning_rate, net.momentum, net.decay);
    int imgs = 1000/net.batch+1;
    //imgs=1;
   srand(888888);
   srand(986987);
   int i = 0;
    char **labels = get_labels("/home/pjreddie/data/imagenet/cls.labels.list");
    list *plist = get_paths("/home/pjreddie/data/imagenet/cls.cropped.list");
    list *plist = get_paths("/data/imagenet/cls.train.list");
    char **paths = (char **)list_to_array(plist);
    printf("%d\n", plist->size);
    clock_t time;
   while(1){
      i += 1;
@@ -326,18 +326,47 @@
        printf("Loaded: %lf seconds\n", sec(clock()-time));
        time=clock();
        #ifdef GPU
      float loss = train_network_sgd_gpu(net, train, imgs);
      float loss = train_network_data_gpu(net, train, imgs);
      printf("%d: %f, %lf seconds, %d images\n", i, loss, sec(clock()-time), i*imgs*net.batch);
        #endif
      free_data(train);
      if(i%10==0){
         char buff[256];
         sprintf(buff, "/home/pjreddie/imagenet_backup/imagenet_backup_%d.cfg", i);
         sprintf(buff, "/home/pjreddie/imagenet_backup/imagenet_backup_larger_%d.cfg", i);
         save_network(net, buff);
      }
   }
}

void train_imagenet_small()
{
   network net = parse_network_cfg("cfg/imagenet_small.cfg");
    printf("Learning Rate: %g, Momentum: %g, Decay: %g\n", net.learning_rate, net.momentum, net.decay);
    int imgs=1;
    srand(111222);
    int i = 0;
    char **labels = get_labels("/home/pjreddie/data/imagenet/cls.labels.list");
    list *plist = get_paths("/data/imagenet/cls.train.list");
    char **paths = (char **)list_to_array(plist);
    printf("%d\n", plist->size);
    clock_t time;

    i += 1;
    time=clock();
    data train = load_data_random(imgs*net.batch, paths, plist->size, labels, 1000, 256, 256);
    normalize_data_rows(train);
    printf("Loaded: %lf seconds\n", sec(clock()-time));
    time=clock();
#ifdef GPU
    float loss = train_network_data_gpu(net, train, imgs);
    printf("%d: %f, %lf seconds, %d images\n", i, loss, sec(clock()-time), i*imgs*net.batch);
#endif
    free_data(train);
    char buff[256];
    sprintf(buff, "/home/pjreddie/imagenet_backup/imagenet_backup_slower_larger_%d.cfg", i);
    save_network(net, buff);
}

void test_imagenet()
{
   network net = parse_network_cfg("cfg/imagenet_test.cfg");
@@ -368,8 +397,7 @@

void test_visualize()
{
   network net = parse_network_cfg("cfg/assira_backup_740000.cfg");
   srand(2222222);
    network net = parse_network_cfg("cfg/imagenet_test.cfg");
   visualize_network(net);
   cvWaitKey(0);
}
@@ -499,7 +527,7 @@
    int iters = 10000/net.batch;
    while(++count <= 2000){
        clock_t start = clock(), end;
        float loss = train_network_sgd_gpu(net, train, iters);
        float loss = train_network_sgd(net, train, iters);
        end = clock();
        float test_acc = network_accuracy(net, test);
        //float test_acc = 0;
@@ -954,12 +982,51 @@
    cvWaitKey(0);
}

void test_gpu_net()
{
    srand(222222);
    network net = parse_network_cfg("cfg/nist.cfg");
    data train = load_categorical_data_csv("data/mnist/mnist_train.csv", 0, 10);
    data test = load_categorical_data_csv("data/mnist/mnist_test.csv",0,10);
    translate_data_rows(train, -144);
    translate_data_rows(test, -144);
    int count = 0;
    int iters = 10000/net.batch;
    while(++count <= 5){
        clock_t start = clock(), end;
        float loss = train_network_sgd(net, train, iters);
        end = clock();
        float test_acc = network_accuracy(net, test);
        printf("%d: Loss: %f, Test Acc: %f, Time: %lf seconds, LR: %f, Momentum: %f, Decay: %f\n", count, loss, test_acc,(float)(end-start)/CLOCKS_PER_SEC, net.learning_rate, net.momentum, net.decay);
    }
    count = 0;
    srand(222222);
    net = parse_network_cfg("cfg/nist.cfg");
    while(++count <= 5){
        clock_t start = clock(), end;
        float loss = train_network_sgd_gpu(net, train, iters);
        end = clock();
        float test_acc = network_accuracy(net, test);
        printf("%d: Loss: %f, Test Acc: %f, Time: %lf seconds, LR: %f, Momentum: %f, Decay: %f\n", count, loss, test_acc,(float)(end-start)/CLOCKS_PER_SEC, net.learning_rate, net.momentum, net.decay);
    }
}


int main(int argc, char *argv[])
{
    test_gpu_blas();
    //train_imagenet();
    if(argc != 2){
        fprintf(stderr, "usage: %s <function>\n", argv[0]);
        return 0;
    }
    if(0==strcmp(argv[1], "train")) train_imagenet();
    else if(0==strcmp(argv[1], "train_small")) train_imagenet_small();
    else if(0==strcmp(argv[1], "test_gpu")) test_gpu_blas();
    else if(0==strcmp(argv[1], "test")) test_gpu_net();
    //test_gpu_blas();
    //train_imagenet_small();
    //test_imagenet();
    //train_nist();
    //test_visualize();
    fprintf(stderr, "Success!\n");
    return 0;
}