Fixed memory leaks for Yolo: train, test

AlexeyAB

2018-05-23 ec68838342b42541776607b0c14e40fb89f7e3d8

 src/detector.c

@@ -16,10 +16,10 @@

#ifndef CV_VERSION_EPOCH
#include "opencv2/videoio/videoio_c.h"
#define OPENCV_VERSION CVAUX_STR(CV_VERSION_MAJOR)""CVAUX_STR(CV_VERSION_MINOR)""CVAUX_STR(CV_VERSION_REVISION)
#define OPENCV_VERSION CVAUX_STR(CV_VERSION_MAJOR)"" CVAUX_STR(CV_VERSION_MINOR)"" CVAUX_STR(CV_VERSION_REVISION)
#pragma comment(lib, "opencv_world" OPENCV_VERSION ".lib")
#else
#define OPENCV_VERSION CVAUX_STR(CV_VERSION_EPOCH)""CVAUX_STR(CV_VERSION_MAJOR)""CVAUX_STR(CV_VERSION_MINOR)
#define OPENCV_VERSION CVAUX_STR(CV_VERSION_EPOCH)"" CVAUX_STR(CV_VERSION_MAJOR)"" CVAUX_STR(CV_VERSION_MINOR)
#pragma comment(lib, "opencv_core" OPENCV_VERSION ".lib")
#pragma comment(lib, "opencv_imgproc" OPENCV_VERSION ".lib")
#pragma comment(lib, "opencv_highgui" OPENCV_VERSION ".lib")
@@ -61,6 +61,11 @@
    srand(time(0));
    network net = nets[0];

   if ((net.batch * net.subdivisions) == 1) {
      printf("\n Error: You set incorrect value batch=1 for Training! You should set batch=64 subdivision=64 \n");
      getchar();
   }

    int imgs = net.batch * net.subdivisions * ngpus;
    printf("Learning Rate: %g, Momentum: %g, Decay: %g\n", net.learning_rate, net.momentum, net.decay);
    data train, buffer;
@@ -116,12 +121,24 @@
    while(get_current_batch(net) < net.max_batches){
      if(l.random && count++%10 == 0){
            printf("Resizing\n");
         int dim = (rand() % 12 + (init_w/32 - 5)) * 32; // +-160
            //if (get_current_batch(net)+100 > net.max_batches) dim = 544;
         //int dim = (rand() % 12 + (init_w/32 - 5)) * 32;  // +-160
            //int dim = (rand() % 4 + 16) * 32;
            printf("%d\n", dim);
            args.w = dim;
            args.h = dim;
         //if (get_current_batch(net)+100 > net.max_batches) dim = 544;
			
         //int random_val = rand() % 12;
         //int dim_w = (random_val + (init_w / 32 - 5)) * 32;  // +-160
         //int dim_h = (random_val + (init_h / 32 - 5)) * 32;  // +-160

         float random_val = rand_scale(1.4); // *x or /x
         int dim_w = roundl(random_val*init_w / 32) * 32;
         int dim_h = roundl(random_val*init_h / 32) * 32;

         if (dim_w < 32) dim_w = 32;
         if (dim_h < 32) dim_h = 32;

         printf("%d x %d \n", dim_w, dim_h);
         args.w = dim_w;
         args.h = dim_h;

            pthread_join(load_thread, 0);
            train = buffer;
@@ -129,7 +146,7 @@
            load_thread = load_data(args);

            for(i = 0; i < ngpus; ++i){
                resize_network(nets + i, dim, dim);
                resize_network(nets + i, dim_w, dim_h);
            }
            net = nets[0];
        }
@@ -199,8 +216,25 @@
    sprintf(buff, "%s/%s_final.weights", backup_directory, base);
    save_weights(net, buff);

   //cvReleaseImage(&img);
   //cvDestroyAllWindows();
#ifdef OPENCV
   cvReleaseImage(&img);
   cvDestroyAllWindows();
#endif

   // free memory
   pthread_join(load_thread, 0);
   free_data(buffer);

   free(base);
   free(paths);
   free_list_contents(plist);
   free_list(plist);

   free_list_contents_kvp(options);
   free_list(options);

   free(nets);
   free_network(net);
}


@@ -411,7 +445,7 @@
      fprintf(fp, "\n]\n");
      fclose(fp);
   }
   fprintf(stderr, "Total Detection Time: %f Seconds\n", time(0) - start);
   fprintf(stderr, "Total Detection Time: %f Seconds\n", (double)time(0) - start);
}

void validate_detector_recall(char *datacfg, char *cfgfile, char *weightfile)
@@ -458,13 +492,7 @@
      if (nms) do_nms_obj(dets, nboxes, 1, nms);

      char labelpath[4096];
      find_replace(path, "images", "labels", labelpath);
      find_replace(labelpath, "JPEGImages", "labels", labelpath);
      find_replace(labelpath, ".jpg", ".txt", labelpath);
      find_replace(labelpath, ".png", ".txt", labelpath);
      find_replace(labelpath, ".bmp", ".txt", labelpath);
      find_replace(labelpath, ".JPG", ".txt", labelpath);
      find_replace(labelpath, ".JPEG", ".txt", labelpath);
      replace_image_to_label(path, labelpath);

      int num_labels = 0;
      box_label *truth = read_boxes(labelpath, &num_labels);
@@ -526,6 +554,7 @@
   char *mapf = option_find_str(options, "map", 0);
   int *map = 0;
   if (mapf) map = read_map(mapf);
   FILE* reinforcement_fd = NULL;

   network net = parse_network_cfg_custom(cfgfile, 1);   // set batch=1
   if (weightfile) {
@@ -615,13 +644,7 @@
         if (nms) do_nms_sort(dets, nboxes, l.classes, nms);

         char labelpath[4096];
         find_replace(path, "images", "labels", labelpath);
         find_replace(labelpath, "JPEGImages", "labels", labelpath);
         find_replace(labelpath, ".jpg", ".txt", labelpath);
         find_replace(labelpath, ".png", ".txt", labelpath);
         find_replace(labelpath, ".bmp", ".txt", labelpath);
         find_replace(labelpath, ".JPG", ".txt", labelpath);
         find_replace(labelpath, ".JPEG", ".txt", labelpath);
         replace_image_to_label(path, labelpath);
         int num_labels = 0;
         box_label *truth = read_boxes(labelpath, &num_labels);
         int i, j;
@@ -637,11 +660,8 @@
            char *path_dif = paths_dif[image_index];

            char labelpath_dif[4096];
            find_replace(path_dif, "images", "labels", labelpath_dif);
            find_replace(labelpath_dif, "JPEGImages", "labels", labelpath_dif);
            find_replace(labelpath_dif, ".jpg", ".txt", labelpath_dif);
            find_replace(labelpath_dif, ".JPEG", ".txt", labelpath_dif);
            find_replace(labelpath_dif, ".png", ".txt", labelpath_dif);				
            replace_image_to_label(path_dif, labelpath_dif);
			
            truth_dif = read_boxes(labelpath_dif, &num_labels_dif);
         }

@@ -713,9 +733,18 @@
               }
            }
         }
			
				
         unique_truth_count += num_labels;

         //static int previous_errors = 0;
         //int total_errors = fp_for_thresh + (unique_truth_count - tp_for_thresh);
         //int errors_in_this_image = total_errors - previous_errors;
         //previous_errors = total_errors;
         //if(reinforcement_fd == NULL) reinforcement_fd = fopen("reinforcement.txt", "wb");
         //char buff[1000];
         //sprintf(buff, "%s\n", path);
         //if(errors_in_this_image > 0) fwrite(buff, sizeof(char), strlen(buff), reinforcement_fd);

         free_detections(dets, nboxes);
         free(id);
         free_image(val[t]);
@@ -836,6 +865,7 @@
   free(truth_classes_count);

   fprintf(stderr, "Total Detection Time: %f Seconds\n", (double)(time(0) - start));
   if (reinforcement_fd != NULL) fclose(reinforcement_fd);
}

#ifdef OPENCV
@@ -878,13 +908,8 @@
   for (i = 0; i < number_of_images; ++i) {
      char *path = paths[i];
      char labelpath[4096];
      find_replace(path, "images", "labels", labelpath);
      find_replace(labelpath, "JPEGImages", "labels", labelpath);
      find_replace(labelpath, ".jpg", ".txt", labelpath);
      find_replace(labelpath, ".png", ".txt", labelpath);
      find_replace(labelpath, ".bmp", ".txt", labelpath);
      find_replace(labelpath, ".JPG", ".txt", labelpath);
      find_replace(labelpath, ".JPEG", ".txt", labelpath);
      replace_image_to_label(path, labelpath);

      int num_labels = 0;
      box_label *truth = read_boxes(labelpath, &num_labels);
      //printf(" new path: %s \n", labelpath);
@@ -1036,7 +1061,8 @@
}
#endif // OPENCV

void test_detector(char *datacfg, char *cfgfile, char *weightfile, char *filename, float thresh, float hier_thresh, int dont_show)
void test_detector(char *datacfg, char *cfgfile, char *weightfile, char *filename, float thresh,
               float hier_thresh, int dont_show, int ext_output, int save_labels)
{
    list *options = read_data_cfg(datacfg);
    char *name_list = option_find_str(options, "names", "data/names.list");
@@ -1088,13 +1114,39 @@
      int nboxes = 0;
      detection *dets = get_network_boxes(&net, im.w, im.h, thresh, hier_thresh, 0, 1, &nboxes, letterbox);
      if (nms) do_nms_sort(dets, nboxes, l.classes, nms);
      draw_detections_v3(im, dets, nboxes, thresh, names, alphabet, l.classes);
      free_detections(dets, nboxes);
      draw_detections_v3(im, dets, nboxes, thresh, names, alphabet, l.classes, ext_output);
        save_image(im, "predictions");
      if (!dont_show) {
         show_image(im, "predictions");
      }

      // pseudo labeling concept - fast.ai
      if(save_labels)
      {
         char labelpath[4096];
         replace_image_to_label(input, labelpath);

         FILE* fw = fopen(labelpath, "wb");
         int i;
         for (i = 0; i < nboxes; ++i) {
            char buff[1024];
            int class_id = -1;
            float prob = 0;
            for (j = 0; j < l.classes; ++j) {
               if (dets[i].prob[j] > thresh && dets[i].prob[j] > prob) {
                  prob = dets[i].prob[j];
                  class_id = j;
               }
            }
            if (class_id >= 0) {
               sprintf(buff, "%d %2.4f %2.4f %2.4f %2.4f\n", class_id, dets[i].bbox.x, dets[i].bbox.y, dets[i].bbox.w, dets[i].bbox.h);
               fwrite(buff, sizeof(char), strlen(buff), fw);
            }
         }
         fclose(fw);
      }

      free_detections(dets, nboxes);
        free_image(im);
        free_image(sized);
        //free(boxes);
@@ -1107,6 +1159,23 @@
#endif
        if (filename) break;
    }

   // free memory
   free_ptrs(names, net.layers[net.n - 1].classes);
   free_list_contents_kvp(options);
   free_list(options);

   int i;
   const int nsize = 8;
   for (j = 0; j < nsize; ++j) {
      for (i = 32; i < 127; ++i) {
         free_image(alphabet[j][i]);
      }
      free(alphabet[j]);
   }
   free(alphabet);

   free_network(net);
}

void run_detector(int argc, char **argv)
@@ -1124,6 +1193,10 @@
   int num_of_clusters = find_int_arg(argc, argv, "-num_of_clusters", 5);
   int width = find_int_arg(argc, argv, "-width", -1);
   int height = find_int_arg(argc, argv, "-height", -1);
   // extended output in test mode (output of rect bound coords)
   // and for recall mode (extended output table-like format with results for best_class fit)
   int ext_output = find_arg(argc, argv, "-ext_output");
   int save_labels = find_arg(argc, argv, "-save_labels");
    if(argc < 4){
        fprintf(stderr, "usage: %s %s [train/test/valid] [cfg] [weights (optional)]\n", argv[0], argv[1]);
        return;
@@ -1160,7 +1233,7 @@
      if(strlen(weights) > 0)
         if (weights[strlen(weights) - 1] == 0x0d) weights[strlen(weights) - 1] = 0;
    char *filename = (argc > 6) ? argv[6]: 0;
    if(0==strcmp(argv[2], "test")) test_detector(datacfg, cfg, weights, filename, thresh, hier_thresh, dont_show);
    if(0==strcmp(argv[2], "test")) test_detector(datacfg, cfg, weights, filename, thresh, hier_thresh, dont_show, ext_output, save_labels);
    else if(0==strcmp(argv[2], "train")) train_detector(datacfg, cfg, weights, gpus, ngpus, clear, dont_show);
    else if(0==strcmp(argv[2], "valid")) validate_detector(datacfg, cfg, weights, outfile);
    else if(0==strcmp(argv[2], "recall")) validate_detector_recall(datacfg, cfg, weights);
@@ -1175,7 +1248,10 @@
         if(strlen(filename) > 0)
            if (filename[strlen(filename) - 1] == 0x0d) filename[strlen(filename) - 1] = 0;
        demo(cfg, weights, thresh, hier_thresh, cam_index, filename, names, classes, frame_skip, prefix, out_filename,
         http_stream_port, dont_show);
         http_stream_port, dont_show, ext_output);

      free_list_contents_kvp(options);
      free_list(options);
    }
   else printf(" There isn't such command: %s", argv[2]);
}