AlexeyAB
2017-08-23 76276fdbeade20f30f9474e32a289dba5c09d920
src/image.c
@@ -10,6 +10,16 @@
#define STB_IMAGE_WRITE_IMPLEMENTATION
#include "stb_image_write.h"
#ifdef OPENCV
#include "opencv2/highgui/highgui_c.h"
#include "opencv2/imgproc/imgproc_c.h"
#include "opencv2/core/version.hpp"
#ifndef CV_VERSION_EPOCH
#include "opencv2/videoio/videoio_c.h"
#endif
#endif
int windows = 0;
float colors[6][3] = { {1,0,1}, {0,0,1},{0,1,1},{0,1,0},{1,1,0},{1,0,0} };
@@ -25,24 +35,77 @@
    return r;
}
void composite_image(image source, image dest, int dx, int dy)
{
    int x,y,k;
    for(k = 0; k < source.c; ++k){
        for(y = 0; y < source.h; ++y){
            for(x = 0; x < source.w; ++x){
                float val = get_pixel(source, x, y, k);
                float val2 = get_pixel_extend(dest, dx+x, dy+y, k);
                set_pixel(dest, dx+x, dy+y, k, val * val2);
            }
        }
    }
}
image border_image(image a, int border)
{
    image b = make_image(a.w + 2*border, a.h + 2*border, a.c);
    int x,y,k;
    for(k = 0; k < b.c; ++k){
        for(y = 0; y < b.h; ++y){
            for(x = 0; x < b.w; ++x){
                float val = get_pixel_extend(a, x - border, y - border, k);
                if(x - border < 0 || x - border >= a.w || y - border < 0 || y - border >= a.h) val = 1;
                set_pixel(b, x, y, k, val);
            }
        }
    }
    return b;
}
image tile_images(image a, image b, int dx)
{
    if(a.w == 0) return copy_image(b);
    image c = make_image(a.w + b.w + dx, (a.h > b.h) ? a.h : b.h, (a.c > b.c) ? a.c : b.c);
    fill_cpu(c.w*c.h*c.c, 1, c.data, 1);
    embed_image(a, c, 0, 0);
    composite_image(b, c, a.w + dx, 0);
    return c;
}
image get_label(image **characters, char *string, int size)
{
    if(size > 7) size = 7;
    image label = make_empty_image(0,0,0);
    while(*string){
        image l = characters[size][(int)*string];
        image n = tile_images(label, l, -size - 1 + (size+1)/2);
        free_image(label);
        label = n;
        ++string;
    }
    image b = border_image(label, label.h*.25);
    free_image(label);
    return b;
}
void draw_label(image a, int r, int c, image label, const float *rgb)
{
    float ratio = (float) label.w / label.h;
    int w = label.w;
    int h = label.h;
    int w = ratio * h;
    image rl = resize_image(label, w, h);
    if (r - h >= 0) r = r - h;
    int i, j, k;
    for(j = 0; j < h && j + r < a.h; ++j){
        for(i = 0; i < w && i + c < a.w; ++i){
            for(k = 0; k < label.c; ++k){
                float val = get_pixel(rl, i, j, k);
                float val = get_pixel(label, i, j, k);
                set_pixel(a, i+c, j+r, k, rgb[k] * val);
            }
        }
    }
    free_image(rl);
}
void draw_box(image a, int x1, int y1, int x2, int y2, float r, float g, float b)
@@ -102,7 +165,23 @@
    }
}
void draw_detections(image im, int num, float thresh, box *boxes, float **probs, char **names, image *labels, int classes)
image **load_alphabet()
{
    int i, j;
    const int nsize = 8;
    image **alphabets = calloc(nsize, sizeof(image));
    for(j = 0; j < nsize; ++j){
        alphabets[j] = calloc(128, sizeof(image));
        for(i = 32; i < 127; ++i){
            char buff[256];
            sprintf(buff, "data/labels/%d_%d.png", i, j);
            alphabets[j][i] = load_image_color(buff, 0, 0);
        }
    }
    return alphabets;
}
void draw_detections(image im, int num, float thresh, box *boxes, float **probs, char **names, image **alphabet, int classes)
{
    int i;
@@ -110,10 +189,16 @@
        int class = max_index(probs[i], classes);
        float prob = probs[i][class];
        if(prob > thresh){
            //int width = pow(prob, 1./2.)*30+1;
            int width = 8;
            int width = im.h * .012;
            if(0){
                width = pow(prob, 1./2.)*10+1;
                alphabet = 0;
            }
            printf("%s: %.0f%%\n", names[class], prob*100);
            int offset = class*1 % classes;
            int offset = class*123457 % classes;
            float red = get_color(2,offset,classes);
            float green = get_color(1,offset,classes);
            float blue = get_color(0,offset,classes);
@@ -137,11 +222,86 @@
            if(bot > im.h-1) bot = im.h-1;
            draw_box_width(im, left, top, right, bot, width, red, green, blue);
            if (labels) draw_label(im, top + width, left, labels[class], rgb);
            if (alphabet) {
                image label = get_label(alphabet, names[class], (im.h*.03)/10);
                draw_label(im, top + width, left, label, rgb);
            }
        }
    }
}
#ifdef OPENCV
void draw_detections_cv(IplImage* show_img, int num, float thresh, box *boxes, float **probs, char **names, image **alphabet, int classes)
{
   int i;
   for (i = 0; i < num; ++i) {
      int class = max_index(probs[i], classes);
      float prob = probs[i][class];
      if (prob > thresh) {
         int width = show_img->height * .012;
         if (0) {
            width = pow(prob, 1. / 2.) * 10 + 1;
            alphabet = 0;
         }
         printf("%s: %.0f%%\n", names[class], prob * 100);
         int offset = class * 123457 % classes;
         float red = get_color(2, offset, classes);
         float green = get_color(1, offset, classes);
         float blue = get_color(0, offset, classes);
         float rgb[3];
         //width = prob*20+2;
         rgb[0] = red;
         rgb[1] = green;
         rgb[2] = blue;
         box b = boxes[i];
         int left = (b.x - b.w / 2.)*show_img->width;
         int right = (b.x + b.w / 2.)*show_img->width;
         int top = (b.y - b.h / 2.)*show_img->height;
         int bot = (b.y + b.h / 2.)*show_img->height;
         if (left < 0) left = 0;
         if (right > show_img->width - 1) right = show_img->width - 1;
         if (top < 0) top = 0;
         if (bot > show_img->height - 1) bot = show_img->height - 1;
         float const font_size = show_img->height / 1000.F;
         CvPoint pt1, pt2, pt_text, pt_text_bg1, pt_text_bg2;
         pt1.x = left;
         pt1.y = top;
         pt2.x = right;
         pt2.y = bot;
         pt_text.x = left;
         pt_text.y = top - 12;
         pt_text_bg1.x = left;
         pt_text_bg1.y = top - (10+25*font_size);
         pt_text_bg2.x = right;
         pt_text_bg2.y = top;
         CvScalar color;
         color.val[0] = red * 256;
         color.val[1] = green * 256;
         color.val[2] = blue * 256;
         cvRectangle(show_img, pt1, pt2, color, width, 8, 0);
         cvRectangle(show_img, pt_text_bg1, pt_text_bg2, color, width, 8, 0);
         cvRectangle(show_img, pt_text_bg1, pt_text_bg2, color, CV_FILLED, 8, 0);   // filled
         CvScalar black_color;
         black_color.val[0] = 0;
         CvFont font;
         cvInitFont(&font, CV_FONT_HERSHEY_SIMPLEX, font_size, font_size, 0, font_size * 3, 8);
         cvPutText(show_img, names[class], pt_text, &font, black_color);
      }
   }
}
#endif
void transpose_image(image im)
{
    assert(im.w == im.h);
@@ -353,8 +513,44 @@
        cvReleaseImage(&buffer);
    }
    cvShowImage(buff, disp);
    cvReleaseImage(&disp);
}
void show_image_cv_ipl(IplImage *disp, const char *name, const char *out_filename)
{
   if (disp == NULL) return;
   char buff[256];
   //sprintf(buff, "%s (%d)", name, windows);
   sprintf(buff, "%s", name);
   cvNamedWindow(buff, CV_WINDOW_NORMAL);
   //cvMoveWindow(buff, 100*(windows%10) + 200*(windows/10), 100*(windows%10));
   ++windows;
   cvShowImage(buff, disp);
   if(out_filename)
   {
      CvSize size;
      {
         size.width = disp->width, size.height = disp->height;
      }
      static CvVideoWriter* output_video = NULL;    // cv::VideoWriter output_video;
      if (output_video == NULL)
      {
         //const char* output_name = "test_dnn_out.avi";
         //output_video = cvCreateVideoWriter(out_filename, CV_FOURCC('H', '2', '6', '4'), 25, size, 1);
         output_video = cvCreateVideoWriter(out_filename, CV_FOURCC('D', 'I', 'V', 'X'), 25, size, 1);
         //output_video = cvCreateVideoWriter(out_filename, CV_FOURCC('M', 'J', 'P', 'G'), 25, size, 1);
      }
      cvWriteFrame(output_video, disp);   // comment this line to improve FPS !!!
      printf("\n cvWriteFrame \n");
   }
   cvReleaseImage(&disp);
}
#endif
void show_image(image p, const char *name)
@@ -368,6 +564,53 @@
}
#ifdef OPENCV
image ipl_to_image(IplImage* src)
{
    unsigned char *data = (unsigned char *)src->imageData;
    int h = src->height;
    int w = src->width;
    int c = src->nChannels;
    int step = src->widthStep;
    image out = make_image(w, h, c);
    int i, j, k, count=0;;
    for(k= 0; k < c; ++k){
        for(i = 0; i < h; ++i){
            for(j = 0; j < w; ++j){
                out.data[count++] = data[i*step + j*c + k]/255.;
            }
        }
    }
    return out;
}
image load_image_cv(char *filename, int channels)
{
    IplImage* src = 0;
    int flag = -1;
    if (channels == 0) flag = -1;
    else if (channels == 1) flag = 0;
    else if (channels == 3) flag = 1;
    else {
        fprintf(stderr, "OpenCV can't force load with %d channels\n", channels);
    }
    if( (src = cvLoadImage(filename, flag)) == 0 )
    {
        fprintf(stderr, "Cannot load image \"%s\"\n", filename);
        char buff[256];
        sprintf(buff, "echo %s >> bad.list", filename);
        system(buff);
        return make_image(10,10,3);
        //exit(0);
    }
    image out = ipl_to_image(src);
    cvReleaseImage(&src);
    rgbgr_image(out);
    return out;
}
image get_image_from_stream(CvCapture *cap)
{
    IplImage* src = cvQueryFrame(cap);
@@ -376,9 +619,21 @@
    rgbgr_image(im);
    return im;
}
#endif
#ifdef OPENCV
image get_image_from_stream_resize(CvCapture *cap, int w, int h, IplImage** in_img)
{
   IplImage* src = cvQueryFrame(cap);
   if (!src) return make_empty_image(0, 0, 0);
   IplImage* new_img = cvCreateImage(cvSize(w, h), IPL_DEPTH_8U, 3);
   *in_img = cvCreateImage(cvSize(src->width, src->height), IPL_DEPTH_8U, 3);
   cvResize(src, *in_img, CV_INTER_LINEAR);
   cvResize(src, new_img, CV_INTER_LINEAR);
   image im = ipl_to_image(new_img);
   cvReleaseImage(&new_img);
   rgbgr_image(im);
   return im;
}
void save_image_jpg(image p, const char *name)
{
    image copy = copy_image(p);
@@ -403,11 +658,8 @@
}
#endif
void save_image(image im, const char *name)
void save_image_png(image im, const char *name)
{
#ifdef OPENCV
    save_image_jpg(im, name);
#else
    char buff[256];
    //sprintf(buff, "%s (%d)", name, windows);
    sprintf(buff, "%s.png", name);
@@ -421,6 +673,14 @@
    int success = stbi_write_png(buff, im.w, im.h, im.c, data, im.w*im.c);
    free(data);
    if(!success) fprintf(stderr, "Failed to write image %s\n", buff);
}
void save_image(image im, const char *name)
{
#ifdef OPENCV
    save_image_jpg(im, name);
#else
    save_image_png(im, name);
#endif
}
@@ -479,7 +739,8 @@
    return out;
}
image rotate_crop_image(image im, float rad, float s, int w, int h, int dx, int dy)
image rotate_crop_image(image im, float rad, float s, int w, int h, float dx, float dy, float aspect)
{
    int x, y, c;
    float cx = im.w/2.;
@@ -488,8 +749,8 @@
    for(c = 0; c < im.c; ++c){
        for(y = 0; y < h; ++y){
            for(x = 0; x < w; ++x){
                float rx = cos(rad)*(x/s + dx/s -cx) - sin(rad)*(y/s + dy/s -cy) + cx;
                float ry = sin(rad)*(x/s + dx/s -cx) + cos(rad)*(y/s + dy/s -cy) + cy;
                float rx = cos(rad)*((x - w/2.)/s*aspect + dx/s*aspect) - sin(rad)*((y - h/2.)/s + dy/s) + cx;
                float ry = sin(rad)*((x - w/2.)/s*aspect + dx/s*aspect) + cos(rad)*((y - h/2.)/s + dy/s) + cy;
                float val = bilinear_interpolate(im, rx, ry, c);
                set_pixel(rot, x, y, c, val);
            }
@@ -618,6 +879,22 @@
#endif
}
image resize_max(image im, int max)
{
    int w = im.w;
    int h = im.h;
    if(w > h){
        h = (h * max) / w;
        w = max;
    } else {
        w = (w * max) / h;
        h = max;
    }
    if(w == im.w && h == im.h) return im;
    image resized = resize_image(im, w, h);
    return resized;
}
image resize_min(image im, int min)
{
    int w = im.w;
@@ -642,18 +919,23 @@
    return crop;
}
image random_augment_image(image im, float angle, int low, int high, int size)
image random_augment_image(image im, float angle, float aspect, int low, int high, int size)
{
    aspect = rand_scale(aspect);
    int r = rand_int(low, high);
    int min = (im.h < im.w) ? im.h : im.w;
    int min = (im.h < im.w*aspect) ? im.h : im.w*aspect;
    float scale = (float)r / min;
    float rad = rand_uniform(-angle, angle) * TWO_PI / 360.;
    int dx = rand_int(0, scale * im.w - size);
    int dy = rand_int(0, scale * im.h - size);
    //printf("%d %d\n", dx, dy);
    image crop = rotate_crop_image(im, rad, scale, size, size, dx, dy);
    float dx = (im.w*scale/aspect - size) / 2.;
    float dy = (im.h*scale - size) / 2.;
    if(dx < 0) dx = 0;
    if(dy < 0) dy = 0;
    dx = rand_uniform(-dx, dx);
    dy = rand_uniform(-dy, dy);
    image crop = rotate_crop_image(im, rad, scale, size, size, dx, dy, aspect);
    return crop;
}
@@ -871,7 +1153,7 @@
void random_distort_image(image im, float hue, float saturation, float exposure)
{
    float dhue = rand_uniform(-hue, hue);
    float dhue = rand_uniform_strong(-hue, hue);
    float dsat = rand_scale(saturation);
    float dexp = rand_scale(exposure);
    distort_image(im, dhue, dsat, dexp);
@@ -971,6 +1253,11 @@
    show_image(c4, "C4");
#ifdef OPENCV
    while(1){
        image aug = random_augment_image(im, 0, .75, 320, 448, 320);
        show_image(aug, "aug");
        free_image(aug);
        float exposure = 1.15;
        float saturation = 1.15;
        float hue = .05;
@@ -990,55 +1277,6 @@
#endif
}
#ifdef OPENCV
image ipl_to_image(IplImage* src)
{
    unsigned char *data = (unsigned char *)src->imageData;
    int h = src->height;
    int w = src->width;
    int c = src->nChannels;
    int step = src->widthStep;
    image out = make_image(w, h, c);
    int i, j, k, count=0;;
    for(k= 0; k < c; ++k){
        for(i = 0; i < h; ++i){
            for(j = 0; j < w; ++j){
                out.data[count++] = data[i*step + j*c + k]/255.;
            }
        }
    }
    return out;
}
image load_image_cv(char *filename, int channels)
{
    IplImage* src = 0;
    int flag = -1;
    if (channels == 0) flag = -1;
    else if (channels == 1) flag = 0;
    else if (channels == 3) flag = 1;
    else {
        fprintf(stderr, "OpenCV can't force load with %d channels\n", channels);
    }
    if( (src = cvLoadImage(filename, flag)) == 0 )
    {
        fprintf(stderr, "Cannot load image \"%s\"\n", filename);
        char buff[256];
        sprintf(buff, "echo %s >> bad.list", filename);
        system(buff);
        return make_image(10,10,3);
        //exit(0);
    }
    image out = ipl_to_image(src);
    cvReleaseImage(&src);
    rgbgr_image(out);
    return out;
}
#endif
image load_image_stb(char *filename, int channels)
{
@@ -1067,9 +1305,15 @@
image load_image(char *filename, int w, int h, int c)
{
#ifdef OPENCV
    image out = load_image_cv(filename, c);
#ifndef CV_VERSION_EPOCH
   image out = load_image_stb(filename, c);  // OpenCV 3.x
#else
    image out = load_image_stb(filename, c);
   image out = load_image_cv(filename, c);      // OpenCV 2.4.x
#endif
#else
    image out = load_image_stb(filename, c); // without OpenCV
#endif
    if((h && w) && (h != out.h || w != out.w)){
@@ -1111,6 +1355,7 @@
}
void set_pixel(image m, int x, int y, int c, float val)
{
    if (x < 0 || y < 0 || c < 0 || x >= m.w || y >= m.h || c >= m.c) return;
    assert(x < m.w && y < m.h && c < m.c);
    m.data[c*m.h*m.w + y*m.w + x] = val;
}
@@ -1236,5 +1481,7 @@
void free_image(image m)
{
    free(m.data);
    if(m.data){
        free(m.data);
    }
}