Stable on MNIST, about to change a lot

Joseph Redmon

2014-01-23 1d53b6414e0cd81043d7c76aa89f4f97da5e479f

 src/tests.c

@@ -184,9 +184,12 @@
    srand(0);
    int i = 0;
    char *labels[] = {"cat","dog"};
    double lr = .00001;
    double momentum = .9;
    double decay = 0.01;
    while(i++ < 1000 || 1){
        data train = load_data_image_pathfile_random("train_paths.txt", 1000, labels, 2);
        train_network(net, train, .0005, 0, 0);
        train_network(net, train, lr, momentum, decay);
        free_data(train);
        printf("Round %d\n", i);
    }
@@ -195,26 +198,35 @@
void test_nist()
{
    srand(444444);
    srand(888888);
    network net = parse_network_cfg("nist.cfg");
    data train = load_categorical_data_csv("mnist/mnist_train.csv", 0, 10);
    data test = load_categorical_data_csv("mnist/mnist_test.csv",0,10);
    normalize_data_rows(train);
    normalize_data_rows(test);
    randomize_data(train);
    //randomize_data(train);
    int count = 0;
    double lr = .0005;
    while(++count <= 1){
        double acc = train_network_sgd(net, train, 10000, lr, .9, .001);
        printf("Training Accuracy: %lf\n", acc);
        lr /= 2; 
    double momentum = .9;
    double decay = 0.01;
    clock_t start = clock(), end;
    while(++count <= 1000){
        double acc = train_network_sgd(net, train, 6400, lr, momentum, decay);
        printf("%5d Training Loss: %lf, Params: %f %f %f, ",count*100, 1.-acc, lr, momentum, decay);
        end = clock();
        printf("Time: %lf seconds\n", (double)(end-start)/CLOCKS_PER_SEC);
        start=end;
        visualize_network(net);
        cvWaitKey(100);
        //lr /= 2; 
        if(count%5 == 0 && 0){
            double train_acc = network_accuracy(net, train);
            fprintf(stderr, "\nTRAIN: %f\n", train_acc);
            double test_acc = network_accuracy(net, test);
            fprintf(stderr, "TEST: %f\n\n", test_acc);
            printf("%d, %f, %f\n", count, train_acc, test_acc);
        }
    }
    double train_acc = network_accuracy(net, train);
    fprintf(stderr, "\nTRAIN: %f\n", train_acc);
    double test_acc = network_accuracy(net, test);
    fprintf(stderr, "TEST: %f\n\n", test_acc);
    printf("%d, %f, %f\n", count, train_acc, test_acc);
    //end = clock();
    //printf("Neural Net Learning: %lf seconds\n", (double)(end-start)/CLOCKS_PER_SEC);
}

void test_ensemble()
@@ -223,24 +235,25 @@
    srand(888888);
    data d = load_categorical_data_csv("mnist/mnist_train.csv", 0, 10);
    normalize_data_rows(d);
    randomize_data(d);
    data test = load_categorical_data_csv("mnist/mnist_test.csv", 0,10);
    normalize_data_rows(test);
    data train = d;
    /*
    data *split = split_data(d, 1, 10);
    data train = split[0];
    data test = split[1];
    */
       data *split = split_data(d, 1, 10);
       data train = split[0];
       data test = split[1];
     */
    matrix prediction = make_matrix(test.y.rows, test.y.cols);
    int n = 30;
    for(i = 0; i < n; ++i){
        int count = 0;
        double lr = .0005;
        double momentum = .9;
        double decay = .01;
        network net = parse_network_cfg("nist.cfg");
        while(++count <= 5){
            double acc = train_network_sgd(net, train, train.X.rows, lr, .9, .001);
            printf("Training Accuracy: %lf\n", acc);
        while(++count <= 15){
            double acc = train_network_sgd(net, train, train.X.rows, lr, momentum, decay);
            printf("Training Accuracy: %lf Learning Rate: %f Momentum: %f Decay: %f\n", acc, lr, momentum, decay );
            lr /= 2; 
        }
        matrix partial = network_predict_data(net, test);
@@ -328,8 +341,8 @@
{
    //test_kernel_update();
    //test_split();
    test_ensemble();
    //test_nist();
    //test_ensemble();
    test_nist();
    //test_full();
    //test_random_preprocess();
    //test_random_classify();