Stable on MNIST, about to change a lot

Joseph Redmon

2014-01-23 1d53b6414e0cd81043d7c76aa89f4f97da5e479f

 src/activations.h

@@ -1,10 +1,14 @@
typedef enum{
    SIGMOID, RELU, IDENTITY
}ACTIVATOR_TYPE;
#ifndef ACTIVATIONS_H
#define ACTIVATIONS_H

double relu_activation(double x);
double relu_gradient(double x);
double sigmoid_activation(double x);
double sigmoid_gradient(double x);
double identity_activation(double x);
double identity_gradient(double x);
typedef enum{
    SIGMOID, RELU, LINEAR, RAMP, TANH
}ACTIVATION;

ACTIVATION get_activation(char *s);

double activate(double x, ACTIVATION a);
double gradient(double x, ACTIVATION a);

#endif