ADALINE

ADALINE ( Adaptive Linear Neuron ou Adaptive Linear Element ) é uma rede neural artificial de camada única.

Foi desenvolvido pelo professor Bernard Widrow e um de seus alunos, Ted Hoff, da Universidade de Stanford em 1960. Adaline depende do neurônio formal de McCulloch e Pitts . Consiste em um peso sináptico , bias (uma constante é adicionada à entrada) e uma função de soma .

A diferença entre Adaline e o modelo McCulloch-Pitts está na fase de aprendizado , onde os pesos sinápticos são ajustados em função da soma ponderada das entradas de dados. No perceptron padrão (McCulloch-Pitts), a rede passa pela função de ativação (ou função de transferência) e a função de saída é usada para ajustar os pesos sinápticos.

Também existe uma extensão chamada Madaline.

Definição

Adaline é uma rede neural de camada única, com vários nós, cada um aceitando várias entradas e gerando uma saída. Dadas as seguintes variáveis:

x, o vetor de entrada
w, o "vetor de peso"
n, o número de entradas
$\ theta$ , uma constante
sim a saída

então: . ${\ displaystyle y = \ sum _ {j = 1} ^ {n} x_ {j} w_ {j} + \ theta}$

E se assumirmos que:

${\ displaystyle x_ {n + 1} = 1}$
${\ displaystyle w_ {n + 1} = \ theta}$

então a saída se reduz ao produto escalar de x e w: ${\ displaystyle y = x \ cdot w}$

Algoritmo de aprendizagem

Deixe-nos representar:

$\ eta$ , a taxa de aprendizagem (uma constante)
d, a saída desejada
o, a saída real,

em seguida, os pesos são atualizados da seguinte forma: . Adaline converge no erro de mínimos quadrados que é: ${\ displaystyle w \ leftarrow w + \ eta (do) x}$
${\ displaystyle E = (fazer) ^ {2}}$