신경 회로망

1. 초창기: 굉장한 붐을 일으킴 - McCulloch & Pitts(1943): neural modeling - Hebb(1949): Synatic modification learning - Rosenblatt(1958): Perceptron 제안, supervised learning - Widraw & Hoff (1960): LMS algorithm 2. 정체기 - Minsky & Papert (1969): Single TLU의 한계: XOR - 정체기(~1980) 3. 제 2의 번성기 - Hopfield(1982): Hopfield network - Kohonen(1982): self organizing map - Kirkpatrick, Gelatt, Vecchi(1983): simulated annealing - Boltz 등 (1983): reinforcement learning - Rumelhart & Hitton & Williams (1986): Back Propagation Algorithm -> MLP의 훈련 방법 - Linsker(1988): a new principle for self-organization Multi-Layer Perceptron (MLP) Motivation Single TLU로는 풀 수 없는 복잡한 문제들... x1 x2 w11 w12 w1n xn ∑ y ∑ y2 w2n w21 w22 ∑ y1 w1 w2 Input layer Hidden layer Output layer Multi-layer Perceptron - 복잡한 문제를 풀기 위하여 TLP(Perceptron) 들의 network을 형성 - 여러 층의 hidden layer를 둘 수 있음 - 각 hidden layer에는 여러 개의 hidden unit들을 둘 수 있음. - layer의 개수와 hidden unit의 개수가 network의 복잡도를 결정 - output layer에…
…