홉필드모델과 볼츠만머신

▣ 볼츠만 머신
홉필드 네트워크는 에너지 함수의 곡명를 내려오기만 하므로 처음의 위치가 좋지 않으면 국소점에 빠져 버리다. 그러면 이번에는 내려오는 것만이 아니라 때로는 올라가 보면 어떨까? 그러면, 극소점에 빠지더라도 곡면을 타고 올라가 그곳에서 빠져 나올수 있을지도 모른다. 그렇지만 그대로 내려간다면 바로 최소점에 갈수 있음에도 불구하고 타이밍이 나쁘게 올라감으로써 다른 계곡으로 들어가 버리는 일도 있기 때문에 적절한 타이밍에서 올라가지 않으면 안된다. 이러한 발상에서 만들어진 것이 볼츠만 머신아라고 하는 네트워크이다. 이것의 구조는 홉필드형과 같으나 그 동작을 확률적으로 한다는 것이 다르다. 이것도 비동기적으로 동작을 하며 확률에 따라서 0또는 1로 출력한다. 다음식은 확률에관한 식이다.

위에서 중요한 것은 T인데 이것은 온도라고 하는 파라메터이며, 네트워크가 얼마나 확률적으로 동작하는가 하는 정도를 좌우한다. 이 온도를 내리고 올림으로서 에너지 최소 상태를 실현하고자 하는 방법을 “설담금법” 이라 한다. 볼츠만 머신의 동작은 충분한 시간 뒤에 정산 상태에 도달하였을 때, 네트워크의 각 상태는 다음과 같…