양방향 연상기억

양방향 연관 기억장치(BAM)는 재발 신경망의 일종이다.BAM은 1988년 바트 코스코에 의해 소개되었다.^[1]연상기억에는 자동 연상기억과 이성적 연상기억의 두 종류가 있다.BAM은 헤테로 연상되는 것으로, 패턴이 주어진다면 다른 크기의 패턴을 되돌릴 수 있다는 것을 의미한다.두 가지 모두 연상기억의 형태라는 점에서 홉필드 네트워크와 유사하다.그러나 홉필드 그물은 같은 크기의 패턴을 되돌린다.

입력층이나 출력층의 입력에 대응할 수 있어 양방향이라고 한다.^[2]

위상

BAM은 두 층의 뉴런을 포함하고 있는데, 우리는 X와 Y를 나타낼 것이다.층 X와 Y는 서로 완전히 연결되어 있다.가중치가 설정되면 레이어 X에 입력하면 레이어 Y에 패턴이 표시되며, 그 반대의 경우도 마찬가지다.

X층에서 Y층으로 보낸 중량 매트릭스는 $W{\displaystyle }$ ${\displaystyle W}$이고 Y층에서 X층으로 보낸 신호의 중량 매트릭스는 ${\displaystyle W^{}}$ $T{\displaystyle {}^{}}$ ${\$이므로 양방향으로 중량 매트릭스를 계산할 수 있다$.$^[2]

절차

학습

A1:B1과 A2:B2라는 두 개의 연관성을 저장한다고 상상해 보십시오.

• A1 = (1, 0, 1, 0, 1, 0), B1 = (1, 1, 0)
• A2 = (1, 1, 1, 0, 0, 0), B2 = (1, 0, 1, 0)

그리고 나서 이것들은 양극성 형태로 변형된다.

• X1 = (1, -1, 1, -1, 1, -1) Y1 = (1, 1, -1, -1)
• X2 = (1, 1, 1, -1, -1, -1) Y2 = (1, -1, 1, -1)

거기서 $M{\displaystyle }$= ${\displaystyle =}$ ${\displaystyle X{}_{}^{}}$ ${\displaystyle i_{}^{}}$ T ${\displaystyle {}_{}^{}{}_{}}$ ${\displaystyle i_{}}$ ${\$ M$=\sum {\!$$X_{i}^{T}$${\displaystyle {}_{}^{}}$ i T {\$displaystyle X_{i}^{T}}}$이(가) 전치되는 것을$$ 나타내는$$ Y_${i}}}.$그렇게

${\displaystyle M=\왼쪽[{\begin{array}{*}c}2&0&#2&#2&#2&#2&#2&#2&0&#2&#2&0&#2&#2&#2&0&#2&#2&0&#\\end{array\오른쪽]}}$

리콜

연관성 A1을 회수하기 위해 M에 곱하여 얻는다(4, 2, -2, -4) (4, 2, -4) (1, 1, 0, 0), 즉 B1을 구한다.역 연관성을 찾으려면 M의 전치점에 곱하십시오.

역량

BAM의 메모리 또는 스토리지 용량은 ${\displaystyle 최소(m}$, ${\displaystyle n}$) ${\displaystyle \min(m,n)}$으로 지정할 수 있으며$,$ 여기서 "${\displaystyle }$ ${\displaystyle n$은 X 레이어의 단위 수, "${\displaystyle }$ ${\displaystyle m$은 Y 레이어의 단위 수입니다.^[3]

내부 행렬은 n x p의 독립된 자유도를 가지며, 여기서 n은 첫 번째 벡터의 치수(이 예에서는 6), p는 두 번째 벡터 (4)의 치수다.이를 통해 BAM은 이 예에서 독립 벡터 쌍 또는 최소(6,4) = 4까지 총량을 안정적으로 저장하고 호출할 수 있다.^[1]신뢰성의 저하(출력의 부정확한 비트)로 용량을 늘릴 수 있다.

안정성

쌍$({\displaystyle A}$, B${\displaystyle }$) ${\displaystyle(A,B)}$은(는) BAM의 상태를 정의한다$$.패턴을 저장하려면 해당 패턴에 대한 에너지 함수 값이 에너지 풍경에서 최소 지점을 차지해야 한다.

The stability analysis of a BAM is based on the definition of Lyapunov function (energy function) ${\displaystyle E}$ , with each state ${\displaystyle (A,B)}$. When a paired pattern ${\displaystyle (A,B)}$ is presented to BAM, the neurons change states until a bi-directionally stable state ${\displaystyle (A_f,B_{}}$${\displaystyle f_{}}$) ${\displaystyle (A_{f},B_{f}}}$에 도달했는데$$, 코스코는 에너지 기능의 국소 최소치에 해당한다는 것을 증명했다.이산 BAM은 안정된 상태로 수렴되는 것으로 증명된다.

코스코가 제안한 에너지 함수는 양방향 케이스에$$ 대해 $E{\displaystyle (A,}$ ${\displaystyle B}$)${\displaystyle }$=${\displaystyle }$- ${\displaystyle A}$ ${\displaystyle M}$ B ${\displaystyle T^{}}$ ${\$이며, 특정 $케이스$의 ${\displaystyle \mathrm{경우}}$ A${\displaystyle }$= B ${\displaystyle A=B}$는 홉필드의 자동 연관 에너지 함수에 해당한다$$.^[3](예: $E{\displaystyle }$( ${\displaystyle A,}$ ${\displaystyle B}$)${\displaystyle }$=${\displaystyle }$- A ${\displaystyle M}$ ${\displaystyle {}^{}}$ ${\displaystyle T^{}}$ ${\$

참고 항목

• 자동 연관 메모리
• 자체 구성 피쳐 맵

참조

외부 링크

• 양방향 연관 메모리 – Wiki 문서에 대한 Python 소스 코드
• 양방향 연관 메모리 – ACM 포털 참조