코디
CoDiCoDi는 신경망(SNN)의 스파이크를 위한 세포자동화(CA) 모델이다.[1]CoDi는 Collect and Distribution의 약자로 신경망의 신호와 스파이크를 가리킨다.null
CoDi는 3차원 공간을 위해 수정된 폰 노이만 근방을 사용한다; 각각의 세포는 6개의 직교 이웃의 상태와 그 자신의 상태를 본다.성장단계에서 신경망은 기저 염색체를 기반으로 CA-공간에서 성장한다.세포에는 네 가지 종류가 있다: 뉴런 바디, 액손, 덴드라이트, 블랭크.성장 단계 다음에 신호 단계 또는 처리 단계가 따른다.신호는 뉴런 몸체로부터 액손 트리를 통해 분포되고 연결 덴드라이트로부터 수집된다.[1]이 두 가지 기본적인 상호작용은 모든 경우를 포괄하며, 적은 수의 규칙을 사용하여 간단히 표현할 수 있다.null
신호 중 셀 상호작용
뉴런 체세포는 주변의 둔부세포로부터 신경신호를 수집하여 수집한 데이터에 내부적으로 정의된 기능을 적용한다.CoDi 모델에서 뉴런은 들어오는 신호 값을 합산하고 임계값에 도달한 후 발화한다.뉴런 신체의 이러한 행동은 주어진 문제에 맞게 쉽게 수정될 수 있다.뉴런 신체의 출력은 주변의 액손 세포로 전달된다.축세포는 뉴런체에서 유래한 데이터를 분배한다.Dendritic 세포는 데이터를 수집하고 결국 그것을 뉴런 체내에 전달한다.이 두 가지 유형의 셀 대 셀 상호작용은 모든 종류의 셀 만남을 다룬다.null
모든 세포에는 게이트가 있는데, 이것은 세포의 종류에 따라 다르게 해석된다.뉴런 세포는 축이 가리키는 방향, 즉 방향을 저장하기 위해 이 게이트를 사용한다.액손세포에서 관문은 신경 신호가 수신되는 이웃을 가리킨다.액손 셀은 이 이웃으로부터의 입력만을 받아들이지만, 자신의 출력물을 모든 이웃에 사용할 수 있게 한다.이런 방식으로 액손 세포는 정보를 분배한다.정보의 원천은 항상 뉴런 세포다.Dendritic cell은 어떤 이웃으로부터도 정보를 받아들임으로써 정보를 수집한다.이들은 출력(예: 이진 입력에 대한 부울 OR 연산)을 자신의 게이트에 의해 지정된 인접 네트워크에만 제공한다.이렇게 해서 덴드리트 세포는 신경 신호를 수집하여 합하여 수집된 신경 신호의 최종 합이 뉴런 세포에 도달할 때까지 합친다.null
각각의 축과 단상세포는 정확히 하나의 뉴런세포에 속한다.CA 공간의 이러한 구성은 이전 성장 단계에 의해 보장된다.null
시냅스
CoDi 모델은 명시적 시냅스를 사용하지 않는다. 왜냐하면 축 궤도와 접촉하는 덴드라이트 세포(즉, 축 궤적을 이웃으로 가지고 있음)는 축 궤도에서 직접 신경 신호를 수집하기 때문이다.이것은 모든 이웃에게 분배되는 액손세포의 행동과, 어느 이웃으로부터 수집되는 덴드라이트 세포의 행동에서 비롯된다.null
뉴런-뉴론 연결부(시냅스)의 강도는 이웃한 액손과 덴드라이트 세포의 수로 나타난다.네트워크의 정확한 구조와 액손-덴드라이트 이웃 쌍의 위치는 뉴런-뉴론 연결의 시간 지연과 강도(중량)를 결정한다.이 원리는 단일 뉴런-뉴론 연결이 독립적인 가중치를 가진 서로 다른 시간 지연과 함께 여러 시냅스로 구성될 수 있다는 것을 주입한다.null
네트워크의 유전자 부호화 및 성장
염색체는 처음에 CA-공간 전체에 분포되어 있어서 CA-공간 내의 모든 세포는 염색체의 한 가지 지시, 즉 하나의 성장지침을 포함하고 있어 염색체가 네트워크 전체에 속하게 된다.CoDi 모델의 분산 염색체 기법은 사용 가능한 CA-공간을 최대한 활용하고 모든 유형의 네트워크 연결을 증가시킬 수 있다.성장한 회로와 그것의 염색체의 국소적 연결은, 지역적 학습이 성장한 신경 네트워크의 진화와 결합될 수 있게 한다.null
성장 신호는 염색체 정보에 따라 뉴런 세포의 직접 이웃에 전달된다.신경 성장 신호를 받는 빈 이웃은 액손 세포나 덴드라이트 세포로 변한다.성장 신호는 신호에서 자라게 될 세포의 세포 유형을 포함하는 정보를 포함한다.성장한 세포들은 어떤 방향으로 자랄지 혹은 어떤 방향으로 자랄지 결정하기 위해 성장 지시사항을 인코딩하는 염색체 정보를 참조한다.이러한 성장 지침은 절대 또는 상대 방향 인코딩을 가질 수 있다.절대 부호화는 3D 셀의 6개 이웃(즉, 방향)을 6비트로 가린다.세포가 성장한 후에는 첫 신호를 받은 방향에서만 성장 신호를 받아들인다.이 수신 방향 정보는 각 셀 상태의 게이트 위치에 저장된다.null
분할 CA로서의 구현
우리 CA의 상태는 두 부분으로 나뉘는데, 그것은 다른 방식으로 처리된다.세포 상태의 첫 번째 부분은 세포의 종류와 활동 수준을 포함하고, 두 번째 부분은 이웃들의 입력 신호를 포함함으로써 세포의 이웃에 대한 인터페이스 역할을 한다.우리 CA의 특징은 세포 상태의 일부만 이웃에게 전달된다는 것, 즉 신호와 세포 상태의 고정된 부분에 명시된 이웃들에게만 전달된다는 것이다.이 CA를 분할이라고 하는데, 상태가 두 부분으로 분할되기 때문이다. 첫째는 고정되고 둘째는 각 셀에 대해 가변적이다.null
이 분할 기술의 장점은 CA 셀의 새로운 상태를 정의하는 정보의 양이 중복 정보 교환을 피하기 때문에 최소로 유지된다는 것이다.null
하드웨어에 구현
CA는 국지적으로만 연결되기 때문에 순수하게 병렬 하드웨어에서 구현하기에 이상적이다.CoDi CA 기반 신경망 모델을 설계할 때 이를 하드웨어(FPGA)에서 직접 구현하는 것이 목표였다.따라서 상태를 지정할 수 있는 비트의 수가 적고, CA 규칙이 수적으로 적으며, 셀룰러 이웃이 적음으로써 CA는 가능한 한 단순하게 유지되었다.null
CoDi 모델은 Korkin에 의해 FPGA 기반의 CAM-Brain Machine(CBM)에서 구현되었다.[2]null
역사
CoDi는 1998년 게르스 외 연구진에 의해 도입되었다.[1]Korkin 등이 KoDi 모델을 대규모로 구동하기 위한 FPGA 하드웨어(CAM) 기반의 전문 병렬 기계를 개발했다.[2]De Garis는 CoDi 모델을 평가하는 CAM 기계에 대해 일련의 실험을 실시했다.학습이 진화 알고리즘을 기반으로 하는 오리지널 모델은 슈바르처의 덴드리틱 스파이크 피드백을 통해 현지 학습 규칙으로 증강됐다.[3]null
참고 항목
참조
- ^ a b c Gers, Felix; Hugo Garis; Michael Korkin (1998). "CoDi-1Bit : A simplified cellular automata based neuron model". Artificial Evolution. Lecture Notes in Computer Science. Vol. 1363. pp. 315–333. CiteSeerX 10.1.1.2.17. doi:10.1007/BFb0026610. ISBN 978-3-540-64169-8.
- ^ a b de Garis, Hugo; Michael Korkin; Gary Fehr (2001). "The CAM-Brain Machine (CBM): An FPGA Based Tool for Evolving a 75 Million Neuron Artificial Brain to Control a Lifesized Kitten Robot". Autonomous Robots. 10 (3): 235–249. doi:10.1023/A:1011286308522. ISSN 0929-5593. S2CID 28589336.
- ^ Schwarzer, Jens; Müller-Schloer, Christian (2004-08-05). Lernverfahren für evolutionär optimierte Künstliche Neuronale Netze auf der Basis Zellulärer Automaten. Logos Verlag Berlin. pp. 125–. ISBN 9783832506285. Retrieved 7 January 2013.