메모리 예측 프레임워크

Memory-prediction framework

기억-예측 프레임워크는 Jeff Hawkins에 의해 만들어진 뇌 기능의 이론으로 2004년 그의 저서 "Intelligence"에 기술되어 있다.이 이론은 저장된 기억 패턴에 감각 입력을 일치시키는 포유류의 신피질과 해마 및 시상과의 연관성의 역할과 이 과정이 어떻게 미래에 일어날 일에 대한 예측으로 이어지는지에 관한 것입니다.

개요

이 이론은 포유류가 이용할 수 있는 광범위한 행동에 사용되는 뇌 구조(특히 신피질 조직) 사이의 관찰된 유사성에 의해 동기 부여된다.이 이론은 피질 조직의 현저하게 균일한 물리적 배치가 모든 피질 정보 처리의 기초가 되는 단일 원리 또는 알고리즘을 반영한다고 가정합니다.기본적인 처리 원리는 피질 및 피질외 참여(특히 시상 및 해마의 후자)를 모두 포함하는 피드백/호출 루프라고 가정된다.

기본 이론: 쌍방향 계층 구조에서의 인식과 예측

메모리 예측 프레임워크의 중심 개념은 상향식 입력이 인식 계층에서 일치하고, 잠재력으로 인코딩된 하향식 기대치를 발생시키는 것이다.이러한 기대치는 상향식 신호와 상호작용하여 입력을 분석하고 후속 예상 입력의 예측을 생성한다.각 계층 레벨은 입력 패턴의 자주 관찰되는 시간 시퀀스를 기억하고 이러한 시퀀스에 대한 라벨 또는 '이름'을 생성한다.입력 시퀀스가 계층의 특정 레벨에서 기억된 시퀀스와 일치하면 라벨 또는 '이름'이 계층 위로 전파되므로 상위 레벨의 세부 사항이 제거되고 상위 시퀀스를 학습할 수 있습니다.이 공정은 높은 수준에서 불변성을 증가시킵니다.상위 레벨은 부분 시퀀스를 일치시키고 기대치를 하위 레벨에 투영하여 미래의 입력을 예측합니다.단, 입력 시퀀스 및 기억/예측 시퀀스 간에 불일치가 발생하면 보다 완전한 표현이 위쪽으로 전파됩니다.이로 인해 더 높은 수준에서 대안적인 '해석'이 활성화되어 낮은 수준에서 다른 예측이 생성된다.

예를 들어, 비전의 과정을 생각해 봅시다.상향식 정보는 낮은 수준의 망막 신호(단순한 시각적 요소 및 대비의 존재를 나타냄)로 시작합니다.계층의 상위 레벨에서는, 라인, 영역, 움직임등의 존재에 관해서, 한층 더 의미 있는 정보가 추출된다.한층 더 위 계층에서 활동은 특정 객체의 존재와 일치하며, 그 다음에는 이러한 객체의 행동에 해당합니다.하향식 정보는 인식된 개체에 대한 세부 정보와 시간이 경과함에 따라 예상되는 동작에 대한 세부 정보를 채웁니다.

감각의 위계질서는 다양한 수준들 사이에 많은 차이를 유발한다.계층 위로 이동함에 따라 표현은 다음과 같이 증가합니다.

  • 범위 – 예를 들어 시야의 넓은 영역 또는 보다 광범위한 촉각 영역.
  • 시간적 안정성 – 낮은 수준의 실체는 빠르게 변화하는 반면, 높은 수준의 인식은 더 안정적인 경향이 있습니다.
  • 추상화 – 불변의 특징을 연속적으로 추출하는 과정을 통해 점점 더 추상적인 실체가 인식됩니다.

감각과 운동 처리 사이의 관계는 기본 이론의 중요한 측면이다.피질의 운동 영역은 감각 계층과 유사한 행동 계층으로 구성되며, 가장 낮은 수준은 근육 구조에 대한 명시적인 운동 명령으로 구성되며, 가장 높은 수준은 추상적 처방(예: "브라우저 크기 조정")에 해당한다.감각과 운동 계층은 감각 기대와 감각 지각이 운동 과정을 이끄는 행동과 밀접하게 연관되어 있습니다.

마지막으로, 피질계층의 모든 기억을 학습해야 한다는 것을 주목하는 것이 중요합니다. – 이 정보는 뇌에 미리 연결되어 있지 않습니다.따라서 입력과 행동의 흐름에서 이 표현을 추출하는 과정은 인지 중에 지속적으로 발생하는 과정으로 이론화된다.

기타 조건

Hawkins는 전기 엔지니어로서 광범위한 교육을 받았습니다.이론을 설명하는 또 다른 방법은 피드포워드 확률적 상태 기계의 학습 계층이다.이러한 관점에서 뇌는 미래 예측 오류 수정 코드와 크게 다르지 않은 부호화 문제로 분석됩니다.계층은 추상화 계층으로, 상위 레벨의 기계의 상태는 보다 추상적인 조건 또는 이벤트를 나타내며, 이러한 상태는 하위 레벨의 기계가 특정 전환을 수행하는 경향이 있습니다.하위 수준의 기계는 제한된 경험 영역을 모델링하거나 센서 또는 이펙터를 제어 또는 해석합니다.전체 시스템이 실제로 유기체의 행동을 통제한다.상태 기계는 "피드 포워드"이기 때문에 유기체는 과거 데이터에서 예측된 미래 사건에 반응합니다.계층적이기 때문에, 시스템은 새로운 감각 데이터에 반응하는 새로운 행동 시퀀스를 쉽게 생성하면서 행동의 유연성을 보인다.시스템이 학습하기 때문에 새로운 동작은 변화하는 조건에 적응합니다.

즉, 뇌의 진화적 목적은 미래를 예측하기 위해 제한된 방식으로 미래를 변화시키는 것입니다.

신경생리학적 실시

위에서 설명한 계층구조는 주로 포유류의 신피질에서 발생하도록 이론화되어 있다.특히, 신피질은 많은 수의 기둥으로 구성된다고 가정한다(해부학적, 이론적 고려에서 Vernon Benjamin Mountcastle도 추정).각 열은 계층 내 특정 수준에서 특정 기능에 맞춰집니다.하위 레벨로부터의 상향식 입력과 상위 레벨로부터의 하향식 입력을 수신합니다(같은 레벨의 다른 열도 특정 열에 입력되며 대부분 활성화 배타적 표현을 금지합니다).입력이 인식되면(즉, 상향식 소스와 하향식 소스 간에 허용 가능한 합의가 이루어진 경우), 열에서 출력이 생성되어 하위 수준과 상위 수준 모두에 전파됩니다.

코텍스

이러한 과정은 포유류의 피질 내의 특정 계층에 잘 매핑됩니다.(피질층은 처리 계층의 다른 수준과 혼동되어서는 안 됩니다: 단일 열의 모든 계층은 단일 계층 수준에서 하나의 요소로 참여합니다.)보텀업 입력은 레이어 4(L4)에 도달하여 L2 및 L3에 전파되어 불변 콘텐츠를 인식합니다.하향식 액티베이션은 L1(주로 액티베이션이 열 전체에 로컬로 분산되는 축방향 레이어)을 통해 L2 및 L3에 도달합니다.L2와 L3은 상향식 정보와 하향식 정보를 비교하여 충분한 일치가 이루어졌을 때 불변의 '이름'을 생성하거나 실패했을 때 발생하는 보다 가변적인 신호를 생성합니다.이러한 신호는 계층 위(L5 경유) 및 계층 아래(L6 및 L1 경유)로 전파됩니다.

타라무스

패턴 시퀀스의 저장 및 인식을 설명하기 위해 두 가지 프로세스를 조합하는 것이 좋습니다.비특이적 시상(salamus)은 '지연선'으로 작용합니다. 즉, L5는 이 뇌 영역을 활성화하고, 약간의 지연 후에 L1을 다시 활성화시킵니다.따라서 한 열의 출력은 시퀀스 내에서 일시적으로 후속되는 열에 대한 입력과 일치하는 L1 액티비티를 생성합니다.이 시간 순서는 시퀀스의 상위 수준 식별과 연계하여 작동하며, 따라서 시퀀스 표현을 활성화하면 하위 수준 구성 요소가 차례로 예측됩니다(시퀀스에서의 이 역할 외에 시상은 감각적 웨이스테이션으로도 활성화됩니다 – 이러한 역할 앱).이 해부학적 비구조에서 뚜렷이 구분되는 영역을 포함하지 않는다.)

해마목

계층적 인식에서 중요한 역할을 한다고 가정된 또 다른 해부학적으로 다양한 뇌 구조는 해마이다.해마의 손상은 장기 선언적 기억의 형성을 저해한다는 것은 잘 알려져 있다. 그러한 손상을 입은 사람들은 어려움 없이 이전의 기억을 떠올릴 수 있고 또한 새로운 기술을 배울 수 있지만, 일시적 자연에 대한 새로운 기억을 형성할 수 없다.현재의 이론에서, 해마는 피질 계층의 최상위 단계로 생각됩니다; 그들은 꼭대기까지 전파되는 사건에 대한 기억을 유지하도록 특화됩니다.이러한 사건들이 예측 가능한 패턴에 적합하기 때문에, 그것들은 계층의 낮은 수준에서 기억될 수 있게 된다. (이러한 기억의 이동은, 우연히도, 이론의 일반적인 예측이다.따라서, 해마는 계속해서 '예상치 못한' 사건들을 기억한다; 만약 그것들이 손상된다면, 위계를 통해 암기하는 전 과정이 손상된다.

상세 정보: 플레이스 셀
상세 정보: Papez 회로

2016년 Jeff Hawkins는 피질 컬럼이 단순히 감각만을 포착하는 것이 아니라 그 감각의 상대적인 위치도 그 [1]주위에 있는 것에 대해 2차원(좌우 포착)이 아닌 3차원으로 포착한다는 가설을 세웠다."두뇌가 세계의 모형을 만들 때, 모든 것은 다른 모든 것에 상대적인 위치를 갖게 됩니다." - 제프 호킨스

성공 사례와 예측 사례 설명하다

기억-예측 프레임워크는 인지의 많은 심리적으로 두드러진 측면을 설명한다.예를 들어, 모든 분야의 전문가들이 자신의 분야 내에서 복잡한 문제를 쉽게 분석하고 기억하는 능력은 점점 더 정교해지는 개념적 계층 형성의 자연스러운 결과입니다.또한 '인식'에서 '이해'로 가는 과정은 하향식 기대와 상향식 기대치가 일치하기 때문에 쉽게 이해할 수 있다.이와는 대조적으로 불일치는 예기치 않은 인식과 상황을 감지하는 생물학적 인식의 절묘한 능력을 만들어낸다. (이 점에서 결점은 인공지능에 대한 현재의 접근법의 공통적인 특징이다.)

이러한 주관적으로 만족스러운 설명 외에도, 프레임워크는 또한 여러 가지 테스트 가능한 예측을 한다.예를 들어, 감각 계층 구조 전반에 걸쳐 예측이 수행하는 중요한 역할은 감각 피질 전체에 걸쳐 특정 세포에서 예상되는 신경 활동을 요구한다.또한, 특정 불변량을 '이름 짓는' 셀은 기본 입력이 변경되더라도 그러한 불변량의 존재 내내 활성 상태를 유지해야 한다.상향식 및 하향식 활동의 예측 패턴은 예를 들어 기능성 자기공명영상(fMRI)에 의해 검출될 수 있다.

이러한 예측은 제안된 이론에 매우 구체적이지 않지만, 핵심 원칙을 검증하거나 거부할 수 있을 만큼 모호하지 않다.예측 및 결과에 대한 자세한 내용은 인텔리전스에 대해 참조하십시오.

기여 및 제한

설계상, 현재의 이론은 수많은 신경생물학자들의 연구에 기초하고 있으며, 이러한 아이디어의 대부분은 이미 그로스버그와 마운트캐슬과 같은 연구자들에 의해 제안되었다고 주장될 수 있다.한편, 생물학적 세부사항(즉, 신경층, 기둥 및 구조)에서 개념 메커니즘(즉, 양방향 처리 및 불변 인식)의 새로운 분리는 광범위한 인지 과정에 대한 추상적 사고의 기초를 마련한다.

이 이론의 가장 중요한 한계는 현재 상세도가 부족하다는 것이다.예를 들어, 불변의 개념은 중요한 역할을 한다. 호킨스는 이러한 불변의 적어도 일부에 대해 "이름 셀"을 가정한다.(이러한 기능을 수행하는 할머니 뉴런은 Neural Ensemble#Encoding을 참조하고 체감각 시스템의 관점에 대해서는 거울 뉴런을 참조한다.)그러나 Hawkins가 제시한 영역에서 필요한 개념적 부하를 전달하는 수학적으로 엄격한 정의를 개발하는 방법은 명확하지 않다.마찬가지로, 완전한 이론은 피질층이 광고된 대로 행동할 수 있게 해줄 단기 역학 및 학습 과정 모두에 대한 신뢰할 수 있는 세부사항을 요구할 것이다.

IBM은 호킨스의 [2]모델을 구현하고 있다.

기계 학습 모델

기억-예측 이론은 공통 알고리즘이 신피질의 모든 영역에 적용된다고 주장한다.이 이론은 계층형 메모리 구조를 사용하여 이 공통 알고리즘을 시뮬레이션하는 것을 목표로 하는 다수의 소프트웨어 모델을 낳았다.아래 목록의 연도는 모델이 마지막으로 업데이트된 날짜를 나타냅니다.

베이지안 네트워크를 기반으로 한 모델

다음 모델은 개별적으로 연결된 베이지안 네트워크에서 믿음 전파 또는 믿음 개정을 사용합니다.

  • Numenta, Inc.(2008)에 의한 모델, 관련 개발 플랫폼 및 소스 코드인 계층형 임시 메모리(HTM).
  • HtmLib[dead link], Greg Kochaniak에 의한 HTM 알고리즘의 대체 구현으로 인식 정확도와 속도를 개선하기 위한 많은 수정이 있다(2008년).
  • Project Neocortex, 메모리 예측 프레임워크 모델링용 오픈 소스 프로젝트(2008년).
    • Saulius Garalevicius의 연구 페이지, 연구 논문 및 프로그램, 신피질 프로젝트의 기초인 기억 예측 프레임워크의 모델(2007)과 함께 실험 결과를 제시한다.
  • : Cite journal은 Numenta의 공동 설립자가 초기 HTM 베이지안 모델을 설명하는 논문을 필요로 합니다George, Dileep (2005). "A Hierarchical Bayesian Model of Invariant Pattern Recognition in the Visual Cortex": 1812–1817. CiteSeerX 10.1.1.132.6744.{{cite journal}}(도움말).이것은 베이지안 네트워크를 사용하는 메모리 예측 프레임워크의 첫 번째 모델이며 위의 모든 모델은 이러한 초기 아이디어를 기반으로 합니다.이 모델의 Matlab 소스 코드는 수년 전부터 무료로 다운로드할 수 있었습니다.

기타 모델

  • 시간적 시퀀스를 저장하고 비감독 학습을 사용하는 모델에서 분류 및 예측 방법을 설명하는 Saulius Garalevicius의 논문인 MPF의 구현(2005).
  • Palm OS용 패턴 머신 M5는 패턴 시퀀스를 격납해, 현재의 환경에 관련하는 패턴을 호출한다(2007년).
  • BrainGame, 패턴을 학습하고 다른 예측 변수와 연결할 수 있는 오픈 소스 예측 변수 클래스(2005년).

「 」를 참조해 주세요.

레퍼런스

  1. ^ a b Cade Metz The New York Times (2018년 10월 15일) "우리가 생각하는 새로운 시각" pp.B1, B4 참조: '커피잔 위의 희귀성'
  2. ^ IBM, 모바일 컴퓨팅 선구자의 논란이 되고 있는 Brain Algorithms accessdate=2015-04-08 테스트

추가 정보

외부 링크