뉴럴 네트워크 소프트웨어

Neural network software

뉴럴 네트워크 소프트웨어는 인공 뉴럴 네트워크, 생물학적 뉴럴 네트워크에서 채택된 소프트웨어 개념, 그리고 어떤 경우에는 인공지능과 기계 학습과 같은 더 광범위한 적응 시스템을 시뮬레이션, 연구, 개발 및 적용하는 데 사용됩니다.

시뮬레이터

뉴럴 네트워크 시뮬레이터는 인공 또는 생물학적 뉴럴 네트워크의 동작을 시뮬레이션하기 위해 사용되는 소프트웨어 애플리케이션입니다.그들은 하나 또는 제한된 수의 특정 유형의 신경망에 초점을 맞춥니다.이들은 일반적으로 독립형이며 다른 소프트웨어에 통합될 수 있는 일반적인 신경망을 생성하기 위한 것이 아닙니다.시뮬레이터에는 보통 훈련 프로세스를 감시하기 위한 시각화 기능이 내장되어 있습니다.일부 시뮬레이터는 또한 뉴럴 네트워크의 물리적 구조를 시각화합니다.

리서치 시뮬레이터

SNNS 연구 뉴럴 네트워크 시뮬레이터

역사적으로 가장 일반적인 유형의 뉴럴 네트워크 소프트웨어는 뉴럴 네트워크 구조와 알고리즘을 연구하기 위한 것이었다.이러한 유형의 소프트웨어의 주된 목적은 시뮬레이션을 통해 신경망의 행동과 속성을 더 잘 이해하는 것입니다.오늘날 인공 신경망의 연구에서 시뮬레이터는 연구 플랫폼으로서 보다 일반적인 컴포넌트 기반 개발 환경으로 대체되었다.

일반적으로 사용되는 인공 뉴럴 네트워크 시뮬레이터에는 슈투트가르트 뉴럴 네트워크 시뮬레이터(SNNS), 이머젠트 및 뉴럴 랩이 있습니다.

그러나 생물학적 신경망의 연구에서 시뮬레이션 소프트웨어는 여전히 사용 가능한 유일한 접근법이다.이러한 시뮬레이터에서는 신경조직의 물리적 생물학적, 화학적 특성뿐만 아니라 뉴런 사이의 전자기적 자극이 연구된다.

일반적으로 사용되는 생물학적 네트워크 시뮬레이터에는 Neuron, GENESIS, NEST 및 Brian이 포함됩니다.

데이터 분석 시뮬레이터

연구 시뮬레이터와 달리, 데이터 분석 시뮬레이터는 인공 신경망의 실용적인 적용을 위해 고안되었습니다.주로 데이터 마이닝과 예측에 중점을 두고 있습니다.데이터 분석 시뮬레이터에는 보통 어떤 형태의 전처리 기능이 있습니다.일반적인 개발 환경과 달리 데이터 분석 시뮬레이터는 구성이 가능한 비교적 단순한 정적 신경망을 사용합니다.시판되고 있는 데이터 분석 시뮬레이터의 대부분은 역방향 전파 네트워크 또는 자기 조직 지도를 핵심으로 사용하고 있습니다.이런 유형의 소프트웨어는 비교적 사용하기 쉽다는 것이 장점이다.Neural Designer는 데이터 분석 시뮬레이터의 한 예입니다.

뉴럴 네트워크 이론을 가르치는 시뮬레이터

1986-87년에 병렬 분산 처리[1] 볼륨이 출시되었을 때 비교적 단순한 소프트웨어를 제공했습니다.원래의 PDP 소프트웨어는 프로그래밍 기술이 필요하지 않았고, 이로 인해 다양한 분야의 다양한 연구자들에 의해 채택되었다.원래의 PDP 소프트웨어는 PDP++라고 불리는 보다 강력한 패키지로 개발되었고, 이는 다시 이머전트라고 불리는 훨씬 더 강력한 플랫폼이 되었다.개발 때마다 이 소프트웨어는 더욱 강력해졌지만 초보자들도 사용하기에는 더욱 어려워졌습니다.

1997년에 [4]tLearn 소프트웨어는 책과 함께 출시되었습니다.이는 초보자를 염두에 두고 설계된 작고 사용자 친화적인 시뮬레이터를 제공하는 아이디어로 되돌아온 것입니다.tLearn은 기본적인 피드 전송 네트워크와 단순한 반복 네트워크를 가능하게 했습니다.이 두 네트워크 모두 단순한 역방향 전파 알고리즘으로 훈련할 수 있습니다.tLearn은 1999년 이후 업데이트되지 않았습니다.

2011년에는 Basic Prop 시뮬레이터가 출시되었습니다.Basic Prop는 플랫폼 중립 JAR 파일로 배포되는 독립형 애플리케이션으로 tLearn과 동일한 간단한 기능을 제공합니다.

2012년, Wintempla는 NN이라는 네임스페이스를 포함했으며, 구현해야 할 C++ 클래스 세트(피드 포워드 네트워크, 확률론적 신경 네트워크 및 코호넨 네트워크)가 포함되어 있습니다.뉴럴 랩은 윈템플라 클래스를 기반으로 합니다.Neural Lab 튜토리얼과 Wintempla 튜토리얼은 신경 네트워크에 대한 이러한 클래스 중 일부를 설명합니다.Wintempla의 주요 단점은 Microsoft Visual Studio와 컴파일된다는 것입니다.

개발 환경

뉴럴 네트워크의 개발 환경은 주로 두 가지 계정에서 위에서 설명한 소프트웨어와 다릅니다.뉴럴 네트워크의 커스텀 타입을 개발하는 데 사용할 수 있으며 환경 외부에 뉴럴 네트워크를 전개할 수 있습니다.경우에 따라서는 고도의 전처리, 분석 및 시각화 기능을 갖추고 있습니다.

컴포넌트 베이스

PeltarionSynapse 컴포넌트 기반 개발 환경.

산업용과 과학용 모두에서 현재 선호되고 있는 보다 현대적인 개발 환경은 구성요소 기반 패러다임에 기초하고 있습니다.뉴럴 네트워크는 파이프 필터 흐름에서 어댑티브 필터 구성 요소를 연결하여 구성됩니다.이것에 의해, 커스텀 네트워크를 구축할 수 있을 뿐만 아니라, 네트워크에 의해서 사용되는 커스텀 컴퍼넌트를 구축할 수 있기 때문에, 유연성이 향상됩니다.대부분의 경우 이를 통해 적응형 및 비적응형 구성 요소의 조합이 함께 작동합니다.데이터 흐름은 적응 알고리즘뿐만 아니라 교환 가능한 제어 시스템에 의해 제어됩니다.또 다른 중요한 기능은 도입 기능입니다.

와 같은 컴포넌트 기반 프레임워크의 등장과 함께NET 및 Java, 구성요소 기반 개발 환경은 이러한 프레임워크에 개발된 신경망을 상속 가능한 구성요소로 배치할 수 있습니다.또한 일부 소프트웨어에서는 임베디드 시스템 등 여러 플랫폼에 이러한 컴포넌트를 도입할 수도 있습니다.

컴포넌트 기반 개발 환경에는 다음이 포함됩니다.Peltarion Synapse, NeuroDimension NeuroSolutions, Scientific Software Neuro Laboratory 및 LIONsolver 통합 소프트웨어입니다.Encog 및 Neuroph가 포함된 무료 오픈 소스 구성 요소 기반 환경입니다.

비판

컴포넌트 기반 개발 환경의 단점은 시뮬레이터보다 복잡하다는 것입니다.완전히 작동하기 위해서는 더 많은 학습이 필요하며 개발하기가 더 복잡합니다.

커스텀 뉴럴 네트워크

그러나 이용 가능한 뉴럴 네트워크의 대부분은 다양한 프로그래밍 언어와 다양한 플랫폼에서의 맞춤형 구현입니다.기본적인 유형의 뉴럴 네트워크는 직접 구현하기 쉽습니다.또한 뉴럴 네트워크 기능을 포함하고 커스텀 구현에 사용할 수 있는 프로그래밍 라이브러리가 많이 있습니다(TensorFlow, Therano 등, 일반적으로 Python, C++, Java와 같은 언어에 바인딩을 제공합니다).

표준

뉴럴 네트워크 모델이 다른 애플리케이션에서 공유되기 위해서는 공통 언어가 필요합니다.이러한 요구에 대응하기 위해 예측 모델 마크업 언어(PMML)가 제안되었습니다.PMML은 XML 기반의 언어로, 애플리케이션이 PMML 준거 애플리케이션 간에 뉴럴 네트워크 모델(및 기타 데이터 마이닝 모델)을 정의하고 공유할 수 있는 방법을 제공합니다.

PMML은 벤더에 의존하지 않는 모델 정의 방법을 제공하여 독점적 문제와 비호환성이 더 이상 애플리케이션 간의 모델 교환에 방해가 되지 않도록 합니다.사용자는 한 벤더의 애플리케이션 내에서 모델을 개발하고 다른 벤더의 애플리케이션을 사용하여 모델을 시각화, 분석, 평가 또는 사용할 수 있습니다.이전에는 이것이 매우 어려웠지만, PMML을 통해 호환 애플리케이션 간의 모델 교환이 쉬워졌습니다.

PMML 소비자 및 생산자

PMML을 생산 및 소비하기 위해 다양한 제품이 제공되고 있습니다.이 목록에는 다음과 같은 뉴럴 네트워크 제품이 포함되어 있습니다.

  • R: pmml 패키지를 통해 신경망 및 기타 기계 학습 모델을 위한 PMML을 생산합니다.
  • SAS Enterprise Miner: 신경 네트워크, 선형 및 로지스틱 회귀 분석, 의사 결정 트리 및 기타 데이터 마이닝 모델을 포함한 여러 마이닝 모델에 대해 PMML을 생성합니다.
  • SPSS: 신경 네트워크용 PMML 및 다른 많은 광산 모델을 생산합니다.
  • STATICA: 신경 네트워크, 데이터 마이닝 모델 및 기존 통계 모델용 PMML을 생산합니다.

「 」를 참조해 주세요.

레퍼런스

  1. ^ Rumelhart, D.E., J.L. McCleland 및 PDP Research Group(1986)병렬분산처리: 인지 미세구조 탐구.제1권: 재단, 캠브리지, 매사추세츠: MIT 프레스
  2. ^ McCleland, J.L., D.E. Rumelhart 및 PDP Research Group(1986)병렬분산처리: 인지 미세구조 탐구.제2권: 심리 및 생물학적 모델, 케임브리지, 매사추세츠주: MIT 프레스
  3. ^ McCleland and Rumelhart, "병렬 분산 처리 핸드북의 탐색", MIT Press, 1987
  4. ^ Plunkett, K. 및 Elman, J.L., 내부성 재고 연습: 연결주의 시뮬레이션을 위한 핸드북(The Handbook for Connectist Simulations, 1997)

외부 링크