크로네커 곱

Kronecker product

수학에서, 크로네커 곱은 때때로 θ로 표시되며, 블록 행렬이 되는 임의의 크기의 두 행렬에 대한 연산이다.이것은 벡터로부터 행렬로의 외부 곱(같은 기호로 표시됨)의 일반화이며, 기준의 표준 선택에 관한 텐서 곱 선형 맵의 행렬을 제공한다.크로네커 곱은 완전히 다른 연산인 일반적인 행렬 곱셈과 구별되어야 한다.크로네커 곱은 매트릭스 직접 [1]곱이라고도 합니다.

크로네커 곱은 독일 수학자 레오폴트 크로네커(1823–1891)의 이름을 따 명명되었다.크로네커 곱은 1858년에 이 행렬 연산을 기술한 요한 게오르크 제후스[de]이름을 따서 제후스 곱이라고도 불리지만, 현재 크로네커 곱이 가장 널리 사용되고 있습니다.[2][3]

정의.

A가 m × n 행렬이고 B가 p × q 행렬이라면 크로네커 A b B는 pm × qn 블록 행렬이다.

보다 명확하게:

\%)를 사용하여 정수 나눗셈과 나머지를 나타내고 0부터 시작하는 행렬 요소에 번호를 (B ) + , + s v \ (A \B ) + v , }s _ }rs }rs _ a= // , / / b % , %q . { ( \) { i / \ ! / p , j / \ ! / } { i \ p , \ %q }1부터 시작하는 통상적인 번호에 ()+1 )를 취득합니다

A와 B가 각각 선형 변환1 V → W1, V2 W2 나타낸다면, A b B는 두 지도의 텐서 곱인1 V v21 V → W w2 W를 나타낸다.

마찬가지로:

특성.

다른 매트릭스 연산과의 관계

  1. 이중 선형 및 연관성:

    크로네커 곱은 텐서 곱의 특수한 경우이므로 쌍선형이며 연관성이 있습니다.

    여기서 A, B, C행렬, 0은 0 행렬, k는 스칼라 행렬입니다.
  2. 비가환:

    일반적으로 A b B와 B a A는 다른 행렬이다., A b B B a A는 치환 등가이며, 이는[4] 다음과 같은 치환 행렬 P와 Q가 존재한다는 것을 의미합니다.

    A와 B가 정사각형 행렬이라면, A and B와 B a A는 짝수 치환이며, 즉 P = QT 취할 수 있다.

    행렬 P와 Q는 완벽한 셔플 [5]행렬이다.완벽r 셔플 행렬p,q S는 I 아이덴티티 행렬의 슬라이스를 취함으로써 구성할 수 . p q \ r= pq}

    여기서 MATLAB 콜론 표기법은 서브매트릭스를 나타내기 위해 사용되며r, I r × r 아이덴티티 매트릭스이다. 1 × 1 \ \ { } \ \ { R } ^ { m { } \ n {} B 2 × \\ { } \ \ { { } \ m _ 2 \ n }}일 경우,

  3. 혼합 제품 속성:

    A, B, C D가 행렬ACBD를 형성할 수 있는 크기의 행렬이라면,

    이것은 일반적인 행렬 곱과 크로네커 곱을 혼합하기 때문에 혼합곱 특성이라고 불립니다.

    그 결과로서

    특히, 아래에서 전치 속성을 사용하면 다음과 같이 됩니다.

    Q와 U는 직교(또는 유니터리)이고, A도 직교(resp., 유니터리)입니다.

    혼합 Kronecker 매트릭스 벡터 곱은 다음과 같이 쓸 수 있다.

    서 V () { { } = \ ^{- 벡터화 연산자의 역수입니다(v {\ \{v} ) 。
  4. Hadamard 곱(요소별 곱셈):

    혼합 제품 속성은 요소별 제품에도 적용됩니다.A와 C가 같은 크기의 행렬이라면 B와 D는 같은 크기의 행렬이다.

  5. Kronecker 제품의 반대:

    따라서 A b B는 AB가 모두 가역일 경우에만 가역이며, 이 경우 역수는 다음과 같이 주어진다.

    무어-펜로즈 유사 역행의 [6]경우, 즉 다음과 같은 역방향 제품 특성은 다음과 같다.

    카테고리 이론의 언어에서 크로네커 제품(그리고 더 일반적인 텐서 제품)의 mixed-product 속성 사실에 있는 개체 자연수 n을 가진 사람들은 범주 MatF 분야 F에 매트릭스의monoidal 범주를 보여 줍니다, morphisms의 스녀 → m 있n×m와 엔트리에서 F, 구성원은 규정한 매트릭스 곱셈 연산에서도, 정체성이다. 화살표단순히 n × n 항등 행렬n I이고, 텐서 곱은 크로네커 [7]곱에 의해 주어진다.

    매트F F 위의 유한 차원 벡터 공간의 등가 범주 FinVectF 대한 콘크리트 골격 범주이며, 개체는 유한 차원 벡터 공간 V이고, 화살표는 F-선형 지도 L : VW이고, 식별 화살표는 공간의 아이덴티티 맵이다.범주의 등가는 F에 대한 모든 유한 차원 벡터 공간 V에서 기저를 동시에 선택하는 것과 같다. 행렬의 요소는 선택된 기치에 대한 이러한 매핑을 나타낸다. 그리고 마찬가지로 크로네커 곱은 선택된 기수에 대한 텐서 곱의 표현이다.
  6. 전치:

    전이와 켤레 전이는 크로네커 곱에 분포한다.

    ) T( \ ) ( \ {\ \ { B } = \{ A } ^ { \ \ { } ^{ \ \ timesbf } } ^{ \ } }
  7. 결정 요인:

    A를 n × n 행렬로 하고 B m × m 행렬로 한다.그리고나서

    A의 지수는 B의 순서이고 B의 지수는 A의 순서이다.
  8. 크로네커의 합과 지수:

    만약 A n × n이고, B가 m × m이고k, 가 k × k 항등 행렬을 의미한다면, 우리는 때때로 크로네커 합이라고 불리는 것을 다음과 같이 정의할 수 있다.

    이것은 두 행렬의 직합과는 다릅니다.이 연산은 리 대수의 텐서 곱과 관련이 있다.

    일부 수치 [8]평가에서 유용한 행렬 지수 공식은 다음과 같습니다.

    크로네커 합계는 비상호작용 시스템[citation needed]앙상블을 고려할 때 물리학에서 자연스럽게 나타난다.H를 k번째 계통의 해밀턴이라고 하자k.그럼 합주단의 해밀턴 총계는

추상 속성

  1. 스펙트럼:

    A와 B가 각각 크기 n과 m의 정사각형 행렬이라고 가정합니다.μ1, ..., μn A고유값으로 하고1 μm, ..., μ를 B의 고유값(다수에 따라 나열)으로 한다.그러면 A b B고유값은 다음과 같습니다.

    따라서 크로네커 산물의 추적결정 인자는 다음과 같이 주어진다.

  2. 특이치:

    A와 B가 직사각형 행렬이라면 이들특이값을 고려할 수 있다.A에 0이 아닌 r개의 특이값이 있다고A 가정합니다.

    마찬가지로, B의 0이 아닌 단수값을 다음과 같이 나타낸다.

    그러면 크로네커 A b B는 0이 아닌 rr 특이값을 갖는다AB.

    행렬의 순위는 0이 아닌 단수값의 수와 같기 때문에, 우리는 다음과 같은 것을 발견한다.

  3. 추상 텐서 곱과의 관계:

    행렬의 크로네커 곱은 선형 지도의 추상 텐서 곱에 해당합니다.만약 벡터 V, W, X및 Yspaces 특히, 염기{v1,..., vm},{w1,..., wn},{x1,..., xd},{y1,..., ye}, 각각 제공하고, 매트릭스 A와 B를 대표하는 선형 변환 S:V→ X, T:W→ Y, 각각 적절한 기지에 매트릭스 A⊗ B:V⊗ W두 지도, S⊗ T의 텐서 제품을 나타냈다→ X⊗ V w W의 기저1 {v1 , w1, v2 , w2, ..., v1 , w, ..., vn } w}에m 대한 Y와 마찬가지로 정의된 X y Y의 기저로서 A b B(vi wj w) = (Avi) ( (Bwj) ( (ij는 적절한 [9]범위의 정수이다.

    V와 W가 Lie 대수이고, S : V → V, T : W W가 Lie 대수 동형사상일 때, A와 B의 크로네커 합은 유도 Lie 대수 동형사상 V v W → V w W를 나타낸다.
  4. 그래프 제품과의 관계:
    그래프인접 행렬의 크로네커 곱은 텐서그래프의 인접 행렬이다.그래프의 인접 행렬의 크로네커 합은 데카르트[10]그래프의 인접 행렬이다.

행렬 방정식

크로네커 곱은 일부 행렬 방정식을 편리하게 표현하기 위해 사용할 수 있습니다.를 들어 AXB = C라는 방정식을 생각해 봅시다. 여기서 A, BC는 행렬이고 행렬 X는 미지입니다."벡 트릭"을 사용하여 이 방정식을 다음과 같이 다시 쓸 수 있습니다.

여기서 vec(X)는 X의 하나의 열 벡터로 적층함으로써 형성된 행렬 X의 벡터화를 나타낸다.

이제 A와 B가 반전 가능한 경우에만 등식 AXB = C가 고유한 용액을 갖는다는 것이 크로네커 제품의 특성으로 나타난다(Horn & Johnson 1991, Lemma 4.3.1).

X와 C가 각각 열 벡터 u와 v에 행 순서일 경우(Jain 1989, 2.8 Block Matrix 및 Kronecker Products)

그 이유는

적용들

이 공식의 적용 예는 랴푸노프 방정식의 문서를 참조하십시오.이 공식은 행렬 정규 분포가 다변량 정규 분포의 특수한 경우임을 보여주는 데도 유용합니다.이 공식은 2D 영상 처리 작업을 매트릭스-벡터 형식으로 표현하는 데도 유용합니다.

또 다른 예로는 행렬을 아다마르 곱으로 인수분해할 수 있는 경우 위의 공식을 사용하여 행렬 곱셈을 더 빠르게 수행할 수 있습니다.이는 radix-2 FFT 및 Fast Walsh-Hadamard 변환에서처럼 재귀적으로 적용될 수 있습니다.알려진 행렬을 두 개의 작은 행렬의 하다마르 곱으로 나누는 것은 "가장 가까운 크로네커 곱" 문제로 알려져 있으며, SVD를 사용하여 정확하게 해결할[11] 수 있습니다.행렬을 최적 방식으로 두 개 이상의 행렬의 아다마르 곱으로 분할하는 것은 어려운 문제이며 진행 중인 연구의 주제이다. 일부 저자는 이를 텐서 분해 문제로 [12][13]간주한다.

크로네커 곱은 최소 제곱법과 연계하여 손눈 교정 [14]문제에 대한 정확한 해법으로 사용할 수 있다.

관련 매트릭스 연산

관련된 2개의 매트릭스 연산은 분할된 매트릭스에서 동작하는 트레이시-싱과 카트리-라오 제품이다.m × n 행렬 A를 m × nj 블록iij A로 분할하고 p × q 행렬 B를 pk × q 블록kl B로 분할한다고 하자. 물론 δii m = m, δjj n = n, δkk p = pδ q = q이다.

트레이시-싱 제품

Tracy-Singh 제품은 다음과 같이 정의됩니다[15][16][17].

그 말은 융점의(ij)-th subblock × nq A제품 ∘{\displaystyle \circ}B가 없다는 것을 뜻한다는 mip× njq 행렬 Aij∘{\displaystyle \circ}B는(kℓ)-th subblock와 같습니다 mipk×njqℓ 행렬 Aij ⊗ Bkℓ.파티션의 2매트릭스에 각 쌍에 대한 기본적으로 Tracy–Singh 제품은 pairwise 크로네커 제품.

예를 들어, A와 B가 모두 2 × 2 분할 행렬경우, 예를 들어 다음과 같습니다.

다음과 같은 것을 얻을 수 있습니다.

카트리-라오 제품

  • 블록 크로네커 제품
  • 칼럼와이즈 카트리-라오 제품

페이스 스플릿

혼합 제품 속성[18]

여기서 { \ [19][20] 페이스 분할 제품을 나타냅니다.

마찬가지로:[21]

서 c d [22]벡터입니다.

c {c및 ddisplaystyle {}는 벡터이고 \ Hadamard 곱입니다.

마찬가지로:

(( 1 )C (2 ) ( C ( )( C( 2 C ( 1)) FC ( )\ { F} ( C { (1)\ C ( 2 )

여기서 {\ 벡터 컨볼루션, {\{\ 푸리에 변환 매트릭스입니다(이 결과는 카운트 스케치 [19][20]속성[23] 진화하는 것입니다).

여기서 { Column-wise Khatri-Rao 제품을 나타냅니다.

마찬가지로:

서 c d 벡터입니다.

「 」를 참조해 주세요.

메모들

  1. ^ Weisstein, Eric W. "Kronecker product". mathworld.wolfram.com. Retrieved 2020-09-06.
  2. ^ Zehfuss, G. (1858). "Ueber eine gewisse Determinante". Zeitschrift für Mathematik und Physik. 3: 298–301.
  3. ^ Henderson, Harold V.; Pukelsheim, Friedrich; Searle, Shayle R. (1983). "On the history of the kronecker product". Linear and Multilinear Algebra. 14 (2): 113–120. doi:10.1080/03081088308817548. hdl:1813/32834. ISSN 0308-1087.
  4. ^ Henderson, H.V.; Searle, S.R. (1980). "The vec-permutation matrix, the vec operator and Kronecker products: A review" (PDF). Linear and Multilinear Algebra. 9 (4): 271–288. doi:10.1080/03081088108817379. hdl:1813/32747.
  5. ^ Van Loan, Charles F. (2000). "The ubiquitous Kronecker product". Journal of Computational and Applied Mathematics. 123 (1–2): 85–100. Bibcode:2000JCoAM.123...85L. doi:10.1016/s0377-0427(00)00393-9.
  6. ^ Langville, Amy N.; Stewart, William J. (1 June 2004). "The Kronecker product and stochastic automata networks". Journal of Computational and Applied Mathematics. 167 (2): 429–447. Bibcode:2004JCoAM.167..429L. doi:10.1016/j.cam.2003.10.010.
  7. ^ MacEdo, Hugo Daniel; Oliveira, José Nuno (2013). "Typing linear algebra: A biproduct-oriented approach". Science of Computer Programming. 78 (11): 2160–2191. arXiv:1312.4818. Bibcode:2013arXiv1312.4818M. CiteSeerX 10.1.1.747.2083. doi:10.1016/j.scico.2012.07.012. S2CID 9846072.
  8. ^ Brewer, J.W. (1969). "A note on Kronecker matrix products and matrix equation systems". SIAM Journal on Applied Mathematics. 17 (3): 603–606. doi:10.1137/0117057.
  9. ^ Dummit, David S.; Foote, Richard M. (1999). Abstract Algebra (2 ed.). New York: John Wiley and Sons. pp. 401–402. ISBN 978-0-471-36857-1.
  10. ^ 를 참조해 주세요.
  11. ^ Van Loan, C.; Pitsianis, N. (1992). Approximation with Kronecker Products. Ithaca, NY: Cornell University Press.
  12. ^ King Keung Wu; Yam, Yeung; Meng, Helen; Mesbahi, Mehran (2016). "Kronecker product approximation with multiple factor matrices via the tensor product algorithm". 2016 IEEE International Conference on Systems, Man, and Cybernetics (SMC). pp. 004277–004282. doi:10.1109/SMC.2016.7844903. ISBN 978-1-5090-1897-0. S2CID 30695585.
  13. ^ Dantas, Cássio F.; Cohen, Jérémy E.; Gribonval, Rémi (2018). "Learning fast dictionaries for sparse representations using low-rank tensor decompositions". Latent Variable Analysis and Signal Separation (PDF). Lecture Notes in Computer Science. Vol. 10891. pp. 456–466. doi:10.1007/978-3-319-93764-9_42. ISBN 978-3-319-93763-2.
  14. ^ Li, Algo; et al. (4 September 2010). "Simultaneous robot-world and hand-eye calibration using dual-quaternions and Kronecker product" (PDF). International Journal of the Physical Sciences. 5 (10): 1530–1536. S2CID 7446157. Archived from the original (PDF) on 9 February 2020.
  15. ^ Tracy, D.S.; Singh, R.P. (1972). "A new matrix product and its applications in matrix differentiation". Statistica Neerlandica. 26 (4): 143–157. doi:10.1111/j.1467-9574.1972.tb00199.x.
  16. ^ Liu, S. (1999). "Matrix Results on the Khatri–Rao and Tracy–Singh Products". Linear Algebra and Its Applications. 289 (1–3): 267–277. doi:10.1016/S0024-3795(98)10209-4.
  17. ^ Liu, S.; Trenkler, G. (2008). "Hadamard, Khatri-Rao, Kronecker and other matrix products". International Journal of Information and Systems Sciences. 4 (1): 160–177.
  18. ^ Slyusar, V.I. (1998) [27 December 1996]. "End products in matrices in radar applications" (PDF). Radioelectronics and Communications Systems. 41 (3): 50–53.
  19. ^ a b Slyusar, Vadym (1999). "New matrix operations for DSP" (self-published lecture). doi:10.13140/RG.2.2.31620.76164/1 – via Research Gate. {{cite journal}}:Cite 저널 요구 사항 journal=(도움말)
  20. ^ a b Slyusar, V.I. (March 13, 1998). "A Family of Face Products of Matrices and its Properties" (PDF). Cybernetics and Systems Analysis C/C of Kibernetika I Sistemnyi Analiz. 1999. 35 (3): 379–384. doi:10.1007/BF02733426. S2CID 119661450.
  21. ^ Slyusar, V.I. (1997-09-15). New operations of matrices product for applications of radars (PDF). Direct and Inverse Problems of Electromagnetic and Acoustic Wave Theory (DIPED-97), Lviv. pp. 73–74.
  22. ^ Ahle, Thomas Dybdahl; Knudsen, Jakob Bæk Tejs (2019-09-03). "Almost optimal tensor sketch". arXiv:1909.01821 [cs.DS].
  23. ^ Ninh, Pham; Pagh, Rasmus (2013). Fast and scalable polynomial kernels via explicit feature maps. SIGKDD international conference on Knowledge discovery and data mining. Association for Computing Machinery. doi:10.1145/2487575.2487591.

레퍼런스

외부 링크