L:V→V를 벡터 공간 V에서의 선형 연산자라고 하자.
A는 V의 기저 a1,a2,...,an에 대한 L의 행렬이다.
B는 V의 또다른 기저 b1,b2,...,bn에 대한 L의 행렬이다.
U는 기저 a1,a2,...,an에서 b1,b2,...,bn로의 변환 행렬이다.

모든 x∈Rn에 대해 다음과 같은 식이 성립한다.
UAx=BUx⇒UA=BU
즉, A=U−1BU 또는 B=UAU−1.
예제.
다음과 같은 선형 연산자 L:R2→R2가 있다.
L(xy)=(1101)(xy)
기저 v1=(3,1),v2=(2,1)에 대한 L의 행렬을 찾아라.
표준 기저에 대한 L의 행렬을 S라고 하자.
S=(1101)
U는 기저 v1,v2에서 표준 기저 e1,e2로의 변환 행렬이다.
U=(3211)
기저 v1,v2에 대한 L의 행렬을 N이라고 하자.
그러면 N=U−1SU가 성립한다.
N=U−1SU=(1−2−13)(1101)(3211)=(21−10)
즉, 우리가 알고 있는 것은 표준 기저에 대한 L의 행렬이다.
주어진 기저에 대한 L을 수행한 결과를 알기 위해서는
1. 해당 기저에서 표준 기저로 변환을 수행한 후 (U),
2. 표준 기저에 대한 L을 수행한 후 (N),
3. 그 결과의 기저를 다시 주어진 기저로 변환하는 과정을 거쳐야한다(U−1).
이 과정의 합성을 다음과 같이 표현할 수 있는 것이다.
N=U−1SU
(행렬변환은 오른쪽부터 순서대로 쓰는 것을 기억하자.)
<참고자료>
Steve J. Leon, Linear Algebra with Application, 10th edition, 2021.