합성곱 또는 콘볼루션(Convolution)은 하나의 함수와 또 다른 함수를 반전 이동한 값을 곱한 다음, 구간에 대해 적분하여 새로운 함수를 구하는 수학 연산자이다. (위키피디아)
간단하게 두 함수를 서로 곱해서 합한다는 뜻.
합성곱에 관한 간단한 예제


과 같이 연산이 되는 것이 합성곱이다.
인공지능 분야에서 이것을 사용하는데, 그것을 합성곱 신경망이라고 한다.
아래 그림이 일반적인 예이다.

(http://cs231n.github.io/convolutional-networks)
이 그림에서의 CONV는 합성곱 연산을 의미하고, 합성곱 연산의 결과를 활성화 함수 ReLU를 지남. 이 두 과정을 합성곱층이라고 한다. 그 후에 POOL이라는 구간을 지나는데 이는 풀링 연산을 의미하여 풀링층이라고 함.
(참고 블로그 : https://wikidocs.net/64066)