AI 대학원 예상 면접 문제

J.H.L·2022년 7월 12일
14

이 질문들의 출처는 https://jrc-park.tistory.com/259 입니다!

Statistic / Probability

  • Central Limit Theorem 이란 무엇인가? <답 확인하기>

  • Central Limit Theorem은 어디에 쓸 수 있는가?

  • 큰수의 법칙이란?

  • 확률이랑 통계랑 다른 점은?

  • Marginal Distribution이란 무엇인가?
    - 확률 변수의 집합에서 특정 확률 변수를 제외한 변수들을 무시하고 측정한 특정 확률 변수의 분포임.

  • Conditional Distribution이란 무엇인가?
    - 조건부 확률은 특정 사건이 있다고 가정했을 때 발생할 확률을 의미함.

  • Bias란 무엇인가?
    - 측정값과 실제 label의 차이를 의미함.

  • Biased/Unbiased estimation의 차이는?
    - Biased Estimation은 모수의 추정량의 기댓값이 모수의 값들과 일치하지 않는 것을 의미함.

    • Unbiased Estimation: 모수의 추정량의 기댓값이 모수가 되는 성질
  • Bias, Variance, MSE란? 그리고 그들의 관계는 무엇인가?
    - 편차, 분산, MSE는 분산 + 편차에 관련된 식으로 나타낼 수 있음. 여기서 Trade off가 발생함.

  • Sample Variance란 무엇인가?
    - 표본 분산

  • 표본 분산을 구할 때, N대신에 N-1로 나눠주는 이유는 무엇인가? (표본 분산의 기대값이 모분산이어야 하므로: 불편 추정량을 만족하기 위함)
    (증명은 <이곳>)
    <내가 한 증명>

  • Gaussian Distribution에서 MLE와 Sample Variance 중에 어떤 걸 사용해야 하는가?

  • Unbiased Estimation은 무조건 좋은가?

  • Unbiaed Estimation의 장점은 무엇인가?

  • Binomial, Bernoulli, Multinomial, Multinoulli 란 무엇인가? <답 확인하기>

  • Beta Distribution과 Dirichlet Distribution이란 무엇인가?

  • Gamma Distribution은 어디에 쓰이는가? <답 확인하기>

  • Possion distribution은 어디에 쓰이는가? <답 확인하기>

  • Bias and Varaince Trade-Off 란 무엇인가? <답 확인하기>

  • Conjugate Prior란? <답 확인하기>

  • Confidence Interval이란 무엇인가? <답 확인하기>

  • covariance/correlation 이란 무엇인가?
    - 공분산, 상관계수 -> 각 데이터들이 얼마나 관련 있는지 어떻게 퍼져있는지에 대한 수치

  • Total variation 이란 무엇인가? <답 확인하기>

  • Explained variation 란 무엇인가? <답 확인하기>

  • Uexplained variation 이란 무엇인가 <답 확인하기>

  • Coefficient of determination 이란? <답 확인하기>

  • Total variation distance이란 무엇인가?

  • P-value란 무엇인가? <답 확인하기>

  • likelihood-ratio test 이란 무엇인가?

Machine Learning/Deep Learning

  • Frequentist 와 Bayesian의 차이는 무엇인가?
  • Frequentist 와 Bayesian의 장점은 무엇인가?
  • 차원의 저주란? <답 확인하기>
  • Train, Valid, Test를 나누는 이유는 무엇인가?
  • Cross Validation이란?
  • (Super-, Unsuper-, Semi-Super) vised learning이란 무엇인가?
    Supervised Learning / Unsupervised Learning / Semi-Supervised Learning
  • Decision Theory란?
  • Receiver Operating Characteristic Curve란 무엇인가? <답 확인하기>
  • 🧐 Precision Recall에 대해서 설명해보라 <답 확인하기>
  • Precision Recall Curve란 무엇인가?<답 확인하기>
  • Type 1 Error 와 Type 2 Error는? <답 확인하기>
  • Entropy란 무엇인가? <답 확인하기>
    - entropy란 최적의 전략 하에서 그 사건을 예측하는 데에 필요한 질문 개수를 의미함. 다른 표현으로는 최적의 전략 하에서 필요한 질문개수에 대한 기댓값이다. 따라서, 이 entropy가 감소한다는 것은 우리가 그 사건을 맞히기 위해서 필요한 질문의 개수가 줄어드는 것을 의미합니다. 질문의 개수가 줄어든다는 사실은 정보량도 줄어든다는 의미입니다.
  • KL-Divergence란 무엇인가? <답 확인하기>
  • Mutual Information이란 무엇인가?
  • Cross-Entropy란 무엇인가? <답 확인하기>
    - 어떤 문제에 대해 특정 전략을 쓸 때 예상되는 질문개수에 대한 기댓값입니다.최적의 전략을 사용할 때 cross entropy 값이 최소가 됩니다. 정리를 해보면 확률분포로 된 어떤 문제 p에 대해 확률분포로 된 어떤 전략 q를 사용할 때의 질문개수의 기댓값이 바로 cross entropy입니다.
  • Cross-Entropy loss 란 무엇인가?
  • Generative Model이란 무엇인가?
  • Discriminative Model이란 무엇인가?
  • Discrinator function이란 무엇인가?
  • Overfitting 이란? <답 확인하기>
  • Underfitting이란?
  • Overfitting과 Underfitting은 어떤 문제가 있는가?
  • Overfitting과 Underfitting을 해결하는 방법은?
  • Regularization이란?
    Ridge / Lasso
  • Activation function이란 무엇인가? <답 확인하기>
  • 3가지 Activation function type이 있다.
    Ridge activation Function / Radial activation Function / Folding activation Function
  • CNN에 대해서 설명해보라
  • RNN에 대해서 설명해보라
  • Newton's method란 무엇인가?
  • Gradient Descent란 무엇인가? <답 확인하기>
  • Stochastic Gradient Descent란 무엇인가? <답 확인하기>
  • Local optimum으로 빠지는데 성능이 좋은 이유는 무엇인가?
  • Internal Covariance Shift 란 무엇인가? <답 확인하기>
  • Batch Normalization은 무엇이고 왜 하는가?
  • Backpropagation이란 무엇인가? <답 확인하기>
  • Optimizer의 종류와 차이에 대해서 아는가? <답 확인하기>
  • Ensemble이란? <답 확인하기>
  • Stacking Ensemble이란?
  • Bagging이란?<답 확인하기>
  • Bootstrapping이란?
  • Boosting이란?<답 확인하기>
  • Bagging 과 Boosting의 차이는?
  • AdaBoost / Logit Boost / Gradient Boost
  • Support Vector Machine이란 무엇인가?
  • Margin을 최대화하면 어떤 장점이 있는가?
  • 나이브 베이즈 분류기란? <답 확인하기>
  • Log Sum EXP 란??

Linear Algebra

  • Linearly Independent란?
  • Basis와 Dimension이란 무엇인가?
  • Null space란 무엇인가?
  • Symmetric Matrix란?
  • Possitive-definite란?
  • Rank 란 무엇인가?
  • Determinant가 의미하는 바는 무엇인가?
  • Eigen Vector는 무엇인가?
  • Eigen Vector는 왜 중요한가?
  • Eigen Value란?
  • SVD란 무엇인가?→ 중요한 이유는?
  • Jacobian Matrix란 무엇인가?
profile
포항공대 인공지능 대학원에 재학중인 대학원생입니다.

0개의 댓글