Tensorflow

Deeplearning framework는 기본적으로 Tensor를 다루는 도구다.TensorTensor를 다룰 때 가장 중요한 것! ${\\rightarrow}$ SHAPE !!!shapedtype (데이터 타입이 같아야 연산이 가능)tf.constant()list

미지수, 가중치를 정의할 때 사용직접 사용할 일이 많지는 않음변수 정의는 변수 생성 + 초기화Constant와 같이 기본 속성값이 들어있음 shape, dtype, numpy변수는 기존 텐서의 메모리를 재사용하여 텐서를 재할당 할 수 있음.기존 메모리의 크기와 다르면

기본 연산은 특수 메서드를 이용하여 연산자 오버로딩이 되어 있으므로 그냥 연산자 기호를 사용하는게 가능!tf.add: 덧셈tf.subtract: 뺄셈tf.multiply: 곱셈tf.divide: 나눗셈tf.pow: n-제곱tf.negative: 음수 부호tf.abs:

tf.GradientTape는 컨텍스트(context) 안에서 실행된 모든 연산을 테이프(tape)에 "기록".그 다음 텐서플로는 후진 방식 자동 미분(reverse mode differentiation)을 사용해 테이프에 "기록된" 연산의 그래디언트를 계산tf.Var

$X$ 를 Feature, ,$w$를 가중치 벡터, $y$를 Target이라고 할 때,$X^T X$의 역행령이 존재 한다고 가정했을 때, 아래의 식을 이용해 $w$의 추정치 $w^\*$를 구하기.$$w^{\\ast} = (X^TX)^{-1} X^T y$$Referen

이번엔 Iris 데이터 중 두 종류를 분류하는 퍼셉트론을 제작한다. y값은 1 또는 -1을 사용하고 활성화 함수로는 하이퍼탄젠트(hypertangent)함수를 사용한다.$$\\Large{ \\hat{y} = tanh(w^Tx) }$$비용 함수로는 다음 식을 사용한다.$

1\. Sequencial 사용하기 (간단하지만 자유도가 떨어진다.)2\. Functional API model3\. Sub class model (가장 자유도가 높다.)Filter to an image (Convolution layer)VGGNet은 2014년 ILS

tf.keras.Sequential 보다 더 유연하게 모델을 정의할 수 있는 방법80%정도는 구현 가능Reference1) 제로베이스 데이터스쿨 강의자료

모델 이란 것은 Input을 Output으로 만들어주는 수식이다.해당 기능을 수행하는 두 가지 클래스가 tf.keras.layers.Layer 와 tf.keras.layers.Model 클래스이다.두 가지 모두 연산을 추상화 하는 것으로 동일한 역할을 하지만, tf.k

$$\\Large{model.compile() \\rightarrow model.fit()}$$optimizer='rmsprop' : Optimizerloss=None : Loss functionmetrics=None : Metricsloss_weights=None :

Cifar10DataLoader 클래스, build_resnet 모델 이용Reference1) 제로베이스 데이터스쿨 강의자료

TensorFlow에서 제공하는 시각화 툴학습하는 중간의 그래프나 여러가지 정보를 Web UI로 조회 가능https://www.tensorflow.org/tensorboard?hl=ko!tensorboard --logdir logs/fit코랩에서 실행%load

모델구조 & weightsepoch마다 저정한다면 그때 생성된 모델 -> checkpointsh5, pb, ckpt 등 모델 확장자weights만 저장 하므로, 저장공간이 절약됨.save_best_only=True 이전 현재 성능을 비교해서 좋은 것만 남김 save_b

로컬 환경에 저장되어 있는 파일을 읽기미리 이미지 데이터를 모두 불러오는게 아니라 그 때 그 떄 처리를 하는 것속도도 더 빠르다buffer_sizebuffer_size shuffle 정도데이터가 5만개이면 5만번하고 시작할 수도 있지만 큰 의미가 없을 때도 있다 ->

데이터를 불러오는 동시에 여러가지 전처리를 쉽게 구현 할 수 있는 tf.keras의 기능data augmentation → overfitting 방지Reference1) 제로베이스 데이터스쿨 강의자료