웹개발 종합반 리부트 - 3주 차

Jony·2023년 3월 19일
0
post-thumbnail

Python

->매우 직관적인 언어이며, 할 수 있는 것들이 매우 많은 것이 특징이다.(구글링 필수..😬)

파이썬 기초문법

1) 변수 & 기본연산

a = 3      # 3을 a에 넣는다
b = a      # a를 b에 넣는다
a = a + 1  # a+1을 다시 a에 넣는다

num1 = a*b  # a*b의 값을 num1이라는 변수에 넣는다
num2 = 99   # 99의 값을 num2이라는 변수에 넣는다

	# 변수의 이름은 마음대로 지을 수 있음!
    # 진짜 "마음대로" 짓는 게 좋을까? var1, var2 이렇게?

ex1)

ex2)

2) 자료형

  • 숫자,문자형

    	name = 'bob' # 변수에는 문자열이 들어갈 수도 있고,
    	num = 12 # 숫자가 들어갈 수도 있고,
    
    	is_number = True # True 또는 False -> "Boolean"형이 들어갈 수도 있다.
    
    	#########
    		# 그리고 List, Dictionary 도 들어갈 수도 있다.
  • 리스트형(Javascript의 배열형과 동일함)

    	a_list = []
    	a_list.append(1)     # 리스트에 값을 넣는다
    	a_list.append([2,3]) # 리스트에 [2,3]이라는 리스트를 다시 넣는다
    
    		# a_list의 값은? [1,[2,3]]
    		# a_list[0]의 값은? 1
    		# a_list[1]의 값은? [2,3]
    		# a_list[1][0]의 값은? 2

ex1)

  • 딕셔너리형(Javascript의 딕셔너리형과 동일함)

    	a_dict = {}
    	a_dict = {'name':'bob','age':21}
    	a_dict['height'] = 178
    
    		# a_dict의 값은? {'name':'bob','age':21, 'height':178}
    		# a_dict['name']의 값은? 'bob'
    		# a_dict['age']의 값은? 21
    		# a_dict['height']의 값은? 178
  • 딕셔너리형과 리스트형의 조합

    	people = [{'name':'bob','age':20},{'name':'carry','age':38}]
    
    		# people[0]['name']의 값은? 'bob'
    		# people[1]['name']의 값은? 'carry'
    
    	person = {'name':'john','age':7}
    	people.append(person)
    
    		# people의 값은? [{'name':'bob','age':20},{'name':'carry','age':38},{'name':'john','age':7}]
    		# people[2]['name']의 값은? 'john'

3) 함수

	# 수학문제에서
f(x) = 2*x+3
y = f(2)
y의 값은? 7

	# 참고: 자바스크립트에서는
function f(x) {
return 2*x+3
}

	# 파이썬에서
def f(x):
return 2*x+3

y = f(2)
y의 값은? 7
  • 함수 응용

ex1)

4) 조건문 (if~else)

def is_adult(age):
if age > 20:
	print('성인입니다')    # 조건이 참이면 성인을 출력
else:
	print('청소년이에요')  # 조건이 거짓이면 청소년을 출력

is_adult(30)
	# 무엇이 출력될까?

5) 반복문(for~in)
-> 파이썬에서 의 반복문은 리스트의 요소들을 하나씩 꺼내쓰는 형태이다.

  • 무조건 리스트와 함께 쓰인다.

    	fruits = ['사과','배','감','귤']
    	for fruit in fruits:
    	print(fruit)
    
    		# 사과, 배, 감, 귤 하나씩 꺼내어 찍힙니다.
  • 과일 갯수 셈 함수

    	fruits = ['사과','배','배','감','수박','귤','딸기','사과','배','수박']
    
    	count = 0
    	for fruit in fruits:
    	if fruit == '사과':
    		count += 1
    
    	print(count)
    
    		# 사과의 갯수를 세어 보여준다.
  • def count_fruits(target):
    	count = 0
    	for fruit in fruits:
    		if fruit == target:
    			count += 1
    	return count
    
    	subak_count = count_fruits('수박')
    	print(subak_count) #수박의 갯수
    
    	gam_count = count_fruits('감')
    	print(gam_count) #감의 갯수
  • 	people = [{'name': 'bob', 'age': 20}, 
        {'name': 'carry', 'age': 38},
        {'name': 'john', 'age': 7},
        {'name': 'smith', 'age': 17},
        {'name': 'ben', 'age': 27}]
    
    		# 모든 사람의 이름과 나이를 출력해봅시다.
    	for person in people:
    	    print(person['name'], person['age'])
	# 이번엔, 반복문과 조건문을 응용한 함수의 예시를 들어보겠다.
	# 이름을 받으면, age를 리턴해주는 함수
def get_age(myname):
for person in people:
    if person['name'] == myname:
        return person['age']
return '해당하는 이름이 없습니다'


print(get_age('bob'))
print(get_age('kay'))

들여쓰기 뒤는 해당 내용물이라는 뜻!

웹 스크래핑(크롤링)

  • 크롤링 기본세팅 {bs4(beautifulsoup4) 패키지 설치}

-> 네이버 영화페이지 크롤링

import requests
from bs4 import BeautifulSoup

headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.naver?sel=pnt&date=20210829',headers=headers)

soup = BeautifulSoup(data.text, 'html.parser')

# 코딩 시작

import requests
from bs4 import BeautifulSoup

# 타겟 URL을 읽어서 HTML를 받아오고,
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.naver?sel=pnt&date=20210829',headers=headers)

# HTML을 BeautifulSoup이라는 라이브러리를 활용해 검색하기 용이한 상태로 만듦
# soup이라는 변수에 "파싱 용이해진 html"이 담긴 상태가 됨
# 이제 코딩을 통해 필요한 부분을 추출하면 된다.
soup = BeautifulSoup(data.text, 'html.parser')

#############################
 (입맛에 맞게 코딩)
#############################

태그 안의 텍스트를 찍고 싶을 땐, 태그.text
태그 안의 속성을 찍고 싶을 땐, 태그['속성']

import requests
from bs4 import BeautifulSoup

# URL을 읽어서 HTML를 받아오고,
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.naver?sel=pnt&date=20210829',headers=headers)

# HTML을 BeautifulSoup이라는 라이브러리를 활용해 검색하기 용이한 상태로 만듦
soup = BeautifulSoup(data.text, 'html.parser')

# select를 이용해서, tr들을 불러오기
movies = soup.select('#old_content > table > tbody > tr')

# movies (tr들) 의 반복문을 돌리기
for movie in movies:
    # movie 안에 a 가 있으면,
    a_tag = movie.select_one('td.title > div > a')
    if a_tag is not None:
        # a의 text를 찍어본다.
        print (a_tag.text)
  • beautifulsoup 내 select에 미리 정의된 다른 방법을 알아보자

    	# 선택자를 사용하는 방법 (copy selector)
    	soup.select('태그명')
    	soup.select('.클래스명')
    	soup.select('#아이디명')
    
    	soup.select('상위태그명 > 하위태그명 > 하위태그명')
    	soup.select('상위태그명.클래스명 > 하위태그명.클래스명')
    
    	# 태그와 속성값으로 찾는 방법
    	soup.select('태그명[속성="값"]')
    
    	# 한 개만 가져오고 싶은 경우
    	soup.select_one('위와 동일')

    항상 정확하진 않으나, 크롬 개발자도구를 참고할 수도 있다.
    1.원하는 부분에서 마우스 오른쪽 클릭->검사
    2.원하는 태그에서 마우스 오른쪽 클릭
    3.Copy->Copyselector로 선택자를 복사할 수 있음

DB개괄

db는 왜 쓸까?
1) 잘 넣어두기 위해 2) 나중에 잘 찾기 위해 쓴다.

우리 눈에 보이진 않지만, Db에는 Index라는 순서로 데이터들이 정렬되어 있다.

  1. Db의 종류는 SQL 과 NoSQL 두 가지다.

  • SQL(RDBMS)

행/열의 생김새가 정해진 엑셀의 데이터를 저장하는 것과 유사함
데이터 50만 개가 적재된 상태에서, 갑자기 중간에 열을 하나 더하기는 어려울 것이다.
그러나, 정형화되어 있는 만큼 데이터의 일관성이나 분석에 용이할 수 있다.
ex) MS-SQL,My-SQL등

  • NoSQL

딕셔너리 형태로 데이터를 저장해두는 Db이다.
고로 데이터 하나하나 마다 같을 값들을 가질 필요가 없게 된다. 자유로운 형태의 데이터 적재에 유리한 대신, 일관성이 부족할 수 있다.
ex) MongoDB

  1. DB의 실체란 무엇일까?
    -> 우리가 쓰는 프고그램과 같다. 즉, 게임 설치하듯 DB도 설치할 수 있다.

그러나 요즘엔 Cloud 형태로 제공하는 곳들이많다.
(왜? 유저들이 몰리거나, DB백업, 모니터링 하기에 매우 용이하기 때문에!) 그렇기에 요즘 트렌드는 클라우드이다.

mongoDB Atlas를 사용 (패키지 pymongo,dnspython을 설치)

pymongo 라이브러리의 역할: 프로그램을 조작하기 위해 특별한 라이브러리가 필요하기 때문!

  • 기본 코드

    	from pymongo import MongoClient
    	client = MongoClient('여기에 URL 입력')
    	db = client.dbsparta

# 저장 - 예시
doc = {'name':'bobby','age':21}
db.users.insert_one(doc)

# 한 개 찾기 - 예시
user = db.users.find_one({'name':'bobby'})

# 여러개 찾기 - 예시 ( _id 값은 제외하고 출력)
all_users = list(db.users.find({},{'_id':False}))

# 바꾸기 - 예시
db.users.update_one({'name':'bobby'},{'$set':{'age':19}})

# 지우기 - 예시
db.users.delete_one({'name':'bobby'})

⁉️ Mac에서 설치가 잘 안 될 경우

1)Q. DB Atlas 사용시, pymongo.errors.ServerSelectionTimeoutError: ~ [SSL: CERTIFICATE_VERIFY_FAILED]~ 를 포함한 에러 메시지가 뜨면서 실행이 되지 않습니다.
A. 에러 메시지

  • 사용하고 있는 인터넷 환경에 따라 보안 관련 추가 설정을 해주어야할 때가 있다.
  • certifi 패키지를 가상환경에 먼저 설치!
    패키지 설치하는 방법은 3주차 수업자료 = 05. 파이썬 패키지 설치하기 를 참고.
  • 아래 형광펜 칠한 코드 부분을 추가해서 사용. 특히 client = MongoClient 부분 코드 맨 끝에 있는 tlsCAFile=ca 를 추가하는 것 기억하기!
  • 아래 코드에서 내주소 를 실제 내 DB 주소로 바꾸는 것 기억하기!
from pymongo import MongoClient
import certifi
ca = certifi.where()
client = MongoClient('mongodb+srv://test:sparta@cluster0.내주소.mongodb.net/내DB명?retryWrites=true&w=majority', tlsCAFile=ca)
db = client.dbsparta
doc = {
    'name':'bob',
    'age':27
	}
	db.users.insert_one(doc)

2) Q. DB Atlas 사용시, DB 접속권한 업데이트하기 - app.py 실행시 DNS 관련한 에러 메시지가 뜨면서 접속이 안됩니다. (예전에는 접속이 되었는데 지금은 DB 접속이 안되어요. AWS 에서는 접속이 안되어요 포함)
A. 이 경우에는 DB 접속 권한이 사라져서 그렇습니다. DB 접속 권한을 업데이트해주면 됩니다.

  • 이런 문제가 발생하는 이유는 아래를 참고
    • 처음 DB Atlas 세팅시에는 내 컴퓨터에서만 DB에 접속될 수 있게 현재 세팅시 접속된 특정 IP, 즉, 해당 시점의 내 컴퓨터의 네트워크 주소만 접속될 수 있게 자동 세팅됩니다.
      그런데 일반적인 컴퓨터 접속환경에서는 이 IP 주소가 유동적으로 변경됩니다. (변경되는 주기는 공유기 세팅마다 다릅니다.) 또 어떤 인터넷을 사용하느냐에 따라서 인터넷이 달라지면-접속환경이 달라지면- IP 주소도 바뀝니다.
      즉, 내 컴퓨터 네트워크 주소가 변경되어버리는 것이지요.
    • 즉, DB에 접근가능하게 등록되어있던 주소와 내 컴퓨터 실제 네트워크 주소가 달라지게 된다. 그러면 이전에 DB 등록 주소를 바꾸어주어야겠지요?
      비유하자면, ID 가 0000인 사람만 접속할 수 있게 등록이 되어있는데, 내 ID 가 000에서 다른 것으로 변경되어버리는 것과 똑같다.
  1. DB Atlas페이지 접속 후, 아래와 같이 들어간다.
  2. 0.0.0.0/0 을 적은 후, confirm 해서 등록
    • 0.0.0.0/0 은 모든 IP 주소라는 뜻이다. 즉, 접속 IP에 상관없이 어디에서나 접근가능하다는 뜻이다.
      비밀번호와 user명만으로 접속할 수 있게 되는 것이다.
    • 참고! 실제 현업에서 DB 를 사용할 때에는 보안상의 이유로 특정 IP 주소로만 접근할 수 있게 해둡니다. 우리는 배우는 과정이니 모든 IP 에서 접근할 수 있게 설정을 바꿔준다.
    • ADD CURRENT IP ADDRESS 를 누르면 현재 접속한 IP 주소로 등록시킬 수 있지만, 이건 매번 내 컴퓨터 IP 주소가 바뀔 때마다 설정해줘야한다.
  3. 0.0.0.0/0 이 등록되고 status 가 Active 가 뜰 때까지 기다리면 된다.
  4. 그 후에 다시 app.py 를 실행 후에 내가 만든 사이트에 접속해서 제대로 뜨는지 확인해보세요.
    • 만약 정상 실행이 안된다면, 이전 설정이 남아있어서 발생하는 문제일 수 있습니다~ 컴퓨터 재부팅하고 프로젝트를 새로 만들어 실행시켜보세요!
  5. (위 과정으로 해결안되는 사람만!) 똑같이 DNS 관련 오류가 뜬다면?
    - 내 인터넷 접속환경과 방화벽 설정에서 SRV URI (예. mongodb+srv: 처럼 srv 방식으로 적힌 URI) 자체를 접속이 되지 않게 막는 경우가 있습니다. 이럴 때는 다른 식으로 적힌 url 주소를 사용하면 됩니다~
    1) 아래 접속 화면에서 3.4 or later 를 선택해주세요~ 그러면 SRV 가 포함되지 않은 url 주소가 나옵니다

    2) password 는 sparta 로, myFirstDatabase 는 똑같이 DB 주소로 바꾸어 사용하시면 됩니다!

    3) 아래 코드 예시처럼 MongoClient 부분코드에 적으면 된다.
  • 아래 예시처럼 적어주면 된다(단, 내 mongodb 주소로 적어줘야 한다!)
    •  client = MongoClient('mongodb://test:sparta@cluster0-shard-00-00.ttp4x.mongodb.net:27017,cluster0-shard-00-01.ttp4x.mongodb.net:27017,cluster0-shard-00-02.ttp4x.mongodb.net:27017/cluster0?ssl=true&replicaSet=atlas-cyee0j-shard-0&authSource=admin&retryWrites=true&w=majority')

Pymongo 코드요약

# 저장 - 예시
doc = {'name':'bobby','age':21}
db.users.insert_one(doc)

# 한 개 찾기 - 예시
user = db.users.find_one({'name':'bobby'})

# 여러개 찾기 - 예시 ( _id 값은 제외하고 출력)
all_users = list(db.users.find({},{'_id':False}))

# 바꾸기 - 예시
db.users.update_one({'name':'bobby'},{'$set':{'age':19}})

# 지우기 - 예시
db.users.delete_one({'name':'bobby'})
profile
알면 알수록 모르는 코딩월드

0개의 댓글