->매우 직관적인 언어이며, 할 수 있는 것들이 매우 많은 것이 특징이다.(구글링 필수..😬)
파이썬 기초문법
1) 변수 & 기본연산
a = 3 # 3을 a에 넣는다
b = a # a를 b에 넣는다
a = a + 1 # a+1을 다시 a에 넣는다
num1 = a*b # a*b의 값을 num1이라는 변수에 넣는다
num2 = 99 # 99의 값을 num2이라는 변수에 넣는다
# 변수의 이름은 마음대로 지을 수 있음!
# 진짜 "마음대로" 짓는 게 좋을까? var1, var2 이렇게?
ex1)
ex2)
2) 자료형
숫자,문자형
name = 'bob' # 변수에는 문자열이 들어갈 수도 있고,
num = 12 # 숫자가 들어갈 수도 있고,
is_number = True # True 또는 False -> "Boolean"형이 들어갈 수도 있다.
#########
# 그리고 List, Dictionary 도 들어갈 수도 있다.
리스트형(Javascript의 배열형과 동일함)
a_list = []
a_list.append(1) # 리스트에 값을 넣는다
a_list.append([2,3]) # 리스트에 [2,3]이라는 리스트를 다시 넣는다
# a_list의 값은? [1,[2,3]]
# a_list[0]의 값은? 1
# a_list[1]의 값은? [2,3]
# a_list[1][0]의 값은? 2
ex1)
딕셔너리형(Javascript의 딕셔너리형과 동일함)
a_dict = {}
a_dict = {'name':'bob','age':21}
a_dict['height'] = 178
# a_dict의 값은? {'name':'bob','age':21, 'height':178}
# a_dict['name']의 값은? 'bob'
# a_dict['age']의 값은? 21
# a_dict['height']의 값은? 178
딕셔너리형과 리스트형의 조합
people = [{'name':'bob','age':20},{'name':'carry','age':38}]
# people[0]['name']의 값은? 'bob'
# people[1]['name']의 값은? 'carry'
person = {'name':'john','age':7}
people.append(person)
# people의 값은? [{'name':'bob','age':20},{'name':'carry','age':38},{'name':'john','age':7}]
# people[2]['name']의 값은? 'john'
3) 함수
# 수학문제에서
f(x) = 2*x+3
y = f(2)
y의 값은? 7
# 참고: 자바스크립트에서는
function f(x) {
return 2*x+3
}
# 파이썬에서
def f(x):
return 2*x+3
y = f(2)
y의 값은? 7
ex1)
4) 조건문 (if~else)
def is_adult(age):
if age > 20:
print('성인입니다') # 조건이 참이면 성인을 출력
else:
print('청소년이에요') # 조건이 거짓이면 청소년을 출력
is_adult(30)
# 무엇이 출력될까?
5) 반복문(for~in)
-> 파이썬에서 의 반복문은 리스트의 요소들을 하나씩 꺼내쓰는 형태이다.
무조건 리스트와 함께 쓰인다.
fruits = ['사과','배','감','귤']
for fruit in fruits:
print(fruit)
# 사과, 배, 감, 귤 하나씩 꺼내어 찍힙니다.
과일 갯수 셈 함수
fruits = ['사과','배','배','감','수박','귤','딸기','사과','배','수박']
count = 0
for fruit in fruits:
if fruit == '사과':
count += 1
print(count)
# 사과의 갯수를 세어 보여준다.
def count_fruits(target):
count = 0
for fruit in fruits:
if fruit == target:
count += 1
return count
subak_count = count_fruits('수박')
print(subak_count) #수박의 갯수
gam_count = count_fruits('감')
print(gam_count) #감의 갯수
people = [{'name': 'bob', 'age': 20},
{'name': 'carry', 'age': 38},
{'name': 'john', 'age': 7},
{'name': 'smith', 'age': 17},
{'name': 'ben', 'age': 27}]
# 모든 사람의 이름과 나이를 출력해봅시다.
for person in people:
print(person['name'], person['age'])
# 이번엔, 반복문과 조건문을 응용한 함수의 예시를 들어보겠다.
# 이름을 받으면, age를 리턴해주는 함수
def get_age(myname):
for person in people:
if person['name'] == myname:
return person['age']
return '해당하는 이름이 없습니다'
print(get_age('bob'))
print(get_age('kay'))
들여쓰기 뒤는 해당 내용물이라는 뜻!
웹 스크래핑(크롤링)
-> 네이버 영화페이지 크롤링
import requests
from bs4 import BeautifulSoup
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.naver?sel=pnt&date=20210829',headers=headers)
soup = BeautifulSoup(data.text, 'html.parser')
# 코딩 시작
import requests
from bs4 import BeautifulSoup
# 타겟 URL을 읽어서 HTML를 받아오고,
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.naver?sel=pnt&date=20210829',headers=headers)
# HTML을 BeautifulSoup이라는 라이브러리를 활용해 검색하기 용이한 상태로 만듦
# soup이라는 변수에 "파싱 용이해진 html"이 담긴 상태가 됨
# 이제 코딩을 통해 필요한 부분을 추출하면 된다.
soup = BeautifulSoup(data.text, 'html.parser')
#############################
(입맛에 맞게 코딩)
#############################
태그 안의 텍스트를 찍고 싶을 땐, 태그.text
태그 안의 속성을 찍고 싶을 땐, 태그['속성']
import requests
from bs4 import BeautifulSoup
# URL을 읽어서 HTML를 받아오고,
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.naver?sel=pnt&date=20210829',headers=headers)
# HTML을 BeautifulSoup이라는 라이브러리를 활용해 검색하기 용이한 상태로 만듦
soup = BeautifulSoup(data.text, 'html.parser')
# select를 이용해서, tr들을 불러오기
movies = soup.select('#old_content > table > tbody > tr')
# movies (tr들) 의 반복문을 돌리기
for movie in movies:
# movie 안에 a 가 있으면,
a_tag = movie.select_one('td.title > div > a')
if a_tag is not None:
# a의 text를 찍어본다.
print (a_tag.text)
beautifulsoup 내 select에 미리 정의된 다른 방법을 알아보자
# 선택자를 사용하는 방법 (copy selector)
soup.select('태그명')
soup.select('.클래스명')
soup.select('#아이디명')
soup.select('상위태그명 > 하위태그명 > 하위태그명')
soup.select('상위태그명.클래스명 > 하위태그명.클래스명')
# 태그와 속성값으로 찾는 방법
soup.select('태그명[속성="값"]')
# 한 개만 가져오고 싶은 경우
soup.select_one('위와 동일')
항상 정확하진 않으나, 크롬 개발자도구를 참고할 수도 있다.
1.원하는 부분에서 마우스 오른쪽 클릭->검사
2.원하는 태그에서 마우스 오른쪽 클릭
3.Copy->Copyselector로 선택자를 복사할 수 있음
db는 왜 쓸까?
1) 잘 넣어두기 위해 2) 나중에 잘 찾기 위해 쓴다.
우리 눈에 보이진 않지만, Db에는 Index
라는 순서로 데이터들이 정렬되어 있다.
행/열의 생김새가 정해진 엑셀의 데이터를 저장하는 것과 유사함
데이터 50만 개가 적재된 상태에서, 갑자기 중간에 열을 하나 더하기는 어려울 것이다.
그러나, 정형화되어 있는 만큼 데이터의 일관성이나 분석에 용이할 수 있다.
ex) MS-SQL,My-SQL등
딕셔너리 형태로 데이터를 저장해두는 Db이다.
고로 데이터 하나하나 마다 같을 값들을 가질 필요가 없게 된다. 자유로운 형태의 데이터 적재에 유리한 대신, 일관성이 부족할 수 있다.
ex) MongoDB
그러나 요즘엔 Cloud 형태로 제공하는 곳들이많다.
(왜? 유저들이 몰리거나, DB백업, 모니터링 하기에 매우 용이하기 때문에!) 그렇기에 요즘 트렌드는 클라우드이다.
mongoDB Atlas
를 사용 (패키지 pymongo,dnspython을 설치)
pymongo 라이브러리의 역할: 프로그램을 조작하기 위해 특별한 라이브러리가 필요하기 때문!
기본 코드
from pymongo import MongoClient
client = MongoClient('여기에 URL 입력')
db = client.dbsparta
# 저장 - 예시
doc = {'name':'bobby','age':21}
db.users.insert_one(doc)
# 한 개 찾기 - 예시
user = db.users.find_one({'name':'bobby'})
# 여러개 찾기 - 예시 ( _id 값은 제외하고 출력)
all_users = list(db.users.find({},{'_id':False}))
# 바꾸기 - 예시
db.users.update_one({'name':'bobby'},{'$set':{'age':19}})
# 지우기 - 예시
db.users.delete_one({'name':'bobby'})
⁉️ Mac에서 설치가 잘 안 될 경우
1)Q. DB Atlas 사용시,
pymongo.errors.ServerSelectionTimeoutError: ~ [SSL: CERTIFICATE_VERIFY_FAILED]~
를 포함한 에러 메시지가 뜨면서 실행이 되지 않습니다.
A. 에러 메시지
- 사용하고 있는 인터넷 환경에 따라 보안 관련 추가 설정을 해주어야할 때가 있다.
certifi
패키지를 가상환경에 먼저 설치!
패키지 설치하는 방법은 3주차 수업자료 = 05. 파이썬 패키지 설치하기 를 참고.
- 아래 형광펜 칠한 코드 부분을 추가해서 사용. 특히
client = MongoClient
부분 코드 맨 끝에 있는tlsCAFile=ca
를 추가하는 것 기억하기!- 아래 코드에서
내주소
를 실제 내 DB 주소로 바꾸는 것 기억하기!
from pymongo import MongoClient
import certifi
ca = certifi.where()
client = MongoClient('mongodb+srv://test:sparta@cluster0.내주소.mongodb.net/내DB명?retryWrites=true&w=majority', tlsCAFile=ca)
db = client.dbsparta
doc = {
'name':'bob',
'age':27
}
db.users.insert_one(doc)
2) Q. DB Atlas 사용시, DB 접속권한 업데이트하기 - app.py 실행시 DNS 관련한 에러 메시지가 뜨면서 접속이 안됩니다. (예전에는 접속이 되었는데 지금은 DB 접속이 안되어요. AWS 에서는 접속이 안되어요 포함)
A. 이 경우에는 DB 접속 권한이 사라져서 그렇습니다. DB 접속 권한을 업데이트해주면 됩니다.
- 이런 문제가 발생하는 이유는 아래를 참고
- 처음 DB Atlas 세팅시에는 내 컴퓨터에서만 DB에 접속될 수 있게 현재 세팅시 접속된 특정 IP, 즉, 해당 시점의 내 컴퓨터의 네트워크 주소만 접속될 수 있게 자동 세팅됩니다.
그런데 일반적인 컴퓨터 접속환경에서는 이 IP 주소가 유동적으로 변경됩니다. (변경되는 주기는 공유기 세팅마다 다릅니다.) 또 어떤 인터넷을 사용하느냐에 따라서 인터넷이 달라지면-접속환경이 달라지면- IP 주소도 바뀝니다.
즉, 내 컴퓨터 네트워크 주소가 변경되어버리는 것이지요.- 즉, DB에 접근가능하게 등록되어있던 주소와 내 컴퓨터 실제 네트워크 주소가 달라지게 된다. 그러면 이전에 DB 등록 주소를 바꾸어주어야겠지요?
비유하자면, ID 가 0000인 사람만 접속할 수 있게 등록이 되어있는데, 내 ID 가 000에서 다른 것으로 변경되어버리는 것과 똑같다.
- DB Atlas페이지 접속 후, 아래와 같이 들어간다.
- 0.0.0.0/0 을 적은 후, confirm 해서 등록
- 0.0.0.0/0 은 모든 IP 주소라는 뜻이다. 즉, 접속 IP에 상관없이 어디에서나 접근가능하다는 뜻이다.
비밀번호와 user명만으로 접속할 수 있게 되는 것이다.- 참고! 실제 현업에서 DB 를 사용할 때에는 보안상의 이유로 특정 IP 주소로만 접근할 수 있게 해둡니다. 우리는 배우는 과정이니 모든 IP 에서 접근할 수 있게 설정을 바꿔준다.
- ADD CURRENT IP ADDRESS 를 누르면 현재 접속한 IP 주소로 등록시킬 수 있지만, 이건 매번 내 컴퓨터 IP 주소가 바뀔 때마다 설정해줘야한다.
- 0.0.0.0/0 이 등록되고 status 가 Active 가 뜰 때까지 기다리면 된다.
- 그 후에 다시 app.py 를 실행 후에 내가 만든 사이트에 접속해서 제대로 뜨는지 확인해보세요.
- 만약 정상 실행이 안된다면, 이전 설정이 남아있어서 발생하는 문제일 수 있습니다~ 컴퓨터 재부팅하고 프로젝트를 새로 만들어 실행시켜보세요!
- (위 과정으로 해결안되는 사람만!) 똑같이 DNS 관련 오류가 뜬다면?
- 내 인터넷 접속환경과 방화벽 설정에서SRV URI
(예. mongodb+srv: 처럼 srv 방식으로 적힌 URI) 자체를 접속이 되지 않게 막는 경우가 있습니다. 이럴 때는 다른 식으로 적힌 url 주소를 사용하면 됩니다~
1) 아래 접속 화면에서3.4 or later
를 선택해주세요~ 그러면 SRV 가 포함되지 않은 url 주소가 나옵니다
2) password 는sparta
로, myFirstDatabase 는 똑같이 DB 주소로 바꾸어 사용하시면 됩니다!
3) 아래 코드 예시처럼 MongoClient 부분코드에 적으면 된다.
- 아래 예시처럼 적어주면 된다(단, 내 mongodb 주소로 적어줘야 한다!)
client = MongoClient('mongodb://test:sparta@cluster0-shard-00-00.ttp4x.mongodb.net:27017,cluster0-shard-00-01.ttp4x.mongodb.net:27017,cluster0-shard-00-02.ttp4x.mongodb.net:27017/cluster0?ssl=true&replicaSet=atlas-cyee0j-shard-0&authSource=admin&retryWrites=true&w=majority')
Pymongo 코드요약
# 저장 - 예시
doc = {'name':'bobby','age':21}
db.users.insert_one(doc)
# 한 개 찾기 - 예시
user = db.users.find_one({'name':'bobby'})
# 여러개 찾기 - 예시 ( _id 값은 제외하고 출력)
all_users = list(db.users.find({},{'_id':False}))
# 바꾸기 - 예시
db.users.update_one({'name':'bobby'},{'$set':{'age':19}})
# 지우기 - 예시
db.users.delete_one({'name':'bobby'})