가짜연구소 공동체의 축제 🎇
행사 등록 페이지: https://devocean.sk.com/events/view.do?id=164
혼자 그리고 함께 여행을 해보신 적 있나요? 여행은 즐거운 추억, 새로운 발견, 기적과 같은 놀라운 순간, 엄청난 노력을 통한 성취 등 큰 의미가 있는 활동이라고 생각해요. 그런데, 홀로 여행했다면, 그것을 아무리 다른 사람들에게 말하더라도 그 감정이 공유되는 데에는 한계가 있어요. 제 소중한 추억, 경험, 그리고 성취가 내 세계 안에서 한계를 갖고 있을 때가 많죠. 함께 여행했다면, 서로 이야기를 나누며 추억하고, 공감하며, 새로운 계획을 또 함계 세울 수도 있죠.
개발자의 성장 여행도 마찬가지라고 생각해요. 홀로 스터디한 것은 인정받기 쉽지 않고, 나의 성장을 다름 사람에게 공감을 이끌어내기도 쉽지 않죠. 가짜연구소에서의 성장은, 함께 그 성취를 누릴 수 있다는 점에 있어요. 함께한 활동들이 모두 공유되기에 활동에 신뢰도 가질 수 있으며, 그 성취를 함께 느끼고, 추억하며, 새로운 성취를 위해 또 함께 나아갈 수 있죠.
공유, 동기부여, 함께하는 즐거움의 가치를 누리고 실현하며 함께 성장해오고 있는 가짜연구소에서 눈에 띄는 활약을 보이신 분들과 가짜연구소 기여하신 분들을 연사로 모시고 컨퍼런스를 진행해요. 위원회, 빌더, 러너, 워커로 가짜연구소에서 함께하신 분들이 함께 만들어온 가짜연구소의 컨퍼런스의 성장을 여러분들의 성취로 느끼세요! 오셔서 여러분들의 삶이 가짜연구소 공동체에 연결됨을 느끼고, 연대와 지지를 통해 성장할 기반을 갖추셔서, 예상치 못한 마법 같은 일들이 펼쳐지기를 바랄게요.
이번 6th PseudoCon에서는 "함께하는 성장 여행"이라는 주제로 가짜연구소에서 혼자서는 도전하기 귀찮거나, 힘들었던 일들을 시작하고, 바쁜 삶과 역경 속에서도 함께 연대하여 전진해 나아가서, 결국에는 목표를 달성하는 이야기를 나눠보고자 합니다. 특히, 홀로 느끼는 성취가 아닌, 함께 성취를 보고 느낄 수 있는 기회가 되었으면 좋겠습니다. 물론 기술적인 내용도 포함해서요!
올 상반기에는 총 20개의 팀, 110여명이 함께 가짜연구소의 가치를 실현해나가고 있습니다. 가짜연구소는 비영리적으로 머신러닝에 관련된 모든 활동들을 장려하고 있습니다. 폭발적인 성장을 이루면서도 사회적으로 의미있는 교육격차를 줄이는 일도 하고 있습니다. 하지만, 그만큼 뒤에서 희생적으로 힘쓰시는 분들이 많아졌습니다. 조직이 비대해지면서 운영의 측면에서 많은 수고가 필요했고, 운영진인 위원회, 커뮤니티 빌더, 아카데믹 빌더분들이 그러한 역할을 해나가고 있습니다. 어떻게하면 사람들이 더욱더 함께 성장함을 즐길 수 있을지 노력하고 있습니다. 많은 응원 부탁드립니다!
가짜연구소는 그저 사람이 많아지고 단체가 유명해지는 공동체가 아니라, 속하고 싶은, 함께 살아가는 공동체를 만들어나갈 수 있도록 노력하겠습니다. 함께 하실거죠?
Present. PsuedoLab
행사 등록 페이지: https://devocean.sk.com/events/view.do?id=164
행사 소개 페이지: https://pseudocon.cargo.site/
가짜연구소 디스코드 커뮤니티: https://discord.gg/EPurkHVtp2
일시: 2023년 5월 20일 (토) 오후 2-6시
장소: SKT SUPEX Hall (300명 수용 가능) / 종로
행사 등록 페이지: https://devocean.sk.com/events/view.do?id=164
※세부적인 순서나 시간 등은 변경될 수 있습니다.
Credit
# Chairs
General Chair: 김찬란
Program Chair: 한수민
Demo & Booth Chair: 이정훈
# Staff
김광일, 김수현, 김찬란, 민예린, 서아름, 안영훈, 이정훈, 정영상, 조상우, 주영민, 한수민
다양한 산업에서의 GPT 활용 사례
마이크로소프트 - 안성진
OpenAI vs Microsoft Azure openAI
API 로 사용할수 있는 방법 microsoft Azure, open AI 2군데서 서비스를 제공하고 있다.
차이점 : openAI(only US) , AzureOpenAI(60개이상의 데이터센터)
Innovation 사례(Cost saving)
- 영어말하기 및 학생들의 수준에 맞춰 챗봇의 제공을 통하여 다양하게 학습하는 사례
- CarMax: 미국중고차 🤗finetune 을 활용하여 80%이상 효과적인 성능
- Trelent: 코드를 통해서 하나의 documentation 을 만든다.
- Thread: it 테크니션의 고객지원요청의 솔루션을 해결하기 위한 사례
- Morgan Stanley: (Question Answering) GPT를 도입하여 사내의 산재되어있는 수천개의 report 를 참고하여 답변해주는 모델
느낀점 : AzureOpenAi가 더 좋은 얘기인 것 같다. 이전 강의에서 들었던 대로 비슷한 느낌이었다. 그러나 cost saving 등 다양한 사례를 통하여 프롬프트 시장이 더욱 더 커지지 않을까 생각한다. 결국은 open innovation 이 많은 기업들이 유니콘이라던지 사회에 영향을 끼치는 기업이 되는 것 같다.
Diffusion 모델이 불러온 새로운 시대
마인즈앤컴퍼니 - 조상우
Generective Model 이란?
x의 분포를 학습시켜서 y를 출력시키는 모델이다.
픽셀하나하나의 고양이 하나자체를 학습하는것이 제네렉모델이다.
- 절대적인 매트릭은 등장하지 않았다고 생각한다
History
VAE → GAN → NeRF | DDPM /DDIM → DALL-E / DALL-E 2 / Stable Diffusion → Midjorney
불과 이 Task 가 2년 밖에 되지 않았다. 미드저니는 현재 버전5까지 추리가 되었고 엄청난 발전
Diffusion model
Porward Process 와 reverse Process 를 활용하여 가우시안 블러로 만들어 다시 리버스 프로세스 하는
원본이미지에비해서 얼마나 노이즈가 학습이되었나?
- 하이퀄리티 샘플
- 패스트 샘플링
- 모드 컨벌지
Stable Diffusion
Text to Image
- input이 꼭 Text 일 필요는 없다.
Text-to-image 응용사례 및 한계점
- Dream Booth
https://github.com/XavierXiao/Dreambooth-Stable-Diffusion
- instructPix2Pix
https://github.com/Klace/stable-diffusion-webui-instruct-pix2pix
한계점 : 아직 손모양에 대한 그림을 잘 그리지 못한다.
느낀점 : 스테이블 디퓨전 대단하지만 아직 멀었다!
New Paradiagram in NLP
Allganize - 이정훈
GPT
NLP 엔지니어 미래? instruction 을 어떻게 줄지 방법을 줄지 트렌드가 바뀌고있다 프롬프트의 사용역량
💡 COT란 방식 : 옵션을 붙혀서 GPT에게 질문을 한다. 결국 얼마나 GPT에게 얼마나 정보를 많이 주어 더 좋은 원할한 답변을 받을 수 있다- Hallucination : 잘못된 답변에 대한 현실적으로 잡기 어려운 문제다. 아직도 고민을 많이하고 있는 단계이다.
LangChain
LLM을 사용하는 보조도구
- openai를 쉽게 쓸 수 있도록 도와주는 도구
- 비 개발자를 위해 쉽게 사용 할 수 있음
- Embeddings 를 쉽게 사용할 수 있다.
느낀점 : llm 모델을 위한 다양한 라이브러리 및 GPT의 프롬프트 엔지니어링이 미래의 AI 엔지니어 역량이다
논문을 통해 알아보는 추천시스템 트렌드
하나투어 - 이경찬
스터디 방법
- 논문을 비교하여 영향력을 비교하면서 모델 셀렉션을 해볼 수 있다
추천시스템의 기본 요소
- 기업들이 고객들을 계속 머무르게 끔 다음 추천을 해주는 방식
추천시스템의 원리
- 협력적으로 동일한 영화의 평점을 매겼기 때문에 해당 영화의 특징(벡터)를 추출 할 수 있다는 것을 의미한다
딥러닝 기반의 추천 모델의 등장(2015~)
- 단순한 내적을 사용하는 것은 성능을 저해할 수 있다는 것이 잘 알려져있다. (내적의 한계)
다층 퍼셉트론을 활용하여 NCF 모델링에 고수준의 비선형성을 부여했습니다.
Sequential Recommendation - 동적선호도 반영(2016~)
- 시퀀스에서 보다 최근의 아이템이 다음 아이템에 더큰 영향을 미친다 → 가까운미래가 중요하다
Transformers는 SASRec, BERT4Rec, BST와 같은 구조에서 순차적 추천에도 적용
- NLP 기술은 추천시스템에 많은 영감을 주었다고 한다
GNN base Recommendation - 그래프구조고차원 연결성
- 그래프 구조를 활용하면 임베딩을 전파하면 유저-아이템의 그래프의 고차원 연결성을 표현력있게 모델링
왜 GNN 인가? 추천시스템의 대부분 데이터가 그래프 구조를 가지고 있다는 점
💡 Neural net → User, Item → Time → Graph 순으로 저자들의 관심이 이동최신 추천모델(feat.Twitter)
- Graph
- Web-scale
- Real-Time
느낀점 : 사실 추천시스템에 대한 도메인지식이 하나도 없는데 트렌드를 알게 되어 좋았다
강화학습을 활용한 산업화 문제 최적기
마키나락스 - 임용섭
마키나락스 강화학습
모니터링 - 탐지 - 예측 - 최적화
- 아직강화학습이 산업현장에 큰 성공을 거둔 사례가 없음
- 탐지, 예측을 도입 AI 도입 시도 및 사례가 생기고 생산성 직접적으로 연결되는 최적화 수요가 증가
- 실적용 관점에서 전통적인 최적화 기법과 비교해서 일반화 빠른 추론등이 있음
- 차량 공조시스템 제어 최적화
느낀점 : 강화학습에 대해 아직 도메인지식이 없어서 그런지 조금은 어려웠다 그러나 이 분야도 공부를 해야하는 느낌을 많이 받긴했다. 레퍼런스를 좀 찾아봐야겠다.
이 후 강의들
여러 강의들이 있었지만 협소한 자리라서 필기까지는 하지를 못했다. 그러나 파이썬이라던지, 3D 자동차 주행관련된 Task 생소하지만 다양한 분야에서 AI를 하는분들이 많구나 생각했고 '하.. 열심히 해야지 계속 생각만하게 되었던것 같다.' 나도 가짜연구소를 이번 기회로 알게되었는데 나와 비슷한 AI를 공부하고 현업에 종사하는 사람들이 같이 논문리뷰 및 관련 스터디 를 하며 발전하고 또 더 나아가 사람들에게 지식을 공유하면서 더욱 가치있는 활동을 하는 비영리 커뮤니티란 것을 알게되고 매력에 푹 빠진것 같다.
네트워킹부스 및 멘토링
네트워킹부스를 하고 싶었으나 SKT T-tower 너무 더웠다.. 그래서 몇번 돌아다니니 땀이 우스스 났다. 행사DEVOCEAN 블로그에 뱃지를 받으면 행사 참여가 되었는데 거기서 3등 경품에 당첨되어 무선충전 장패드를 수령했다. 또 마키나락스에서 주최한 멘토링이 있었기에 가서 USB도 수령했다. 마키나락스 대표님이 아는 형의 같은 회사 동료라서 그 키보드를 지금 내가 쓰고 있는데 그래서 가서 인사를 드렸다. 세상 참 신기한 인연이다. 나도 저렇게 대표님처럼 너드한 엔지니어가 되고싶단 생각도했다.
네트워킹을 해볼까 했는데 아직 명함이 안나와서 그게 좀 아쉬웠다. 프롬프트엔지니어로 명함이 적혀있으면 사람들도 신기해하고 같이 재밌는 얘기를 많이 했을텐데 아쉽다. 다음에 이렇게 꼭 좋은 기회가 있다면 다시 참여해봐야겠다. 이 행사를 주최해준 가짜연구소 및 SKT&후원사 분들께 진심으로 감사드린다.
