Matt Garman CEO 키노트
AWS day2일째, Matt Garman CEO님의 키노트가 있는 날이었다. 참고로 Matt Garman CEO은 올해 7월에 AWS로 부임한 이후 처음으로 갖는 리인벤트 데뷔 발표였기 때문에 평소보다 더 많은 참여자들이 키노트를 듣기 위해 참여하였다. 나 또한 전날 약간의 과음이 있었지만 데뷔발표 현장은 꼭 가고 싶어 일찍 일어났다. (덕분에 숙취의 여파가 ㅠㅠ)
8시에 키노트가 시작되면서 AWS CEO가 입장하자 평소보다 더많은 환호와 응원이 터져나왔다. 이런 글로벌 행사발표는 처음임에도 불구하고 안정적으로 피칭하는 모습에, 얼마나 많은 준비를 하였는지 세삼 느껴졌다.
주요 발표 내용은 다음과 같다.
1) EC2 : P6 인스턴스, Trainium 3세대 인스턴스 출시, Trainium 3세대 Ultra Servers 출시
- 이부분에서 정말 뜬금없이 Apple AI 총괄 부사장이 나오면서 애플에서 사용중인 Apple Intelligent의 원활한 서비스 공급을 위해 신규 인스턴스인 Trainium 3세대 Ultra Servers 사용중이라고 하였다.(애플 형님이 여긴왜…)
2)RDS : Amazon Aurora DSQL, dynamodb global table 출시
이거는 말 그대로 분산처리 및 글로벌용 테이블 관리를 위한 기능이 출시 되었다. 아마존에서 띄운 인공위성의 시간을 기준으로 리전단위로 구성된 글로벌 테이블의 시간을 millisecond 단위의 오차범위로 데이터를 기록하고, 커밋 단위를 빠르게 처리할 수 있도록 별도의 큐잉 서버를 두어 한꺼번에 처리한다고 한다. 이부분에 대해선 AWS CTO이신 워너 보겔스 박사님이 기술적인 원리를 상세하게 설명해주는데, 이부분은 Part3 에서 자세하게 설명하겠다.
3)S3: S3 Table 출시, S3 메타데이터 관리 기능 출시
Iceberg framework 를 활용하여 S3 오브젝트 단위의 테이블을 정의하여 자체적으로 쿼리를 날려 데이터를 얻을 수 있다고 한다.(이제 datalake 구성을 하지 않고 athena만으로 사용이 가능할까…??) 또한, 파일의 메타데이터를 손쉽게 관리할 수 있도록 S3 Metadata 관리 기능을 추가하였다. 이제 파일에 대한 메타데이터를 자동으로 손쉽게 관리할 수 있게 되었다.
4)Bedrock : 자동 유효성 검사 기능 및 멀티 에이전트 조합 기능 출시.
-개인적으로 조금은 놀란 기능이었는데, 기존 bedrock은 프롬프트에 대한 결과를 사람이 수동으로 확인 할 수 밖에 없어 환각현상이 상대적으로 높을 수 밖에 없는데, 이번 신규 기능을 통하여 프롬프트에 대한 결과를 자동으로 유효성 체크를 하여 유효하지 않을 경우 프롬프트를 자동으로 재요청하여 환각현상을 최소화 한다고 하였다. 또한 에이전트 구성이 어려운 고객사를 위해 예시로 제공하는 에이전트들을 여러개 조합하여 사용할 수 있도록 멀티 에이전트 조합 기능을 추가하였다고 한다.
여기까지가 멧가먼 CEO의 발표였고, Amazon 회장이신 Andy Jessy가 무려 3년만에 리인벤트에 컴백하여 깜찍발표를 하였다.
5)Amazon Nova 출시, Amazon Nova fleet/Amazon Nova Canvas 출시
아마존이 칼을 제대로 갈았다. 무려 2년 반동안 생성형 AI 에서 소외받고 조롱받았던 시기를 꾹참고 발표한 내용이었다. 모델단위별로 벤치마크에서 기존 출시된 타사 모델들보다 우수한 성능을 보인다고 하였다. 그리고 해당서비스는 무려 아마존 프라임 라이브 중계 곳곳에 적용되어 사용 중이라고 하였다. 파운데이션 모델 출시도 놀라운데 사용사례까지 발표가 되니 FM업계들이 긴장해야 할만한 충격적인 발표였다.
여기에 더해서 아마존의 장기플랜까지 있다고 하니 바로 speech-to-speech / any-to-any 서비스를 Coming Soon 이라고 발표까지 하였다. 추가적으로 확인해보니 내년에 릴리스가 될것이라는 이야기들이 많았다. 이쯤되면 AWS가 작년애 왜 FM모델이 아닌 레거시 integration인 Bedrock 서비스를 출시 했는지 이해가 되었다.
(우연인지 철저한 전략인지는 모르겠지만, AWS와 아마존이 큰 그림을 그리고 실행한 결과가 이렇게 충격적으로 다가온 것은 처음이었다.)
6) Amazon Q
Andy Jessy가 나가고 Matt Garman CEO가 다시 들어오면서 Amazon Q와 관련대 추가적인 내용을 발표하였는데, 개인적으론 업무 관련해서 검토할만한 부분의 기능들이 있어서 리인벤트가 끝나고 나면 검토해볼 예정이다.
EKS를 활용하여 EBS 대용량 파일 병행 처리
키노트가 끝나고 숙소에서 잠시 휴식을 취한 후, Hands-on 세션을 참여하였다. EBS 대용량 파일들을 EKS를 사용하여 어떻게 병행 처리하는지 실습하는 시간이었다. EKS에 병행 처리를 위한 CSI라이브러리와 Karpenter 기반의 Ray 라이브러리를 조합하여 컨테이너에서도 대용량 파일을 병행 처리할 수 있다는 점에서 효율적이고 연속적인 리소스 운영에 큰 도움이 될 것으로 생각한다.
오늘도 저녁식사는 한식
이렇게 키노트와 Hands-on 세션을 들은 후, 스노우플레이크에서 진행하는 meet행사를 다녀왔다. 사실 이날 AWS의 충격적인 발표보다 한국에서 발생한 큰 이슈로 리인벤트에 참여 중인 한국 사람들이 큰 충격 받았는데, 바로 대통령실에서 계엄령이 발동하고 발동 후 6시간만에 종료된 소식이었다.
미국에서 해당 소식을 접하니 Matt Garman CEO 발표 내용이 한국에서는 묻히게 된점은 아쉬웠으나, 나라가 멍멍이판 5분전이라고 하니 사람들이 많이 걱정하면서 술한잔을 기울이며 나라 걱정을 하였다. 부디 오늘 하루는 무사히 지나가길…
