[이벤트] W&B/wandb Seoul Meet-up 후기

 AI, machine learning, deep learning을 얕게라도 건드려본 사람이라면 한 번쯤은 들어봤을 그 툴, W&B 에서 서울 밋업을 열었습니다✨

이벤트 신청 후 추첨을 통해 참가 확정, 확정 이후에는 대기자 명단이 있었다고 하니 참가하고 싶으셨던 분이 엄청 많았을 것으로 생각되는데, 저는 다행히도 선택받은 자(?)가 되어 오전에는 버그를 고치고, 오후 반차를 쓰고 선릉으로 달려갔습니다. 

1. W&B? wandb? 완디비? 더블유앤비?

 인트로에서는 가벼운 아이스 브레이킹을 위해 W&B를 어떻게 읽는지에 대한 설문조사 결과를 공개했는데요..

출처 t.ly/8xbGE

 (저를 포함해서) 300명이 넘는 유저가 wan-d-b, 한국어로 "완디비" 라고 읽는다고 합니다. 최근에 진행한 설문조사인 줄 알았는데 찾아보니 2022년도 투표였네요? 

 아무튼 완디비로 읽는 사람이 많지만, 완드비, 완디비, 더블유앤비, 어떻게든 읽어도 괜찮다고 말하는 공식 티셔츠와 함께 W&B 서울 밋업 이벤트가 시작되었습니다. 

 밋업 이벤트에서 제가 제일 기대했던 부분은 W&B를 다른 사람이나 기업들은 어떻게 사용하고 있는지, chatGPT와 더불어 넘쳐나는 기술과 정보의 홍수 속에서 다른 AI 실무자들은 어떻게 일하고 있는지 듣는 것이었는데요. 기대했던 것 그 이상을 들을 수 있어서 굉장히 만족스러웠습니다. 

 세션 시작 전부터 W&B에서 이 행사를 얼마나 세심하게 준비했는지 느낄 수 있었던 포인트 하나는, 발표 내용이 실시간 번역 페이지를 통해 한국어/영어/일본어로 제공되었다는 점입니다. 미국 기업이긴 하지만 아시아 지역 headquarter가 도쿄에 있어 일본어가 가능하신 분들이 많아 글로벌한 밋업을 준비하시느라 고생이 많으셨을 것 같아요🥹 

2. Chris Van Pelt / Cofounder of W&B

 첫 번째 세션은 W&B 공동설립자인 크리스가 소개하는 "weave와 생성 AI를 사용해 AI application 구축하기" 였습니다. 크리스는 웹 개발자이며, 7년 전에 샌프란시스코에서 W&B를 창업했다고 합니다. (tmi. 두 번째 창업이라고 함)

출처 t.ly/tQm64

이 세션에서 Tailwind CSS 를 활용해 웹사이트를 만들고, 만들어진 웹사이트들을 LLM을 통해 평가하며, 그 실험들과 평가 기록들을 W&B weave 기능을 통해 추적 및 평가하는 데모가 소개되었는데, 웹 개발에 대해서는 아무것도 모르는 저도 "할 수 있겠는데?"라는 생각이 들 정도로 꽤 괜찮아 보이는 홈페이지가 뚝딱 만들어지더라고요. 

 소프트웨어 개발의 미래에 대해서도 언급을 했습니다. AI가 아직은 위협보다는 생산성과 효율성을 위한 도구라고 생각한다고 해요. cursor나 copilot 같은 도구들을 활용하면서 재미없는 작업들을 대신하게 만들고, 그 친구들이 잘하는지 못하는지 지켜보는 것이 즐겁다고 했는데 chatGPT 말고 copilot 구독을 시작해 볼까.. 싶은 코멘트였습니다. 

 저는 발표 세션이 모두 끝나고 네트워킹 시간이 시작되자마자 크리스에게 가장 먼저 찾아갔는데요! 명함도 주고받고, 왜 딥러닝의 다양한 분야 중에서 language 에 주목했는지 궁금해서 여쭤봤어요. 덕분에 크리스와 공동 창업자의 커리어에 대한 얘기도 듣고 스몰톡도 할 수 있었습니다. 

3. 김기현 / LG 유플러스

  다음은 DACP - domain adaptive continual pretraining을 활용한 LLM 도메인 특화를 주제로 LG 유플러스 김기현 연구위원이 발표했습니다. 

 customer service, 특히 그중에서도 통신사 데이터에 특화된 LLM 개발을 위해 연구하신 경험과 정량적 평가, 향후 연구에 대해 소개해주셨습니다..만 제가 LLM에 대한 배경 지식이 많지는 않아서 자세한 기술적인 내용보다는 연구 방향 위주로 관심 있게 들었습니다. 

 어떤 연구든 정량적인 분석은 중요하지만 언어 모델들은 특히나 평가에 주관이 들어갈 수밖에 없는 태스크이기 때문에 "정량적 평가를 어떻게 수행했는지?"에 대한 질문이 많았던 것 같아요. 

4. 김승덕 / 야놀자

 다음 세션은 야놀자에서 오신 김승덕 리더입니다. 개인적으로 발표자료가 담백해서 너무 좋았습니다.

 "올해의 한국어 LLM"이라는 Efficient and Effective Vocabulary Expansion, 줄여서 EEVE 모델의 1저자셨던 것을 집에 와서 찾아보고 알았어요. 발표에서는 fine-tuning과 n-shot 러닝의 차이점, 모델 개발의 트렌드, 데이터를 "일단 많이" 모으고 어떻게 그중에서 좋은 것을 걸러낼지, 어떻게 훈련하면 되는지 등등 모델 연구를 하실 때 고려했던 디테일들을 소개해주셨습니다. Data-centric AI가 대세긴 한가보다 하는 생각도 들고. 

 원래 이런 컨퍼런스에 참여하면 ppt를 찍기보다는 발표의 키워드와 같이 떠올린 생각들을 메모해 두는 편인데, "개인적인 잡생각" 슬라이드를 두 장 찍어왔어요. 이번 밋업에서는 같은 회사에 다니는 게 아니면 듣기 힘든, 요런 류의 개인적인 생각들을 자세하게 들을 수 있는 게 좋았던 점들 중 하나였습니다.

 모델을 개발하고 활용하는 사람들이 항상 하는 생각이 아닐까 싶기도 하고, 정답이 있는 문제인가 의문도 듭니다. 세상에 정해진 정답이 있다기보다는 논리와 설득력을 갖춰야 하는 분야이지 않나 하는 생각이 갑자기 들어요. 

5. 전병곤 / FriendliAI

 마지막으로 FriendliAI CEO인 전병곤 대표님 발표였습니다. Generative AI가 넘쳐나는 시대에 저렴한 비용으로, 모델 구축부터 서빙까지 돕는 솔루션을 제공하는 회사라고 합니다. W&B의 아시아 헤드쿼터와는 두 달 전에 만나게 되셨는데, 짧은 시간 안에 프렌들리에이아이의 서비스에 W&B를 연동시키면서 학습 및 배포되는 모델의 성능 추적을 훨씬 더 쉽게 할 수 있어 보여서 시너지가 좋다고 생각했습니다.

 발표를 들으면서 개인적으로는, 미국에서 더 잘되지 않을까 싶었던 사업이라는 생각이 들었어요. 제가 겪은 한국의 사업체는 툴을 구독하는 비용보다 있는 사람이 그 기술을 배우는 게 더 싸게 먹힌다고 생각하는 분위기가 더 강한 것 같아서가 첫 번째 이유고요, (실제로는 그들의 인건비도 절대 저렴하지 않은데도..) 비용적인 이득을 얻기 위해 대규모 데이터셋을 활용해야 하는 태스크도 해외에서 더 수요가 있지 않을까 싶어서가 두 번째 이유였습니다. 

6. 네트워킹 및 후기

 이벤트의 전체적인 구성 및 흐름에 대한 첫인상은 "깔끔함"이었습니다. 참여 인원이 적지 않았는데도 전반적인 진행이 매끄러웠고, 홈페이지에서 자동으로 통역된 스크립트는 이벤트가 끝나고도 다시 읽을 수 있어서 포스팅하기에도 매우 편했습니다..ㅎㅎ

 Chris 가 미국에서 왔고 제가 유창하게 할 줄 아는 언어는 영어뿐이다 보니 저는 그날 말한 시간의 반절 이상은 영어로 했는데, wandb 아시아 headquarter가 도쿄에 있기 때문에 그곳에서 일하는 ML engineer와 일본어로 대화하는 사람들도 꽤 보였습니다. 일단 외국어는 하나라도 잘해두면 손해는 안 보는 것 같아요.

 네트워킹 시간에는 Chris 뿐만 아니라 도쿄에서 일하는 ML engineer, 발표자 분과 같은 회사를 다니셨던 분이나 multimodal data 수집에 관심 있으신 분들까지 엄청 다양한 분과 대화할 수 있었어요. 네트워킹 시간이 어색하거나 약간 조용한 분위기면 말 많이 하기 어려울 수 있겠다 싶었는데, 간식과 주류가 있으니까 분위기가 굉장히 화기애애했던 것 같아요. 한 회사의 CEO 뿐만 아니라 회사에 막 입사했다고 설명해 주신 분들까지 참여하신 분들의 연차도 다양했습니다. 명함을 꽤 많이 가져갔는데 다 쓰고 왔네요?! 

 엔지니어 분께 따로 들은 얘기지만, W&B의 한국 유저 수가 아시아 내에서 굉장히 높은 비율을 차지하고 있다고 해요. 아무래도 효율성을 추구하고 그 와중에 미적으로 예쁘기까지 하니 무료로 쓸 수 있는 학생이라면 안 쓸 이유가 없을 것 같습니다! 

 전반적으로 퀄리티가 좋아서 평일 저녁 늦게까지 진행되었음에도 엄청나게 인기 있었던 이유가 피부로 느껴졌던 행사였습니다. 좋은 경험을 하게 해 주신 W&B 관계자 분들께 감사의 말씀을 드리고, 다음번 밋업도 참여할 수 있었으면 좋겠습니다 ❣️