호돌찌의 AI 연구소
article thumbnail

종종 시간이 나면 강연, 세미나 등에 대해서 후기 작성을 남기는 편인데, 이번에 좋은 영상이 있어서 요약 + 공유 차원으로 작성하고자 합니다. 

 

5명이 1년 이상 스터디를 하면서 느낀 점이나 후기, 대회 운영하는 방법과 팁들이 녹아있는 영상입니다. 무엇보다 직장인 분들이 롱런하면서 하나의 대회가 아닌 여러 대회를 오랫동안 Try 하면서 스터디를 하는 모습이 너무나 대단하다고 느꼈습니다. 

 

저도 공모전 매년 1개 대회는 꼭 참여를 하는 편입니다. 이번에는 최근에 사내 사람들과 자연어 스터디를 운영하기로 했는데, 업스테이지 영상이 좋은 것이 많아 강제로 팀원들에게 시청을 권유했습니다. 4개의 섹터별로 발표를 하시는데, 저에게 적용해볼 만한 팁들 및 각 섹터에 대해서 느낀 점을 작성해보도록 하겠습니다. 

 


1. 팀 소개

 

팀 시작하는 배경에 대해서 이야길 하였는데, 장기적으로 대회 참여하면서 실력을 키우는데 집중을 하였다는 점. 그리고 제 입장에서는 무임승차 하는 사람들 때문에 예전에 스트레스를 받았었어서 그런지 여러 명 끼리 공부하면서 협업하는 부분이 즐겁게 할 수 있다는 내용이 공감이 갔습니다. 또한 직장인 분들이 하루에 2시간씩 평일에 투자하는 것은 매우 힘든 일입니다. 체력과 동기를 오랫동안 유지하는 것이 중요하다는 것을 한번 더 느꼈습니다.

 

2. 대회 참여 방법

대회 참여사이클이나 참가할 대회는 어떻게 고르는지는 대다수 사람들이 비슷한 것 같은데, 인상 깊었던 점은 대회 초/중/후반 운영하는 법이 상당히 좋은 팁들이 많았습니다.

국내 대회만 하면 Eval 하는 지표들이 거의 비슷비슷한데, Kaggle은 워낙 Domain Specific 한 요소들이 많고 문제 정의도 희귀하기 때문에 Eval 지표들에 대해 공부를 조금 Depth 있게 하는 것이 중요하다는 것을 배웠습니다. 또한 도메인 지식 관련하여 다들 리서치에 조금 집중하는 모습도 중요하다는 것을 배웠습니다. 

 

모델 구현/학습/평가 부분에 대해서 모듈별로 사람들이 맡는 것이 아닌, End-to-End를 모든 팀원별로 각자 진행한 점이 공감이 갔습니다. 이 부분은 실제 프로젝트 진행하는 부분에서도 나름 해당이 되는데, 사람끼리의 업무가 한쪽에 종속이 되어버리면 시간이 날아가고 대회에 리스크 요소가 생길 수 있다는 점을 집어주었습니다. 또한 커널을 복사해서 진행(Public Kernel Forking)하냐, 아니면 아이디어를 하나 잡아 처음부터 끝까지 하는 방식(Original Thoughts building)에 대해 사람마다 선호하는 방식이 다르다고 하였습니다. 

 

 

역시 대회 막바지에는 국룰이라고 할 수 있는 앙상블 시간인데, Inference Time을 넘기면 대회에서 반영이 안 될 수 있다고 유의할 점에 대해 소개를 해주었습니다. 

 

 

3. 팀 노하우 - 대회 협업 방식

비대면 Zoom을 이용하고, 노션을 통해 팀 작업을 하였다고 하였습니다. 개발 환경은 Kaggle Notebook과 Colab을 이용하였다고 하는데, 도커나 개인 서버/회사 서버 등을 이용하면 캐글에서 대회 공유 커널과 버전이나 환경이 안 맞아 시간을 날릴 수 있다고 이야길 해주었습니다. 

또한 주말에 코드 작성하고 평일에 파라미터 튜닝하는 방식은 특히 좋은 방식인 것 같습니다. 

 

대회에서 유의미한 성적을 올리려면 모델보다 데이터에 많은 집중을 해야하는데, Augumentation에 엄청난 할애를 한 사례를 보았습니다. (역시 AI는 데이터가 처음이자 끝!)

 

 

4. 얻은 것 

 

데이터의 관점과 엔지니어링 관점에 대해 짚어주셨는데, 필자 또한 못느껴본 부분에 대해서 언급을 하는 것을 보니 경험의 부족함을 한번 더 깨우쳤습니다. 

 

 

꾸준함과 높은 목표는 당연한 이야기이지만, 질문과 아이디어 공유 & 배움에 대해 서로 토론하는 문화에 대한 강조를 하였습니다. 

 


이렇게 간단하게 요약하고 보니, 이런 공모전 말고도 다른 사람들과 협업하는 부분과 팀을 이끌어가는 부분에 연계될 수 있다는 점들을 배울 수 있던 것 같습니다. 영상에 나온 부분보면 정말 많이 성장했다는 것을 간접적으로 배울 수 있었습니다. 저 또한 어려운 대회 하나 여러 명이서 시작하고 있는데 많이 배우고 싶네요. 유의미하게 와닿은 것만 짚어서 요약을 하였습니다. 풀 영상은 아래 주소에서 참고하시면 될 것 같습니다.

 

https://youtu.be/Qe8OQ5KALfw


profile

호돌찌의 AI 연구소

@hotorch's AI Labs

포스팅이 도움이 되셨다면 "좋아요❤️" 또는 "구독👍🏻" 해주세요!