[세미나] 모두의 연구소 페이퍼샵: 국제학회에 다녀온 LAB 이야기 (24.07.12.)

💡 본 문서는 '모두의 연구소 페이퍼샵: 국제학회에 다녀온 LAB 이야기' 세미나를 바탕으로 작성한 글이니 참고하시기 바랍니다.

[ 7/12(금) 세미나 안내 ] 
올해 상반기 페이퍼샵 지원을 받고 국제학회에 다녀온 LAB 이야기를 공유하는 시간을 마련했습니다. 
모두의 연구소 강남캠퍼스에서 오프라인으로 진행하고 후원사 브라이언임팩트가 함께 하는 자리입니다. 
연구원님도 오셔서 함께 자리를 빛내주시면 감사하겠습니다. 

🎊 PAPERSHOP WEEK - 페이퍼샵 활동 공유회

✅ 일시: 7/12(금) 19:00
✅ 참여 LAB:
- Artificial Intelligence LAB
- PrompTart LAB
- Drone Video Analysis LAB 
✅ 대상: 
👉 모두의연구소 연구 모임(LAB) 활동에 관심 있는 분
👉 학교 밖, 직장 밖 커뮤니티에서 논문 작성하고 싶은 분
👉 모두의연구소 논문 지원 제도, 페이퍼샵에 관심 있는 분
✅ 신청 링크: https://event-us.kr/m/87179/18705 (07월 11일 19시까지)

브라이언 임팩트 소개

미래교육, 사람을 위한 기술, 소셜임팩트 확산을 목적으로 활동하는 단체입니다. 해당 재단은 카카오 창업주(브라이언)의 개인 재단으로 카카오 임팩트와는 다른 곳입니다.

지원 활동

• 페이퍼샵 with 모두의 연구소: 누구나 AI 소프트웨어 관련 연구를 할 수 있도록 모두의 연구소 페이퍼샵 지원
• 쪼랩: 코딩하는 교사 커뮤니티
• 데이터야놀자: 데이터/AI지식 나눔,  교육 봉사
• 코드포코리아: 시빅해킹으로 사회문제 해결
• 사이드임팩트: 기술로 세상을 바꾸는 프로젝트를 찾습니다.

Artificial Intelligence Lab

Artificial Intelligence LAB : AI가 데이터를 잊어버리게 하는 효과적인 방법

논문명 : Towards Efficient Machine Unlearning with Data Augmentation: Guided Loss-Increasing (GLI) to Prevent the Catastrophic Model Utility Drop
학회명 : CVPR 2024 workshop on FAIR, DATA-EFFICIENT, AND TRUSTED COMPUTER VISION (TCV2)
저자 : 최다솔, 최수라, 이은선, 서진우, 나동빈

• Machine Unlearning: 데이터를 잊자
• Problem Definition: Task-Agnostic Machine Unlearning
  • classification의 성능은 그대로 가져가면서 Unlearning 진행하자
• Dataset: MUFAC(AI 허브 데이터셋 변형), MUCAC(셀러블 데이터셋 변형)
• Evaluation Metrics
  • Classification Accuracy for Model Utility
  • Forgetting Score: MIA Membership Inference Attack
• Method: Guided Loss-Increasing(GLI)

Artificial Intelligence LAB : 인공지능이 모르는 것을 알아내는 새로운 방법: DMR

논문명 : DMR: Disentangling Marginal Representations for Out-of-Distribution Detection
학회명 : CVPR 2024 workshop on VAND 2.0: Visual Anomaly and Novelty Detection (VAND)
저자 : 최다솔, 나동빈

Paper

• Background: Problem of Overconfidence
  • OOD Detection: class에 없는 데이터는 하나의 클래스로 예측되면 안 된다.
• Method: Synthetic OOD data generation - 데이터셋을 만들자. 분포가 먼 데이터로 만들어야 함.

연구 팁

• Input을 늘려라: 다양한 논문 및 선행연구로 Insight 넓히기, 주제는 외부에서도 찾을 수 있다, 동료들에게 적극적으로 배우기
• 일단 쓰자:일단 초안 작성해 보기, 큰 그림 먼저 잡기, 디테일은 나중에, 명확한 데드라인과 목표학회 설정.
• 병렬적 작업 분담: 혼자서 모든 걸 다 할 순 없다, 실험과 writing을 분리, 최종 종합 및 수정은 다 함께.

Q&A

• 정말 많은 Paper를 쓰신 것 같은데 아이디에이션? Kaggle을 통해 해 본 것을 좀 Develop 하여 연구를 성과로 냈음. 분담을 잘할 수 있어서 좋았음. Writing 스타일, 다양한 경험을 공유하면서 서로에게 영향을 줌.
• 개인정보보호법 GDPR에 맞는 연구였나? 각 연구가 평가 방법이 너무 다르며, 이미지 분류에도 합의가 잘 안 되고 있는 상황. 따라서 평가가 잘 안되고 있는 상황.

PromptTart LAB

생성모델의 프롬프트를 타르트의 레시피에 비유. Vision, LLM 도메인에서 파인튜닝 등 활동 진행 중.

Prompt Tart LAB : AI가 그림 그릴 때 생기는 편향을 고쳐주는 방법

논문명 : Inpaint Biases: A Pathway to Accurate and Unbiased Image Generation
학회명 : Conference on Computer Vision and Pattern Recognition 2024 / Fourth Workshop on Ethical Considerations in Creative applications of Computer Vision
저자 : 명지윤, 박지현

Paper

• Background: chain of thought 프롬프트
  • 작은 부분부터 프롬프트를 진행하면서 큰 부분을 잘 생성하도록 진행함.
• Motivation: LLM에게 추천받은 inpainting 프롬프트를 활용해 보자.
• Inpainting Biases Framework: 원하는 그림이 잘 나오지 않았을 때, SAM으로 마스킹을 생성하고 마스킹한 부분을 원하는 것으로 생성할 때까지 진행합니다.

연구 성과를 얻기 위한 노력

• 초기 아이디어를 워크숍 주제에 맞게 적용하기
• 비슷한 연구의 문헌조사와 기존 연구와의 차별점 고안
• 연구 주제에 맞는 실험 결과

Lessons Learned

• Workshop 선정
• 학회의 기능
• 영어의 필요성

후기

모두의 연구소에서는 정말 연구자에게 도움이 되는 활동들을 많이 하는 것 같으며, 정말 관심 있는 사람들이 모여서 활동을 하다 보니 성과도 꾸준히 잘 나오는 것 같다. 이번에는 국제 학회를 지원해 주는 페이퍼샵 활동을 통해 지원받은 3개의 랩에서 'Artificial Intelligence Lab', 'PromptTart Lab', 'DVA Lab'에서 출판한 논문에 대해 소개하고 활동을 통한 경험을 공유하는 자리였다. 나도 현재 'NVIDIA Autonomous Driving Lab'에 참여하여 페이퍼샵에 지원을 받기 위해 노력하는 입장에서 다른 분들이 어떻게 진행했는지 확인해보고 싶었으며, 경험을 들으며 자극받고 열심히 해보고 싶어 참여하게 되었다.

결과적으로 예비 연구자로서 선배 연구자들의 경험을 들을 수 있던 자리였고, Q&A도 정말 활발하게 진행되는 것을 보니 역시 나만 열심히 사는 것은 아니구나를 느낄 수 있었다. 또한 연구를 함에 있어 타깃 하는 학회를 미리 선정하고 이에 맞춰서 연구 개발을 해야 빠르게 실적을 낼 수 있다는 것을 배웠고, 이 외에도 여러 경험을 들으며 향후 연구함에 있어 어떤 식으로 진행하고 싶은지를 구상하게 되었다.

참고

[Blog] CVPR 2024에서 빛난 모두의 연구소 랩의 5가지 AI 연구 성과: https://modulabs.co.kr/blog/cvpr-modulabs/