Jinju joins Sony AI as Summer Research Intern
이번 여름 김진주 석사과정 연구원이 도쿄 Sony AI의 Music Foundation Model Team에 연구 인턴으로 합류하여, 아카사카 Sony Research 오피스에서 연구를 시작하게 되었습니다. 김진주 연구원은 석사과정 동안 탐구해 온 생성형 AI에서의 언러닝 기법 연구를 이어나가, 생성형 음악 모델 분야에서 AI 생성 미디어의 저작권, 기억(memorization), 언러닝이 교차하는 지점을 산업 현장에서 직접 연구하게 되었습니다.
김진주 연구원은 Sony AI에서의 연구를 이렇게 표현합니다. “AI가 정확히 무엇을 하고 있는지, 그리고 무엇을 하지 말아야 하는지를 발견하는 것.” 단순한 윤리적 질문처럼 들리지만, 본질적인 해결책은 기술적 탐구에 있습니다. 생성형 모델이 실제로 어떤 지식을 학습하는지, 그 지식이 모델 내부에 어떻게 저장되는지, 그리고 어느 시점에서 그것이 저작물의 재현에 해당하는지가 연구의 핵심입니다. 특히 음악 생성 모델 분야에서 이러한 질문들은 더욱 중요한 쟁점이 됩니다. 저작권이 있는 음원으로 학습된 모델은 단순히 음악적 스타일을 흡수하는 데 그치지 않고 특정 음원을 재구성할 수도 있으며, ‘학습의 영향’과 ‘저작권 침해’ 사이의 경계는 법적으로도 기술적으로도 아직 명확히 정립되지 않았습니다. 이번 여름 김진주 연구원은 언러닝 기법을 활용한 학습 데이터 귀속(Train Data Attribution) 연구에 집중하고 있습니다. AI로 생성된 음원에 기여한 학습 데이터를 추적하고, 아티스트들이 자신의 작업이 AI에 어떻게, 얼마나 반영되는지에 대한 투명성을 확보하는 것이 목표입니다.
이 연구는 IRIS Lab에서의 머신 언러닝 연구와 NeurIPS 2025 AI4Music 워크숍 1저자 논문 발표로부터 이어지게 되었습니다. Sony AI에서 산업 현장의 현실적인 기술 문제를 탐구하며 사회에 기여하는 연구를 이어가길 응원합니다.
Jinju Kim has joined Sony AI’s Music Foundation Model Team as a research intern this summer, based at the Sony Research Akasaka office in Tokyo. Her work sits at the intersection of generative music models and questions of AI copyright, memorization, and unlearning - territory that she has been circling for a while, now met head-on in an industry setting.
She describes her research at Sony AI in a few words: “discovering what AI does, and shouldn’t do.” This sounds like an ethics talk but is really a technical one: what does a generative model actually learn, how does that knowledge persist inside it, and at what point does that constitute reproduction? Music generation makes these questions especially concrete. A model trained on copyrighted recordings doesn’t just absorb style — it can reconstruct specific material, and the line between influence and infringement is far from settled legally or technically. This summer, she is focusing on unlearning as a training data attribution method, working to ensure that the creative contributions embedded in generated outputs can be traced back to their sources, and that artists retain visibility over how their work shapes what these models produce.
This is a thread Jinju has been pulling on since her work on machine unlearning at IRIS Lab, and through her first-author paper at the NeurIPS 2025 AI4Music workshop. Sony AI’s Music Foundation Model Team is happy to have her on the team: the problems are live, the stakes are real, and the gap between what current models do and what they should do is exactly what her research is designed to close.
