성균관대학교 인공지능대학원 인공지능학과 혁신적 지능시스템 연구계획서

성균관대학교 인공지능대학원 인공지능학과 혁신적 지능시스템 연구계획서 1. 연구 배경 및 목표 저는 석사과정 동안 딥러닝 기반 자연어 처리 분야에 집중하여 연구를 수행하고자 합니다. 특히, 최근 급속도로 발전하고 있는 대규모 언어 모델(LLM)의 한계점을 극복하고 실제 응용 분야에 효과적으로 적용할 수 있는 새로운 기술들을 연구하는 데 흥미를 느낍니다. 기존의 LLM들은 막대한 양의 데이터를 학습하여 높은 성능을 보이지만, 설명 가능성이 부족하고, 특정 상황에 대한 적응력이 떨어지며, 환경 변화에 취약한 단점을 가지고 있습니다. 이러한 문제점들을 해결하기 위해, 저는 몇 가지 구체적인 연구 방향을 설정했습니다. 첫째, LLM의 설명 가능성을 향상시키는 연구를 진행할 계획입니다. 현재 LLM의 의사결정 과정은 블랙박스와 같아서, 결과에 대한 신뢰도를 평가하기 어렵고, 오류 발생 시 원인을 분석하기 어려운 문제가 있습니다. 이를 해결하기 위해, 저는 LLM의 내부 메커니즘을 분석하고, 의사결정 과정을 시각화하는 기술을 연구할 것입니다. 특히, attention mechanism과 같은 LLM의 핵심 구성 요소에 대한 분석을 통해, 모델의 동작 원리를 이해하고, 예측 결과에 대한 신뢰도를 정량적으로 평가하는 방법을 개발하고자 합니다. 이를 위해, 최신 딥러닝 모델의 해석 가능성 연구에 대한 논문들을 깊이 있게 검토하고, 적절한 시각화 기법들을 활용하여 LLM의 내부 동작을 명확하게 보여줄 수 있는 시스템을 구축할 것입니다. 지난 학부 졸업 논문 연구에서 다룬 텍스트 분류 모델의 해석 가능성 연구 경험이 이 연구에 큰 도움이 될 것이라고 생각합니다. 그 당시 저는 LIME과 SHAP와 같은 기존의 해석 가능성 기법들을 적용해 보았고, 그 한계를 경험했습니다. 이러한 경험을 바탕으로, LLM의 복잡성을 고려한 새로운 해석 가능성 기법을 개발하는 데 집중할 것입니다. 둘째, 소량의 데이터로도 높은 성능을 달성할 …
둘째, 소…