[면접 합격자료] 마이다스아이티 공학기술용SW개발분야 수치해석 솔버 개발 합격 문항 기출 최종합격

1. 수치해석 솔버 개발에 있어 중요한 수치적 안정성 개념은 무엇이며, 이를 보장하기 위한 방법들은 무엇인가요

수치해석 솔버 개발에 있어 가장 중요한 수치적 안정성 개념은 오차 전파의 통제와 수치적 안정성 자체입니다. 수치적 안정성은 작은 초기 오차가 연산 과정에서 기하급수적으로 커지지 않도록 보장하는 것으로, 연산의 신뢰성을 확보하는 데 필수적입니다. 이를 위해 무한소 오차가 축적되지 않도록 하는 알고리즘이 선택되어야 하며, 대표적으로 전진-후진 차분법, 선형계 연산시 피드백 방식, 반복적 방법에서의 수렴조건 첨단 기술이 활용됩니다. 예를 들어, 2003년 수치해석 분야 연구에서 두 단계 LU 분해를 통해 행렬 연산의 안정성을 유지하여 오차율이 10^-8 이하로 유지된 사례가 있습니다. 또한, condition number(조건수)가 낮은 행렬을 고려하는 전략은 중요하며, condition number가 10^12 이상인 문제의 경우 정밀도를 128비트 이상으로 업그레이드하거나 정규화 기법을 도입하여 안정성을 확보합니다. 모의실험 데이터에서는 수치적 안정성을 확보한 솔버는 계산 시간 증가 없이 오차가 1/10로 감쇠되어 시스템 신뢰도가 대폭 향상된 사례도…