[면접 합격자료] 마이다스아이티 수치해석 및 최적화 알고리즘 개발 합격 문항 기출 최종합격

1. 수치해석에서 오차의 원인과 이를 최소화하는 방법에 대해 설명하세요.

수치해석에서 오차는 크게 근사오차와 반올림오차로 구분됩니다. 근사오차는 수치적 방법이나 수식을 근사화할 때 발생하며, 예를 들어 미분방정식을 유한차분법으로 풀 때 미소변화량의 크기와 격자 크기에 따라 오차가 달라집니다. 반올림오차는 컴퓨터 연산 시 유한 정밀도 때문에 발생하는데, 예를 들어 64비트 부동소수점 계산 시 15자리 유효숫자를 넘는 수는 오차가 생깁니다. 오차를 최소화하려면 적절한 수치적 기법을 사용해야 합니다. 예를 들어, 치환법이나 가감법 등 안정성이 높은 알고리즘을 선택하거나, 격자 크기를 적절히 조절하여 근사오차를 줄일 수 있습니다. 또한, 반올림오차를 줄이기 위해는 더 높은 정밀도를 사용하는 것이 유효하며, 수치적 안정성을 평가하는 조건수(condition number)를 고려하는 것도 중요합니다. 실제 계산에서는 오차의 누적 가능성을 파악하고, 반복횟수와 수치적 방법의 선택을 최적화함으로써 오차를 최소화하는 과정을 거치며, 이를 통해 수치해석의 신뢰성과 정확도를 높입니다.

2. 선형 방정식의 해를 구하는 대표적인 수치해석 기법을 …