컴퓨터 프로그램 계산 결과，1=2？

창의력 쑥쑥 퀴즈

몇 년 전 컴퓨터 운영체제(OS)시장을 석권하고 있는 마이크로소프트가 새로운 윈도우를 내놓은 뒤 단순한 계산기 오류 때문에 전세계의 윈도우 이용자들로부터 불신의 눈초리를 받은 적이 있다. 컴퓨터가 대신하는 수학계산은 프로그램으로 이루어진다. 프로그램은 계산과정을 논리적 단계로 나누어 진행한다. 논리단계가 틀리면 컴퓨터의 계산이 틀리게 나온다. 프로그램을 다음과 같이 짰다. ‘a와 b가 0보다 큰 값일 때 a = b 이면 1 = 2’ 라는 결과가 나왔다. 어떤 단계에서 문제가 생긴 것일까. 프로그램은 완벽한 것 같은데 도대체 어디가 문제일까?

1) a, b > 0 (주어진 조건)

2) a = b (주어진 조건)

3) ab = b2 (같은 값을 양 쪽 항에 곱하기)

4) ab - a2 = b2 - a2 (같은 값을 양쪽 항에서 빼기)

5) a(b-a) = (b+a)(b-a) (인수분해)

6) a = b+a (같은 인수로 나누기)

7) a = a+a (b = a 조건 적용하기)

8) a = 2a (같은 항 더하기)

9) 1 = 2 (같은 인수로 나누기)

문미옥/이화여대 와이즈거점센터(wise.or.kr) 연구교수

(지난주 정답)

두 사각형에서 삼각형을 만드는 모양의 기울기를 자세히 살펴보면 잃어버린 면적을 찾을 수 있다. 왼쪽의 8×8 정사각형에 있는 삼각형의 빗변 AB의 기울기는 3/8 = 0.375이고 마름모의 사변 CD의 기울기는 2/5=0.400이다. 오른쪽의 5×13 직사각형에 있는 삼각형의 빗변 ac의 기울기와 마름모의 사변 cd의 기울기는 모두 5/13 ≒0.385이다. 이 값은 AB의 기울기나 CD의 기울기와 값의 차이가 거의 없어 그림으로 보면 구분하기 힘든 정도의 기울기이다. 왼쪽의 정사각형을 바로 잘라서 직접 오른쪽의 직사각형 위에 올려 보아도 자칫 그 차이를 알아차리기 어려울 수 있다. 그리고 ac와 cd가 이어지는 곳에서 기울기 차이 때문에 어긋남이 생길 수 있다는 것을 알 수 있다. 한 칸의 면적이 사선 ac를 따라서 보이지 않게 숨어 있다. 피보나치 수열의 항이 커질수록 그 차이를 알아차리기가 점점 더 어려워진다. 그러나 수학은 정확해야 한다. 비슷해 보이는 것으로는 부족하다. 속지 않을 수 있는 정확함이 필요하다.