[6월1일] AI의 수학 난제 돌파에 충격받은 수학계…왜 인간은 실패하고 AI는 성공했나

인공지능이 오랜 시간 풀리지 않았던 복잡한 수학 문제들을 연이어 해결하면서 전문가들을 깜짝 놀라게 하고 있습니다.

한 유명 인공지능 회사는 지난달, 1946년에 제시된 도형 관련 추측을 뒤집는 증명을 새로운 추론 시스템으로 만들어냈다고 밝혔습니다. 바로 다음 날에는 다른 기술 기업도 비슷한 유형의 미해결 문제 여러 개를 자사 모델로 풀어냈다고 발표했습니다.

단순히 답을 찾은 게 아니라 증명 과정까지 만들고 검증을 통과했다는 점이 핵심입니다.

더욱 놀라운 것은 문제 하나당 수백 달러 수준의 계산 비용만 사용했다는 점입니다.

전문가들의 반응이 특별한 이유

일반적으로 수학 전문가들은 과장된 홍보에 매우 비판적입니다. 많은 이들이 인공지능의 수학 분야 혁신 가능성에 회의적인 시각을 가져왔던 것으로 알려져 있습니다.

그러나 이번에는 저명한 학자들이 극찬을 보냈습니다. 1998년 수학계 최고 권위 상을 받은 한 교수는 “이번 해결책이 인공지능 수학에서 획기적인 사건이라는 점은 의심의 여지가 없다”며 “사람이 작성했다면 주저 없이 논문 게재를 추천했을 것”이라고 평가했습니다.

“이전의 어떤 인공지능도 이 정도 수준에 근접하지 못했다”

그는 이미 우리가 새로운 시대에 접어들었으며, 앞으로 인간이 수학 문제 해결에서 기계와 경쟁하기는 매우 어려워질 것이라고 전망했습니다.

왜 인간은 실패하고 기계는 성공했을까

물론 인공지능이 모든 어려운 문제를 해결한 것은 아닙니다. 최상위 난제들은 여전히 남아 있습니다.

하지만 학계가 충격을 받은 이유는 단순히 문제를 풀었다는 사실이 아닙니다. 지금까지 인공지능이 알려진 정답을 찾거나 계산을 수행하는 도구 수준이었다면, 이번에는 완전히 새로운 아이디어를 제시했다는 점이 다릅니다.

특히, 인간 연구자들이 80년 동안 풀지 못한 문제를 어떻게 기계가 해결할 수 있었는지에 대한 분석이 눈길을 끕니다.

첫째, 선입견 없는 접근
인간 연구자들은 원래 제시된 직관을 바탕으로 문제를 바라보고 이를 증명하려 노력했지만, 인공지능은 처음부터 특정 가설이 맞다는 전제를 두지 않았습니다. 증명뿐 아니라 반대 사례 가능성까지 동일한 비중으로 탐색했고, 결국 기존 통념을 깨는 새로운 구조를 발견했습니다.

둘째, 광범위한 지식 연결
현대 학문은 지나치게 세분화되어 있고 전공자는 하나의 분야에 집중하지만, 인공지능은 인간 연구자들이 쉽게 연결하지 못했던 개념들을 외부에서 끌고 올 수 있습니다. 이번 문제도 완전히 다른 두 학문 분야를 종합해 인간이 미처 생각지 못한 연결고리를 찾았기 때문입니다.

셋째, 지치지 않는 탐색
인간은 체력과 집중력의 영향을 받지만, 기계는 24시간 문제에만 집중할 수 있습니다. 문제 해결 과정에 수만 단어에 달하는 추론 기록이 생성되었다고 알려졌습니다. 인간 연구자가 몇 년에 걸쳐 검토할 경우의 수를 며칠 만에 탐색할 수 있는 것입니다.

놀라운 발전 속도

더 주목해야 할 부분은 성능 발전 속도입니다. 두 기업의 모델이 수학 올림피아드 금메달 수준의 문제를 풀었다고 떠들썩했던 것이 바로 1년 전입니다. 당시 한 기업은 “1년 뒤에는 인공지능이 수학 난제를 해결할 것”이라고 예고했는데, 이것이 현실화된 것입니다.

이런 발전은 과거 체스와 바둑에서 기계가 인간을 이긴 것과 차원이 다릅니다.

체스와 바둑은 게임이었지만, 새로운 수학은 결국 물리학과 공학, 컴퓨터 과학 등으로 이어지기 때문입니다. 인공지능이 새로운 개념을 발견하고 연구 방향까지 제안한다면, 물리학과 신약 개발, 재료 공학, 기후 과학 등 거의 모든 분야에 영향을 미칠 수 있습니다.

인간 연구자의 역할은?

물론 이런 문제를 해결하는 능력이 초인적인 지능과 같은 것은 아니며, 당장 과학적인 기적을 일으키는 시대가 찾아온 것도 아닙니다.

인간 연구자가 곧 필요 없어지는 것도 아닙니다. 어떤 문제를 중요하게 볼 것인지, 새로운 발견이 어떤 의미를 갖는지, 연구 결과를 어떻게 활용할 것인지는 여전히 인간의 몫입니다.

지난해부터 주요 연구소들은 ‘인공지능 공동 연구자’라는 개념을 내세워 왔습니다. 사실 그동안은 미래를 위한 슬로건처럼 들렸지만, 이번 사례는 더 이상 홍보 문구만은 아니라는 점을 보여줍니다.

“획기적인 발견의 핵심은 불가능해 보였던 많은 것들을 갑자기 가능하게 만든다는 점입니다. 천재적인 불꽃은 아직 우리가 보지 못했다고 해도 과언이 아닙니다.”