<이미지 : 1미터 코너에서 쇼파 옮기는 최대 부피량의 예시>
60년 수학 난제를 31세 한국인이 풀었다...AI가 IMO 금메달 따는 시대, 다음 차례는 '수학의 직관'인가
백진언 박사, '소파 움직이기 문제' 7년 도전 끝에 119쪽 증명 완성...사이언티픽 아메리칸 '2025 10대 수학 혁신' 선정. 한편 AI는 IMO 금메달을 땄다. 인간의 '직관'은 언제까지 버틸 수 있을까2026.02.23
|
[핵심 포인트]
- 백진언 박사(31), 1966년 제시된 '소파 움직이기 문제' 60년 만에 최초 증명 - 7년간 도전, 119쪽 논문으로 '거버의 소파(면적 2.2195)'가 최적임을 입증 - 사이언티픽 아메리칸, '2025년 10대 수학 혁신'으로 선정 - 한편 구글 제미나이·오픈AI, 2025 IMO에서 금메달 수준(35/42점) 달성 - 쟁점: AI의 추론 능력이 인간의 수학적 '직관'까지 대체할 수 있을 것인가 |
1. 누구나 이해하지만, 아무도 풀지 못한 문제
문제는 놀라울 정도로 단순하다. 폭이 1인 복도가 직각(90도)으로 꺾여 있다. 이 복도를 통과시킬 수 있는 가장 넓은 면적의 소파 형태는 무엇인가? 이사해 본 사람이라면 한 번쯤 경험했을, 좁은 복도 모퉁이에서 가구를 돌려보던 그 상황이다.
1966년 캐나다 수학자 레오 모저가 이 문제를 제시했다. 미국 고등학교 수학 교과서에도 실릴 만큼 직관적이고 쉽게 이해할 수 있는 문제였다. 그러나 '이해할 수 있다'는 것과 '풀 수 있다'는 것은 전혀 다른 이야기였다. 60년간 전 세계 수학자들이 도전했지만, 완벽한 증명은 나오지 않았다.
| '소파 움직이기 문제' 60년의 역사 | ||
| 연도 | 인물 | 내용 |
| 1966 | 레오 모저 (캐나다) | 문제 최초 제시: 폭 1인 직각 복도를 통과할 수 있는 최대 면적의 도형은? |
| 1968 | 존 해머슬리 (영국) | 넓이 약 2.2074인 소파 형태 제시 (유선 전화기 모양) |
| 1992 | 조셉 거버 (미국) | 18개 곡선으로 구성된 넓이 2.2195의 '거버의 소파' 발표. 단, 이것이 최적이라는 증명은 없음 |
| 2024 | 백진언 (한국) | 119쪽 논문으로 '거버의 소파보다 더 넓은 소파는 존재할 수 없음'을 최초 증명 |
2. 31세 한국인, 7년의 몽상 끝에 증명을 완성하다
백진언(31) 고등과학원 허준이수학난제연구소 박사. 그는 어린 시절부터 수학 퍼즐에 매료된 아이였다. 수학 올림피아드 대표 선발의 꿈은 이루지 못했지만, 대신 하나의 목표를 세웠다. "몹시 어려운 문제를 꼭 하나 풀겠다." 국가수리과학연구소 전문요원으로 병역을 이수하던 중 소파 문제를 처음 접했고, 미국 미시간대 박사과정을 밟으며 본격적인 도전을 시작했다.
7년이 걸렸다. 기존 연구들이 컴퓨터를 이용해 상한선을 좁혀가는 접근에 주력한 것과 달리, 백 박사는 순수한 논리적 추론으로 거버의 소파가 최적의 모형임을 증명했다. 기존 이론과 연결 짓고, 최적화 문제로 변환하고, 문제에 맞는 새로운 아이디어를 만들어내는 과정이었다. 2024년 말, 연세대 박사후연구원으로 재직하던 29세의 나이에 119쪽의 논문을 아카이브(arXiv)에 발표했다.
|
"평소 몽상가에 가까운데, 내게 수학 연구는 꿈을 꾸는 것과 깨는 것 사이의 반복이다. 희망을 계속 가지면서 깨트리고, 잿더미 속에서 아이디어를 얻으며 더 나아가는 것이다."
— 백진언 박사 |
미국 과학 전문지 '사이언티픽 아메리칸'은 이 연구를 '2025년 10대 수학 혁신' 중 하나로 선정했다. 논문은 수학계 최고 학술지 '수학 연보(Annals of Mathematics)'에 투고되어 동료 수학자들의 검증을 기다리고 있다. 백 박사는 현재 필즈상 수상자 허준이 교수의 이름을 딴 '허준이펠로우'로 선정되어, 최대 10년간 자율적 장기 연구를 이어가고 있다.
KAIST 김재훈 수리과학과 교수는 이 문제의 의미를 이렇게 설명한다. "소파 움직이기 문제는 공간에서 물체가 움직이는 방식에 대한 인간의 이해를 더 발전시켜주는 문제다. 공간을 이해하기 위해 선형대수, 군론, 기하학 등 여러 분야가 발전했는데도 간단해 보이는 문제의 답을 구할 수 없다는 점은 공간에 대한 인간의 이해가 아직 많이 부족하다는 것을 보여준다."
3. 한편 AI는...수학 올림피아드 금메달을 땄다
백 박사가 7년의 고독한 사색으로 난제를 풀어낸 같은 시기, AI의 수학적 추론 능력은 말 그대로 폭발적으로 성장했다. 그 상징적 사건이 2025년 7월 국제수학올림피아드(IMO)에서 벌어졌다.
| AI의 국제수학올림피아드(IMO) 도전 연대기 | |||
| 연도 | AI 모델 | 성적 | 비고 |
| ~2024 이전 | GPT-4o 등 | 6문제 중 13%만 해결 | 메달권 밖 |
| 2024 | 구글 AlphaProof + AlphaGeometry 2 | 4문제 해결, 28/42점 | 은메달 수준 |
| 2025 | 구글 제미나이 딥싱크 / 오픈AI | 5문제 해결, 35/42점 | 금메달 수준 (공식 인증) |
2025년 IMO에서 구글 딥마인드의 '제미나이 딥싱크'는 6문제 중 5문제를 완벽하게 풀어 42점 만점에 35점을 기록했다. 금메달 기준과 정확히 일치하는 점수였다. 오픈AI 역시 비공개 추론 모델로 동일한 점수를 달성했다고 발표했다. IMO 회장은 AI의 풀이에 대해 "명확하고 정밀했으며, 대부분 이해하기 쉬웠다"고 평가했다.
결정적인 변화가 있었다. 2024년까지 AI는 수학 문제를 전용 프로그래밍 언어(Lean)로 번역한 뒤 증명을 생성하는 방식이었고, 풀이에 2~3일이 소요됐다. 그러나 2025년의 제미나이 딥싱크는 문제를 자연어 그대로 이해하고, 인간과 동일한 4.5시간 제한 시간 안에 수학적 증명을 직접 생성했다. 외부 도구도, 인터넷도, 인간의 번역도 없이.
4. 그런데...AI가 소파 문제를 풀 수 있었을까?
여기서 중요한 질문이 생긴다. IMO 금메달을 딴 AI가 백진언 박사의 소파 문제도 풀 수 있었을까? 답은 현재로서는 '아니오'에 가깝다. 이유는 두 문제의 성격이 근본적으로 다르기 때문이다.
| IMO 문제 vs 소파 문제: 무엇이 다른가 | ||
| 항목 | IMO 문제 | 소파 움직이기 문제 |
| 풀이 시간 | 4.5시간 이내 | 7년 (백 박사 기준) |
| 증명 분량 | 수 페이지 | 119쪽 |
| 핵심 역량 | 기존 이론 조합, 패턴 인식, 빠른 논리 전개 | 새로운 접근법 창안, 장기적 직관, 이론 연결 |
| 기존 이론 활용 | 확립된 수학 도구 적용 | 기존 이론과의 연결 자체를 새로 창조 |
| AI 적합성 | 높음 (2025년 금메달 달성) | 현재로선 낮음 |
IMO 문제는 고난이도이지만, 기본적으로 4.5시간 안에 풀리도록 설계된 문제다. 기존 수학 이론의 창의적 조합으로 해결 가능하다. AI의 강점인 '방대한 패턴 학습'과 '병렬 추론'이 효과적으로 작동하는 영역이다. 반면 소파 문제는 "역사적 맥락이 많지 않고, 뒤에 이론이 있는지도 모호한" 문제였다. 백 박사 본인의 말처럼 "기존에 알려진 이론과 연결 짓고, 최적화 문제로 바꾸며, 문제에 맞는 아이디어들을 만들어내야" 했다. 이 과정에는 7년간의 시행착오, 직관적 도약, 그리고 잿더미에서 아이디어를 건져 올리는 인간 고유의 사고력이 필요했다.
5. AI가 아직 넘지 못한 벽: '직관'이라는 이름의 블랙박스
현재 AI의 수학적 추론 방식에는 근본적인 한계가 존재한다. 대형 언어모델(LLM)은 질문을 토큰 단위로 분해한 뒤, 통계적으로 가장 적절한 토큰 배열을 확률적으로 예측해 답변을 생성한다. 아무리 정교해져도 이 방식의 본질은 '패턴 매칭'이다.
|
AI가 '아직' 하지 못하는 것들
새로운 문제 정의: AI는 주어진 문제를 풀 수 있지만, 새로운 수학적 질문을 '발명'하지 못한다 장기적 직관 축적: 7년간 하나의 문제에 몰입하며 얻는 깊은 통찰을 형성할 수 없다 이론 간 비유적 연결: 서로 다른 수학 분야의 이론을 비유적으로 연결하는 창의적 도약이 어렵다 의미의 이해: 수식의 패턴은 인식하지만, 그 수식이 '의미하는 바'를 이해하지 못한다 |
2025년 IMO에서 흥미로운 사례가 있었다. 제미나이 딥싱크가 대학원 수준의 수학 지식이 필요한 문제를 초등학교 수준의 정수론 개념만으로 풀어낸 것이다. 딥마인드 연구원은 이에 대해 "복잡한 수학적 개념 대신 더 단순한 접근으로 문제를 해결한 AI의 방식은 창의적이고 유연한 사고의 가능성을 보여준다"고 평가했다. AI가 인간과는 다른 경로로 '직관'과 비슷한 것을 보이기 시작한 것이다.
그러나 이것이 진정한 직관인지에 대해서는 논쟁이 계속된다. 튜링상 수상자 얀 르쿤은 "현재의 트랜스포머 기반 기술 자체에 명확한 한계가 있으며, 이 한계가 돌파되지 않는 이상 AGI(인공일반지능)는 요원한 일"이라고 말한다. AI는 학습된 데이터를 기반으로 문제를 해결할 뿐, 인간처럼 직관적으로 새로운 개념을 생성하거나 탐구하지 못한다는 지적이다.
6. 인간의 직관은 언제까지 버틸 수 있을까
AI의 발전 속도를 보면 비관적인 전망을 완전히 배제하기 어렵다. 2024년 IMO 은메달에서 2025년 금메달까지, 단 1년 만에 도약이 이루어졌다. 구글 딥마인드는 이미 세계 5대 수학 연구기관과 'AI for Math 이니셔티브'를 출범시켜, AI를 수학 연구의 본격적인 도구로 활용하는 시대를 열고 있다.
낙관론자들은 AI가 수학자의 '동료'가 되리라 본다. 방대한 계산과 패턴 탐색은 AI에게 맡기고, 새로운 질문을 던지고 직관적 도약을 하는 것은 인간의 몫으로 남을 것이라는 시각이다. 실제로 딥마인드는 이번 성과를 "AI와 인간 수학자의 직관이 만나는 전환점"이라고 규정했다.
비관론자들은 좀 더 근본적인 질문을 던진다. 바둑에서 그랬듯, 인간이 '절대 불가능하다'고 생각한 영역에서도 AI가 결국 인간을 추월하지 않았느냐고. 수학적 직관이라는 것도 결국은 뇌의 복잡한 패턴 인식일 수 있고, 충분히 발전한 AI가 그것을 모방하거나 대체하지 못할 이유가 없다고.
|
AI vs 인간 수학, 지금 어디에 있나
AI가 이미 넘어선 영역: 정형화된 경시대회 문제, 패턴 기반 증명, 단기간 고강도 추론 인간이 아직 우위인 영역: 새로운 문제 정의, 장기적 직관 축적, 이론 간 창의적 연결, 의미의 이해 협업이 기대되는 영역: 난제의 부분 탐색, 반례 검증, 대규모 경우의 수 처리, 증명 검증 미지수: AI의 '직관 모방' 가능성, 트랜스포머 이후 차세대 아키텍처의 등장 여부 |
백진언 박사는 말한다. "학계 대부분은 더 깊은 이론 위의 문제를 좋아하는데, 저는 간단하게 이해할 수 있는 문제들이 지금까지도 제일 좋다." 누구나 이해할 수 있지만 아무도 풀지 못한 문제. 그런 문제를 7년간 품고, 꿈꾸고, 깨트리고, 다시 꿈꾸는 과정. 그것이 인간의 수학이고, AI가 아직 흉내 내지 못하는 것이다.
다만 '아직'이라는 단서가 영원히 붙어 있으리라는 보장은 없다. AI가 IMO 문제의 13%만 풀던 시절로부터 금메달까지, 걸린 시간은 고작 1~2년이었다. 60년 수학 난제를 풀어낸 31세 한국인의 업적이 주는 감동은 크다. 그러나 바로 그 감동이 더 의미 있어지려면, 우리는 이 질문을 계속 던져야 한다. 다음 60년 난제는 인간이 풀까, AI가 풀까, 아니면 둘이 함께 풀까.
백 박사 본인이 그 답의 단서를 주었는지도 모른다. "논문 수나, 단기간에 빠르게 성과를 점검하는 것보다 더 긴 호흡을 가지고 어떤 근본적 문제를 푸는지에 대한 종합 평가가 필요하다." AI 시대에 가장 절실한 것은, 어쩌면 '빠른 답'이 아니라 '깊은 질문'을 품는 인간의 능력을 지켜내는 일일지도 모른다.
박예현 기자 ⓒ 2026 깨알소식. All rights reserved.
