AI가 수학을 혁신하다: OpenAI 연구진과의 대화

핵심 요약

• 도달 가능한 결과의 르네상스: GPT 같은 AI 모델은 아이디어를 끝까지 밀어붙이는 데 능하며, 인간이 포기할 만한 문제를 계속 추진함
• 세부사항에 강한 정확성: AI는 엡실론-델타 증명 같은 복잡한 세부 사항을 정확하게 처리하며, 이는 인간 수학자의 주요 난관
• 새로운 시작의 우위: AI는 오염되지 않은 맥락에서 새로운 세션을 시작할 수 있어 잘못된 경로에서 벗어나기 쉬움
• 실제 수학적 추론: 요약된 사고의 흐름을 보면 AI가 단순히 운 좋은 추측이 아닌 전문가처럼 추론하고 있음을 확인할 수 있음
• 인간-AI 협력: 단위 거리 추측부터 소픽 군까지, 최근 10개 문제의 해결은 AI의 체계적 탐색과 인간의 판단이 합쳐진 결과

AI의 수학적 추론 능력: 새로운 가능성

OpenAI의 현직 수학자 마크 실키와 미탑 스와니는 GPT-5가 가져온 변화를 직접 경험했습니다. 미탑 스와니는 폴 에르되시가 제기한 미해결 문제들을 담은 사이트를 정기적으로 확인하곤 했는데, 어떤 문제가 정말 미해결 상태인지 판단하기 어려웠다고 합니다. 그런데 GPT-5에 한 번 입력했더니 5분 만에 관련 문헌을 찾아냈습니다. 친구들과 몇 시간을 고민했던 문제가 "네, 이건 해결 가능합니다. 이렇게 하면 됩니다"라는 답을 얻게 된 것입니다.

이러한 초기 사례들은 단순한 검색 능력을 넘어선 것이었습니다. 지난 1년간 AI의 진전은 광범위한 영역 검색이나 분야 간 연결고리 찾기를 넘어, 실제 수학자와 유사한 깊이 있는 수학적 추론 으로 나아갔습니다.

인간과 AI의 다른 강점들

아이디어 실행에서의 절대적 우위

수학을 하는 사람이라면 누구나 경험합니다. 아이디어가 떠오르면, 엡실론이 델타보다 작은지 확인하고 모든 세부사항을 정확하게 맞춰야 합니다. 인간은 이런 작은 것에서 길을 잃기 쉽지만, AI는 이러한 종류의 논증을 항상 정확히 처리합니다.

문맥 오염으로부터의 자유

인간 수학자가 잘못된 길로 들어서면, 뇌를 재구성하여 처음부터 다시 시작하기가 어렵습니다. 첫 번째 잘못된 아이디어는 다른 작동하지 않는 개념들과 마음속에서 연결되어, 본질적으로 컨텍스트 창을 "오염" 시킵니다. 반면 AI는 새로운 세션을 시작하여 과거의 비생산적인 시도를 효과적으로 지울 수 있습니다. 이는 복잡한 세부사항을 정확하게 파악하는 데 따르는 장벽을 상당히 줄여줍니다.

단위 거리 추측: 신비로운 아이디어의 작동화

"도달 가능한 결과의 르네상스" 의 핵심은 다음과 같습니다. 인간 수학자는 아이디어가 떠오르면 "이게 될까?"라고 생각하다가 몇 시간, 몇 주 후 포기합니다. 반면 GPT는 "좋아, 인간이 이걸 하라고 했으니 그냥 하자"는 식입니다.

단위 거리 추측은 이를 완벽히 보여줍니다. 아이디어 자체는 이전 인간의 시도와 유사할 수 있지만, 핵심적인 어려움은 아이디어를 작동시키는 것 입니다. 실제 수학자가 한 아이디어를 몇 시간, 며칠, 몇 주 동안 시도했는데 안 되어, 나중에 다른 사람이 바로 그 아이디어를 성공적으로 구현했다는 것을 발견하는 것은 드문 일이 아닙니다.

이 문제의 까다로운 세부사항들을 처리하는 과정에서, AI는 여러 경우에 지식을 결합하고 좋은 판단력을 발휘하여 올바른 경로를 찾았습니다. 이는 실제로 수학자처럼 추론하고, 정확한 정보에 기반하여 올바른 결정을 내리며, 탐색 트리를 효과적으로 가지치기 하는 것입니다. 모든 가능성을 시도하는 것이 아니라, 제한된 아이디어 세트를 끈질기게 탐색하여 올바른 해결책에 이르렀습니다.

구 채우기 문제: 고차원의 미스터리

구 채우기(sphere packing) 문제는 간단한 질문에서 시작합니다. D차원에서 반지름이 1인 구를 얼마나 효율적으로 채울 수 있을까요?

• 1차원(선): 단순하며 효율적인 해답이 명확함
• 2차원(평면): 육각형 격자가 최적이지만, 1960년대에야 공식적으로 증명됨
• 3차원(공간): 오렌지를 쌓는 방식이 최적이며, 2000년대 헤일스에 의해 증명됨 (증명이 수백 페이지)
• 8차원, 24차원: 2017년 증명, E8 격자와 리치 격자라는 특별한 격자가 존재

그 외의 차원에서는 정확한 답을 모릅니다. 우리가 아는 것은 오직 5가지 차원뿐입니다.

소픽 군: AI가 찾아낸 반례

소픽(sofic) 군은 유한군으로 근사될 수 있는 군입니다. 오랫동안 수학자들은 모든 군이 소픽일 것 이라고 희망했습니다. 이것이 참이라면 좋은 결과였을 텐데, AI는 비소픽 군(non-sofic group)이 존재한다는 것을 증명했습니다.

놀랍게도, 증명은 단 15페이지 에 불과합니다. 복잡한 양자 복잡성 이론을 필요로 하지 않고 전통적인 군론 내에서 머물렀습니다. 증명 자체는 매우 짧고 거의 조합론적이지만, 매우 섬세합니다. AI는 이전 논문들에서 명확하게 배제할 수 없었던 특정 조합론적 장애물을 극복하는 방법을 찾아내었습니다.

요약된 사고의 흐름: AI 추론의 진정성

OpenAI가 요약된 사고의 흐름을 공개한 이유는 중요합니다. 만약 증명이 생성되는 것만 본다면, 모델이 터무니없는 추측을 하는 것은 아닐까 궁금해할 수밖에 없습니다. 하지만 사고의 흐름을 보면 현실이 다릅니다.

모델은 놀랍도록 인간과 유사한 방식으로 추론하고 있습니다. 마치 동료의 비공식적인 노트를 읽는 것 과 같습니다. 아이디어를 마구 쏟아내고, 시행착오를 반복하며, 실수를 저지른 후 재평가합니다. 이는 단순히 운 좋은 표본이 아닙니다.

수학적 이해와 민주화

지금까지는 증명하는 것이 가장 어려운 과제 였습니다. 어떤 결과를 증명해낸 사람이 자동으로 그것을 아주 잘 이해하고, 다른 사람들에게 설명할 책임을 지게 되었습니다.

그러나 이제는 증명이 더 이상 주요 병목 현상이 아닙니다. 새로운 제약 조건이 작용합니다. AI 모델을 사용하면 복잡한 증명을 이해하려고 할 때, 긴 서론을 읽는 것보다 대략적인 증명 전략을 빠르게 얻을 수 있습니다.

이는 수학의 민주화 를 의미합니다. 수학을 본업으로 삼지 않는 사람도 궁금했던 미스터리들을 배울 수 있게 되고, 수학적 지식이 필요한 작업을 할 때 세계적인 전문가를 찾아다니지 않아도 됩니다. 응용 수학의 발전이 기하급수적으로 빨라질 것으로 예상됩니다.

결론

AI와 수학의 만남은 단순한 자동화가 아닙니다. 이는 도달 가능한 결과의 르네상스 입니다. 지난 몇 년간 "분명히 미해결일 것 같던" 문제들이 답을 얻게 되고 있습니다. 비록 P 대 NP 같은 미스터리는 남아있겠지만, 현재 수학은 무한의 영역에 접어들고 있습니다. 현직 수학자들은 이미 AI를 자신의 작업 흐름에 통합하지 않는 것이 불리할 것임을 인식하고 있으며, 이는 수학이라는 학문 전체의 미래를 재편성할 것으로 보입니다.

---

Original source: Inside OpenAI’s Breakthroughs in Mathematical Reasoning

powered by osmu.app