OpenAI가 8월 2일 공식 블로그를 통해 수학과 이론 컴퓨터 과학의 오래된 공개 문제 10개에서 새 결과를 얻었다고 발표했다. 회사에 따르면 이 결과들은 모두 최소 10년 이상, 대부분은 그보다 훨씬 오래 핵심 진전이 없던 문제들이며, 고차원 기하학·부호 이론·산술 회로 복잡도·군론·작용소 대수·양자 복잡도·격자 암호·극단 조합론에 걸쳐 있다. 회사는 지난 5월 미공개 모델을 평가하던 중 Erdős 단위거리 추측을 반증하는 결과를 낸 적이 있는데, 이번 발표는 그 뒤를 잇는 두 번째 사례다.
이번 10개 결과는 OpenAI의 차기 주요 모델인 Astra의 내부 버전이 만들어 냈다. 회사는 이 논증들을 찾는 데 든 토큰 총량이 Sol API 요금 기준으로 약 2,000달러에 해당한다고 밝혔다. 이후 사람이 같은 모델의 도움을 받아 이 논증들을 하나씩 정식 원고(manuscript)로 정리했고, 모델이 각 논증을 Lean 증명 보조기 형식으로 다시 검증해 GitHub 저장소 openai/ten-proofs에 인증서를 공개했다. 문제별 모델의 사고 과정 서술도 함께 내놓았다.
어떤 문제들이 풀렸나
목록 중 가장 폭넓은 관심을 받을 만한 결과는 산술 회로 복잡도 쪽이다. 회사는 permanent(순열식) 계산에 대한 새 하한을 제시했는데, 그중 산술식(arithmetic formula) 하한은 n의 4제곱을 log n으로 나눈 차수(n⁴/log n)에 이른다. 이는 계산 복잡도 이론에서 오래 다뤄진 문제다. 군론에서는 비소픽(non-sofic) 군의 존재를 보이는 구성법을 내놓았는데, 이는 군론의 중심 공개 질문 중 하나였다. 작용소 대수 쪽에서는 특정 군이 자신이 생성하는 폰 노이만 대수만으로 유일하게 결정된다는 Connes의 강직성 추측을 반증했다.
암호학과 맞닿은 결과도 있다. 최근접 벡터 문제(closest vector problem)에 대해 다항 인자(polynomial-factor) 수준의 근사 난이도를 증명했는데, 이 문제는 격자 기반 후양자 암호의 기초가 되는 질문이다. 순수 조합론에서는 다색 삼각형 램지 수에 대한 초지수적(superexponential) 하한을 제시해 Erdős가 제기한 미해결 문제 목록의 183번을 풀었고, 극단 그래프 이론에서는 같은 목록의 146번과 180번(compactness·degeneracy 추측)을 함께 해결했다고 밝혔다.
결과 검증과 저작권 표기를 어떻게 다뤘나
OpenAI는 이번 발표에서 결과의 신뢰성 못지않게 "누가 이 결과를 만들었다고 말할 것인가"라는 질문에 상당한 비중을 뒀다. 회사는 AI가 만든 증명에 사람의 이름을 저자로 올리는 것은 시스템의 기여도 사람의 지적 작업도 모두 왜곡한다고 밝히며, 원고 준비와 Lean 형식화는 사람이 도왔지만 수학적 논증 자체는 시스템이 생성했다고 구분해 설명했다. 그러면서 증명의 정확성에 대한 책임은 회사가 진다고 명시했다.
이 표현은 AI와 수학 연구의 관계에 대해 우려를 제기해 온 학계 인사들, 특히 올해 나온 "라이덴 선언(Leiden declaration on AI and Mathematics)" 서명자들을 겨냥한 것으로 보인다. OpenAI는 이 선언 서명자들의 우려를 존중한다고 언급하면서도, 형식 검증을 통과한 증명 자체는 공개해 수학계가 직접 검토하고 후속 연구로 이어가길 바란다는 입장을 밝혔다.
지난 5월 반증이 이미 낳은 후속 연구들
OpenAI가 이번 발표에서 강조한 대목 중 하나는, 5월에 나온 Erdős 단위거리 추측 반증이 이미 여러 편의 후속 논문을 촉발했다는 점이다. 회사가 각주에 직접 인용한 논문은 다섯 편으로, Bloom·Sawin·Schildkraut·Zhelezov의 "실수에서 합·곱 추측은 거짓임을 보이는 논문", Pohoata의 소수 분할과 Elekes–Rónyai 문제에 관한 논문, Saha·Xu·Ye의 최원거리 쌍 계산 시간 하한 논문, Goh·Hatami의 점·직선 교차 통신 복잡도 논문, Lee·Pohoata·Zhu의 민코프스키 격자 반복 거리 논문이다. 모두 5월 결과가 나온 지 한두 달 안에 arXiv에 올라온 연구들이다. AI가 낸 첫 반증 사례가 실제로 수학계의 추가 작업을 견인했다는 근거로, 이번 10개 결과에 대해서도 비슷한 후속 흐름을 기대하는 근거로 제시한 셈이다.
이와 함께 OpenAI는 100,000명의 과학자·수학자에게 최상위 ChatGPT 모델을 무료로 제공하는 ChatGPT for Academic Researchers 프로그램도 함께 언급하며, 이번 결과 공개를 연구 도구 접근성 확대라는 더 큰 맥락 안에 놓았다. 모델 개발 과정에서 공개된 연구 문제로 평가를 진행하는 관행 자체도 계속하겠다고 밝혔다.
출처: OpenAI, "Ten advances in mathematics and theoretical computer science"