티스토리 뷰

인공지능이 1만 5천 쪽짜리 수학 증명을 검증했다

 

인공지능이 글을 쓰고 그림을 그리는 건 이제 익숙하죠. 그런데 최근에는 인류가 가장 어렵다고 여기는 분야 중 하나인 '수학'에서도 놀라운 소식이 이어지고 있어요.

이 글에서는 1만 5천 쪽짜리 증명 검증 소식, 컴퓨터 과학 가설 반박 주장, 그리고 수학자들 사이의 기대와 논쟁을 쉽게 정리했어요.

2026년 10월 30일 기준, 회사 발표와 보도 내용을 정리한 글이에요.


1. 인공지능이 1만 5천 쪽짜리 수학 증명을 검증했다

어떤 증명일까?

이번에 검증한 증명은 '유한 단순군 분류 정리'예요. 이름은 어렵지만, 쉽게 말하면 '대칭의 주기율표'라고 할 수 있어요.

화학에서 모든 물질이 원소의 조합으로 이루어지듯, 수학에서 다루는 수많은 '대칭 구조'도 더 이상 쪼갤 수 없는 기본 조각들로 이루어져요. 이 정리는 그 기본 조각이 어떤 종류가 있는지 빠짐없이 정리한 목록이에요.

항목 내용
원래 증명 분량 약 1만 5천 쪽
참여한 수학자 약 100명, 여러 세대에 걸쳐
논문 수 500편 이상
걸린 시간 수십 년

증명이 너무 방대해서 한 사람이 전체를 다 확인하기 어려운 대표적인 증명으로 꼽혀 왔어요.

엑시엄이 한 일

항목 내용
발표일 2026년 10월 27일
결과 증명 전체를 컴퓨터가 한 줄씩 확인할 수 있는 형태로 옮김
분량 약 4,310만 줄
걸린 시간 약 24일
공개 누구나 볼 수 있도록 코드를 공개

여기서 쓰인 도구가 '린'이라는 증명 검증 프로그램이에요. 사람이 쓴 증명은 읽는 사람이 꼼꼼히 따져봐야 하지만, 린으로 옮긴 증명은 컴퓨터가 모든 단계를 기계적으로 확인해요. 한 줄이라도 틀리면 통과하지 못해요.

인공지능은 어떻게 일했을까?

  • 수십 개의 인공지능 에이전트가 팀처럼 나눠서 일했어요. 어려운 부분을 쪼개는 역할, 이미 증명된 내용을 찾는 역할, 증명을 쓰는 역할을 나눴어요.
  • 사람 수학자와 엔지니어가 전체 방향을 잡고 감독했어요.
  • 인공지능도 실수를 했어요. 처음에는 증명되지 않은 가정에 기대는 실수를 해서, 팀이 수만 줄을 지우고 다시 계획을 세웠어요.

오래된 증명의 '틈'도 찾았어요

엑시엄은 기존에 출판된 증명과 다른 점 34곳을 정리했어요. 그중 한 부분에서는 기존 논증의 일부 주장에 반례를 찾아냈어요. 다만 정리 자체가 틀린 건 아니었고, 다른 방법으로 빈틈을 메웠다고 밝혔어요.


2. 수학까지 도전하는 인공지능 최신 소식

30년 가까이 이어진 가설을 반박했다?

같은 주에 또 하나의 큰 소식이 나왔어요. 오픈AI가 인공지능으로 '지수 시간 가설'을 반박했다고 발표했어요. 몇 시간 뒤에는 앤트로픽도 비슷한 반박 결과를 공개했어요.

항목 내용
가설 이름 지수 시간 가설
처음 발표 1999년
내용 특정 종류의 어려운 논리 퍼즐은 아무리 빠른 방법을 써도 변수가 늘수록 시간이 폭발적으로 늘어난다는 가설
주장 인공지능이 이보다 더 빠른 풀이 방법을 찾아냈다

왜 큰일일까?

이 가설은 컴퓨터 과학에서 "어려운 문제는 계속 어렵다"는 믿음을 받쳐 주는 기둥 같은 존재였어요. 많은 연구 논문이 이 가설을 전제로 쓰였기 때문에, 만약 반박이 사실로 확인되면 여러 연구를 다시 살펴봐야 할 수도 있어요.

전문가들은 어떻게 봤을까?

  • 미국의 한 컴퓨터 과학자는 오픈AI 증명의 일부가 "낯설다"며, 학계 전체가 함께 살펴봐야 한다고 말했어요. 그는 학계의 검토 작업을 이끌고 있어요.
  • 다만 이 방법이 가장 좋은 방법은 아닐 것이라는 의견도 냈어요.
  • 암호 보안에 영향이 있는지도 관심사였는데, 오픈AI는 확인 결과 암호 체계를 깨지는 않는다고 꽤 확신한다고 밝혔어요.
  • 앤트로픽의 한 수학자는 오픈AI의 결과가 기존 연구를 바탕으로 했다는 의견을 내기도 했어요.

아직은 "반박했다는 주장" 단계이고, 학계의 검증이 진행 중이에요.


3. 기대와 논쟁: 인공지능이 만든 증명, 믿어도 될까?

왜 '검증'이 이렇게 중요할까?

세계적인 수학자 테렌스 타오는 인공지능이 쓴 증명은 "항상 그럴듯해 보인다"고 경고했어요. 예전에는 글이 정돈돼 있으면 내용도 탄탄할 거라고 믿을 수 있었지만, 인공지능은 틀린 증명도 매끄럽게 쓸 수 있거든요.

수학자 켄 오노는 인공지능이 "자신감으로 밀어붙이는 증명"에 능숙하다고 표현했어요. 확신에 찬 말투에 사람이 쉽게 설득될 수 있다는 뜻이에요.

해결책으로 주목받는 '형식 검증'

그래서 많은 수학자가 린 같은 증명 검증 프로그램을 해결책으로 꼽아요. 컴퓨터가 모든 단계를 확인하면 말투나 자신감에 속을 일이 없기 때문이에요. 이번 엑시엄 사례가 주목받는 이유도 여기에 있어요.

그래도 남은 질문들

질문 내용
독립 검증 엑시엄 대표는 아직 외부에서 증명을 다시 만들어 확인한 곳은 없다고 밝혔어요. 외부 검증을 돕기 위해 자료를 공개하고 있어요.
이해의 문제 컴퓨터가 확인했어도 사람이 이해하지 못하는 증명이라면 어떤 의미가 있을까요?
공로 엑시엄은 이 정리는 여전히 이를 발견하고 증명한 수학자들의 업적이라고 강조했어요.

우리 생활과는 어떤 관련이 있을까?

  • 더 안전한 소프트웨어: 증명 검증 기술은 은행, 항공, 의료 프로그램에 오류가 없는지 확인하는 데도 쓰여요.
  • 암호와 보안: 컴퓨터 과학 가설이 바뀌면 보안 기술에도 영향이 생길 수 있어요.
  • 교육: 인공지능이 어려운 수학을 설명하고 확인해 주는 도구가 될 수 있어요.

자주 묻는 질문

Q. 인공지능이 수학자를 대신하게 되나요?
아직은 아니에요. 이번에도 수학자들이 방향을 잡고 감독했고, 인공지능도 실수를 했어요. 지금은 수학자를 돕는 강력한 조수에 가까워요.

Q. 지수 시간 가설은 이제 틀린 건가요?
아직 단정할 수 없어요. 회사들의 주장이 나온 단계이고, 학계에서 검증하고 있어요.


마무리 요약

  • 엑시엄이 1만 5천 쪽짜리 '대칭의 주기율표' 증명을 인공지능으로 24일 만에 컴퓨터 검증 형태로 옮겼다고 발표했어요.
  • 오픈AI와 앤트로픽은 지수 시간 가설을 반박했다고 주장했고, 학계가 검증 중이에요.
  • 인공지능 증명은 그럴듯해 보여도 틀릴 수 있어서, 컴퓨터로 한 단계씩 확인하는 형식 검증이 핵심 해결책으로 떠올랐어요.

인공지능은 이제 글과 그림을 넘어 수학의 최전선에 도전하고 있어요. 다만 아무리 놀라운 결과라도 "누가, 어떻게 확인했는가"를 함께 살펴보는 습관이 중요해요.

 

문득 구글의 인공지능 '알파고'와 이세돌 9단이 5번에 걸쳐서 바둑대결을 펼쳤던 일이 생각이 나네요. 물론 인공지능이 4승 1패로 승리했지만 그래도 이세돌 9단이 신의 한 수로 승리하면서 사람이 인공지능을 이긴 마지막 승리로 기억되고 있다고 합니다.

요즘 TV 예능 프로그램에서 이세돌 9단을 보았습니다.  인공지능 때문인지는 모르겠지만 아뭏든 예능에서의 설정이 직업을 잃은 이세돌 9단이 이것저것 아르바이트를 하면서 직업을 체험하는 내용이었습니다.

이글에서도 앞으로의 수학자라는 직업이 걱정된다고 쓰여진 내용들은 보면서 수학자뿐만이 아니라 수많은 모든 분야에서 인공지능에게 뒤처지면서 사람들이 자기의 직업에서 밀려나는 일이 먼 일이 아닐 수도 있다는 생각을 다시 한번 해 봅니다.

 

참고 자료: 유나이트에이아이, 엑시엄 4,310만 줄 증명 발표 · 런타임와이어, 엑시엄 대표 "아직 외부 재현 없어" · 테크크런치, 지수 시간 가설 반박 주장의 의미 · 라이브사이언스, 인공지능 증명과 수학자들의 논쟁