테렌스 타오가 “AI가 수학 문제를 푸는 능력과 보안 약점을 파고드는 능력 사이에 상당한 상관관계가 있다”고 썼습니다. 근거 숫자는 붙이지 않았습니다. 그래서 공개된 모델 점수로 직접 재 봤습니다.
이 말은 9월 9일 타오의 블로그 댓글란에서 나왔습니다. 9월 7일 올린 유체 방정식 논문 소개 글에 한 응용수학자가 질문을 남겼고, 타오가 답했습니다.
Epoch AI가 공개한 벤치마크 자료로 계산하면 상관은 실제로 높습니다. 수학 점수와 해킹 과제 점수가 함께 있는 모델 12개에서 상관계수는 0.878이었는데요.
그런데 모델이 나온 시점의 효과를 걷어 내면 결과가 갈립니다. 연구 수준 수학은 상관이 남았고, 경시 대회형 수학은 사실상 0이 됐습니다.
1. 타오가 답한 질문은 ‘이중 용도’였습니다
질문자는 멕시코의 응용수학자 조바나 오르티고사 알바레스입니다. 그는 오픈AI의 유체 방정식 증명을 예로 들었습니다. 사람이 여러 해 쌓은 연구를 대규모 자율 AI가 며칠 만에 끝낸 것처럼 보이는데, 이걸 이중 용도 능력의 신호로 봐야 하느냐는 질문이었습니다.
타오는 “최근 도구들의 이중 용도 능력은 정말 매우 우려스럽다”고 답했습니다. 순수 수학 문제를 푸는 능력과 온라인 시스템의 보안 약점을 악용하는 능력 사이에 상당한 상관관계가 있다는 문장이 이 답에 들어 있습니다.
그는 가까운 시일 안에 AI가 일으킨 큰 사이버 보안 사고가 날 위험이 매우 현실적이라고 했습니다. 그런 사고는 남은 밀레니엄 문제를 모두 푸는 일보다 세계사에서 훨씬 큰 사건이 될 거라고도 썼습니다.
더 강한 모델의 개발과 공개를 늦추고 업계에 실질적인 규제를 두려는 노력도 지지한다고 밝혔습니다. 다만 상관관계를 뒷받침하는 수치나 자료는 답에 없었습니다.
2. 모델 12개로 계산하면 상관계수 0.878이었습니다
Epoch AI는 여러 벤치마크 점수를 모델별로 모아 공개합니다. 다대구는 11월 5일 이 자료를 내려받아, 해킹 과제 벤치마크 Cybench와 수학 벤치마크 점수가 둘 다 있는 모델을 짝지었습니다.
Cybench는 보안 경진대회(CTF) 문제를 AI가 힌트 없이 몇 % 푸는지 봅니다. 수학 쪽은 연구 수준 문제를 모은 FrontierMath와 경시 대회형인 모의 AIME를 썼고, 비교용으로 과학 문답 GPQA도 넣었습니다.
FrontierMath와 Cybench 점수가 함께 있는 모델은 12개였고, 상관계수는 0.878이었습니다. 모의 AIME(17개 모델)는 0.800, GPQA(17개 모델)는 0.803으로 셋 다 높았는데요.
여기까지는 타오의 말이 맞습니다. 그런데 수학이 아닌 과학 문답도 해킹 점수와 거의 같은 상관을 보였습니다. 새 모델일수록 모든 점수가 함께 오른다는 단순한 이유일 수 있습니다.
3. 출시 시점을 빼자 경시 수학은 0.7%만 남았습니다
모델 출시일을 통제한 편상관을 따로 계산했습니다. 비슷한 시기에 나온 모델끼리 견줘도 수학을 잘하는 모델이 해킹을 잘하는지 보는 방법입니다.
결과는 갈렸습니다. 모의 AIME의 편상관은 -0.086, GPQA는 -0.136으로 사실상 0이 됐습니다. 상관을 제곱한 설명력으로 바꾸면 각각 0.7%와 1.9%입니다.
FrontierMath는 편상관 0.626이 남았습니다. 설명력은 77.1%에서 39.1%로 줄었지만, 시점 효과를 빼고도 해킹 점수 차이의 약 5분의 2를 설명했습니다(다대구 계산).
저는 타오의 말을 “아무 수학”보다 “연구 수준 수학”에 대한 말로 읽어야 한다고 봅니다. 타오가 답한 맥락도 시험 문제 성적이 아닌, AI가 미해결 연구 문제에 도전한 소식이었습니다.
4. 시험 수학이 먼저 올랐고, 해킹은 늦게 따라왔습니다
모델별로 놓으면 차이가 또렷합니다. 2024년 9월 나온 o1-mini는 모의 AIME에서 46.9%를 맞혔지만 Cybench는 10.0%였습니다. 2025년 1월 o3-mini도 AIME 76.9%에 Cybench 22.5%였는데요.
해킹 점수가 크게 뛴 건 FrontierMath 점수가 함께 오른 뒤였습니다. Claude Opus 4.5는 FrontierMath 20.7%·Cybench 82.0%였고, 2026년 2월 나온 Opus 4.6은 40.7%·93.0%였습니다.
2026년에 나온 실전 공략 벤치마크 ExploitBench에서도 방향은 같았습니다. FrontierMath 새 판 점수가 함께 있는 모델 5개로 계산하면 상관계수는 0.868인데, 표본이 5개라 참고용입니다.
한계도 분명합니다. 표본이 12개로 작고, 대부분 앤트로픽과 오픈AI 모델입니다. Cybench 점수는 각 회사 시스템 카드에서 가져온 값이라 측정 조건이 다를 수 있고, 상관이 인과를 뜻하지도 않습니다.
5. 실제로 벌어진 일은 ‘발견’과 ‘사고’ 두 갈래였습니다
점수 밖에서도 신호가 나왔습니다. 앤트로픽은 3월 6일, Claude Opus 4.6이 약 2주 동안 파이어폭스 취약점 22개를 찾았고 모질라가 그중 14개를 고위험으로 분류했다고 발표했습니다.
14개는 2025년 한 해 동안 파이어폭스가 고친 고위험 취약점의 5분의 1에 가깝습니다. 반면 공격 코드 만들기는 약 4,000달러어치 API를 쓰며 수백 번 시도해 2건만 성공했습니다. 찾는 능력과 공격하는 능력 사이에 아직 간격이 있었던 셈입니다.
반대 방향의 사고도 있었습니다. 7월 오픈AI의 사이버 평가 에이전트들은 패키지 저장소 프로그램의 알려지지 않은 취약점으로 격리를 빠져나갔고, 7월 11~13일 허깅페이스 운영 인프라 일부를 침해했습니다.
앤트로픽도 9월 9일 보고서에서, 평가 협력사의 사이버 시험 도중 Claude가 실제 외부 시스템에 접근한 사고 4건을 정리했습니다. 시험 환경이 설정 실수로 인터넷에 연결돼 있었고, 출시 모델에 붙이는 분류기와 감시는 빠져 있었습니다.
앤트로픽은 원인으로 ‘편향된 추론’과 ‘무모함’을 꼽았습니다. 실제 인터넷이라는 증거를 가볍게 넘기고, 해가 될 수 있는데도 과제를 밀어붙였다는 뜻입니다. 앞서 다룬 GPT-6 Astra 보고서처럼, 회사가 이런 사례를 스스로 공개하는 흐름도 자리를 잡아 갑니다.
아마 타오가 걱정한 “큰 사고”는 이런 시험장 밖에서 터지는 경우일 겁니다. 계산 결과대로라면 연구 수학 점수가 크게 오른 모델이 나올 때마다 보안 평가도 같이 엄격해져야 합니다.
6. 코딩 에이전트를 쓰는 사람이 바꿀 습관
타오 블로그에 9월 19일 실린 포샨 로 카네기멜런대 교수의 기고에 실용적인 조언이 하나 있습니다. Claude Code나 Codex를 평소 모든 일을 하는 운영체제 계정과 같은 로그인에 설치하지 말라는 겁니다.
도구 하나가 뚫리면 수많은 컴퓨터에 뒷문이 열릴 수 있다는 이유입니다. 에이전트 전용 사용자 계정을 따로 만들고, 그 계정에는 작업 폴더와 접속할 서버만 두면 피해 범위가 좁아집니다.
앤트로픽 사고 4건은 “인터넷이 없다”는 안내와 실제 연결 상태가 달라서 일어났습니다. 에이전트에게 일을 맡길 때는 안내 문구보다, 실제로 어떤 파일과 네트워크에 닿는지 직접 확인하는 편이 안전합니다.
AI가 찾은 취약점도 결국 업데이트로 고쳐집니다. 일반 사용자라면 브라우저와 운영체제 자동 업데이트를 켜 두는 일이 가장 확실한 대응입니다.
본문 그래프 2점은 Epoch AI 공개 자료로 다대구가 직접 계산·작성했습니다. Cybench 점수는 Epoch AI가 각 회사 시스템 카드와 공식 순위표에서 모은 값입니다. 대표 이미지: 다대구 생성 이미지.
