스스로 진화하는 AI 5단계, 지금은 어디까지 왔나

결론부터 말씀드리겠습니다. 중국 연구진이 AI가 스스로를 개선하는 능력을 다섯 단계로 나눈 구분법을 공개했습니다. 연구진은 실험으로 확인된 사례가 많은 단계는 두 번째까지라고 밝혔습니다. 더 높은 단계는 통제된 실험실 환경에 머물러 있고, 핵심 평가 기준은 여전히 사람이 쥐고 있습니다.

"AI가 스스로 발전한다"는 표현은 자주 들리지만 그 안에서 무엇이 실제로 가능한지는 잘 구분되지 않습니다. 이번 글에서는 이 단계 구분이 어떤 내용인지, 그리고 이런 발표를 읽을 때 무엇을 확인하면 좋은지 정리해 보겠습니다.

어떤 연구인가요

상하이교통대학교와 칭화대학교, 바이트댄스, 상하이 AI 연구원 등의 연구자들이 함께 참여한 논문입니다. 현지시간 9월 10일 사전 공개 논문 사이트인 arXiv에 게시됐습니다.

논문 제목은 "The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement"로, 우리말로는 '사람이 만든 마지막 AI: 진정한 재귀적 자기개선을 향하여' 정도로 옮길 수 있습니다.

재귀적 자기개선이 왜 쟁점일까요

재귀적 자기개선은 AI가 자기 자신을 개선하고, 그 개선된 능력으로 다시 자신을 개선하는 순환을 뜻합니다. 이 순환이 실제로 돌기 시작하면 발전 속도가 사람의 개입과 무관하게 빨라질 수 있다는 점 때문에 오래전부터 논의돼 왔습니다.

문제는 이 표현이 너무 넓게 쓰인다는 것입니다. 답변을 한 번 고쳐 쓰는 것도, 스스로 학습 과제를 설계하는 것도 모두 "자기개선"이라고 부르다 보니 논의가 뒤섞입니다. 이번 연구가 제안한 단계 구분은 이 혼선을 정리해 보자는 시도로 볼 수 있습니다.

다섯 단계는 이렇게 나뉩니다

연구진은 기준선이 되는 단계를 따로 두고, 그 위에 다섯 단계를 쌓는 방식으로 정리했습니다. 기준선 단계에서는 AI가 하나의 과제 안에서 결과를 고치기는 하지만, 그 변화가 다음 과제로 이어지지 않습니다. 개선이 축적되지 않는 상태입니다.

단계	핵심 변화	사람의 역할
기준선	과제 안에서만 수정, 축적 없음	전 과정을 설계
1단계	만든 도구가 이후에도 쓰임	개선 대상을 지정
2단계	무엇을 개선할지 스스로 선택	범위와 목표를 설정
3단계	약점을 찾아 학습 과제를 설계	결과를 평가
4단계	실제 사용 환경의 피드백으로 개선	운영을 감독
5단계	개선 방식과 평가 기준까지 수정	역할이 크게 줄어듦

표를 보시면 단계가 올라갈수록 사람이 쥐고 있던 결정이 하나씩 넘어간다는 점이 드러납니다. 특히 마지막 단계에서는 "무엇을 잘한 것으로 볼지"를 정하는 평가 기준까지 대상이 됩니다.

지금은 어디까지 와 있나요

연구진은 AI가 스스로 방식을 골라 개선하는 단계, 즉 두 번째 단계까지는 실험으로 확인된 사례가 많다고 밝혔습니다. 반면 그 위의 단계들은 통제된 실험실 환경에 한정돼 있다고 설명했습니다.

또한 현재 시스템에서는 핵심 평가 기준에 대한 사람의 통제가 유지되고 있다고 덧붙였습니다. 이 부분이 중요합니다. 스스로 무언가를 고치더라도, 무엇이 더 나은 것인지를 판정하는 잣대는 아직 사람이 정하고 있다는 뜻이기 때문입니다.

이 구분이 왜 쓸모가 있을까요

사례 1. 어떤 서비스가 "우리 AI는 스스로 학습합니다"라고 홍보한다고 가정해 보겠습니다. 단계 구분을 알고 있다면 "사용자 피드백을 반영해 프롬프트를 바꾸는 수준인지, 학습 과제를 스스로 만드는 수준인지"를 되물을 수 있습니다. 같은 문장이라도 가리키는 내용이 크게 다릅니다.

사례 2. 반대로 "AI가 곧 스스로를 무한히 개선한다"는 주장을 접했을 때도 기준이 생깁니다. 지금 확인된 것이 어느 단계인지를 물으면 논의가 구체적으로 바뀝니다.

기술 논의가 감정적으로 흐르는 이유 중 하나는 공통의 척도가 없기 때문입니다. 이런 단계 구분은 그 자체로 정답은 아니지만, 대화를 같은 자리에서 시작하게 해 줍니다.

제목이 말하는 '마지막 AI'의 의미

논문 제목에 들어간 '사람이 만든 마지막 AI'라는 표현은 다소 극적으로 들립니다. 이는 사람이 처음부터 끝까지 설계한 마지막 세대라는 뜻으로, 그 이후의 개선은 AI 자신이 맡게 되는 지점을 가리킵니다.

다만 이런 제목은 연구의 내용보다 주장을 앞세우기 쉽습니다. 실제 본문에서 연구진이 확인했다고 밝힌 범위는 두 번째 단계까지이고, 그 위는 앞으로 다뤄야 할 과제로 제시된 부분입니다. 제목과 확인된 결과를 나누어 읽으시는 편이 좋습니다.

기술 발표에서 흔히 생기는 간극입니다. 무엇이 구현됐고 무엇이 전망인지 구분하는 습관을 들이면, 비슷한 소식을 접할 때마다 판단이 훨씬 수월해집니다.

발표를 읽을 때 확인할 것

• 어느 단계까지가 실험으로 확인된 것인지 구분해서 읽으셨나요
• 실험실 환경 결과인지 실제 서비스 환경 결과인지 확인하셨나요
• 성능을 판정한 평가 기준을 누가 정했는지 보셨나요
• 동료 심사를 거친 논문인지, 사전 공개본인지 확인하셨나요
• 연구를 수행한 주체와 이해관계를 함께 고려하셨나요

자주 묻는 질문

Q. arXiv에 올라왔다는 것은 검증된 연구라는 뜻인가요?
arXiv는 연구자들이 논문을 미리 공개하는 사이트입니다. 동료 심사를 거치기 전 단계의 글도 올라오므로, 게시 자체가 검증을 뜻하지는 않습니다.

Q. 2단계라면 이미 상당히 진행된 것 아닌가요?
해석은 갈립니다. 다섯 단계 중 두 번째라는 점에서 초기로 볼 수도 있고, 스스로 개선 대상을 고른다는 점에서 의미 있는 전환으로 볼 수도 있습니다. 연구진도 단계 구분을 결론이 아니라 논의를 위한 제안으로 제시했습니다.

Q. 평가 기준을 사람이 쥐고 있다는 것이 왜 중요한가요?
개선의 방향을 정하는 것이 곧 평가 기준이기 때문입니다. 기준을 사람이 정하는 한, AI의 개선은 사람이 설정한 목표 안에서 이루어집니다.

Q. 이 연구가 당장 제 일상에 영향을 주나요?
직접적인 영향은 크지 않습니다. 다만 AI 서비스의 홍보 문구를 판단하는 기준으로는 바로 쓸 수 있습니다.

정리

• 중국 연구진이 AI의 자기개선 능력을 다섯 단계로 나눈 구분법을 9월 10일 공개했습니다
• 단계가 올라갈수록 개선 대상 선택, 학습 과제 설계, 평가 기준 수정까지 AI로 넘어갑니다
• 실험으로 확인된 사례가 많은 단계는 두 번째까지이고, 그 위는 실험실 환경에 머물러 있습니다
• 핵심 평가 기준에 대한 통제는 여전히 사람에게 있습니다

관련 주제로 프론티어 페이싱이란? AI 개발 속도 조절 논쟁 정리와 GPT-6 아스트라 수능 만점, AGI 도래인가?를 함께 보시면 흐름이 이어집니다. AI가 실제로 일을 수행하는 쪽의 변화는 개인용 AI 에이전트란? 글에서 정리했습니다.

참고: AI타임스 '중국 연구진, 스스로 진화하는 AI 5단계 구분법 공개' (2026.09.15)