오늘 아침 AI 뉴스를 보며, 나는 더 똑똑함보다 검증을 생각했다

Summary

한눈에 보기

AI 개발 경쟁의 중심이 모델 하나의 성능에서 도구, 역할, 실행환경을 조율하는 능력으로 옮겨가고 있습니다.
실제 취약점을 찾은 AI 사례를 보면서도 발견보다 재현과 오탐 제거가 더 중요한 일이라고 느꼈습니다.
기술에 대한 장기 기대와 시장 가격을 분리하고, 작은 비용 단위와 사람의 승인 절차부터 설계하려 합니다.

오늘 아침 브리핑을 펼쳤을 때 처음 눈에 들어온 것은 새 모델 이름과 큰 숫자들이었다. 그런데 끝까지 읽고 나서 머리에 남은 것은 의외로 단순했다. 이제 AI 개발에서 중요한 질문은 “어떤 모델이 제일 똑똑한가”보다 “일을 어떻게 나누고, 어디까지 맡기고, 누가 마지막으로 확인할 것인가”에 더 가까워지고 있다는 생각이었다.

솔직히 나도 한동안은 좋은 모델 하나를 잘 고르면 많은 문제가 자연스럽게 풀릴 거라고 생각했다. 오늘은 그 믿음을 조금 고쳐 적게 됐다.

모델보다 일의 구조가 먼저 보였다

OpenAI가 공개한 GPT-5.6에는 도구 호출 과정을 프로그램으로 조정하고 여러 하위 에이전트를 동시에 실행하는 기능이 담겼다. GitHub의 코드리뷰는 저장소의 지침과 실행환경을 더 깊게 읽는 방향으로 가고 있고, Vercel Sandbox는 기존 환경을 포크해 분리된 작업공간을 만드는 흐름을 강화했다.

세 소식은 서로 다른 회사의 제품 이야기지만 내게는 한 문장으로 이어졌다.

AI가 일을 잘하게 만들려면 먼저 일을 잘 나눌 수 있어야 한다.

기획, 구현, 검토를 한 대화 안에서 뒤섞으면 결과가 빨리 나오는 것처럼 보여도 어디서 판단이 틀렸는지 찾기 어렵다. 반대로 역할과 권한, 작업공간이 나뉘어 있으면 조금 느려 보여도 실패 지점을 확인하기 쉽다. 나는 후자가 실제 서비스를 오래 운영하는 방식에 더 가깝다고 본다.

취약점을 찾았다는 소식보다 그 다음 과정이 더 인상적이었다

이더리움 재단의 프로토콜 보안팀은 여러 AI 에이전트를 실제 코드에 투입해 원격 패닉 취약점을 찾은 경험을 공개했다. 발견 자체도 놀라웠지만, 내 눈에는 오탐을 걷어내고 문제를 재현하는 일이 더 크게 보였다.

AI는 의심스러운 지점을 아주 많이 찾아낼 수 있다. 하지만 “이상해 보인다”와 “실제로 반복해서 발생하는 결함이다” 사이에는 긴 거리가 있다. 재현 테스트가 없고, 영향 범위를 설명할 수 없고, 사람이 확인하지 않았다면 그것은 아직 보안 성과라기보다 후보 목록에 가깝다.

그래서 나는 AI 보안 기능을 붙일 때 발견 건수를 목표로 삼고 싶지 않다. 실제로 재현된 문제의 비율, 오탐을 정리하는 데 든 시간, 수정 후 같은 문제가 다시 발생하지 않는지를 더 중요한 지표로 보고 싶다. SBOM과 취약점 스캔도 보고서를 하나 더 만드는 일이 아니라 실제 배포물과 맞아야 의미가 있다.

시장의 급락은 기술 낙관을 버리라는 뜻은 아니었다

한국 증시는 AI와 반도체에 쏠렸던 기대와 레버리지가 한꺼번에 되돌아오며 크게 흔들렸다. 미국 연준은 금리를 동결했고, 한국은행은 기준금리를 2.75%로 인상했다. 암호화폐 역시 기술 뉴스와 별개로 유동성과 금리의 영향을 강하게 받고 있다.

나는 이런 날일수록 기술의 방향과 자산의 가격을 따로 보려고 한다. AI 인프라 수요가 길게 성장할 수 있다는 생각과, 오늘의 주가가 비싸다는 판단은 동시에 성립할 수 있다. 좋은 기술을 발견했다고 해서 그와 관련된 모든 가격이 합리적인 것은 아니다.

서비스를 만드는 입장에서도 마찬가지다. 사용자 수가 늘 것이라는 기대만으로 GPU나 장기 인프라 계약부터 늘리면 시장의 레버리지 투자와 크게 다르지 않다. 모델별 호출 비용, 작업별 실행시간, 실패한 작업의 재시도 비용부터 기록하는 편이 낫다. 나는 거창한 비용 최적화보다 “한 번의 작업에 실제로 얼마가 들었는지 아는 것”부터 시작하려 한다.

HaruSpace에 적용한다면 네 가지부터 시작하고 싶다

오늘 브리핑을 제품 계획으로 옮긴다면 우선순위는 생각보다 소박하다.

모델 이름보다 먼저 공통 작업 형식을 만든다. 입력, 기대 결과, 사용할 수 있는 도구, 완료 조건을 같은 방식으로 기록한다.
프로젝트와 작업마다 실행환경을 분리한다. 장기 비밀키를 복제하지 않고 필요한 순간에 짧은 권한만 건넨다.
역할별 지침을 대화 속 문장으로 흘려보내지 않고 저장소에서 버전 관리한다.
AI가 만든 결과는 테스트, 보안 검사, 코드리뷰와 사람의 승인을 통과한 뒤에만 운영으로 보낸다.

이 구조가 화려해 보이지는 않는다. 하지만 여러 모델과 도구가 빠르게 바뀌는 시기에는 화려한 기능보다 교체 가능한 경계가 더 오래 남는다고 생각한다.

오늘 내가 내린 결론

오늘 뉴스에서는 모델도, 에이전트도, 시장도 모두 빠르게 움직였다. 그 속도를 따라가려다 보면 새 도구를 하나라도 더 붙여야 할 것 같은 조급함이 생긴다. 나는 오히려 반대로 가보려 한다.

도구를 추가하기 전에 역할을 정하고, 역할을 늘리기 전에 실패를 확인할 방법을 만들고, 배포하기 전에 사람이 멈출 수 있는 지점을 남기는 것. 지금 내게는 그것이 가장 현실적인 AI 전략이다.

기술은 더 빨리 움직이겠지만, 책임까지 자동화됐다고 착각하지 않는 팀이 결국 더 멀리 갈 것이라고 믿는다.