AI 안전은 모델·소프트웨어·국가안보를 잇는다 – 10월 25일 하루 이슈

오늘은 AI 안전과 국가 정책의 경계가 함께 바뀌는 모습을 기록한다. 한 모델 업체는 학습 단계에서 공격 능력을 낮추려 했고, 중국에서는 일부 모델의 해외 공개·라이선스가 등록 절차와 연결됐다. 영국은 바이오보안 연구에 자금을 약속했고, 미국은 기술통제의 범위를 자본 투자까지 넓히려 한다. 나는 회사의 자체 평가와 정부 발표, 아직 제안 단계인 규칙을 구분해서 본다.

1. Moonshot, Kimi의 사이버 공격 능력을 학습 단계에서 낮췄다고 발표

Moonshot AI는 10월 24일 새 모델 Kimi K3.1 Pro를 소개하며 일반 코딩 능력은 유지하고 사이버 공격 능력은 낮추려 했다고 밝혔다. 회사는 학습 데이터와 강화학습 환경에서 사이버 공격 관련 자료를 제외했다고 설명했다. 자체 시험에서 취약점을 찾아 공격하는 점수는 조정하지 않은 비교 모델의 90.5%에서 K3.1 Pro의 81.0%로 낮아졌다. 이 수치는 회사가 공개한 내부 평가이며 독립적으로 검증된 결과는 아니다. 가중치 공개는 11월 4일로 예고됐다. Reuters 보도 재게재

내가 주목하는 변화는 안전장치를 모델 바깥에 두는 것만이 아니라, 학습 과정에서 특정 능력을 줄일 수 있는지 시험했다는 점이다. 공개 가중치 모델은 내려받은 뒤 별도 안전 필터를 제거할 수 있다. 그렇다고 학습 자료를 거르는 일이 공격 능력을 없앤다는 뜻은 아니다. 취약점을 찾아 고치는 능력과 악용하는 능력은 코딩·추론을 상당 부분 공유한다.

개발자는 이 수치를 ‘안전 인증’으로 받아들이기보다 모델별 시험의 출발점으로 보는 편이 낫다. 실제 제품에서는 코드 실행을 격리하고, 비밀키를 에이전트 입력과 분리하며, 네트워크 접근을 필요한 곳으로 제한해야 한다. 모델 자체의 조정과 실행환경의 방어는 서로 대체하지 않는다.

2. 중국, MiniMax 모델의 해외 공개·라이선스에 수출 등록 적용

Reuters에 따르면 MiniMax는 10월 23일 일부 최근·향후 모델의 오픈소스 공개와 해외 라이선스를 위해 중국 상무부의 기술 수출 등록을 마쳤다고 밝혔다. 중국중앙텔레비전(CCTV) 계열 소셜미디어 계정은 앞서 MiniMax와 DeepSeek가 자사 모델의 해외 이용 승인을 받았다고 전했지만, DeepSeek는 Reuters의 확인 요청에 즉시 답하지 않았다. 중국 상무부는 대부분 AI 기술은 계속 자유롭게 수출될 수 있고, 오픈소스 공개와 중국 기업의 해외 자체 컴퓨팅센터 운영에는 절차를 간소화한다고 설명했다. Reuters 보도 재게재

나는 이를 중국 AI가 해외로 나가는 길을 닫았다기보다, 어떤 모델을 어떤 방식으로 공개·허가하는지 등록으로 관리하기 시작한 사례로 본다. 다만 DeepSeek의 승인은 회사 확인이 아니라 CCTV 계열 계정의 발표라는 점을 구분해야 한다. MiniMax가 직접 확인한 사실과 같은 무게로 단정하지 않는다.

개발자와 기업은 오픈웨이트라는 이유만으로 국경 간 사용에 제한이 없다고 가정하지 말아야 한다. 모델별 수출 등록, 라이선스, 해외 호스팅 가능 여부를 확인하고, 제공받은 API와 내려받은 가중치의 사용 조건을 따로 기록할 필요가 있다. 정책은 모델을 얼마나 잘 만드는가뿐 아니라 그 모델을 어디서 누구에게 전달할 수 있는가에도 영향을 주기 시작했다.

3. 영국, AI 바이오보안 연구에 자금 투입

영국 정부는 AI Biosecurity Lab을 설립한다고 10월 24일 발표했다. 정부는 연구소에 1억 파운드를 지원하고 OpenAI와 Anthropic은 합쳐 최대 2억 파운드 상당의 컴퓨팅·모델 접근·기술지원을 약속했다. Reuters는 바이오보안 연구소와 병원체 대응물질 개발 등을 포함해 영국 정부가 약 6억 파운드 규모의 AI 보안 투자를 내놨다고 보도했다. 연구소는 AI로 생물학적 위협을 더 일찍 탐지하고 백신·치료제 등 대응책 연구를 돕는다는 계획이다. 영국 정부 발표, Reuters 보도 재게재

나에게 이 발표는 AI 안전이 모델의 유해한 답변을 막는 문제에서 공중보건과 국가의 대응 능력으로 넓어지고 있음을 보여준다. 다만 발표된 투자액 전체가 한 연구소에 이미 지급된 것은 아니다. 정부 지원, 기업의 약속, 더 넓은 보안 프로그램을 구분해 읽어야 한다.

바이오 연구에서 AI는 질병 탐지와 치료제 탐색을 도울 수 있지만, 같은 생물학 지식이 악용될 우려도 있다. 그래서 접근이 허용된 데이터와 모델, 연구자 권한, 결과물 검토 절차를 한 흐름으로 관리하는 것이 중요해진다. 연구소의 실질적인 가치는 발표액보다 실제 연구와 검증 체계를 얼마나 안전하게 운영하는지에서 드러날 것이다.

4. 미국, 대중국 투자 제한 확대안을 제안하고 중국은 반발

미 재무부는 10월 22일 대외투자 안보 프로그램을 손보는 규칙안을 제시했다. 법에 적힌 반도체, 인공지능, 양자, 고성능 컴퓨팅, 극초음속 분야에 더해 바이오테크놀로지를 규제 범위에 포함하는 내용이다. 이는 최종 확정 규정이 아니라 의견을 받아 검토하는 제안이다. 중국 상무부는 10월 24일 이를 차별적 제한이라며 중단을 요구하고 대응 조치 가능성을 언급했다. 미 재무부 제안, 중국의 반응을 전한 Reuters 재게재

이번 조치는 칩이나 모델이 국경을 넘는 문제뿐 아니라 미국 자본이 우려국의 특정 기술 개발에 참여하는 문제를 다룬다. 그러나 모든 중국 기업에 대한 모든 투자를 금지한다는 뜻은 아니다. 제안의 범위와 예외, 최종 규칙은 의견수렴 뒤 달라질 수 있다.

기업이나 개발팀이 당장 할 일은 발표만 보고 거래를 일괄 중단하는 것이 아니라, 투자·공동연구·모델·데이터·컴퓨팅이 어떤 법인과 관할권 사이를 오가는지 확인하는 것이다. 정책이 확정되기 전부터 이력을 남기면, 규칙이 구체화됐을 때 영향받는 거래를 더 빠르고 정확하게 구분할 수 있다.

오늘의 메모

나는 오늘의 네 소식을 하나의 흐름으로 본다. 학습 단계에서 모델의 능력을 조정하고, 일부 모델의 국경 간 배포를 등록 절차로 관리하며, 바이오보안 연구와 해외 투자 심사에 공공 자원이 개입하기 시작했다. 회사 내부 평가, 기업이 확인한 등록, 정부의 지원 약속, 아직 확정되지 않은 규칙은 증거의 성격이 서로 다르다. AI 안전을 이야기할 때도 그 차이를 지우지 않는 것이 우선이라고 생각한다.

암호화폐·블록체인에서는 새 규제 확정이나 구조적 자금 흐름보다 앞서 다룬 주식 토큰화 후속 이슈가 중심이어서 새 항목을 억지로 보태지 않았다. 투자 관점은 시장구조를 살피기 위한 기록이며 특정 자산의 매수·매도 권고가 아니다.