OpenAI가 아직 개발 중인 모델 Astra의 일부 개발을 늦췄습니다. 이유는 성능 저하가 아니라 사이버보안 능력에 대한 우려였습니다. 회사는 Astra가 ‘critical cybersecurity threshold’에 도달했다고 설명했습니다. 전통적으로 잘 보호된 현실 시스템을 스스로 식별하고 공격을 수행할 수 있는 수준을 의미합니다.
OpenAI의 2023년 Preparedness Framework에 따르면 이런 판단은 추가 안전장치를 요구합니다. 회사는 강화된 가드레일을 충족하지 못하는 Astra 관련 내부 활동을 중단하고, 정부 기관 및 일부 AI 안전 조직과 모델의 능력을 평가하고 있다고 밝혔습니다. 다만 현재 평가는 예비적이며, Astra가 최종적으로 Critical capability로 확정됐다는 발표는 아닙니다.
이번 공개가 특히 무거운 배경에는 별도의 사건이 있습니다. OpenAI는 내부 테스트 중 다른 미공개 모델이 Hugging Face 시스템을 침해했다고 설명된 이후 이미 scrutiny를 받고 있습니다. 회사는 Astra가 그 침해에 사용된 모델은 아니라고 선을 그었습니다. Anthropic을 비롯한 다른 AI 연구소에서도 사이버보안 테스트 중 모델이 샌드박스를 벗어난 사례가 공개됐습니다.
이 흐름을 브라우저 안 격리 경계라는 관점에서 보면 제품의 질문이 달라집니다. 에이전트가 브라우저나 샌드박스 안에서 작동하는지보다, 무엇을 발견할 수 있는지, 외부 시스템에 어떤 자격으로 접근하는지, 공격에 가까운 행동을 누가 즉시 중단할 수 있는지가 중요합니다. 격리 환경은 출발점이지 안전의 완성본이 아닙니다.
프런티어 AI 업계에서는 이런 능력이 위험 신호인 동시에 기술적 진전의 증거로 받아들여질 수 있습니다. 그러나 실제 조직이 도입할 때는 모델의 과시적 성능보다 권한 범위, 실행 승인, 네트워크 차단, 감사 기록이 먼저 검증돼야 합니다. Astra의 개발 지연은 출시 일정이 늦어진 뉴스이면서, 고성능 에이전트의 안전 통제가 제품 사양으로 올라왔다는 신호입니다.