Hugging Face의 🤗 Kernels 업데이트에서 가장 큰 변화는 “kernel”이 Hub의 새로운 repository type이 됐다는 점이다. 커스텀 커널은 이제 단순히 모델 저장소 안에 따라붙는 코드 조각이 아니라, accelerator, 운영체제, backend version 같은 실행 조건을 드러내는 별도 배포 단위가 된다. 예시로 언급된 kernels-community/flash-attn3처럼, 사용자는 커널 페이지에서 호환성을 확인하고 Hub에서 커널을 탐색할 수 있다.
이 변화가 중요한 이유는 커널의 성격 때문이다. 커널은 성능을 위해 네이티브 코드를 실행하며, 로드되는 순간 Python 프로세스와 같은 권한을 갖는다. 잘 만든 커널은 inference와 training의 병목을 크게 줄일 수 있지만, 악성 커널은 그대로 시스템 위험이 된다. Hugging Face가 이번 업데이트에서 trusted publisher를 기본값으로 둔 것도 이 때문이다. 신뢰되지 않은 publisher의 커널은 trust_remote_code=True를 명시해야만 로드된다.
보안 레이어는 여기서 끝나지 않는다. kernel-builder는 Sigstore cosign 기반 kernel signing을 지원하고, kernels verify-signature 명령으로 서명을 검증할 수 있다. 또한 Nix를 활용한 hermetic build와 sandboxed evaluation, 커널 내부 source Git SHA1 embedding을 통해 재현성과 provenance를 강화한다. 다만 로딩 시 자동 서명 검증은 아직 전면 적용되지 않았다. 기능은 준비됐지만 실제 로딩 경로에 넣기 전 더 테스트하겠다는 단계다.
개발자 경험도 재정리됐다. kernels는 커널을 로드하고 사용할 준비를 하는 라이브러리로, kernel-builder는 빌드를 담당하는 도구로 역할이 분리됐다. Torch Stable ABI 지원으로 특정 Torch 버전 이후 약 2년 범위의 호환성을 기대할 수 있고, Apache TVM FFI 지원을 통해 PyTorch, JAX, CuPy 등 여러 프레임워크와의 상호운용도 넓힌다.
장기적으로 더 흥미로운 지점은 agentic kernel development다. Hugging Face는 에이전트가 커널을 스캐폴딩하고, 재현 가능한 방식으로 빌드하고, HF Jobs를 통해 여러 하드웨어에서 벤치마크한 뒤, baseline 대비 성능을 보고 다시 최적화하는 루프를 상정한다. 성능 경쟁이 모델 아키텍처 밖의 커널, ABI, 빌드, 하드웨어 검증 레이어로 내려가고 있다는 신호다.