AI 안전 논의가 다시 한 번 생물안보 쪽으로 옮겨갔다. The Decoder가 전한 공개 서한에서 Sam Altman, Dario Amodei, Demis Hassabis, Mustafa Suleyman, David Baker, Martin Hellman 등 기술 업계와 과학계 인사들은 미국 의회에 합성 DNA 주문 스크리닝을 법적 의무로 만들라고 요구했다.
이 사안의 무게는 AI가 새 병원체를 만든다는 자극적인 상상보다 현실적인 실행 경로에 있다. 기사에 따르면 AI 시스템은 이미 실험 절차 관련 질문에서 박사급 바이러스학자보다 나은 성능을 보인다. 지식 장벽이 낮아지면, 전문 교육을 받지 않은 사람도 실험의 순서와 조건을 훨씬 쉽게 따라갈 수 있다.
서명자들이 주목한 지점은 합성 DNA 공급망이다. 바이러스가 합성 DNA로 재구성될 수 있다는 사실은 20년 넘게 알려져 있었고, 많은 업체가 이미 주문을 자발적으로 검사한다. 하지만 자발적 검사만으로는 제조사 사이의 빈틈을 막기 어렵다. 그래서 이들은 모든 제조사에 주문 스크리닝과 기록 보관 의무를 적용해 추적 가능성을 확보하자고 주장한다.
이 접근은 AI 안전을 모델 내부의 필터링 문제로만 보지 않는다. AI가 지식을 설명하고, 사람이 물질을 주문하고, 공급망이 그것을 배송하는 전체 경로를 본다. 생물안보에서는 대화창에서 답변을 막는 것만큼이나 실제 재료가 움직이는 지점을 관리하는 일이 중요해진다.
물론 스크리닝은 완전한 해법이 아니다. 해외 공급망, 분할 주문, 합법 연구의 지연 같은 문제가 남는다. 그래도 이번 제안은 비교적 실용적인 안전장치에 가깝다. AI가 과학과 의학의 속도를 높이는 동시에 위험한 실행 장벽도 낮춘다면, 규제는 모델의 말뿐 아니라 제조와 기록의 레이어까지 내려가야 한다.