평소라면 서로 엇갈린 방향으로 움직였을 이름들이 하나의 서한에 나란히 올라있다. Anthropic의 Dario Amodei, OpenAI의 Sam Altman, Microsoft의 Mustafa Suleyman, Google DeepMind의 Demis Hassabis, Meta AI의 Alexandr Wang. 이들이 미 의회에 공개서한을 보낸 이유는 시장 경쟁이나 규제 전략이 아니다 — AI가 바이오무기 개발을 민주화할 수 있다는 공통된 공포다.
서한의 출발점은 합성 DNA·RNA 산업의 현재 구조다. 연구자는 물론 일반인도 온라인으로 특정 유전자 서열을 주문할 수 있다. Twist Bioscience, Ansa Biotechnologies 같은 대형 공급업체들은 이미 자체 스크리닝 시스템을 운영하지만, 이건 자율 규제다. 법적 의무가 없다. 서한은 두 가지 변화를 요구한다: 모든 합성 유전물질 판매자에 의무적 구매 스크리닝 도입, 그리고 초기 검토를 통과한 주문도 나중에 역추적할 수 있도록 상세 기록 보관 의무화.
AI가 이 문제를 새로운 국면으로 끌어올리는 메커니즘은 구체적이다. 지금까지 위험 병원체 서열을 설계하고 조합하려면 전문 연구자급 지식, 고가 장비, 전문 기관 접근권이 필요했다. AI 모델은 이 진입 장벽을 낮춘다 — 서열 설계 단계에서, 그리고 어쩌면 조합 방법론 단계에서도. 서한은 생물학적 위협 외에 화학무기 제조 가능성도 AI의 잠재적 위험으로 명시하고 있다.
이 서한을 조직한 건 기업이 아니라 두 싱크탱크다: Foundation for American Innovation과 Institute for Progress. 테크 CEO 외에도 국가안보 전문가, 정책 연구자, 바이오테크 임원들이 함께 서명했다. 특히 2024년 노벨 화학상 수상자인 Demis Hassabis의 이름이 눈에 띈다 — AI 기반 단백질 구조 예측의 선구자가 AI의 생물학적 오용 가능성을 직접 경고하는 아이러니다. 서한은 스스로를 "이해관계가 충돌하는 이해당사자들의 희귀한 합의"라고 규정하며, 의회의 결단력 있는 대응을 촉구한다. 기술 업계가 자체 기술의 위험을 이렇게 공개적으로, 이렇게 집단적으로 인정한 사례는 많지 않다.