Signal 사장 메러디스 휘태커의 발언은 AI 챗봇을 둘러싼 가장 불편한 지점을 정확히 찌른다. 그녀는 ChatGPT나 Claude 같은 챗봇을 두고 “친구도, 의식 있는 존재도, 감각을 가진 대화 상대도 아니다”라고 말했다. 이 문장은 감정적인 비판처럼 들리지만, 실제로는 프라이버시와 제품 설계의 문제를 향하고 있다.
휘태커가 AI 도구 사용 자체를 전면 부정하는 것은 아니다. 그녀는 문서 포맷을 정리하는 정도로는 AI를 쓴다고 밝혔다. 다만 질문을 던지고, 생각을 전개하고, 글을 써 내려가는 과정은 맡기지 않는다고 선을 그었다. 이유는 분명하다. 시스템이 이미 존재하는 것들의 평균으로 응답할 때, 사용자의 사고 과정이 그 평균값에 의해 가려질 수 있다는 것이다.
더 중요한 장면은 Microsoft Copilot을 둘러싼 예시에서 나온다. Microsoft AI CEO 무스타파 술레이만은 Copilot이 크리스마스 쇼핑을 대신 처리할 수 있는 미래를 말했다. 가족 단체 채팅을 보고, 누가 무엇을 원하는지 파악하고, 선물을 사고, 필요한 메시지를 보내는 식이다. 기능 설명만 보면 편리한 개인 비서처럼 보인다.
하지만 그 편의를 가능하게 하려면 AI는 가족 채팅, 신용카드, 브라우저, Signal 같은 메신저, 집 주소, 캘린더에 접근해야 한다. 사용자를 대신해 형제자매에게 메시지를 보낼 권한도 필요하다. 휘태커가 이 구성을 Signal 맥락에서 백도어에 가깝다고 본 이유가 여기에 있다. 문제는 AI가 답을 잘하느냐가 아니라, 사적인 대화와 개인적 실행 권한이 한 시스템 안으로 모이는 구조다.
AI 비서가 유용해질수록 더 많은 맥락을 요구한다. 더 많은 맥락을 받으면 사용자는 그 시스템을 더 개인적인 존재처럼 느낀다. 그리고 그 친밀감은 다시 더 넓은 권한을 여는 명분이 된다. 이 순환이야말로 휘태커가 경계하는 지점이다. 챗봇의 다정한 말투는 보안 설계가 아니고, 친절한 응답은 신뢰 경계가 아니다.
이 발언의 현실적인 교훈은 AI를 쓰지 말자는 데 있지 않다. 문서 정리, 반복 업무 요약, 제한된 범위의 초안 작성처럼 AI가 분명히 도움이 되는 작업은 많다. 다만 채팅, 결제, 주소록, 캘린더, 브라우저가 하나의 에이전트에 연결될 때는 다른 질문을 해야 한다. 무엇을 읽을 수 있는가, 무엇을 대신 실행할 수 있는가, 권한 회수는 쉬운가, 실패했을 때 피해 범위는 어디까지인가.
결국 휘태커의 문장은 AI 시대의 사용자 교육이자 제품 원칙이다. 챗봇은 친구처럼 말할 수 있지만 친구는 아니다. 관계가 아닌 시스템에 관계 수준의 접근권을 주는 순간, 편의성은 프라이버시의 예외가 된다.