콜로라도의 연방치안판사 마리차 브래스웰은 챔버에 쌓이는 pro se 서류에서 묘한 변화를 감지한다. 손글씨로 끄적인 알아보기 힘든 진정서보다, ChatGPT 흔적이 보이는 motion이 오히려 빨리 읽힌다는 것. 환각 인용과 가짜 판례를 골라내야 하지만, 주장의 뼈대가 잡혀 있어 “좀 더 도와줄 여지가 보인다”고 그는 말한다.
MIT의 Anand Shah와 USC의 Joshua Levy가 2005년부터 2026년까지 연방 민사사건 450만 건을 분석한 새 연구는 이 인상을 숫자로 뒷받침한다. 변호사 없이 직접 제소한 비율은 2022년 11%에서 2025년 16.8%로 올랐고, 이들이 낸 서류 건수는 2023년 이전 대비 두 배 이상으로 뛰었다. 1,600건의 표본을 Pangram 텍스트 탐지기에 돌리자 AI 검출률은 2023년 1%에서 2026년 18%로 치솟았다. 2024년 12월 레딧에 퍼진 글 한 편은 이민 심사 지연을 두고 USCIS를 상대로 한 mandamus를 Copilot으로 초안 잡고, 150달러에 변호사를 시켜 다듬은 뒤, 처리 빠른 버몬트 연방법원에 내라고 알려줬다. 결과는 노골적이다. 버몬트의 pro se 제소가 연 45건에서 1,100건 이상으로 폭증했다.
그러나 ‘파일 변환’은 ‘승소’로 이어지지 않았다. 변호사 없이 들어간 사람들의 패소율은 AI 시대에도 그대로다. Levy의 말이 차갑다. “소송은 텍스트를 뽑아내는 일이 아니라, 다층적으로 끌고 가는 작업이다.” 캘리포니아의 Allison Goddard 판사는 슬립앤폴 사고로 70만 달러를 부르는 원고를 보고 묻는다. “그 숫자, ChatGPT에서 왔죠?” 그는 이 현상을 “Dr. Google이 로스쿨에 다녀온 격”이라고 표현했다.
그래서 판사들의 질문은 이제 두 갈래로 갈라진다. 첫째, 챗봇과의 대화는 변호사-의뢰인 비밀특권에 해당할까. 미시간 연방법원은 2월에 pro se 당사자의 ChatGPT 대화를 work product로 인정했지만, 같은 날 뉴욕 연방법원은 Claude로 만든 문서에 대해 “AI 회사가 사용자 데이터를 제3자에 제공할 수 있으므로 합리적 비밀 기대가 없다”며 정반대 결론을 냈다. 둘째, 책임은 누가 지는가. 닛폰생명은 3월 OpenAI를 상대로 “ChatGPT가 무면허로 법률 행위를 했다”고 제소했고, OpenAI는 5월 “ChatGPT는 사람이 아니며 법적 지식·기술을 사용하지 않는다”며 기각을 요청했다. 뉴욕주는 ‘챗봇이 챗봇이라고 알려도’ 변호사 사칭을 금지하는 법안을 내놓았다. AI가 줄여준 건 법정 문 앞의 머뭇거림이고, 줄이지 못한 건 안에서 이기는 확률이다. 다음 라운드의 진짜 쟁점은 모델 품질이 아니라, 챗봇이 틀렸을 때 비용을 누가 떠안느냐다.