뉴저지 연방 법원, AI 생성 정보 검증 없이 사용하는 법조인들에게 엄중 경고
뉴저지 포트리(Fort Lee)에 기반을 둔 한인 변호사가 인공지능(AI)이 생성한 가짜 판례를 법원에 제출했다가 3천 달러의 벌금형을 선고받았다. 이는 AI 기술의 오용에 대한 법조계의 경각심을 일깨우는 사례로 주목받고 있다.
지난 9월 18일, 뉴저지 연방 법원의 호세 R. 알몬테(José R. Almonte) 판사는 조석진(Sukjin Henry Cho) 변호사에게 3천 달러의 벌금을 부과했다. 조 변호사는 법원에 제출한 서류에 AI가 만들어낸 존재하지 않는 판례를 인용한 사실이 드러났으며, 이후 AI 도구를 사용했음을 시인했다.
알몬테 판사는 판결문에서 변호사들이 적절한 감독 없이 생성형 AI를 사용하는 것이 전국 법원에서 만연한 문제가 되고 있다고 지적했다. 그는 AI가 사법적 의견처럼 보이는 법률 명제를 공식 인용 형식에 맞춰 제시할 수 있지만, 이는 진짜가 아닌 AI가 만들어낸 허구이며, 이를 맹목적으로 신뢰하는 사람들은 스스로 위험을 감수하는 것이라고 강력히 경고했다.
법정에서 변호사들은 주장을 뒷받침하기 위해 과거 다른 판사들이 내린 판결, 즉 판례를 인용한다. 이는 법이 어떻게 적용되어야 하는지를 보여주는 중요한 근거가 되기 때문에, 인용되는 판례는 반드시 실재하고 관련성이 있어야 한다. 그러나 AI 도구를 검증 없이 사용하면, 실제처럼 보이지만 존재하지 않는 가짜 판례를 사용할 위험에 노출된다. 이러한 허위 인용은 법원을 오도하고 변호사의 직업윤리를 위반하는 행위다.
조 변호사는 법원에 제출한 서면 진술서에서 법률 데이터베이스인 렉시스넥시스(LexisNexis) 검색과 함께 생성형 AI 도구를 법률 연구에 활용했다고 설명했다. 그는 빡빡한 마감일과 일정 문제를 실수 원인으로 꼽으며, 재발 방지를 위해 더욱 엄격한 확인 절차와 내부 규정을 마련했다고 밝혔다.
법원은 조 변호사의 행동이 태만했다고 판단하면서도, 그의 신속한 인정과 정직한 공개, 법원에 대한 사과, 그리고 향후 AI 오용을 막기 위한 안전장치를 즉시 이행하겠다는 주장을 참작했다고 밝혔다. 알몬테 판사는 조 변호사의 사례 외에도 변호사들이 AI를 이용해 허위 판례를 만들어 1천 달러에서 6천 달러에 이르는 제재를 받은 다른 6건의 사건을 언급하며 문제의 심각성을 강조했다.
알몬테 판사는 조 변호사의 반성이 그의 부주의를 완전히 면제해 주지는 않지만, 정상 참작 요인들을 고려해 3천 달러의 벌금이 향후 이러한 행위를 억제하기에 충분하다고 결론 내렸다고 판시했다. 법원은 조 변호사에게 14일 이내에 벌금을 납부하고, 이 명령을 의뢰인에게 통지하며, 그가 변호사 자격을 보유한 주의 징계 당국에 이번 제재를 자진 신고하라고 명령했다. 조 변호사는 이번 판결에 대한 논평을 거부했다.
