AI가 만든 '유령 판례'에 헌재까지 골머리

 

① 2024년 경기도 김포시에 허위 부동산 거래를 신고한 A씨. 시청에 포상금을 신청했다가 거부당하자 행정소송을 제기했다. 그는 “다른 지역에선 이 정도로도 포상금을 줬다”며 법원에 판례 3건을 근거로 제출했다. 하지만 판사가 조회해 보니 그런 판례는 없었다. 생성형 인공지능(AI)이 그럴듯하게 지어낸 판결문이었다.

② AI가 만들어낸 판례 등 가짜 소송 자료들 때문에 법원과 헌법재판소가 골머리를 앓고 있다. 법원 관계자는 “변호사 없이 혼자 소송을 진행하는 경우뿐 아니라, 변호사가 대리하는 사건에서도 버젓이 AI를 이용한 가짜 자료들이 제출되고 있다”고 했다. 실제 판사가 추궁했더니 ‘구글 제미나이에 검색했다’고 실토한 변호사도 있었다고 한다.

③ 법원행정처는 전국 법원에서 ‘가짜 판례’ 제출 사례가 잇따르자, 지난 2월 사법정보공개포털에 ‘허위 사건번호 확인’ 서비스를 열었다. 사건번호를 검색하면 가짜 사건일 경우 ‘존재하지 않는 사건번호입니다. 허위 정보일 수 있으니 주의하십시오’라는 경고가 뜨도록 하고 있다. 이와 함께 올해 말까지 판사들이 쓰는 ‘재판 지원 AI’ 시스템에 서면으로 제출된 판례·법령을 실제와 대조해 ‘일치’, ‘확인 필요’, ‘불일치(허위·과장 의심)’ 세 가지로 판정해 주는 기능을 추가할 예정이다.

④ 법원행정처는 이처럼 존재하지 않는 법령·판례를 인용하거나 내용을 허위로 내는 경우 과태료를 부과할 수 있도록 민·형사소송법 개정을 검토하고 있다. 최근 법원행정처는 변호사가 가짜 자료를 낼 경우, 재판부가 직접 대한변호사협회에 징계를 의뢰할 수 있도록 하는 ‘비위사실 통보 양식’을 공유했다.

⑤ 법조계에선 “이런 허위 자료들 때문에 재판은 늦어지고 소송 비용은 낭비된다”고 지적한다. 국가AI위원회 법제도분과위원장을 지낸 강민구(전 서울고법 부장판사) 변호사는 “예전에는 변호사가 서면에 적은 판례는 당연히 있는 것으로 여겼는데 지금은 일일이 확인해야 한다”며 “판결문 작성도 벅찬 상황에서 허위 판례까지 검증해야 하니 재판부의 피로감이 상당할 것”이라고 했다.