생성형AI 프롬프트 인젝션의 형사법적 규제 방안 연구: 한미 비교법적 분석을 중심으로

Abstract

생성형 인공지능(GAI) 기술의 발전은 '프롬프트 인젝션'과 같은 심각한 보안 위협을 야기하며 효과적인 법적 대응 마련을 요구하고 있다. 본 연구는 프롬프트 인젝션 공격의 기술적 위험성과 그로 인해 파생되는 형사법적 쟁점을 분석하고, 한국과 미국의 관련 법률 체계 및 규제 동향을 비교법적으로 검토하였다. 연구 결과, 한국과 미국 모두 프롬프트 인젝션을 직접 규율하는 법률 없이 기존의 사이버 범죄 관련 법률(한국: 정보통신망법, 형법 등 / 미국: CFAA, 연방 통신 사기법 등)을 적용하려 시도하고 있다. 그러나 AI 시스템의 특수성으로 인해 '침입', '권한 초과 접근', '위계' 등 기존 법률 개념을 해석하고 적용하는 데 상당한 법리적 불확실성이 존재한다. 규제 접근 방식에서도 한국은 'AI 기본법' 제정을 통해 포괄적인 신뢰 기반 조성을 목표하는 반면, 미국은 NIST 가이드라인 등을 중심으로 보다 분산적이고 유연한 접근을 취하는 차이를 보인다. 또한 민사 책임 영역에서도 영업비밀, 저작권, 명예훼손 등 다양한 법적 쟁점이 존재하나 명확한 기준은 부족하다. 결론적으로 프롬프트 인젝션 위협에 효과적으로 대응하기 위해서는 다층적 기술 방어 체계 구축과 더불어, 견고한 AI 거버넌스 체계 확립 및 법적, 제도적 정비가 시급하다. 기술 혁신과 사회 안전의 균형을 위해 기술 커뮤니티, 정책 입안자, 법률 전문가 등 이해관계자 간의 지속적인 논의와 협력이 필수적임을 강조한다.