▲ AI 보안 가이드북 표지 [출처=국가정보원]

국가정보원(원장 이종석)에 따르면 2025년 12월10일(수) 국가인공지능안보센터가 중앙행정기관·지자체 및 공공기관 등을 대상으로 안전한 인공지능(AI) 활용을 위한 'AI 보안 가이드북'을 배포했다.

이번 가이드북은 2023년 6월 발표한 '챗GPT 등 생성형AI 서비스 활용 보안 가이드라인'을 국내 여러 분야의 AI도입 확산과 AI시스템에 대한 위협 증가 등 변화된 환경에 맞춰 개정한 것이다.

개정 과정에서 실용성을 높이기 위해 300개 공공기관 대상 AI 도입·보안관리 실태 조사 결과와 유관기관·학계·산업계 등 현장·전문가 의견을 반영했다.

주요 내용은 생성형·에이전틱·피지컬 AI 등 다양한 유형의 AI시스템 특징을 소개하고 학습데이터 오염 등 15개 보안위협과 30개 보안대책을 제시했다.

에이전틱 AI는 지시 없이 스스로 작업을 수행하는 고도의 자율적 AI 기술을 의미하고 피지컬 AI는 스스로 판단해 로봇 팔 등에 물리적 작용을 가할 수 있는 AI 기술을 뜻한다.

또한 누구나 쉽게 이해하고 현장에서 즉시 활용할 수 있도록 ‘AI시스템 수명주기별 보안대책’·‘AI시스템 구축 유형별 보안 키포인트’를 그림 등 방식으로 설명하고 57개 보안 체크리스트도 수록했다.

한편 'AI 보안 가이드북'에 대한 자세한 내용은 국정원 홈페이지(www.nis.go.kr)에서 확인 및 다운로드할 수 있다.

국정원 국가인공지능안보센터장은 “이번 가이드북이 안전한 AI시스템 도입·활용을 위한 이정표로서 기관별 자체 보안 강화에 도움이 되길 기대한다”면서 “앞으로도 국가 AI대전환이 안전하게 이루어질 수 있도록 적극 뒷받침 하겠다“고 강조했다.

다음은 국정원에서 배포한 'AI 보안 가이드북' 차례(목차)를 소개한다.

◇ 차례(목차)

배경 및 목적 4

제1장 AI시스템 개요 및 보안위협

제1절 AI시스템 개요 8
제2절 AI시스템 보안위협·사례 10
제3절 수명주기별 보안위협 22

제2장 AI시스템 보안대책

제1절 보안대책 31
제2절 구축 유형별 보안대책 중점사항 43
1. 내부망 전용 AI시스템 43
2. 내부업무용 AI시스템의 외부망 연계 48
3. 대민서비스용 AI시스템의 내부망 연계 52
제3절 상용 AI서비스 활용 56

제3장 에이전틱·피지컬 AI시스템 보안대책

제1절 에이전틱 AI 보안대책 63
제2절 피지컬 AI 보안대책 74

제4장 결론

부록
부록1 AI시스템 보안대책 체크리스트 86
부록2 FAQ 91
부록3 상용 AI서비스 활용시 보안설정 권고 98
부록4 용어 104
부록5 유관 가이드라인(N2SF, 클라우드) 소개 106