사내 AI 활용과 보안, 막기만 하면 문제 없을까?

기업 현장에서 AI 도입 논의가 시작될 때 가장 먼저 등장하는 질문이 있습니다. "구성원들이 회사 데이터를 AI에 입력해도 괜찮을까?" 이 질문은 비단 CISO(최고보안책임자)나 정보보안팀만의 것이 아닙니다. 경영진의 AI 도입 결정을 멈추게 하는 강력한 의문이자, 현장 구성원들이 유용한 도구의 적용을 스스로 주저하게 만드는 원인이기도 하지요.

새로운 기술, 특히 업무 전방위에 적용될 가능성이 있는 AI 앞에서 보안에 대한 우려는 타당합니다. 다만 그 대응이 그저 차단 혹은 외면이라면 문제 해결은 요원합니다. 이 글에서는 AI 앞에서 보안 위험의 실제 문제를 짚어보고, 당장 조직 차원에서 해볼 수 있는 시도를 정리해보고자 합니다.

📊 AI 보안 우려, 근거 없는 공포는 아닙니다

AI 도입에 따른 데이터 보안 위험은 실재합니다. 시스코(Cisco)가 12개국 보안·프라이버시 전문가 2,600명을 대상으로 조사한 결과, 응답자의 48%가 업무 중 기밀 정보를 생성형 AI에 입력한 경험이 있다고 인정했습니다. 절반에 가까운 구성원이 내부 정보를 외부 AI 서비스에 입력한 경험이 있다는 뜻입니다. 비슷한 사례로 익히 알려진 삼성전자의 경우도 있었지요. 업무 중 ChatGPT 사용을 허용한 지 20일이 채 되지 않아 세 건의 기밀 유출 사고를 겪은 바 있습니다. 반도체 소스코드, 하드웨어 테스트 코드, 사내 회의 내용이 외부 AI 서버로 전송된 것을 확인하고 조직은 즉시 AI 도구 사용을 전면 금지했습니다.

하지만 데이터가 AI 도구로 흘러가는 속도는 더욱 빠르게 증가하고 있습니다. 보안솔루션기업 Cyberhaven의 <2025 AI Adoption & Risk Report>에 따르면, 기업 환경에서 AI 도구로 전송되는 데이터의 83.8%가 기업 데이터 보호 계약이 없는 개인 계정 서비스로 향하고 있습니다. 구성원들이 업무 데이터를 회사가 통제할 수 없는 외부 AI 서비스에 입력하고 있다는 뜻입니다. 해당 ****데이터 중 민감 정보의 비중도 2년 전 10.7%에서 34.8%로 급증했습니다. AI 사용이 늘수록 중요 정보가 오가는 비중도 함께 커지고 있는 것입니다.

IBM이 전세계 600개 기관을 대상으로 조사한 2025년 데이터 침해 비용 보고서에 따르면, ‘조직이 승인하지 않은 AI 도구 사용’이 직접적 원인이 된 보안 침해를 경험한 곳이 전체의 20%에 달했고, 이런 침해가 발생한 기관은 그렇지 않은 기관보다 평균 67만 달러의 추가 비용을 부담했습니다.

이런 현황들을 살펴볼 때, 실무에서의 AI 활용에서 보안 담당자와 경영진이 우려를 갖는 것은 합리적입니다. 다만 문제는 개별 기업이 그저 AI를 막는 것만으로는 제대로 대응할 수 없다는 데 있습니다.

⚠️ 차단할수록 더 위험해집니다 — 섀도 AI의 역설

보안 우려에 대한 가장 직관적인 대응은 차단입니다. 앞서 언급한 시스코의 같은 조사에서, 27%의 기업이 프라이버시·데이터 보안 우려를 이유로 생성형 AI 도구 사용을 최소 일시적으로 금지한 것으로 나타납니다. 그러나 이 조치는 원하는 결과를 만들어내지는 못하고 있는 것으로 보입니다. 이러한 금지 조치에 대한 구성원의 대응은 숨어들어가는 형태로 나타나고 있습니다.

조직의 승인 없이 구성원이 자체적으로 AI 도구를 사용하는 현상을 '섀도 AI(Shadow AI)'라고 부릅니다. 조직이 허용하지 않은 소프트웨어, SaaS 등을 업무에 활용하는 현상인 섀도 IT(Shadow IT)의 AI 버전이지요. 보안솔루션기업 UpGuard가 보안 리더 500명과 일반 직원 1,000명을 대상으로 조사한 결과, 직원의 81%가 조직이 승인하지 않은 AI 도구를 사용하고 있다고 응답했습니다. 더 놀라운 것은, 보안 리더 역시 88%가 비승인 도구를 사용하고 있다고 답한 것입니다. 기업 차원의 ‘차단’ 정책이 실제로는 작동하지 않고 있다는 방증입니다. 일반 직원 응답자 중 45%는 조직이 차단한 애플리케이션에 접근하기 위한 우회 방법을 이미 찾아낸 상태였다는 데서 문제는 이미 조직의 손을 떠났다는 것을 알 수 있습니다.

차단은 사용을 막지 못합니다. 대신 사용을 보이지 않게 만들 뿐입니다. 기업이 AI 사용을 공식적으로 금지하더라도, AI가 자신의 업무에 도움이 된다는 것을 알아챈 구성원들은 개인 계정과 개인 디바이스, 모바일 핫스팟을 통해 기업 네트워크 감시망 밖에서 AI를 계속 사용합니다. 구글 클라우드 보안부문 고문 안톤 추바킨은 "구성원들이 기밀 정보가 담긴 회의록을 검증되지 않은 챗봇에 붙여넣어 요약을 요청할 경우, 해당 정보를 보관 및 재사용할 수 있는 시스템에 의도치 않게 넘겨줄 수 있습니다. 이러한 사용 내역을 파악할 수 없는 상황에서 보안팀은 볼 수도 없고 통제할 수도 없는 자산을 보호해야 하는 어려운 과제에 직면하게 됩니다"라며 섀도 AI의 문제상황을 경고합니다.(링크)

🗝️ 보안 사고의 진짜 원인, 거버넌스 공백

AI 관련 보안 침해 사고가 실제로 왜 발생하는지를 들여다보면, 도구 자체보다 조직 내 거버넌스의 부재가 훨씬 큰 원인으로 나타납니다. IBM이 전세계 600개 기관을 대상으로 조사한 2025년 데이터 침해 비용 보고서에 따르면, AI 관련 보안 침해를 경험한 기관의 97%가 적절한 AI 접근 통제 체계를 갖추지 못하고 있었습니다. AI 거버넌스 정책이 아예 없거나 아직 수립 중인 단계에 있는 기관도 63%로 절반을 훌쩍 넘겼고요. 구성원이 어떤 AI 도구를, 어떤 데이터와 함께 사용할 수 있는지에 대한 기준 자체가 없었던 것입니다. 그 결과, ‘조직이 승인하지 않은 AI 도구 사용’이 직접적 원인이 된 보안 침해를 경험한 곳이 전체의 20%에 달했고, 이런 침해가 발생한 기관은 그렇지 않은 기관보다 평균 67만 달러의 추가 비용을 부담했습니다.

이 공백은 침해를 경험한 기관에만 국한된 문제가 아닙니다. IT 거버넌스를 다루는 국제 협회 ISACA가 전 세계 3,400명 이상의 디지털 보안 전문가를 대상으로 진행한 조사에 따르면, 2026년 현재도 AI 도구 사용에 관해 전사 수준의 정식 정책을 보유한 조직은 38%에 불과하고, 심지어 정책 자체가 없는 곳도 4개 중 1개 꼴(25%)입니다.

AI 관련 침해 사고들에는 공통점이 있습니다. 데이터를 유출한 구성원 대부분 뚜렷한 기준이 없는 상황에서 편리한 도구를 쓰려다가 의도치 않게 위험을 만들었다는 점입니다. 가트너는 조직의 대응 방식이 바뀌지 않을 경우 2030년까지 전체 기업의 40%가 섀도 AI 관련 보안 침해를 경험할 것이라 전망하면서, 이에 대한 대응으로 제시한 것은 더 강한 차단이 아닌 구성원 교육과 전사적 정책 수립입니다.(링크) 문제의 원인을 도구로 볼 때는 차단이 합리적인 대응이어보이지만, 도구 활용 자체가 더 이상 막을 수 없는 흐름이라면 결국 거버넌스 공백을 막는 기준 수립이 해법이 되어야 합니다.

🛡️ 지금 당장 시작할 수 있는 것

① 현황 파악 — 구성원들이 무엇을 쓰고 있는지 먼저 알아야 합니다

ISACA는 섀도 AI를 막기 위한 거버넌스의 첫 단계로 'AI 발견 및 인벤토리(AI discovery and inventory)'를 제안합니다.(링크) 구체적인 실행 방법은 직원 설문, 네트워크 로그 분석, 클라우드 앱에 접근해 스캔하기 등이며, 이를 통해 조직 내 승인·미승인 AI 도구 레지스트리를 구축하는 것을 목표로 합니다.

② 승인 목록 게시 — 허용하는 도구를 명시해야 구성원이 기준을 가집니다

가트너는 섀도 AI에 대응하기 위해 즉시 취해야 할 세 가지 조치 중 첫 번째로 ‘전사적 AI 도구 사용 정책 정의’를 꼽습니다.(링크) 중요한 것은 금지 목록을 작성하는 게 아니라, 허용되는 도구의 목록을 작성하는 것입니다. 구성원 입장에서 ‘이걸 써도 될까?’에 대한 조직의 명시적인 답이 없을 때, 섀도 AI의 위험성이 올라갑니다.

③ ‘입력 금지’ 데이터 명시 — 규정이 아닌 판단 기준을 줍니다

조직 소유의 코드, 고객 데이터, 미공개 재무 정보 등을 개인 AI 계정에 입력하면 안 되는 데이터들을 명시하고, 공식 지침화해야 합니다. 이때 두꺼운 정책 문서가 아니라 어떤 데이터를 넣으면 안 되는지를 한 페이지로 정리한 기준표 하나가 더 실질적으로 작동할 수 있습니다.

④ 문제 상황 보고 채널 — 실수를 숨기지 않는 환경이 피해를 줄입니다

IBM 수석엔지니어 제프 크룸은 "차단은 위험을 보이지 않는 곳으로 밀어낼 뿐"이라며, 도구 활용을 금지하는 대신 공식적인 대안을 제공하고, 활용을 가시화하는 메커니즘 구축을 권고했습니다(링크). 이는 가트너가 섀도 AI 거버넌스에서 명시한 "구성원이 AI 사용을 투명하게 공개하도록 장려하되, 처벌이 아닌 가이드로 대응하라"는 지침과도 일맥상통합니다. 이때 중요한 것은, 구성원이 실수로 민감 데이터를 입력했을 때 처벌을 두려워해 숨기는 대신, 솔직하게 보고할 수 있는 채널이 있어야 한다는 것입니다. 거버넌스를 구축하는 단계에서 뚜렷한 기준 없이 활용과 보고가 바로 처벌로 이어진다면, 결국 거버넌스 구축이라는 목표를 달성하는 데까지의 거리가 더 멀어질 수 있기 때문입니다.

구성원의 AI 활용을 막을 수 없다면, ‘제대로’ 쓰도록 도와주세요

구성원의 AI 사용, 더 이상 피하거나 막을 수 없다면 제대로 활용할 수 있는 역량과 판단 기준을 갖추도록 하는 교육이 필요한 때입니다. 실무에서 AI를 제대로 활용할 수 있도록 관점부터 바꾸는 멋쟁이사자처럼 AI 교육과 함께해보세요!