“챗GPT에 묻다가 기밀 샌다” 기업마다 정보보안 골머리[NOW]

박순찬 기자
입력 2023.04.03. 03:00 업데이트 2023.04.03. 07:13

삼성 반도체선 “프로그램 오류 해결 좀 해줘”
“내부 회의했는데 회의록 정리해줘”
회사기밀 유출과 생산성 향상 사이 AI 활용 딜레마

/그래픽=이철원

국내 최대 기업 삼성전자는 세계적인 인기를 끌고 있는 인공지능(AI) 채팅 로봇 ‘챗GPT’ 이용을 놓고 고심하고 있다. 현재 챗GPT 접속을 차단하고 있는 삼성전자 DX(완제품, 스마트폰·TV·가전) 부문은 지난달 31일 임직원 대상 ‘챗GPT’ 설문조사를 시작했다. 임직원의 챗GPT 사용 경험을 비롯해 사내 허용에 대한 의견, 허용 시 필요한 제한 관련 질문이 담긴 것으로 알려졌다.

지난달 챗GPT 접속을 허용했던 반도체(DS) 부문은 최근 임직원 보안 지침을 강화했다. 사전에 “보안에 유의하고 사적 내용을 입력하지 말라”는 주의를 내렸지만, 일부 임직원이 반도체 관련 프로그램을 챗GPT에 입력해 오류 해결이나 최적화를 요청한 사례가 모니터링 과정에서 적발됐다. 사내 회의 내용을 넣고 회의록 작성을 시킨 경우도 있었다. 모두 보안 지침 위반이다. 회사 측은 일단 챗GPT의 질문당 입력 글자 수를 제한하는 등의 긴급 조치를 했다.

국내 기업들이 챗GPT 보안으로 골머리를 앓고 있다. 챗GPT가 각종 업무에 도움이 된다는 사실이 알려지면서, 일부 임직원이 핵심 기밀 같은 대외비 자료를 챗GPT에 입력하는 사례가 급증하고 있기 때문이다. 이 정보들은 모두 챗GPT 운영사인 오픈AI에 전송된다.

“2023년 우리 회사 핵심 전략인데, 이를 토대로 파워포인트 발표 자료를 만들어줘.”(글로벌 기업의 한 임원)

“환자 이름과 진료 기록으로 보험사에 보낼 편지 내용을 만들어줘.”(한 의사)

글로벌 보안 업체 사이버헤이븐(Cyberhaven)이 최근 공개한 챗GPT 오용 사례들이다. 이 회사는 지난달 고객사 임직원 160만명의 챗GPT 사용 현황을 분석한 결과, 이 중 6.5%가 대외비 정보, 고객사 자료, 소스 코드 등 각종 사내 정보를 챗GPT에 입력하고 있는 것으로 나타났다고 밝혔다.

챗GPT가 빠르게 확산하는 가운데 국내 기업들 역시 같은 보안 우려에 휩싸이고 있다. 주요 대기업들은 사내에서 카카오톡 같은 메신저 접속을 차단하고, 복사지조차 갖고 나가지 못하도록 보안을 생명처럼 여기고 있는데 챗GPT라는 ‘보안 구멍’이 하나 더 생긴 셈이다.

◇챗GPT 확산에 기업들 ‘보안 비상’

국내외 기업들의 챗GPT 사용 방침은 엇갈린다. LG전자, 카카오 등 주요 대기업들은 아무런 제한 없이 임직원에게 챗GPT를 열어준 상태다. 한 대기업 관계자는 “챗GPT를 막기보다는 신기술인 만큼 사내에서 다들 써보고 트렌드를 익히라고 권장하는 분위기”라고 했다.

반면 SK하이닉스는 지난 2월 공지를 통해 챗GPT 접속을 사실상 차단했다. 회사 관계자는 “보안 문제 때문에 임직원 개개인이 필요한 경우 사내에 사용 목적 등을 별도로 보고해 승인받은 뒤에 제한적으로 열어주는 구조”라고 설명했다.

글로벌 보안 업계에선 챗GPT를 신중하게 이용해야 한다고 조언한다. 사이버헤이븐은 “만약 누군가 챗GPT에 ‘○○기업의 올해 핵심 전략을 알려줘’라고 물었을 때, 챗GPT는 이 기업의 임직원이 제공한 정보를 바탕으로 대답할 가능성이 있다”고 했다. 영국 국립사이버보안센터(NCSC)도 최근 이 같은 우려에 대해 “이용자들이 입력한 정보를 챗GPT가 자동으로 학습하지는 않지만, 이 내용이 챗GPT 개발사인 오픈AI에는 공개될 수 있다”고 설명했다. “해당 내용은 저장되고, 어느 시점에는 GPT 같은 대규모 언어모델이나 서비스를 개발할 때 사용될 것이 거의 확실하다”는 것이다.

◇”전면 차단” vs. “규칙 만들어 허용”

AI 개발사들이 만약 이용자 정보를 활용하지 않는다고 해도 서버에 저장된 질문이 해킹되거나 오류로 일반에 공개될 가능성도 있다. 실제로 지난달 24일 챗GPT 개발사인 오픈AI는 ‘프로그램 오류로 일부 이용자가 타 이용자의 채팅 제목을 볼 수 있는 문제가 발생했다’고 밝혔다. 또 같은 오류로 챗GPT 유료 버전 구독자 1.2%의 결제 관련 정보가 9시간 동안 노출됐다는 점도 시인했다.

글로벌 기업들은 속속 대책 마련에 나서고 있다. JP모건, 골드만삭스 등 금융권 주요 기업들은 임직원의 챗GPT 사용을 제한하고 있고, 일본 소프트뱅크는 구체적으로 어떤 회사인지 식별 가능한 사내 정보 입력을 금지했다. 파나소닉홀딩스 산하 파나소닉커넥트는 자체 정보 유출 대책을 마련한 뒤 ‘AI 챗봇’ 사용을 허용했다.

블룸버그에 따르면, 시장조사 업체 가트너는 글로벌 기업 인사 담당자 대상 설문조사에서 응답자의 48%가 챗GPT와 같은 챗봇 AI 활용 지침을 수립 중이라고 밝혔다. 가트너는 최근 보고서에서 “이미 많은 기업의 지식 근로자들은 챗GPT를 사용하고 있을 가능성이 높은 만큼, 이를 전면 차단하는 방식은 사내 규정을 사실상 ‘그림자(shadow)’처럼 만들고 규정 준수에 대한 잘못된 인식을 만들 우려가 있다”며 “전면 차단보다는 회사 자체의 이용 규정을 만들어 이를 허용하고, 이용 행태를 모니터링하면서 혁신을 장려하는 것이 좋다”고 조언했다.

원글: https://www.chosun.com/economy/economy_general/2023/04/03/QJGNFB6KKND3DKTXEQRYH42GU4/