"학습 비용 싼 딥시크 AI모델, 서비스 비용은 비싸 돈 벌기 어려워"

中 AI의 허와 실… 전문가 대담
윤진호 기자
입력 2025.02.13. 00:37 업데이트 2025.02.13. 10:06

지난달 말 중국의 3년 차 인공지능(AI) 스타트업 딥시크가 전 세계 테크 업계에 충격을 줬다. 미국의 각종 AI 기술 규제를 뚫고 낮은 비용으로 세계 최고 수준의 AI 모델을 만들어 냈기 때문이다. 보름이 지났지만 여전히 딥시크는 AI 업계의 최대 화두다.

일러스트=이철원

민감한 개인 정보가 중국으로 흘러들어 가 어떻게 쓰일지 모른다는 불안감에 한국을 비롯한 주요국 정부는 딥시크 접속 차단으로 대응하기 시작했다. AI 모델 개발에 쓴 비용을 과도하게 축소했다는 비판도 나온다. 이런 가운데 본지는 지난 7일 서울 서초구 하이퍼엑셀 본사 회의실에서 국내 AI 전문가들과 ‘딥시크의 허와 실’을 주제로 딥시크가 AI 업계에 주는 시사점에 대해 대담을 진행했다. 대담에는 네이버클라우드의 이동수 이사와 AI 설루션 스타트업 업스테이지 이활석 최고기술책임자(CTO), AI 반도체 스타트업 하이퍼엑셀의 이진원 CTO가 참여했다.

이동수 네이버클라우드 이사. /조인원 기자

- 한국 정부와 일부 기업이 딥시크 접속을 차단하고 있다.

이진원 “여러 가지를 감안했겠지만, 일단 딥시크의 약관을 보면 과도하게 개인 정보를 수집한다. 예컨대 키보드 타이핑 패턴 등 통상적인 수준보다 더 가져가는데, 정보를 어떻게 다룰지에 대한 명확한 방향을 제시하지도 않는다.”

이활석 “중국의 정치적 상황까지 감안해 차단 조치를 하는 것으로 보인다. 다만 아마존웹서비스(AWS) 같은 미국 회사들은 딥시크를 쓰면서 입력한 정보는 중국이 아닌 미국이나 유럽에 저장하도록 하는 방식으로 대응한다는 점도 참고할 필요가 있다.”

이활석 업스테이지 CTO. /조인원 기자

- 딥시크가 AI 모델 개발에 쓴 비용이 81억원이다. UC버클리 한 박사 과정 학생은 30달러에 모델을 개발했다고 한다.

이진원 “AI 모델은 한번 학습해 보고 부족하면 보완해 다시 학습하는 식으로 완성도를 높인다. 81억원이라는 개발비는 학습 과정에서 쓴 비용은 다 빼고 마지막에 한번 학습할 때 쓴 비용이기 때문에 과장된 측면이 있다. AI 모델을 만들 땐 엄청나게 많은 시행착오를 겪게 된다.”

이진원 하이퍼엑셀 CTO. /조인원 기자

이활석 “AI 시장에서는 가장 앞서나가는 ‘퍼스트 무버(First Mover)’가 독점적인 기술로 누릴 수 있는 혜택이 있다. 하지만 시간이 갈수록 혜택을 누릴 수 있는 기간이 점점 짧아지고 있다. 딥시크가 활용한 ‘전문가 혼합(MoE·Mixture of Experts)’ 방식은 학습에 유리한 면이 있다.”

- 미국 빅테크 기업들은 MoE 방식으로 모델을 만들지 않았나.

이동수 “MoE는 문제 해결에 필요한 AI만 활성화하는 방식이다. 예컨대 회사에서 특정 과제를 주었을 때 모든 직원을 투입하는 대신 그 분야에 전문성을 가진 직원만 일하도록 하는 것이다. 효율적인 것처럼 보이지만 미국에선 거의 쓰지 않는다. AI 모델을 만드는 학습 과정에서 비용을 줄일 수는 있어도, 실제 이용자들에게 서비스를 제공할 때 들어가는 추론 비용과 트래픽을 감당하기 어렵기 때문이다. 구글도 MoE로 여러 실험을 했지만 포기하고 추론 비용을 줄이는 방식을 택했는데, 중국은 거꾸로 간 것이다.”

이활석 “이런 부분을 감안하면 아직은 중국이 미국에 비해 뒤처져 있고, 연구 단계로 보인다. 현재 딥시크 모델은 돈을 벌기 어려운 구조다.”

실제로 딥시크는 전 세계적으로 이용자들이 몰리자 8일부터 사용료를 5배 인상했다.

- 마이크로소프트(MS), 메타 등 일부 기업은 딥시크를 쓰기로 했다.

이진원 “지금까지 부정적 이슈가 부각돼서 그렇지 딥시크가 그동안 개발한 모델들과 발표한 기술 보고서를 보면 대단한 기업이 맞다. 딥시크 초기 모델이 나온 뒤 관련 보고서만 10건 이상 나왔는데 하나하나 모두 기술적으로 시사하는 점이 많고, 아이디어도 훌륭했다. 기술 보고서에는 AI 반도체 등 제한된 자원으로 모델을 최적화할 수 있는 많은 시도가 담겨 있고, AI 반도체 기업에 바라는 점에 대해서도 구체적으로 설명하고 있다. 행간을 보면 엔지니어들이 얼마나 고생했는지, AI 모델 개발에 얼마나 진심이었는지 느껴진다.”

- 딥시크처럼 적은 자원으로 AI 모델에 도전하려는 기업이 많아질 것 같다.

이동수 “빅테크 기업들과 오픈AI 등 미국 테크 기업들은 그동안 천문학적인 돈을 투자하면서 ‘너희는 따라오기 쉽지 않을 것’이라는 공포감을 극대화하려 할 때 딥시크가 등장했다. 사실 빅테크라고 해서 자신들이 보유하고 있던 엔비디아 그래픽 처리 장치(GPU)를 수십만 장 다 쓰지 않는 상황이었다. 오히려 딥시크가 AI 모델에 필요한 GPU 등 자원이 어느 정도인지를 보여줬다. 한국같이 AI 자원이 부족한 국가에도 희망을 줬다”

 

- 딥시크 기술보고서 공개 후 엔비디아 주가가 급락했다. AI 하드웨어 업계 영향은.

이활석 “오히려 AI 하드웨어 성장세에 가속이 붙을 가능성이 크다. 저렴하게 다양한 AI 모델을 만들어낼 수 있다는 것은 그만큼 AI를 활용한 서비스가 더 다양해질 수 있다는 의미이기 때문이다. 서비스(추론)를 제공하기 위해서는 AI 데이터센터가 더 필요하기 때문에 앞으로 엔비디아 같은 AI 하드웨어 기업들이 더 성장할 것이다.”

이동수 “돈을 더 많이 쓰면 더 나은 모델이 나온다는 ‘스케일링 법칙’은 여전히 유효하다. 엔비디아는 더욱더 강자가 될 것이다. 추론 과정에서 HBM의 중요성은 학습 과정보다 몇 배는 더 크다. 다만 엔비디아 GPU는 추론에 적합한 AI 반도체는 아니다. AI를 구동하는 데 적합한 AI 반도체가 나오게 되면 그때부터가 AI 본게임이 시작될 가능성이 크다.”

◇“정부 데이터, AI기업이 활용할 수 있게 해줘야”

미국과 중국은 인공지능(AI) 시대 패권을 차지하기 위해 ‘쩐의 전쟁’을 벌이고 있다. 상대적으로 적은 비용으로 고성능 AI 모델을 만들어 낼 수 있다는 것을 증명한 딥시크는 다른 국가들에도 기회가 있다는 것을 증명했다. 이동수 이사는 “엔비디아 GPU 등 AI 반도체를 어느 정도 확보해야 AI 국가 경쟁력을 키워 나갈 수 있다”고 했다.

–한국 AI 경쟁력은 어느 정도인가.

이활석 “중국과 비교하면 냉정하게 GPU나 인력 등 모든 면에서 뒤처져 있다. 비슷했다면 딥시크만큼 충격을 줄 수 있었을 것이다. 하지만 실제 서비스를 제공할 때 효율적이고 좋은 AI 모델인지도 중요한데 한국 AI 기업들은 이 분야에서 강점이 있다고 본다.”

–한국의 AI 경쟁력 어떻게 끌어올릴까.

이동수 “중국의 지방 대학에서 내놓은 거대 언어 모델(LLM)의 성능을 보면 GPU를 상당히 많이 써 개발했다는 것을 유추할 수 있다. 하지만 지금 우리 정부에서는 각 대학에 GPU 지원이 안 된다. 네이버와 인텔이 지난해 AI 생태계 확대를 위해 공동으로 연구소를 만들었다. 내가 센터장을 맡고 있다. 서울대, 포항공대, 카이스트 등 주요 대학과 22개 과제를 진행 중인데, 각 대학에 엔비디아 GPU 정도 성능을 보유한 AI 가속기를 지원하니 연구 성과가 급격히 늘어나기 시작했다. GPU가 없었기 때문에 성과가 안 나왔다는 것이 너무 가슴이 아팠다.”

중국 AI 딥시크에 대해 IT업계 전문가들이 7일 오후 서울 강남구의 한 사무실에서 긴급 좌담회를 열었다. 오른쪽부터 이동수 네이버클라우드 이사, 이활석 업스테이지 CTO, 이진원 하이퍼엑셀 CTO./조인원 기자

 

–올해 한국의 AI 관련 예산은 1조8000억원 수준이다. 중국(39조원)과 미국(29조원)에 비하면 턱없이 부족한 금액이다.

이진원 “예산을 늘리지 않더라도 한국의 AI 경쟁력을 끌어올릴 수 있는 다양한 방법이 있다. GPU뿐만 아니라 인력, 기업 환경, 데이터 등 AI 개발에 필요한 모든 측면이 사실 부족하다. 정부 데이터도 문제가 될 가능성이 크지 않다면 AI 기업들이 활용할 수 있도록 해주면 국내에서도 좋은 모델이 더 나올 것이다.”

–AI 스타트업 지원은 충분한가?

이활석 “일본은 가능성 있는 곳에 지원을 몰아주면서 AI 스타트업의 경쟁력을 키워주고 있다. 반면 한국에서는 지원할 때 형평성을 너무 따지는 것 같아 아쉽다. 보통 일본에서는 7년 정도 근무해야 영주권을 신청할 수 있는데 요즘 AI 분야 인재는 1년만 근무해도 신청할 수 있도록 제도가 바뀌었다고 한다. 그동안 일본은 기술 경쟁에서 밀리는 모습을 보여왔는데, AI 시대에서만큼은 뒤처지지 않겠다는 일본 정부의 의지가 보인다.”

이진원 “스타트업 입장에서는 인건비를 무시할 수 없다. 해외 인재뿐만 아니라 국내 인력도 충분히 훌륭하기 때문에 대우를 잘해주면 좋은 성과를 낼 수 있으니 정부에서 인건비 지원에도 신경을 써줬으면 한다.”

원글: https://www.chosun.com/economy/tech_it/2025/02/13/XMYINMBT5VGFTBWLJS3GVZ3K54/