'MS AI 투어'서 ‘GPT-4o 기반 커스텀 모델’ 소개
업무 환경 혁신을 이뤄주는 AI 비서 ‘Works AI’
GPU 없어도 AI 학습 및 추론 가능한 ‘GPUaaS’

KT 직원이 AI 투어에서 한국적 AI의 개념을 담은 GPT4o기반 커스텀 모델을 소개하고 있다.ⓒKT

KT가 26일 마이크로소프트 ‘AI 투어 인 서울(이하 AI 투어)’에 참가해 우리나라 산업 환경에 최적화된 클라우드, AI 모델 등의 다양한 ‘AX 솔루션’을 선보였다.

이번 전시에서는 KT가 마이크로소프트와 함께 추진해온 공동 개발 프로젝트 성과를 비롯해 KT의 인프라, 서비스를 한 번에 제공하는 것이 특징이다.

KT 전시관은 ▲한국적 AI의 개념을 담은 GPT4o기반 커스텀 모델 ▲보안을 강화한 퍼블릭 클라우드 ‘KT SPC(KT Secure Public Cloud)’ ▲탄소 배출량 산출 자동화를 위한 ‘탄소 배출량 관리 어시스턴트’ ▲클라우드 자원을 필요에 따라 유연하게 할당하는 ‘GPUaaS’ ▲마이크로소프트 코파일럿 기반 업무 혁신 사례 ▲업무에 필요한 정보와 지식을 제공하는 대화 기반 AI 에이전트 ‘Works AI’까지 총 6종의 AX 솔루션으로 구성됐다.

‘한국적 AI’ 개념을 담은 ‘GPT-4o 기반 커스텀 모델’

KT의 ‘한국적 AI’는 단순히 잘 한국어를 처리하는 언어 모델을 넘어 한국인의 사고방식과 정서에 대한 이해를 바탕으로 한국인의 일상과 비즈니스 환경에서 유용하고 안전하게 활용할 수 있는 AI를 의미한다.

KT는 한국의 역사와 철학, 사회를 기반으로 하는 방대한 고품질 데이터를 활용하여 마이크로소프트와 함께 상반기 상용화를 목표로 GPT-4o기반의 커스텀 모델을 개발하고 있다.

이번 전시에서는 몇 가지 상황 속에서 일반 언어 모델과 한국적 AI 모델이 어떻게 다른 결과물을 내놓는지 비교해볼 수 있다. 예를 들어, 한국 사회의 시대별 ‘부의 상징’을 묻는 질문에 더욱 통찰력 있는 답변을 생성할 수 있다.

기존 일반 언어모델이 글로벌 관점의 답변으로 1960년대 고급 자동차를 부의 상징으로 꼽은 반면, 한국적 AI 모델은 1960년대 한국은 경제회복이 시작됐던 시기로 공무원이나 번듯한 회사에서 직장을 구한 것 만으로도 부의 상징이라는 답변을 내놨다.

추가로 일반 언어모델은 영문 공고문을 한국어로 번역할 경우 'Home, Sweet Home' 과 같은 관용어를 '집, 달콤한 집'으로 직역해 매끄럽지 않은 경우가 있었는데, 이번에 개선된 한국적 AI 모델은 '내 집처럼 편안하게'와 같이 전체적인 문맥을 고려한 자연스러운 문구를 생성할 수 있다.

보안성을 강화한 퍼블릭 클라우드, ‘KT SPC’

유럽의 GDPR(일반데이터보호법) 등 세계 각국은 자국 데이터의 해외 유출을 엄격히 통제하고 있어, 자국의 데이터 주권은 지키면서 퍼블릭 클라우드를 활용할 수 있는 소버린 클라우드가 최근 주목받고 있다.

이미 이탈리아, 스위스, 벨기에 등 유럽 국가를 중심으로 소버린 클라우드를 도입하고 있고 국내에서는 KT가 마이크로소프트와 함께 한국적 소버린 클라우드인 KT Secure Public Cloud를 출시했다.

KT Secure Public Cloud(이하 KT SPC)는 대규모 확장 가능한 하이퍼스케일 클라우드 컴퓨팅 서비스다. 기존 퍼블릭 클라우드 수준 이상의 사용 환경과 경험, 효율성을 제공하면서도 국내의 법률과 규제 및 기업 컴플라이언스 기준 준수를 전제로 높은 보안성과 데이터 주권을 확보해 금융이나 공공 영역에서도 안전하게 활용할 수 있다는 점이 강점이다.

KT 직원이 AI 투어에서 보안성을 강화한 퍼블릭 클라우드 KT SPC를 소개하고 있다.ⓒKT

KT SPC는 기존 퍼블릭 클라우드 환경에서는 보호하지 못했던 ‘사용 중(in Use)인 데이터’ 영역까지 암호화하며, 하드웨어 보안 모듈인 ‘managed HSM’ 서비스와 고객 관리키 등을 사용한다. 고객이 제어권을 갖기 때문에 데이터 유출 시에도 암호 해제가 불가능해 데이터의 전 생애주기 동안 강력한 보안성을 갖춘다.

이번 AI 투어에서는 kt ds의 멀티 클라우드 관리 플랫폼 ‘클라우드 위즈’를 KT SPC에 적용한 사례를 소개한다. 클라우드 위즈는 다양한 사업자가 제공하는 클라우드 서비스를 한 곳에서 관리할 수 있는 도구다.

필요한 서버나 네트워크 등의 IT 자원을 설정하고 배포해주는 ‘인프라 자동 배포’와 회사의 규칙이나 보안 정책을 자동으로 적용하는 ‘거버넌스 정책 관리’ 기능이 뛰어나다. IF Design Award 2025 사용자 경험 및 서비스 디자인 부문에서도 본상을 수상하며 국내 비즈니스 고객 접근성 측면에서 우수성을 인정받은 바 있다.

탄소 배출량 산출 자동화를 위한 '탄소 배출량 관리 어시스턴트'

탄소 배출량 변화 원인을 분석하고 감축 가이드를 제공하며 신제품 출시에 따른 탄소 배출량을 손쉽게 산출하는 등 해당 분야 전문가들의 작업을 자동화하는 에이전트다.

KT는 MSM(Microsoft Sustainability Manager)를 기반으로 기업들의 기존 탄소 배출량 계산 뿐만 아니라 공급망의 탄소 배출량까지 관리할 수 있는 ‘탄소 배출량 관리 어시스턴트’를 개발했다.

이를 통해 탄소 배출량 산출 작업 시간이 50% 이상 단축될 것으로 기대한다. KT는 국내 탄소 배출량 관리 업무에 최적화된 탄소 인벤토리와 국내외 다양한 탄소 배출량 산정 지침을 지식화해 에이전트에 학습시켰다. 이후 AI가 국내 정책과 회계 기준을 바탕으로 더욱 정확한 답변을 할 수 있도록 고도화해 탄소 배출량 관리 업무를 보다 효과적으로 지원할 계획이다.

탄소 인벤토리는 조직의 경계 내외에서 발생하는 온실가스를 파악하기 위해 배출원 목록별로 구축한 데이터베이스를 말한다.

방문객들은 대시보드에서 기업의 탄소 배출량 추이 변화를 분석한 결과를 살펴볼 수 있다. 탄소 배출량의 증가 추이에 이상 상황 발생 시 AI가 원인을 분석하고 이를 절감할 수 있는 방안을 마련해 제시한다. 또한 신규 제품을 출시했을 때 탄소 발자국 데이터를 수집하고 분석해 탄소 배출량 예상치를 제시하는 과정도 확인할 수 있다.

KT 직원이 AI 투어에서 사내 AI를 활용한 업무 혁신 경험을 소개하고 있다.ⓒKT

KT 사내 ‘M365 코파일럿’ 도입 통한 업무 혁신 경험 공유

KT는 M365 코파일럿을 전 직원 대상으로 도입하는 등 구성원들이 업무 환경에서 일상적으로 AI를 활용할 수 있게 했다. 직원들은 여러 업무 영역에서 주도적으로 AI 적용 모델을 만들어 사례를 공유하고, 이를 점차 고도화해 나가며 자발적으로 일하는 방식의 변화를 이뤄내고 있다.

이번 AI 투어에서는 기업이 AX를 시도하며 겪을 수 있는 어려움과 KT가 이를 극복한 과정을 조명한다. KT의 경우 기존 IT 시스템에 M365 코파일럿을 도입할 때 이종 시스템 간 충돌을 해결하고, 구성원들의 습관을 변화시키는 데에 어려움을 겪었다.

KT는 먼저 M365 코파일럿 파워 유저로 구성된 얼리버드 그룹을 운영하며 초기 도입을 진행하고, 사내 프롬프트 경진대회 ‘크롬프톤’ 등을 통해 코파일럿을 활용한 업무 혁신 사례를 발굴하고 확산해 전사적으로 일하는 방식의 변화를 이뤄내고 있다.

KT와 같이 1만명이 넘는 구성원으로 이뤄진 대규모 기업이 새로운 AI툴을 전사에 확산시키고 일하는 방식의 대대적인 혁신을 이뤄낸 경험은 AX를 원하는 모든 기업에서 주목할만한 사례가 될 것으로 전망한다.

GPU 없어도 AI 학습 및 추론 가능한 ‘GPUaaS’

kt cloud는 AI 학습과 추론을 위한 혁신적인 인프라 서비스 GPUaaS(GPU as a Service)를 소개한다. 이는 AI 인프라를 필요로 하는 국내 공공기관, 기업이 실 사용량 토대로 GPU 자원을 탄력적으로 활용할 수 있는 구독형 인프라 서비스다.

kt cloud는 단기간 대용량, 고사양의 GPU 공급이 요구되는 학습 영역에 특화된 ‘AI Train’, 적은 양의 GPU를 끊김 없이 상시 공급해야 하는 추론 영역에 특화된 ‘AI SERV’ 등 엔비디아 기반의 다양한 상품 라인업을 통해 고객 수요에 신속히 대응해왔다.

특히 AI Train은 다수의 공공 및 민간 고객 이용 사례를 통해 대규모 GPU 노드 클러스터링과 동적할당 제어 기능의 실제 효용성을 검증했다. 올해 3분기 내에는 엔비디아 H200을 적용해 한층 강화된 성능을 구현할 계획이다.

우리나라 산업 환경에 최적화된 클라우드, AI 모델 등 다양한 AX 솔루션을 선보이는 AI 투어 KT 전시관 전경ⓒKT

업무 환경 혁신을 이뤄주는 AI 비서 ‘Works AI’

kt ds는 임직원의 업무를 도와주는 AI 비서 ‘Works AI’를 선보인다. Works AI는 마이크로소프트 Azure Native기술을 기반으로 LLM을 활용해 개발됐다. 사내 ·외의 업무 지식과 정보를 한 곳에서 통합해 제공한다. 임직원 누구나 업무와 관련된 자료를 업로드하고 프롬프트 입력으로 손쉽게 AI 에이전트를 만들어 활용할 수 있다.

kt ds의 직원들은 실제로 Works AI를 통해 매일 업무 시작과 동시에 AI가 추천하는 업무 정보를 확인한다. 보고서 작성, 업무 정보 검색, 소프트웨어 개발 등에 이르기까지 다양한 업무에서 AI를 활용 중이다. AI를 일상적으로 활용할 수 있는 환경은 일의 능률과 효율을 높일 뿐만 아니라 이 같은 구성원들의 경험이 곧 고객 경험의 혁신으로 이어지는 선순환 체계의 시작점이다.

한편 이번 행사에서는 기업 내 IT 담당자 및 관련 산업 종사자를 대상으로 한 상세 설명회와 데모 시연도 진행된다. 또 KT는 전시관에서 자사의 AI 마스터브랜드 ‘K intelligence(케이 인텔리전스)’를 통해 방문객들에게 대한민국 대표 AICT 기업으로서 KT의 존재감을 전한다. K intelligence는 지난 22일 론칭한 신규 브랜드로 AX를 통해 대한민국의 일상을 다채롭게 혁신해 나가고자 하는 KT의 의지를 담았다.

KT 관계자는 “이번 전시를 통해 마이크로소프트와의 긴밀한 협력으로 달성한 기술적 성과를 공유하고, KT 그룹의 AX 혁신 사례를 선보일 것”이라며, “국내 산업계 AX 가속화를 위한 고민을 해결하는 데 유용한 인사이트를 제공하겠다”고 강조했다.

Copyright © 데일리안. 무단전재 및 재배포 금지.