[인터뷰] 김창섭 코멘토 공동창립자 겸 소프트웨어 개발 리드

(지디넷코리아=김미정 기자)"인공지능(AI) 도입을 고민하는 기업이 가장 우려하는 건 보안입니다. 코멘토는 보안에 강한 '아마존 베드록'으로 AI 에이전트를 구축했습니다. 기업은 이 에이전트로 걱정 없이 챗봇을 업무 현장에 적용할 수 있습니다."

김창섭 코멘토 공동창립자 겸 소프트웨어 개발 리드는 최근 지디넷코리아 인터뷰에서 아마존 베드록을 채택한 이유로 우수한 보안성을 꼽았다.

코멘토는 AI를 활용해 기업의 워크플로를 분석하고 생산성을 높일 수 있는 방안을 제시하는 기업이다. 이런 서비스를 '포텐스닷'이라는 기업용 플랫폼을 통해 제공하고 있다. 최근 맞춤형 AI 챗봇 구축을 지원하는 AI 에이전트도 포텐스닷 내에 도입했다.

김창섭 코멘토 공동창립자 겸 소프트웨어 개발 리드. (사진=코멘토)

이런 서비스를 '포텐스닷'이라는 브랜드를 통해 운영 중이다. 최근에는 기업 맞춤형 AI 챗봇 구축을 지원하는 'AI 에이전트' 기능도 포텐스닷에 추가했다.

김 리는 AI 에이전트의 가장 큰 걸림돌로 보안을 꼽았다. 이에 고객 맞춤형 AI 에이전트 구축이 필요했다고 밝혔다. 그는 "고객사는 챗GPT 기반 에이전트를 기업 시스템에 도입했을 때 보안을 가장 크게 우려했다"고 구축 이유를 밝혔다.

코멘토는 AI 에이전트 개발을 위해 아마존웹서비스(AWS)의 '아마존 베드록'을 활용했다. 아마존 베드록은 앤트로픽을 비롯한 메타, 코히어 등 고성능 생성형 AI 모델을 API 형태로 제공한다. 또 검색증강생성(RAG), 가드레인, 프롬프트 라우드 등 기능도 통합 지원한다. 

김 리드는 "GPT 기반 챗봇이나 에이전트는 사용자 파일이나 대화 내용이 외부에 저장될 수 있다는 우려가 있다"며 "아마존 베드록은 AI 모델과 사용자 간 대화가 저장되지 않고, 학습에도 활용되지 않아 보안 측면에서 유리하다"고 강조했다.

그러면서 "아마존 베드록 내 AI 모델은 AWS에서 독립 운영되는 구조"라며 "대화 데이터가 외부에 전송되지 않아 안전했다"고 설명했다. 

코멘토는 아마존 베드록뿐 아니라 AWS의 다양한 보안 기능도 적용했다. (사진=코멘토)

코멘토는 AI 에이전트 개발 과정에서 아마존 베드록뿐 아니라 AWS의 다양한 보안 기능도 적용했다. KMS 기반 암호화, IAM 최소 권한 정책, VPC 엔드포인트 접속 방식을 주로 활용했다. 다이나모DB의 TTL 기능과 S3의 라이프사이클 설정까지 도입해 데이터 유효 기간을 효율적으로 관리했다.

김 리드는 "에이전트 내 채팅 기능을 비롯한 스트리밍, 파일 첨부 구현을 위해 '컨버스 API'도 적용했다"며 "이를 통해 사용자 질문 흐름을 기억하고 이어갈 수 있는 체이닝 구조를 빠르게 구현할 수 있었다"고 설명했다.

"RAG 고도화…멀티 AI 오케스트레이션 실현 목표"

코멘토는 아마존 베드록을 통해 AI 에이전트 기능을 고도화할 방침이다. (사진=코멘토)

코멘토는 아마존 베드록을 통해 AI 에이전트 기능을 고도화할 방침이다. 특히 RAG 구현을 위한 파일 첨부 기능을 핵심 요소로 봤다. 사용자가 첨부한 문서 기반으로 실시간 질의응답이 가능하도록 설계해, AI의 실질적 업무 적용 사례를 늘리기 위해서다.

현재 코멘토는 포텐스닷 커뮤니티 사이트에 게시되는 글들을 AWS S3에 업로드한 뒤, 이를 지식 베이스(Knowledge Base)에 연동해 실시간 챗봇 질의응답에 활용하고 있다. 업로드 주기는 하루 1~2회 수준이다. 해당 데이터 기반으로 AI가 빠르게 인사이트를 고객에 제공하는 구조다.

문서뿐 아니라 이미지·동영상·오디오 등 멀티모달 데이터를 분석하는 '데이터 오토메이션(Data Automation)' 기능도 테스트 중이다. 이 기능은 지식 베이스와 통합돼 별도 파싱 없이도 AI가 인사이트를 추출할 수 있는 구조다. 

코멘토는 프롬프트 품질·양에 따른 AI 활용 방식도 업그레이드한다. (사진=코멘토)

김 리드는 "향후 RAG 구현 범위가 텍스트 중심에서 멀티데이터 기반으로 확장될 수 있을 것"으로 기대했다.

코멘토는 프롬프트 품질·양에 따른 AI 활용법도 업그레이드한다. 김 리드는 "베드록의 프롬프트 라우터 기능을 활용해 짧은 대화는 저렴한 모델, 긴 대화는 고성능 모델로 자동 분기하는 시스템을 도입할 계획"이라며 "여러 AI 모델과 기능을 유기적으로 연동하는 오케스트레이션 구조를 내부 실험하고 있다"고 밝혔다. 

김 리드는 포텐스닷에서 AI의 역할에 대해 언급했다. 그는 "AI는 어디까지나 사람을 돕는 '코파일럿'이어야 한다"고 강조했다. 그러면서 "AI를 단순한 자동화 도구가 아닌, 생산성 향상을 위한 협력 파트너로 활용할 수 있도록 하는 것이 핵심"이라고 주장했다.  

김 리드는 "국내 기업은 이제 막 AI 도입을 고민하는 단계"라며 "앞으로 신기술을 빠르게 테스트하고 필요시 즉시 도입하는 실행력을 갖출 것"이라고 덧붙였다.

김미정 기자(notyetkim@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.