초거대 생성형 AI 기반 플랫폼 ‘Ivy’ 자체 개발

㈜클레비(Clevi, 대표 이환호)가 LLM(초거대 언어모델) 기술을 활용해 자체 개발한 초거대 생성형 AI ‘Ivy’의 오픈베타 서비스를 시작한다고 밝혔다.

국내 스타트업 클레비는 LLM(초거대 언어모델) 기술을 활용해 자체 모델인 초거대 생성형 AI ‘Ivy’를 정식 출시했다. 그동안 한국은 미국 Open AI, 중국 딥시크의 독주 속 AI시장에서 눈에 띄는 성과를 내지 못했으나, 국내 스타트업인 클레비가 초거대 생성형 AI ‘Ivy’를 정식 출시함으로써 우리나라도 자체 기술력으로 AI를 개발할 수 있다는 것을 입증해냈다.

Ivy는 △실시간 학습 및 적응 △다중 데이터 처리 △코드 인터프리터 △전문가 모델 생성 △에이전트 지원 시스템 등의 강력한 기능을 제공하는 만큼, 개인 사용자부터 기업까지 다양한 분야에서 활용될 수 있다.

클레비 이환호 대표는 2년이 넘는 기간 동안 효율적으로 설계된 학습 파이프라인을 통해 프리-트레이닝부터 시작해서 자체 모델을 개발했다. 해당 모델 개발 비용은 약 15억 원, 운영비용은 월 평균 1000만 원 정도라는 게 업체 측 설명이다.

이 대표는 “‘Ivy’ 모델이 고효율·고성능을 갖추고 있어, 생성형 AI의 단점으로 지적되던 ‘PoC는 쉽지만 Complete는 안 된다’는 문제를 해결할 수 있다”고 강조한다. 이를 통해 기업은 반복적이고 비효율적인 작업을 AI가 대신 수행하게 함으로써 인건비 등을 절감하고 생산성을 향상시킬 수 있다는 것이다.

클레비 측은 “AI 개발비용을 최소화하기 위해 자동화된 컨테이너 기반 학습 노드 배포 기술을 적용하여 개발 프로세스를 효율적으로 관리하는 혁신적인 기술을 도입했다”면서 “학습 파이프라인의 효율적인 설계, 노드간 통신 네트워크 최적화를 통해 비용을 크게 절감했다”고 강조했다.

클레비에 따르면 ‘Ivy’ 모델은 효율적 모델 학습 및 운용을 위한 Mixture of models을 개발한 것이 특징이다. 작은 모델들을 개발하고 해당 모델들을 모델에 증류하고 합치는 형태로 개발했으며, 다국어 학습 및 임베딩 최적화를 통해 영어, 한글뿐 아니라 전세계 다양한 언어를 지원한다.

특히 미국 Open AI, 중국 딥시크가 앞다퉈 AI 기술력 경쟁에 뛰어든 가운데, 국내 초거대 생성형 AI ‘Ivy’는 기존 두 모델보다 각종 벤치마크 테스트에서 높은 점수(△AIME 2024 : 81% △MATH-500 : 98.6 △SWE-BENCH : 51.1 △MMLU : 91.2)를 기록해 업계의 주목을 받고 있다는 설명이다.

클레비는 AI Assistant의 사용 확대에 따라 개인정보 유출, 보안 우려가 커진 상황 속에서 Ivy앱에 대해 최소한의 개인정보로 가입이 가능하도록 플랫폼을 공개했다. 또한 공공기관과 기업들의 경우 사용자 환경에 맞는 온프레미스로 설치가 가능하도록 지원해 보안 문제를 해결했다는 평가를 받고 있다.

클레비 관계자는 “우리 회사는 아이비 출시에 그치지 않고, 향후 개인과 그룹 사용자 간의 대화에 어시스턴트가 직접 개입하여 응답하고 참여하는 에이전트를 공개할 예정“이라며 ”AI 기반 능동적 워크플로우 에이전트 ARI(Adaptive Reasoning Intelligence)와 영상콘텐츠 제작, 의료 영상 분석 등에서 정밀 객체 인식 및 실시간 제어하는 방법에 대해서도 연구개발을 완료하여 서비스 공개를 준비 중이다“고 말했다.

한편, 아이비(‘Ivy’)는 구글 플레이스토어에 등록됐으며, 기업 공식 홈페이지 및 Ivy 다운로드 페이지에서도 Ivy를 다운로드 받아 사용할 수 있다.

최용석 동아닷컴 기자 duck8@donga.com

Copyright © 동아일보. 무단전재 및 재배포 금지.