모자이크 AI 게이트웨이·지니 API 스위트에이전트 평가 리뷰 앱 등 프리뷰 버전 제공

(지디넷코리아=김미정 기자)데이터브릭스가 인공지능(AI) 에이전트를 대규모 운영 환경에 도입할 수 있는 도구를 발표해 AI 활용성을 높였다. 

데이터브릭스는 기업들이 AI 에이전트를 고부가가치 활용 사례에서 신뢰할 수 있는 도구를 출시했다고 18일 밝혔다. 

현재 전 세계 기업의 85%가 생성형 AI를 사용하고 있지만, 가장 발전된 모델도 기업별 데이터에 대한 이해 부족으로 인해 비즈니스에 특화된 체계적인 결과를 제공하는 데 어려움을 겪고 있다.

(사진= 데이터브릭스)

이번에 발표된 신규 도구는 기업이 AI 에이전트를 비즈니스에 필수적인 고부가가치 애플리케이션에 도입할 수 있도록 지원하며, 정확성과 거버넌스를 보장하고 사용 편의성을 높이는 데 초점을 맞추고 있다. 

이 도구는 모든 AI 모델을 한 곳에서 관리할 수 있도록 지원한다. 모자이크 AI 게이트웨이를 통해 맞춤형 거대언어모델(LLM) 공급자를 활용도 가능하다. 이를 통해 모델 전반에 걸쳐 일관된 거버넌스, 모니터링과 통합 기능을 제공한다.

사용자는 해당 도구를 기존 애플리케이션 워크플로우와 통합할 수 있다. 개발자가 자연어 기반 챗봇을 맞춤형 애플리케이션이나 마이크로소프트 팀즈, 쉐어포인트, 슬랙 등 생산성 도구에 직접 통합할 수 있다. 지니 API를 통해 사용자는 프로그래밍 방식으로 프롬프트를 제출하고, 지니 UI(사용자 인터페이스)에서와 동일한 인사이트를 얻을 수 있다. 대화 스레드 내에서 여러 후속 질문에 걸쳐 대화의 문맥을 유지할 수 있다.

데이터브릭스는 해당 도구의 휴먼 인 더 루프(인간개입) 워크플로우를 간소화했다고 밝혔다. 업그레이드된 에이전트 평가 리뷰 앱은 도메인 전문가가 AI 에이전트의 성능을 보다 손쉽게 평가하고, 맞춤형 피드백을 제공하며, 라벨링을 위해 추적을 보내고, 평가 기준을 사용자 맞춤화 할 수 있도록 지원한다. 전문가는 엑셀 스프레드시트나 별도의 맞춤형 애플리케이션 없이도 체계적인 피드백을 효율적으로 수집할 수 있다. 이를 통해 AI 성능을 지속적으로 개선하고 정확도를 체계적으로 올릴 수 있다. 

해당 도구는 프로비저닝 없는 배치 추론 기능도 제공한다. 고품질 AI 에이전트를 구축하기 위해서는 모델 선택, 거버넌스, 평가가 필수적이다. 기술을 원활하게 확산하기 위해서는 사용 경험을 단순화하는 것도 중요하다. 이번에 새롭게 추가된 기능을 통해 모자이크 AI에서 단일 쿼리만으로 배치 추론을 실행할 수 있다. 별도 인프라 설정없이도 비정형 데이터를 원활하게 통합할 수 있다.

데이터브릭스 크레이그 와일리 AI/ML 제품 담당 수석 디렉터는 "여전히 많은 기업이 AI 에이전트를 고부가가치 활용 사례에 도입하는 데 어려움을 겪고 있다"며 "이는 정확성, 거버넌스, 보안에 대한 우려 때문"이라고 지적했다. 그러면서 "새롭게 발표된 도구들은 해당 문제를 정면돌파함으로써, 기업이 시범 단계를 넘어 신뢰할 수 있는 AI 에이전트를 본격적인 운영 환경에 도입할 수 있도록 지원할 것"이라고 말했다. 

김미정 기자(notyetkim@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.