【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]퀄컴 "온디바이스 AI, LLM 경량화로 중요성 더 커질 것"

온카뱅크관리자

2024-10-24 07:02:46

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">[스냅드래곤 서밋] 두르가 말라디 "다양한 AI 모델 활용하는 에이전트, 경험 개선의 핵심"</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="qoFIz3nbpS">
          <p dmcf-pid="BzDMCwuSUl" dmcf-ptype="general">(지디넷코리아=권봉석 기자)[하와이(미국)=권봉석 기자] 두르가 말라디(Durga Maladi) 퀄컴 기술기획·엣지 솔루션 부문 본부장(수석부사장)이 24일 오전(한국시간 23일) 미국 미국 하와이에서 진행중인 연례 기술행사 '스냅드래곤 서밋 2024'에서 온디바이스 AI의 중요성을 강조했다.</p>
          <p dmcf-pid="bKsJvOBWUh" dmcf-ptype="general">스냅드래곤 서밋 2024 마지막 날 오전 진행된 'AI 토크' 행사에서 두르가 말라디 본부장은 "AI 관련 기술이 엣지 컴퓨팅으로 전환하며 중요한 변곡점을 맞았으며 AI 관련 처리를 클라우드가 아닌 기기상에서 처리할 때 이점이 더 크다"고 밝혔다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="KEqWfBc6FC" dmcf-ptype="figure">
           <p class="link_figure"><img alt="두르가 말라디(Durga Maladi) 퀄컴 기술기획·엣지 솔루션 부문 본부장(수석부사장) (사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/24/ZDNetKorea/20241024070248986cbbd.jpg" data-org-width="640" dmcf-mid="7tFIz3nbuT" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/24/ZDNetKorea/20241024070248986cbbd.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            두르가 말라디(Durga Maladi) 퀄컴 기술기획·엣지 솔루션 부문 본부장(수석부사장) (사진=지디넷코리아)
           </figcaption>
          </figure>
          <p dmcf-pid="9rKH69DxzI" dmcf-ptype="general">두르가 말라디 본부장은 "지연시간 감소로 인한 응답 시간 개선, 개인정보 보호, 전력 효율성 면에서 온디바이스 AI가 훨씬 효율적이며 환경적인 면에서도 훨씬 효율적"이라고 설명했다.</p>
          <p dmcf-pid="2XibjnGkFO" dmcf-ptype="general">그는 이어 "2000년대 초반 컴퓨터보다 현재 스마트폰·태블릿이 성능 면에서 더 뛰어나며 같은 기능을 처리하는 데 필요한 에너지 소비량 역시 적다. 퀄컴 스냅드래곤 플랫폼 역시 데이터센터 대비 에너지 효율 면에서 30배 이상 앞선다"고 말했다.</p>
          <p dmcf-pid="V7ExIDUlzs" dmcf-ptype="general">두르가 말라디 본부장은 이날 AI 모델 성능의 품질과 성능 개선이 패러미터 수와 정비례하지 않으며 오히려 시간이 지날수록 크기는 줄고 성능이 높아지는 방향으로 가고 있다고 소개했다.</p>
          <p dmcf-pid="fC4tR8OJ0m" dmcf-ptype="general">이는 다양한 LLM 구동시 클라우드에 의존하던 과거와 달리 기기상에서 직접 실행할 수 있는 방향으로 나아갈 것임을 의미하는 발언이다.</p>
          <p dmcf-pid="4TxUnMSg0r" dmcf-ptype="general">그는 "2년 전 등장한 챗GPT는 1천750억 개 매개변수 기반 'GPT-3'를 이용했다. 그러나 올해 6월 공개된 메타 최신 모델 '라마3'(Llama 3)는 상대적으로 적은 80억 개 매개변수로 GPT-3 대비 더 나은 성능을 낸다"고 설명했다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="8WR7oeTNuw" dmcf-ptype="figure">
           <p class="link_figure"><img alt="음성, 사진, 텍스트 등 멀티모달 AI를 활용한 AI 에이전트의 구현 예시. (사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/24/ZDNetKorea/20241024070249214fwhr.jpg" data-org-width="640" dmcf-mid="zS63dPCn7v" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/24/ZDNetKorea/20241024070249214fwhr.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            음성, 사진, 텍스트 등 멀티모달 AI를 활용한 AI 에이전트의 구현 예시. (사진=지디넷코리아)
           </figcaption>
          </figure>
          <p dmcf-pid="6n1sutJq7D" dmcf-ptype="general">두르가 말라디 본부장은 향후 스마트폰 경험을 바꿀 'AI 에이전트'도 소개했다. AI 에이전트는 용도에 맞는 다양한 AI 모델을 관리하며 로컬 기기에 있는 개인 데이터를 활용해 더욱 맞춤화된 응답을 제공한다.</p>
          <p dmcf-pid="PzDMCwuSzE" dmcf-ptype="general">두르가 말라디 본부장은 "AI 에이전트는 이용자와 기기의 상호작용 출발점이며 온디바이스 AI를 기반으로 필요에 따라 클라우드에 있는 정보를 참조해 연산 성능 제약이 있는 휴대용 기기에서 AI 처리 효율을 높이고 더 나은 경험을 제공할 것"이라고 밝혔다.</p>
          <p dmcf-pid="QjUSKuaVpk" dmcf-ptype="general">권봉석 기자(bskwon@zdnet.co.kr)</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>

LG CNS '퍼펙트윈 ERP 에디션', 미국 이어 일본 시장 진출 세븐틴, 日 오리콘·빌보드 재팬 차트 정상 차지..1위 또 1위

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기