【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]일반 GPU로 AI 학습속도 104배 높였다

온카뱅크관리자

2024-09-19 09:42:05

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">한동수 KAIST 교수 연구진</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="uDDmUeCnUH">
          <figure class="figure_frm origin_fig" dmcf-pid="7bb2kX8tuG" dmcf-ptype="figure">
           <p class="link_figure"><img alt="한국과학기술원(KAIST) 연구진이 고가의 인공지능(AI)용 그래픽처리장치(GPU) 없이도 거대 모델을 만들 수 있는 기술을 개발했다. 중앙처리장치(CPU)와 GPU를 병렬로 사용하고 네트워크 속도에 따라 데이터를 압축, 전송해 효율을 높이는 방식이다./로이터 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/19/chosunbiz/20240919094210136bdcp.jpg" data-org-width="3000" dmcf-mid="pwX1Mm0CUZ" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/19/chosunbiz/20240919094210136bdcp.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            한국과학기술원(KAIST) 연구진이 고가의 인공지능(AI)용 그래픽처리장치(GPU) 없이도 거대 모델을 만들 수 있는 기술을 개발했다. 중앙처리장치(CPU)와 GPU를 병렬로 사용하고 네트워크 속도에 따라 데이터를 압축, 전송해 효율을 높이는 방식이다./로이터 연합뉴스
           </figcaption>
          </figure>
          <figure class="figure_frm origin_fig" dmcf-pid="zzzbjYVZuY" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/19/chosunbiz/20240919094210462rrgu.png" data-org-width="1800" dmcf-mid="Un8QO0e73X" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/19/chosunbiz/20240919094210462rrgu.png" width="658"></p>
          </figure>
          <p dmcf-pid="qPPMCUJqUW" dmcf-ptype="general">국내 연구진이 인공지능(AI) 모델 학습에 드는 비용을 획기적으로 줄이는 기술을 개발했다. 고가의 장비가 없어도 고성능의 AI를 만들 수 있어 대규모 투자가 어려운 중소기업과 연구자에게 큰 도움이 될 것으로 보인다.</p>
          <p dmcf-pid="BggjZ4EQUy" dmcf-ptype="general">한동수 한국과학기술원(KAIST) 전기및전자공학부 교수가 이끄는 연구진은 고가의 AI 학습용 그래픽처리장치(GPU) 없이도 학습 속도를 수백배 높이는 기술을 개발했다고 19일 밝혔다.</p>
          <p dmcf-pid="bzzbjYVZuT" dmcf-ptype="general">AI 모델이 거대화되면서 학습에 필요한 연산량도 크게 늘고 있다. AI 모델 개발은 1개당 수천만원에 달하는 고성능 서버용 GPU 여러대와 이를 연결하기 위한 고속 네트워크로 이뤄진 인프라(기반 시설)가 필요한 상황이다. 하지만 대기업이 아닌 대부분 중소기업과 연구자들은 이 같은 규모의 인프라를 확보하기 쉽지 않다.</p>
          <p dmcf-pid="KBB9cH410v" dmcf-ptype="general">연구진은 분산 학습 프레임워크 ‘스텔라트레인(Stella Train)’을 개발해 이 같은 문제를 해결했다. 스텔라트레인은 고성능 GPU보다 20배 저렴한 일반 GPU와 일반 인터넷 환경에서도 효과적인 AI 학습이 가능하게 돕는 기술이다.</p>
          <p dmcf-pid="9224w1Q0zS" dmcf-ptype="general">스텔라트레인은 중앙처리장치(CPU)와 GPU를 병렬로 사용해 학습 속도를 높인다. 연산 능력의 효율을 높이는 알고리즘을 적용했다. 데이터 압축, 전송 속도는 네트워크 속도에 맞춰 조절해 고속 통신 없이도 여러 대의 저가 GPU로 빠른 학습이 가능하다. 학습 데이터를 AI 모델별 GPU 활용률에 따라 유동적으로 조절하는 능력도 갖췄다.</p>
          <p dmcf-pid="2wwsudhLUl" dmcf-ptype="general">스텔라트레인은 기존 데이터 병렬 학습에 비해 최대 104배 빠른 학습이 가능한 것으로 나타났다.</p>
          <p dmcf-pid="VssCqnvaUh" dmcf-ptype="general">연구진은 지난 7월 적은 수의 GPU로 챗GPT와 같은 거대 언어 모델(LLM)을 학습하는 새로운 기술도 개발했다. 기존 기술로 GPU 64개 필요한 AI 모델의 학습을 GPU 4개만으로도 가능하게 했다.</p>
          <p dmcf-pid="f55FeOUlFC" dmcf-ptype="general">한 교수는 “누구나 쉽게 대규모 AI 모델 학습에 접근할 수 있게 하는 데 큰 기여를 할 것”이라며 “앞으로도 저비용으로도 대규모 AI 모델을 학습할 수 있는 기술 개발을 계속할 예정”이라고 말했다.</p>
          <p dmcf-pid="4qqKAGf5pI" dmcf-ptype="general">연구 결과는 지난 8월 호주 시드니에서 열린 AI 분야 학술대회 ‘ACM 시그컴 2024′에서 소개됐다.</p>
          <p dmcf-pid="8yyG8k5ruO" dmcf-ptype="general">- Copyright ⓒ 조선비즈 &amp; Chosun.com -</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p>

보안 때문에 AI 주저하던 공공·금융, 네이버 '구축형 AI' 미래에셋에 공급 "정혜인 최초 3경기 해트트릭→액셔니스타 동메달"…'골때녀', 추석에도 2049시청률 '1위'

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기