【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]초고가 GPU 없어도 효율적 AI 학습시킨다

온카뱅크관리자

2024-09-19 10:45:50

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">KAIST</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="6AwSVjHEHd">
          <figure class="figure_frm origin_fig" dmcf-pid="PAwSVjHEGe" dmcf-ptype="figure">
           <p class="link_figure"><img alt="인공지능(AI)이 학습하는 모습을 나타낸 이미지. 게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/19/dongascience/20240919104556736dlrc.jpg" data-org-width="680" dmcf-mid="8IY3nlqy5J" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/19/dongascience/20240919104556736dlrc.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            인공지능(AI)이 학습하는 모습을 나타낸 이미지. 게티이미지뱅크
           </figcaption>
          </figure>
          <p dmcf-pid="QcrvfAXDtR" dmcf-ptype="general">국내 연구진이 고가의 데이터센터급 그래픽처리장치(GPU)나 고속 네트워크 없이도 인공지능(AI) 모델을 효율적으로 학습할 수 있는 기술을 개발했다. 자원이 제한된 기업이나 연구자들이 AI 연구를 보다 효과적으로 수행하는 데 도움이 될 것으로 기대된다.</p>
          <p dmcf-pid="xtU2w1Q05M" dmcf-ptype="general">KAIST는 한동수 전기및전자공학부 교수 연구팀이 일반 소비자용 GPU를 활용해 네트워크 대역폭이 제한된 분산 환경에서도 AI 모델 학습을 수십에서 수백 배 가속할 수 있는 기술을 개발했다고 19일 밝혔다. 이번 연구는 8월 호주 시드니에서 열린 국제 학술대회 ‘ACM 시그콤(SIGCOMM) 2024’에서 발표됐다.</p>
          <p dmcf-pid="yoAOBLTNXx" dmcf-ptype="general">기존에는 AI 모델을 학습하기 위해 개당 수천만 원에 달하는 고성능 서버용 GPU 여러 대와 이들을 연결하기 위한 400Gbps(초당 기가비트)급 고속 네트워크를 가진 고가 인프라가 필요했다.  소수 기업을 제외한 대다수 기업과 연구자들은 비용 문제로 고가 인프라를 도입하기 어려웠다.<br>  <br> 한 교수 연구팀은 '스텔라트레인'이란 분산 학습 프레임워크를 개발했다. 이 기술은 엔비디아의 고성능 GPU H100에 비해 10~20배 저렴한 소비자용 GPU를 활용한다. 고속의 전용 네트워크 대신 대역폭이 수백에서 수천 배 낮은 일반 인터넷 환경에서도 효율적인 분산 학습이 가능하다. </p>
          <p dmcf-pid="WeLEpRIi1Q" dmcf-ptype="general">기존의 저가 GPU를 사용할 경우 GPU 메모리가 작고 네트워크 속도가 제한돼 대규모 AI 모델 학습 시 속도가 수백 배 느려지는 한계가 있었다. 연구팀이 개발한 스텔라트레인 기술은 CPU와 GPU를 병렬로 활용해 학습 속도를 높이고 네트워크 속도에 맞춰 데이터를 효율적으로 압축 및 전송하는 알고리즘을 적용해 고속 네트워크 없이도 여러 대의 저가 GPU를 이용해 빠른 학습을 가능하게 했다. </p>
          <p dmcf-pid="YdoDUeCn1P" dmcf-ptype="general">특히 학습을 작업 단계별로 CPU와 GPU가 나누어 병렬적으로 처리할 수 있는 새로운 파이프라인 기술을 도입해 연산 자원의 효율을 극대화했다. 원거리 분산 환경에서도 GPU 연산 효율을 높이기 위해 AI 모델별 GPU 활용률을 실시간으로 모니터링해 모델이 학습하는 샘플의 개수(배치 크기)를 동적으로 결정하고 변화하는 네트워크 대역폭에 맞추어 GPU 간의 데이터 전송을 효율화하는 기술을 개발했다. </p>
          <p dmcf-pid="GJgwudhLX6" dmcf-ptype="general">연구 결과 스텔라트레인 기술을 사용하면 기존의 데이터 병렬 학습에 비해 최대 104배 빠른 성능을 낼 수 있는 것으로 나타났다. </p>
          <p dmcf-pid="Hiar7JloZ8" dmcf-ptype="general">한동수 교수는 "이번 연구가 대규모 AI 모델 학습을 누구나 쉽게 접근할 수 있게 하는 데 크게 기여할 것"이라며 “앞으로도 저비용 환경에서도 대규모 AI 모델을 학습할 수 있는 기술 개발을 계속 할 계획”이라고 말했다..</p>
          <p dmcf-pid="XLjsqnvaH4" dmcf-ptype="general">한 교수 연구팀은 앞서 지난 7월 GPU 메모리 한계를 극복해 소수의 GPU로 거대 언어 모델을 학습하는 새로운 기술도 발표했다. 최신 거대 언어 모델의 기반이 되는 전문가 혼합형 모델을 제한된 메모리 환경에서도 효율적인 학습을 가능하게 한다.</p>
          <p dmcf-pid="ZoAOBLTN5f" dmcf-ptype="general"> <br> 이 기술을 활용하면 기존에 32~64개 GPU가 필요한 150억 파라미터 규모의 언어 모델을 단 4개의 GPU만으로도 학습할 수 있게 됐다. 이를 통해 학습의 필요한 최소 GPU 대수를 8배~16배 낮출 수 있게 됐다. </p>
          <p dmcf-pid="5gcIboyjGV" dmcf-ptype="general">[박정연 기자 hesse@donga.com]</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p>

"자율주행 로봇으로 청소기 넘어 모빌리티 기업으로 도약" 美, 11월 글로벌 AI 안전 연구소 회담 개최

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기