【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]엔비디아 칩 없이 저비용으로 AI 학습 속도 100배 높인다

온카뱅크관리자

2024-09-19 09:20:03

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">KAIST "대규모 AI 모델 학습 누구나 쉽게 접근"</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="YlEa4cZw0q">
          <figure class="figure_frm origin_fig" dmcf-pid="GoQV16wMzz" dmcf-ptype="figure">
           <p class="link_figure"><img alt="왼쪽부터 한동수 교수, 임휘준 박사, 예준철 박사과정  [KAIST 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/19/yonhap/20240919092003593jkpk.jpg" data-org-width="989" dmcf-mid="WNnM7Jlo0B" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/19/yonhap/20240919092003593jkpk.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            왼쪽부터 한동수 교수, 임휘준 박사, 예준철 박사과정 [KAIST 제공. 재판매 및 DB 금지]
           </figcaption>
          </figure>
          <p dmcf-pid="HgxftPrR77" dmcf-ptype="general">(대전=연합뉴스) 박주영 기자 = 한국과학기술원(KAIST)은 고성능 칩 없이도 인공지능(AI) 모델 학습 속도를 최대 100배 높일 수 있는 기술을 개발했다고 19일 밝혔다. </p>
          <p dmcf-pid="XWskxr3I3u" dmcf-ptype="general">현재 AI 모델 학습을 위해서는 개당 수천만원에 달하는 엔비디아의 고성능 GPU인 'H100' 여러 개와 이를 연결하기 위해 400Gbps(초당 기가비트)급 고속 네트워크를 갖춘 인프라가 필요하다. </p>
          <p dmcf-pid="ZYOEMm0CzU" dmcf-ptype="general">이 때문에 소수의 거대 IT 기업을 제외한 대부분 기업이나 연구자들은 활용하기 쉽지 않다. </p>
          <p dmcf-pid="5sNiKgWA7p" dmcf-ptype="general">한동수 교수 연구팀은 H100 가격의 10분의 1에 불과한 소비자용 GPU를 활용해 고속 전용 네트워크의 수백∼수천분의 1 수준의 저대역폭에서도 효율적인 분산 학습이 가능한 프레임워크 '스텔라트레인'(StellaTrain)을 개발했다. </p>
          <p dmcf-pid="1Ojn9aYc30" dmcf-ptype="general">학습을 작업 단계별로 나눠 CPU와 GPU가 병렬적으로 처리할 수 있도록 하고, 네트워크 속도에 맞춰 데이터를 효율적으로 압축·전송하는 알고리즘을 개발해 고속 네트워크 없이도 여러 대의 저가 GPU로 빠른 학습을 가능하게 했다.</p>
          <p dmcf-pid="tHCweOUlU3" dmcf-ptype="general">스텔라트레인 기술을 사용하면 기존 데이터 병렬 학습에 비해 최대 104배 빠른 성능을 낼 수 있다고 연구팀은 설명했다. </p>
          <p dmcf-pid="FXhrdIuSpF" dmcf-ptype="general">한동수 교수는 "대규모 AI 모델 학습을 누구나 쉽게 접근할 수 있게 하는 데 기여할 것"이라며 "저비용 환경에서도 대규모 AI 모델을 학습할 수 있는 후속 연구를 이어 나갈 계획"이라고 말했다. </p>
          <p dmcf-pid="3ZlmJC7vFt" dmcf-ptype="general">KAIST 임휘준 박사, 예준철 박사과정 학생, UC 어바인의 산기타 압두 조시 교수가 참여한 이번 연구 결과는 지난달 호주 시드니에서 열린 국제 학술대회 'ACM SIGCOMM 2024'에서 발표됐다.</p>
          <p dmcf-pid="0YOEMm0CU1" dmcf-ptype="general">jyoung@yna.co.kr</p>
          <p dmcf-pid="U8z3huiB0Z" dmcf-ptype="general">▶제보는 카톡 okjebo</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p>

네이버클라우드, 미래에셋증권에 특화된 ‘구축형 LLM’ 구축 '추석 민심' 상반된 진단…"심리적 정권교체 초입" vs "민생에 매진"

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기