컴퓨터/노트북/인터넷
IT 컴퓨터 기기를 좋아하는 사람들의 모임방
조회 수 1100 추천 수 0 댓글 0
단축키
Prev이전 문서
Next다음 문서
단축키
Prev이전 문서
Next다음 문서
인텔은 2019년에 하바나를 인수해 하바나 가우디를 자사 라인업에 편입시켰습니다. 가우디의 신형 모델인 가우디 2에서 비전 언어 모델인 브릿지타워를 미세 조정하면 NVIDIA의 A100보다 2.5배, H100보다 1.4배 빠른 속도로 처리해 낸다고 합니다.
이런 속도 향상은 하드웨어 가속 데이터 로딩 시스템에서 비롯된 것입니다. AI 모델 미세 조정의 경우 이 부분에서 병목 현상이 일어나며, 비전 언어 모델은 더더욱 그렇습니다. 이미지 디코딩과 이미지 확대 등에서 CPU가 작업을 처리할 동안 HPU(GPU)가 멈춰 있는 게 문제인데요. 여기에선 CPU의 사용량을 낮추는 최적화 작업을 통해 성능을 높였습니다.
| Device | dataloader_num_workers=0 |
dataloader_num_workers=1 |
dataloader_num_workers=2 |
|---|---|---|---|
| Gaudi2 HPU | 601.5 samples/s | 747.4 samples/s | 768.7 samples/s |
| H100 GPU | 336.5 samples/s | 580.1 samples/s | 602.1 samples/s |
| A100 GPU | 227.5 samples/s | 339.7 samples/s | 345.4 samples/s |
https://huggingface.co/blog/bridgetower
컴퓨터/노트북/인터넷
IT 컴퓨터 기기를 좋아하는 사람들의 모임방
| 번호 | 분류 | 제목 | 조회 수 | 날짜 |
|---|---|---|---|---|
| 공지 | 뉴스 |
구글 최신 뉴스
|
1388 | 2024.12.12 |
| HOT글 | 일반 | 아 진짜 요새 SKT 해킹 뭐시기 때문에 신경 쓰여 죽겠어 ㅠㅠ 2 | 237 | 2025.05.20 |
| 공지 |
🚨(뉴비필독) 전체공지 & 포인트안내
3 
|
25860 | 2024.11.04 | |
| 공지 | URL만 붙여넣으면 끝! 임베드 기능 | 20435 | 2025.01.21 | |
| 10640 | 네이버 지식쇼핑을 보면 깜놀랄일 | 3951 | 2014.03.23 | |
| 10639 | mysql 6.0 다운로드 (windows 계열 32비트용) | 2785 | 2014.03.29 | |
| 10638 | 리니지 프리서버 - 춘자 2.7클라이언트 2 | 9501 | 2014.03.30 | |
| 10637 | 안녕하세요 | 1924 | 2014.04.07 | |
| 10636 | 가입했습니당^.^ 1 | 2187 | 2014.04.07 | |
| 10635 | 가입인사드립니다. 1 | 2123 | 2014.04.07 | |
| 10634 | 스위트망고입니다. 반갑습니다 1 | 2194 | 2014.04.07 | |
| 10633 | 영자님 2 | 4000 | 2014.04.11 | |
| 10632 | 카오스원 2 | 3276 | 2014.04.11 | |
| 10631 | 컴퓨터 포멧하려는데 BIOS 화면이 안떠요. 6 | 5185 | 2014.04.12 | |
| 10630 | 하이하이 1 | 4141 | 2014.04.12 | |
| 10629 | 영자씨 1 | 2621 | 2014.04.13 | |
| 10628 | 인텔 v프로 원격제어 지원 메인보드-애즈락 Q87M 프로 출시 | 2849 | 2014.04.26 | |
| 10627 | 하즈웰 4세대 오버클럭시 온도차이. | 2377 | 2014.04.26 | |
| 10626 | 갠적으로 마음에 드는 그래픽카드 GTX760 PHANTOM DDR5 2G 1 | 2840 | 2014.04.26 | |
| 10625 | 탑파워 TOPOWER TOP-500D 80PLUS Bronze | 1939 | 2014.04.26 | |
| 10624 | 슈퍼플라워 SF-500P12A 후기 | 1711 | 2014.04.26 | |
| 10623 | 인텔 코어 i7 하스웰 4770 추천드림 | 2423 | 2014.04.26 | |
| 10622 | 듀얼 모니터 작업표시줄 프로그램 | 2974 | 2014.04.26 | |
| 10621 | 일반하드랑 ssd랑 차이가 심한가요? 1 | 3033 | 2014.04.26 | |
| 10620 | 로지텍 Gaming Mouse G100 쓰다보니 | 2198 | 2014.04.26 | |
| 10619 | AMD FX 8300 비쉐라는 인텔 cpu 어느것과 동급인가요? 1 | 4268 | 2014.04.26 | |
| 10618 | 인텔 G3220 하스웰- 부모님 조립해드렸어요 | 2420 | 2014.04.26 | |
| 10617 | 인텔 제온 E3-1230V3, 제온짝퉁이라니? | 2632 | 2014.04.26 | |
| 10616 | ipTIME Extender2 무선공유기 wifi 확장써보니...안습 | 2322 | 2014.04.26 | |
| 10615 | 안철수 v3백신도 좋지만, avast가 더 좋은것 같아요 | 2486 | 2014.04.27 | |
| 10614 | 컴퓨터가 아무래도 연차가 있다보니.. 1 | 3409 | 2014.04.27 | |
| 10613 | 그외 | 컴퓨터 온도측정 프로그램 hwmonitor | 3775 | 2014.04.28 |
| 10612 | 이용하는 사람이 별로 없나바요. 3 | 3509 | 2014.04.28 | |
| 10611 | 안녕하세요^^ 이번에 PC 새로 맞추려는데 1 | 2333 | 2014.04.28 |