조회 수 1114 추천 수 0 댓글 0
단축키
Prev이전 문서
Next다음 문서
단축키
Prev이전 문서
Next다음 문서
인텔은 2019년에 하바나를 인수해 하바나 가우디를 자사 라인업에 편입시켰습니다. 가우디의 신형 모델인 가우디 2에서 비전 언어 모델인 브릿지타워를 미세 조정하면 NVIDIA의 A100보다 2.5배, H100보다 1.4배 빠른 속도로 처리해 낸다고 합니다.
이런 속도 향상은 하드웨어 가속 데이터 로딩 시스템에서 비롯된 것입니다. AI 모델 미세 조정의 경우 이 부분에서 병목 현상이 일어나며, 비전 언어 모델은 더더욱 그렇습니다. 이미지 디코딩과 이미지 확대 등에서 CPU가 작업을 처리할 동안 HPU(GPU)가 멈춰 있는 게 문제인데요. 여기에선 CPU의 사용량을 낮추는 최적화 작업을 통해 성능을 높였습니다.
| Device | dataloader_num_workers=0 |
dataloader_num_workers=1 |
dataloader_num_workers=2 |
|---|---|---|---|
| Gaudi2 HPU | 601.5 samples/s | 747.4 samples/s | 768.7 samples/s |
| H100 GPU | 336.5 samples/s | 580.1 samples/s | 602.1 samples/s |
| A100 GPU | 227.5 samples/s | 339.7 samples/s | 345.4 samples/s |
https://huggingface.co/blog/bridgetower
| 번호 | 분류 | 제목 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 공지 | 유머 |
🚨(뉴비필독) 전체공지 & 포인트안내
10 
|
2024.11.04 | 26156 |
| 공지 | 이슈 | URL만 붙여넣으면 끝! 임베드 기능 | 2025.01.21 | 20598 |
| 379496 | 유머 |
열애설 터져서 실시간으로 해체 선언한 박성광 아이돌.jpg
 
|
2025.06.16 | 17 |
| 379495 | 유머 |
열애설 터져서 실시간으로 해체 선언한 박성광 아이돌.jpg
|
2025.06.16 | 15 |
| 379494 | 그 외 |
[전담플러스] 2+2이벤트 내츄럴 맨솔30ml 3종 9,000원 무배
|
2025.06.16 | 261 |
| 379493 |
비오니까 대게꿉꿉하다
|
2025.06.16 | 17 | |
| 379492 |
연차내니까 넘좋아
|
2025.06.16 | 23 | |
| 379491 |
배고프다
|
2025.06.16 | 27 | |
| 379490 | 유머 |
아나운서들이 프리 왜 선언하는지 알것같은 김대호 출연료 변화.jpg
|
2025.06.16 | 41 |
| 379489 | 기사/뉴스 |
‘꽃을 든’ 방예담, ‘뷰민라 2025’ 성료...신곡 ‘정’ 깜짝 공개 ‘호응↑’
|
2025.06.16 | 42 |
| 379488 | 먹거리 |
[카카오] 이지슬림 잔티젠 다이어트 14일분 (13,490원) (무료배송)
|
2025.06.16 | 158 |
| 379487 |
비 그만 와라
|
2025.06.16 | 51 | |
| 379486 | 먹거리 |
유기농 두오모 애사비(애플사이다비니거) 500ml
1
|
2025.06.16 | 951 |
| 379485 |
비 좀 그만와 ㅠ
1
|
2025.06.16 | 54 | |
| 379484 | 생활용품 |
지마켓) 딥큐 3in1 오션브리즈 100+100개 실내건조 캡슐세제 13,120원[유클/무배]
|
2025.06.16 | 1082 |
| 379483 |
더본 세일 엄청하네
5
|
2025.06.16 | 92 | |
| 379482 | 미국 |
트럼프 전쟁준비하는걸까
|
2025.06.16 | 77 |
| 379481 | 일본 |
일본지역에도 스타링크 들어왔어??
|
2025.06.16 | 80 |
| 379480 |
곧 백종원 짬뽕 할인 이벤트함
2
|
2025.06.16 | 92 | |
| 379479 | 기사/뉴스 |
이프아이, 7월 컴백 확정…올여름 뜨겁게 달군다
|
2025.06.16 | 100 |
| 379478 | 먹거리 |
매콤 쫄깃한 홍대쭈꾸미 매운맛 300g X 5봉
1
|
2025.06.16 | 1188 |
| 379477 |
날씨 개습해
2
|
2025.06.16 | 112 | |
| 379476 |
월요일 화이팅
1
|
2025.06.16 | 102 | |
| 379475 |
배고파
|
2025.06.16 | 106 | |
| 379474 |
덥다
|
2025.06.16 | 118 | |
| 379473 | 잡담 |
리우 이즈 뭔들이지만..
|
2025.06.16 | 164 |
| 379472 | 생활용품 |
해피홈 파워 캡슐세제 30입
|
2025.06.16 | 1096 |
| 379471 |
월요일 너무 싫다
1
|
2025.06.16 | 121 | |
| 379470 |
생리대 유목민 덬있어??
|
2025.06.16 | 115 | |
| 379469 | 화장품 |
라입 R3 아르간 헤어스타일링 오일 에센스 베리베리 100ml 2개
|
2025.06.16 | 1378 |
| 379468 | 생활용품 |
11번가) 10분러시 콘에어 스킨팟 진동 클렌저 모공 브러쉬 8,800원
|
2025.06.16 | 217 |
| 379467 | 월요일 극혐 2 | 2025.06.16 | 247 |