조회 수 1114 추천 수 0 댓글 0
단축키
Prev이전 문서
Next다음 문서
단축키
Prev이전 문서
Next다음 문서
인텔은 2019년에 하바나를 인수해 하바나 가우디를 자사 라인업에 편입시켰습니다. 가우디의 신형 모델인 가우디 2에서 비전 언어 모델인 브릿지타워를 미세 조정하면 NVIDIA의 A100보다 2.5배, H100보다 1.4배 빠른 속도로 처리해 낸다고 합니다.
이런 속도 향상은 하드웨어 가속 데이터 로딩 시스템에서 비롯된 것입니다. AI 모델 미세 조정의 경우 이 부분에서 병목 현상이 일어나며, 비전 언어 모델은 더더욱 그렇습니다. 이미지 디코딩과 이미지 확대 등에서 CPU가 작업을 처리할 동안 HPU(GPU)가 멈춰 있는 게 문제인데요. 여기에선 CPU의 사용량을 낮추는 최적화 작업을 통해 성능을 높였습니다.
| Device | dataloader_num_workers=0 |
dataloader_num_workers=1 |
dataloader_num_workers=2 |
|---|---|---|---|
| Gaudi2 HPU | 601.5 samples/s | 747.4 samples/s | 768.7 samples/s |
| H100 GPU | 336.5 samples/s | 580.1 samples/s | 602.1 samples/s |
| A100 GPU | 227.5 samples/s | 339.7 samples/s | 345.4 samples/s |
https://huggingface.co/blog/bridgetower
| 번호 | 분류 | 제목 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 공지 | 유머 |
🚨(뉴비필독) 전체공지 & 포인트안내
10 
|
2024.11.04 | 26182 |
| 공지 | 이슈 | URL만 붙여넣으면 끝! 임베드 기능 | 2025.01.21 | 20614 |
| 379518 |
조금 피곤햇다고 혓바늘 남
|
2025.06.16 | 10 | |
| 379517 |
솔직히 이거 거짓 정보지? 이러고 어떻게 살아? 덬들은 가능해?
1
|
2025.06.16 | 22 | |
| 379516 |
대장내시경 준비 힘들다..
1
|
2025.06.16 | 22 | |
| 379515 |
야채참치 존맛이야
1
|
2025.06.16 | 28 | |
| 379514 |
날씨 진짜 습하다
|
2025.06.16 | 37 | |
| 379513 | 의류 |
기본 무지 반팔 티셔츠 6,900원 배송비 3,000원
|
2025.06.16 | 43 |
| 379512 | 먹거리 |
13brix 흑수박 5kg 19,900원/무배
|
2025.06.16 | 55 |
| 379511 | 잡담 |
고보들쪼꼬미 배달 채널 볼때마다 너무 기분 좋네
|
2025.06.16 | 48 |
| 379510 | 유머 |
러시아 상위 1% 명문대생에서 K팝 아이돌이 된 걸그룹 멤버.jpg
|
2025.06.16 | 58 |
| 379509 | 미국 |
미국 마트 장볼 때 쓸만한 쿠폰앱 3개 추천함
2
|
2025.06.16 | 66 |
| 379508 | 미국 |
이웃이랑 잘 지내는 법 미국 (aka 분쟁 피하기)
2
|
2025.06.16 | 61 |
| 379507 | 미국 |
DMV (운전면허) 갔다가 인생 회의 옴ㅋㅋ
2
|
2025.06.16 | 58 |
| 379506 | 미국 |
미국 쓰레기 처리 헷갈림ㅋㅋ 분리수거 이게 맞냐?
2
|
2025.06.16 | 61 |
| 379505 | 미국 |
미국에서 렌트 계약할 때 꼭 봐야 하는 3가지
2
|
2025.06.16 | 60 |
| 379504 | 미국 |
미국 자동차 보험 뭐 ? 난 GEICO로 정착함
2
|
2025.06.16 | 68 |
| 379503 | 미국 |
미국에서 에어컨 고장나면 수리비 얼마 드냐고ㅋㅋㅋ (현타옴)
|
2025.06.16 | 57 |
| 379502 | 미국 |
미국에서 에어컨 고장나면 수리비 얼마 드냐고ㅋㅋㅋ (현타옴)
3
|
2025.06.16 | 62 |
| 379501 | 미국 |
이사할 때 인터넷/전기/가스 처리 꿀팁 공유함
3
|
2025.06.16 | 58 |
| 379500 | 미국 |
나 미국덕인데 집에서 난 이렇게 보는중
2
|
2025.06.16 | 63 |
| 379499 | 미국 |
미국 마트 어디가 가성비 좋음? 나 요즘 Aldi 찬양함
2
|
2025.06.16 | 59 |
| 379498 | 미국 |
미국 인터넷 뭐 쓰냐 다들? 나 Xfinity 쓰는데 좀 빡침...
2
|
2025.06.16 | 52 |
| 379497 | 일본 |
일본 인터넷 뭐 써? 나 Nuro 쓰는데 만족도 90점
2
|
2025.06.16 | 54 |
| 379496 | 일본 |
동네 찻집에서 알게 된 단골 아저씨
1
|
2025.06.16 | 68 |
| 379495 | 일본 |
일본 살면서 마트에 진심이 됐어
2
|
2025.06.16 | 58 |
| 379494 | 일본 |
일본 살면서 제일 좋았던 순간은 이럴 때
1
|
2025.06.16 | 70 |
| 379493 | 일본 |
일본 살다보면 제일 빡치는 순간
3
|
2025.06.16 | 57 |
| 379492 | 유머 |
열애설 터져서 실시간으로 해체 선언한 박성광 아이돌.jpg
|
2025.06.16 | 93 |
| 379491 | 그 외 |
[전담플러스] 2+2이벤트 내츄럴 맨솔30ml 3종 9,000원 무배
|
2025.06.16 | 388 |
| 379490 |
비오니까 대게꿉꿉하다
2
|
2025.06.16 | 98 | |
| 379489 |
연차내니까 넘좋아
1
|
2025.06.16 | 105 |