본문 바로가기
🖥️ 컴퓨터본체 · 노트북 · 인터넷 카테고리
일반 😀
2024.01.15 20:48
프론티어 슈퍼컴퓨터의 일부만 사용하 1조 매개변수의 LLM을 실행
😀컴덕944
조회 수 666 추천 수 0 댓글 0

단축키

Prev이전 문서

Next다음 문서

단축키

Prev이전 문서

Next다음 문서

Frontier-Supercomputer.png

↓https://twitter.com/nicholasmalaya/status/1743384719851418108

 

프론티어 슈퍼컴퓨터를 사용해 챗GPT-4에 필적하는 1조 매개변수를 지닌 LLM을 교육했습니다. 

 

하지만 이건 프론티어의 일부만 사용한 것입니다. 인스팅트 MI250X 37000개 중에서 3천개만 썼거든요. 

 

대규모 LLM 교육에서 중요한 건 메모리 용량입니다. 최소 14TB 가 필요하다고 지적합니다. MI250X는 64GB 메모리가 있고, 이를 병렬 구성해야 합니다. 여기에선 학습 프로그램이 더욱 효율적으로 실행되도록 손을 봤다고 하네요. 



?

🖥️ 컴퓨터본체 · 노트북 · 인터넷

쓰기


List of Articles
번호 분류 제목 글쓴이 조회 수 날짜
공지 에디터 업데이트+) GPT AI 기능을 포함하여 강력한 도구들을 사용해보세요 ⬆️ file 🍀플로버404 604 2024.04.16
공지 덕질 공통 이용규칙 및 안내 (업데이트중+ 2024-04-13) 😀컴덕824 929 2024.04.14
공지 1000P를 모으면 다이소 상품권 1000원을 신청할 수 있습니다. file Private 2740 2024.02.14
5304 일반 희비 엇갈린 LG-SK…이제 공은 특허소송으로 😀익명587 54 2023.03.27
5303 일반 흠 윈도업뎃후 다운 😀30614271 55 2022.03.03
5302 일반 흠 윈도11 문제인가 크롬문제인가 file 😀09960349 477 2022.03.29
5301 일반 흠 블투스피커 다 고장났네 😀37885824 60 2022.03.08
5300 일반 흑흑 결국 2테라 하드를 구해야 한다니 😀컴덕253 55 2022.02.10
5299 일반 흑자예상하며 기다린보람이 있군 😀익명123 381 2016.02.28
5298 일반 흐린 날씨에 7월 첫째 날이자 금요일이네요. 😀익명258 506 2022.12.31
5297 일반 휴대폰에서 이상한 소리 (삐-삐-)가 납니다 😀익명483 1486 2023.03.27
5296 일반 휴대폰 전체 다 그대로 다른 휴대폰으로 😀컴덕014 10 2022.01.01
5295 질문 휴대폰 기종 뭔지 아시는 선생님 계실까요 1 file 😀익명393 374 2023.05.05
5294 일반 휴대폰 교체시 문자 백업은 어떻게 하면 될까요? 😀익명651 1478 2023.03.27
5293 일반 휴대용 컴프레셔 😀익명683 243 2022.12.31
5292 일반 휴대용 에어컨🆒대우 네오아미코 개봉기 [4K] file 😀컴덕570 59 2023.03.27
5291 일반 훌랄라 vs bhc 양념반 후라이드반 😀82400122 286 2022.03.09
5290 일반 훈수 듣고 성공한 bj 😀익명794 509 2022.12.31
5289 일반 후쿠시마 앞바다에서 규모 7.2 지진 발생 😀익명898 508 2022.12.31
5288 일반 후 삿다...... file 😀컴덕후846 38 2022.02.14
5287 일반 효정님께 file 😀컴덕019 37 2022.01.04
5286 일반 효도컴 이륙가능..? file 😀84112305 440 2022.04.12
5285 일반 회사에서 차를 지원해줘서!! 😀컴덕377 22 2022.01.07
목록
쓰기
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 266 Next
/ 266