November 2025
Beginner to intermediate
1060 pages
20h 15m
Korean
Content preview from AI 시스템 성능 엔지니어링 (Korean Edition)Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
인덱스
기호
- #pragma unroll, 명령어 수준 병렬성 노출, 루프 언롤링, 인터리빙 및 컴파일러 힌팅
- 너무 많은 반복자 횟수 언롤링, 자질 및 레지스터 압력 완화
- 100조 매개변수 모델, 100조 매개변수 모델을 향하여
- 3FS (Fire-Flyer 파일 시스템(3FS; DeepSeek)참조 )
- <<< >>> (첼브론 구문)
- CUDA 전용 실행 매개변수, CUDA 프로그래밍 재교육
- 스레드 수, CUDA 프로그래밍 재교육
- __global__, CUDA 프로그래밍 복습
- __launch_bounds__, 런치 바운디드로 점유율 조정-런치 바운디드로 점유율 조정, 점유율 조정을 위한 기법
- 점유율 최적화, 점유율 최적화를 위한 컴파일러 힌트
- __ldg(), 읽기 전용 데이터 캐시
- __shared__ 영역, 분산 공유 메모리
- __shfl_sync, 워프 셔플 내장 함수: 공유 메모리 및 명시적동기화 방지-워프 셔플 내장 함수: 공유 메모리 및 명시적 동기화 방지
- __syncthreads(), 협동 그룹
- ~6800억 매개변수 모델, DeepSeek는 중국의 미국 수출 하드웨어 제한에도 불구하고 ~6800억 매개변수 모델로 확장가능-DeepSeek는 중국의 미국 수출 하드웨어 제한에도 불구하고 ~6800억 매개변수 모델로 확장 가능
A
- 달성된 점유율, 높은 점유율 및 GPU 활용도 유지, 달성된 점유율 및 GPU 활용도 검사
- 검사, 달성된 점유율 및 GPU활용도 검사-커널 최적화, 원자 작업 큐를 통한 동적 스케줄링
- 커널 컴퓨팅 처리량 대 GPU FLOPS, 커널 컴퓨팅 처리량 대 피크 GPU FLOPS
- 커널 메모리 처리량 대 HBM, 커널 메모리 처리량 대 피크 HBM 메모리 대역폭
- 증가할 병렬 처리, 높은 점유율 및 GPU 활용도 유지
- 검사, 달성된 점유율 및 GPU활용도 검사-커널 최적화, 원자 작업 큐를 통한 동적 스케줄링
- 활성화 체크포인트, 메모리 절약을 위한 활성화 체크포인트
- FSDP 자동 체크포인트, FSDP 자동 체크포인트 및오프로딩-FSDP 자동 체크포인트 및 오프로딩
- 적응형 배치, 적응형 배치 및 청크 프리필스케줄링-적응형 배치 및 청크 프리필 스케줄링
- 적응형 라우팅, 적응형 전문가 라우팅 및 실시간 모니터링, GPUDirect RDMA를 통한 다중 노드 및 다중 랙 통신
- 입장 제어 (조기 거부참조 )
- 자가 개선 AI 에이전트, 자가 개선 AI 에이전트(AI Futures 프로젝트)-자가 개선 AI 에이전트(AI Futures 프로젝트)
- NVL72 빌딩 블록을 통한 AI 팩토리, 공동 패키징 광학: 네트워킹 하드웨어의 미래
- AI 미래 프로젝트, 자가 개선 AI 에이전트(AI 미래 프로젝트)-자가 개선 AI 에이전트(AI 미래 프로젝트)
- AI가 AI 시스템을 최적화, AI 지원 실시간 시스템 최적화 및 클러스터운영-AI 지원 실시간 시스템 최적화 및 클러스터 운영
- 랙 내 AI 슈퍼컴퓨터 (NVIDIA) ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.