하드웨어 #gpu #a100

DL380G10에서 A100 80GB GPU-Util 문의 사항

안녕하세요. 최근에 A100 80G를 


1) OS : ubuntu 22.04.4에서 설치 

2) Driver Version : 535.183.06

3) CUDA Version : 12.2

설치 했습니다. 

아무것도 사용하지 않는데 GPU-Util에서 사용율이 22% 나오는데 

왜 그런것인지 문의 드립니다. 




5개의 답변이 있습니다.

0 추천 | 약 2달 전

GPU의 유휴 사용량을 증가시킬 수 있는 오버클러킹 또는 전력 제한 설정이 적용되었는지 확인하십시오.


'nvtop' 또는 'nvidia-smi dmon'과 같은 도구를 사용하면 GPU 활용도를 보다 자세히 실시간으로 확인할 수 있습니다.

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 2달 전

CPU 도 그렇고, 메모리도 그렇고, Backgroup 에서 동작되는 프로세스가 일부 있을 수 있습니다.

아무것도 안해도 메모리 사용율이나 CPU 사용율이 어느정도 유지 되는 것을 보면 알 수 있죠..

GPU도 비슷한 맥락으로 보시면 될 것 같아요.

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 2달 전

NVIDIA SMI 또는 다른 관리 툴이 GPU 자원을 사용하고 있을 수 있습니다. 이런 툴들은 GPU 상태를 모니터링하면서 일정량의 자원을 확인 할수 있을것 같아요

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 2달 전

서비스 항목들이 돌아가는지 체크 해보시고 없으면 wansoo님이 말씀하신거처럼 드라이버가 동작을 할수 있을듯합니다.

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

1st 5stars

0 추천 | 2달 전

GPU를 점검한다거나 모니터링을 한다거나, GPU 성능을 효율적으로 처리하기 위해 사전 작업을 미리 해 둔다거나 등등의 다양한 작업이 진행 될 수 있지 않을까 싶네요.

백그라운드 서비스가 작동할수도 있고, GPU 드라이버나 시스템 서비스에 의해 GPU가 사용될 수도 있겠고요.

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

답변 달기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

IT 솔루션 또는 하드웨어 도입을 검토 중 이신가요?

쉐어드IT 솔루션 상담실에서 믿을 수 있는 제품과 업체를 추천 받으실 수 있습니다.

솔루션 상담실 IT 컨시어지 서비스

하드웨어 카테고리의 다른 질문들...

  • 9일 전
  • 댓글 : 6일 전
  • 11일 전
  • 댓글 : 2일 전
  • 11일 전
  • 댓글 : 6일 전
  • 약 한 달 전
  • 댓글 : 24일 전
  • 약 한 달 전
  • 댓글 : 16일 전
  • 약 한 달 전
  • 댓글 : 약 한 달 전