H100 GPU 2개 병렬 사용시 처리속도 저하

안녕하세요


GPU H100 80GB를   1개를 돌릴때와  2개를 병렬로  돌릴때  처리 속도가 많이 발생 하고 있습니다.


일정 비용을 지불하고, 문제를 해결하려고 하니  첨부 파일을 보시고  해결이 가능하실거 같으시면 연락 부탁 드립니다.


010 4062 4234


감사합니다.H100 80GB 병렬사용 처리속도 저하_240611.xlsx

태그가 없습니다.

6개의 답변이 있습니다.

0 추천 | 약 한 달 전

코드 최적화, 다중 GPU 설정 활용, 고성능 상호 연결 사용, 데이터 파이프라인 최적화 등 통해 처리 속도를 크게 향상시킬  있고, 


또한 정기적으로 애플리케이션을 프로파일링하고 벤치마킹하면 성능 병목 현상을 식별하고 완화하는  도움이   있다고는 하지만, 쉽지 않는 과정이 될 것 같습니다.


전문 엔지니어 또는 제조사 등을 통해 전문적인 기술지원을 받기를 권장합니다.

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 약 한 달 전

제조사 엔지니어 에게 요청을 하시는게 정확할것 같습니다.

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 약 한 달 전

HP 서버와 다른 벤더 시스템으로 했을때 동일하다면

OS와 파이썬 버전에 따른 변경도 test 해볼 필요가 있을것 같습니다.


Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

1st 5stars

0 추천 | 약 한 달 전

몇일전에 올렸던 그 문제 아직 해결하지 못하고 있나요 보네요.

각각은 괜찮은데, 둘이 함께 사용할때 느려 진다면 인터럽터 충돌이 유력해 보이네요.

스스로 해결이 어렵다면... 

NVIDIA 엔지니어의 도움을 받아 보는것도 방법이지 않을까 싶고...

유지보수받고 있는 서버 엔지니어의 도움을 받아 보는 것도 도움이 될 수 있을 것 같아 보이네요.


Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 약 한 달 전

업체 지원을 요청 하시는 부분이면 솔루션상담실에 올리시는게 맞을 듯 싶네요.

이곳은 서로 질의 응답하는 곳이라서요~~~

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 약 한 달 전

솔루션상담실에 문의해보시면 관련 업체가 연락이 올것같습니다.

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

답변 달기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

IT 솔루션 또는 하드웨어 도입을 검토 중 이신가요?

쉐어드IT 솔루션 상담실에서 믿을 수 있는 제품과 업체를 추천 받으실 수 있습니다.

솔루션 상담실 IT 컨시어지 서비스

AI 카테고리의 다른 질문들...

  • 8일 전
  • 댓글 : 4일 전
  • 4달 전
  • 댓글 : 3달 전
  • 4달 전
  • 댓글 : 3달 전
  • 4달 전
  • 댓글 : 4달 전
  • 5달 전
  • 댓글 : 5달 전