프로파일(모델 가중치·플래그·세팅)과 API 포맷 워크플로우는 DB 에 저장되어 agent 가 GPU 서버에 배포합니다. 이미지 재빌드가 필요 없습니다.
워크플로우
프로필 정보
새 디바이스 등록
디바이스 ID 를 발급한 뒤, 해당 서버에서 설치 명령 한 줄을 실행하면 드라이버·Docker·agent 가 설치되고 자동으로 등록됩니다.
sudo 권한이 필요합니다 (드라이버·Docker 설치, 서비스 등록). 일반 계정에서 위 명령을 그대로 실행하고 sudo 비밀번호를 입력하세요.
root 로 로그인한 경우에는 sudo 를 빼고 | bash -s -- ... 로 실행해도 됩니다.
드라이버를 새로 설치하면 "재부팅 없이 모듈 재적재 / 지금 재부팅 / 나중에" 중 선택을 묻습니다(재적재 실패 시 재부팅 후 같은 명령을 다시 실행). 설치가 끝나면 이 목록에 온라인으로 나타납니다.
옵션: --data-dir /nvme/b612(모델 저장 위치), --hf-token ...(gated 모델), --advertise-host IP(VPN 직접 연결).