Compose: Docker Compose에서 NVIDIA GPU 지원

Docker 19.03.0 및 nvidia-container-toolkit-1.0.0-2 에서 (현재) 레거시 'nvidia 런타임'이 깨져 보이기 때문에 중요도가 높아졌습니다. : https://github.com/NVIDIA/nvidia-docker/issues/1017

$ cat docker-compose.yml 
version: '2.3'

services:
 nvidia-smi-test:
  runtime: nvidia
  image: nvidia/cuda:9.2-runtime-centos7

$ docker-compose run nvidia-smi-test
Cannot create container for service nvidia-smi-test: Unknown runtime specified nvidia

작동합니다 : docker run --gpus all nvidia/cudagl:9.2-runtime-centos7 nvidia-smi

그렇지 않습니다 : docker run --runtime=nvidia nvidia/cudagl:9.2-runtime-centos7 nvidia-smi

이것에 대한 작업이 있습니까?

새로운 Ubuntu 18.04 LTS 컴퓨터에서 새로운 Docker CE 19.03.0을 얻었으며 현재와 일치하는 NVIDIA Container Toolkit (née nvidia-docker2) 버전을 가지고 있지만 docker-compose.yml 3.7이 --gpus 지원하지 않기 때문에 사용할 수 없습니다.

이에 대한 해결 방법이 있습니까?

작동합니다 : docker run --gpus all nvidia/cudagl:9.2-runtime-centos7 nvidia-smi

그렇지 않습니다 : docker run --runtime=nvidia nvidia/cudagl:9.2-runtime-centos7 nvidia-smi

당신은 가지고 있어야합니다

{
    "runtimes": {
        "nvidia": {
            "path": "/usr/bin/nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

계속 작업하려면 /etc/docker/daemon.json 에서 --runtime=nvidia 에 여기에 더 많은 정보가

핑 @KlaasH @ulyssessouza @Goryudyuma @ chris-crone. 이것에 대한 업데이트가 있습니까?

긴급한 필요입니다. 당신의 노고에 감사드립니다!

사용자가 docker> = 19.03 마이그레이션 한 후 /etc/docker/daemon.json 수동으로 채우고 nvidia-container-toolkit 대신 사용하기 위해 nvidia-docker2 를 제거하도록 의도 되었습니까?

이것은 많은 설치를 망가 뜨리는 것 같습니다. 특히 --gpus 는 compose 에서 사용할 수 없기 때문에.

아니요, compose가 gpus 플래그를 지원할 때까지 해결해야합니다.

nvidia-docker-runtime 설치 :
https://github.com/NVIDIA/nvidia-container-runtime#docker -engine-setup
/etc/docker/daemon.json에 추가
{
"런타임": {
"nvidia": {
"경로": "/ usr / bin / nvidia-container-runtime",
"runtimeArgs": []
}
}
}

도커 작성 :
런타임 : nvidia
환경:
-NVIDIA_VISIBLE_DEVICES = all

"/ usr / bin / nvidia-container-runtime"과 같은 것은 더 이상 없습니다. 문제는 여전히 중요합니다.

docker-compose를 수정할 때까지 docker-compose로 nvidia 환경을 실행하는 데 도움이됩니다.

nvidia-docker-runtime 설치 :
https://github.com/NVIDIA/nvidia-container-runtime#docker -engine-setup
/etc/docker/daemon.json에 추가
{
"런타임": {
"nvidia": {
"경로": "/ usr / bin / nvidia-container-runtime",
"runtimeArgs": []
}
}
}

도커 작성 :
런타임 : nvidia
환경:

• NVIDIA_VISIBLE_DEVICES = all

이것은 나를 위해 작동하지 않지만 docker-compose up 를 실행하려고 할 때 여전히 Unsupported config option for services.myservice: 'runtime' 얻습니다.

어떤 아이디어?

이것은 나를 위해 작동하지 않지만 docker-compose up 를 실행하려고 할 때 여전히 Unsupported config option for services.myservice: 'runtime' 얻습니다.

어떤 아이디어?

/etc/docker/daemon.json 수정 후 docker 서비스를 다시 시작하십시오.
systemctl 다시 시작 도커
Compose 형식 2.3을 사용하고 런타임 : nvidia를 GPU 서비스에 추가합니다. Docker Compose는 버전 1.19.0 이상이어야합니다.
도커 작성 파일 :
버전 : '2.3'

서비스:
nvsmi :
이미지 : 우분투 : 16.04
런타임 : nvidia
환경:
-NVIDIA_VISIBLE_DEVICES = all
명령 : nvidia-smi

@cheperuiz ,
{ "default-runtime": "nvidia", "runtimes": { "nvidia": { "path": "/usr/bin/nvidia-container-runtime", "runtimeArgs": [] } }, }

아! 감사합니다 @Kwull , 나는 default-runtime 부분을 ​​놓쳤습니다 ... 모든 것이 지금 작동합니다 :)

@uderik , runtime 는 현재 3.7 compose 파일 형식 스키마에 더 이상 존재하지 않으며, 결국 Docker 19.03과 일치해야하는 보류중인 3.8 버전에는 없습니다 : https://github.com/docker/compose/blob/ 5e587d574a94e011b029c2fb491fb0f4bdeef71c / compose / config / config_schema_v3.8.json

@johncolby runtime 은 (는) 3.x 플래그가 아닙니다. 2.x 트랙 (2.3 및 2.4)에만 있습니다.

예, 알고 있습니다. docker-compose.yml 파일에 version: '2.3' (과거에 작동 했음)이 포함되어 있지만 최신 버전에서는 무시되는 것 같습니다 ...
향후 프로젝트에서 GPU에 대한 액세스를 활성화 / 비활성화하는 올바른 방법은 무엇입니까? 그냥 기본 + 환경 변수로 만드시겠습니까? 아니면 --gpus 플래그에 대한 지원이 있습니까?

@johncolby 3.X에서 runtime 의 대체품은 무엇입니까?

@ Daniel451 방금 주변을 따라 왔지만 generic_resources 키 아래에있는 것처럼 보입니다.

services:
  my_app:
    deploy:
      resources:
        reservations:
          generic_resources:
            - discrete_resource_spec:
                kind: 'gpu'
                value: 2

(https://github.com/docker/cli/blob/9a39a1/cli/compose/loader/full-example.yml#L71-L74에서)
디자인 문서 : https://github.com/docker/swarmkit/blob/master/design/generic_resources.md

다음은 이미 병합 된 compose 3.8 스키마 지원과 관련된 작성 문제입니다. https://github.com/docker/compose/issues/6530

데몬 측에서 gpu 기능은 daemon.json 또는 dockerd CLI (이전 하드 코딩 된 런타임 해결 방법과 유사)에 포함하여 등록 할 수 있습니다.

/usr/bin/dockerd --node-generic-resource gpu=2

그런 다음 NVIDIA 도커 유틸리티에 연결하여 등록됩니다.
https://github.com/moby/moby/blob/09d0f9/daemon/nvidia_linux.go

기계가 기본적으로 제자리에있는 것 같습니다. 문서화 만하면됩니다.

모든 업데이트?

또한 공식 수정 전까지 bash 과 docker run --gpus 을 (를) 사용하여 업데이트를 기다리고 있습니다 ...

업데이트를 기다리는 중입니다.

또한 업데이트를 기다리고 있습니다 :)

좋아 ... 왜이게 아직 열려 있는지 모르겠네요. 이 3 개의 추가 줄은 스키마 버전 3.7에서 작동합니다. docker가 사소한 커뮤니티 문제에 반응한다는 것을 알게되어 기쁩니다. 따라서이 저장소를 복제하고이 세 줄을 추가하고 python3 setup.py에서 빌드하고 설치하고 docker-compose.yml이 버전 3.7인지 확인하십시오.

[ruckc<strong i="6">@omnilap</strong> compose]$ git diff
diff --git a/compose/config/config_schema_v3.7.json b/compose/config/config_schema_v3.7.json
index cd7882f5..d25d404c 100644
--- a/compose/config/config_schema_v3.7.json
+++ b/compose/config/config_schema_v3.7.json
@@ -151,6 +151,7 @@

         "external_links": {"type": "array", "items": {"type": "string"}, "uniqueItems": true},
         "extra_hosts": {"$ref": "#/definitions/list_or_dict"},
+        "gpus": {"type": ["number", "string"]},
         "healthcheck": {"$ref": "#/definitions/healthcheck"},
         "hostname": {"type": "string"},
         "image": {"type": "string"},
diff --git a/compose/service.py b/compose/service.py
index 55d2e9cd..71188b67 100644
--- a/compose/service.py
+++ b/compose/service.py
@@ -89,6 +89,7 @@ HOST_CONFIG_KEYS = [
     'dns_opt',
     'env_file',
     'extra_hosts',
+    'gpus',
     'group_add',
     'init',
     'ipc',
@@ -996,6 +997,7 @@ class Service(object):
             dns_opt=options.get('dns_opt'),
             dns_search=options.get('dns_search'),
             restart_policy=options.get('restart'),
+            gpus=options.get('gpus'),
             runtime=options.get('runtime'),
             cap_add=options.get('cap_add'),
             cap_drop=options.get('cap_drop'),

이를 추적하기 위해 내부 문제를 추가했습니다.
PR은 환영받습니다.

좋아 ... 왜이게 아직 열려 있는지 모르겠네요. 이 3 개의 추가 줄은 스키마 버전 3.7에서 작동합니다. docker가 사소한 커뮤니티 문제에 반응한다는 것을 알게되어 기쁩니다. 따라서이 저장소를 복제하고이 세 줄을 추가하고 python3 setup.py에서 빌드하고 설치하고 docker-compose.yml이 버전 3.7인지 확인하십시오.

[ruckc<strong i="7">@omnilap</strong> compose]$ git diff
diff --git a/compose/config/config_schema_v3.7.json b/compose/config/config_schema_v3.7.json
index cd7882f5..d25d404c 100644
--- a/compose/config/config_schema_v3.7.json
+++ b/compose/config/config_schema_v3.7.json
@@ -151,6 +151,7 @@

         "external_links": {"type": "array", "items": {"type": "string"}, "uniqueItems": true},
         "extra_hosts": {"$ref": "#/definitions/list_or_dict"},
+        "gpus": {"type": ["number", "string"]},
         "healthcheck": {"$ref": "#/definitions/healthcheck"},
         "hostname": {"type": "string"},
         "image": {"type": "string"},
diff --git a/compose/service.py b/compose/service.py
index 55d2e9cd..71188b67 100644
--- a/compose/service.py
+++ b/compose/service.py
@@ -89,6 +89,7 @@ HOST_CONFIG_KEYS = [
     'dns_opt',
     'env_file',
     'extra_hosts',
+    'gpus',
     'group_add',
     'init',
     'ipc',
@@ -996,6 +997,7 @@ class Service(object):
             dns_opt=options.get('dns_opt'),
             dns_search=options.get('dns_search'),
             restart_policy=options.get('restart'),
+            gpus=options.get('gpus'),
             runtime=options.get('runtime'),
             cap_add=options.get('cap_add'),
             cap_drop=options.get('cap_drop'),

솔루션을 시도했지만 해당 플래그에 대한 많은 오류가 발생합니다.

ERROR: for <SERVICE_NAME>  __init__() got an unexpected keyword argument 'gpus'
Traceback (most recent call last):
  File "/usr/local/bin/docker-compose", line 11, in <module>
    load_entry_point('docker-compose==1.25.0.dev0', 'console_scripts', 'docker-compose')()
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/cli/main.py", line 71, in main
    command()
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/cli/main.py", line 127, in perform_command
    handler(command, command_options)
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/cli/main.py", line 1106, in up
    to_attach = up(False)
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/cli/main.py", line 1102, in up
    cli=native_builder,
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/project.py", line 569, in up
    get_deps,
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/parallel.py", line 112, in parallel_execute
    raise error_to_reraise
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/parallel.py", line 210, in producer
    result = func(obj)
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/project.py", line 555, in do
    renew_anonymous_volumes=renew_anonymous_volumes,
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/service.py", line 546, in execute_convergence_plan
    scale, detached, start
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/service.py", line 468, in _execute_convergence_create
    "Creating"
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/parallel.py", line 112, in parallel_execute
    raise error_to_reraise
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/parallel.py", line 210, in producer
    result = func(obj)
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/service.py", line 466, in <lambda>
    lambda service_name: create_and_start(self, service_name.number),
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/service.py", line 454, in create_and_start
    container = service.create_container(number=n, quiet=True)
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/service.py", line 337, in create_container
    previous_container=previous_container,
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/service.py", line 913, in _get_container_create_options
    one_off=one_off)
  File "/usr/local/lib/python3.6/dist-packages/docker_compose-1.25.0.dev0-py3.6.egg/compose/service.py", line 1045, in _get_container_host_config
    cpu_rt_runtime=options.get('cpu_rt_runtime'),
  File "/usr/local/lib/python3.6/dist-packages/docker-4.0.2-py3.6.egg/docker/api/container.py", line 590, in create_host_config
    return HostConfig(*args, **kwargs)
TypeError: __init__() got an unexpected keyword argument 'gpus'

특정 Python docker 패키지가 필요합니까?

@DarioTurchi 네, 정확한 문제를 만났습니다. HostConfig 유형도 업데이트해야하는 것 같습니다.

docker-py도 변경이 필요하기 때문에 @ruckc 가 설명하는 변경으로 충분하다고 생각하지 않습니다. 그리고 필요한 docker-py 변경이 아직 진행중인 것 같습니다. 여기를 보아라:
https://github.com/docker/docker-py/pull/2419

변경된 지점은 다음과 같습니다.
https://github.com/sigurdkb/docker-py/tree/gpus_parameter

따라서 지금 패치 하려면 https://github.com/sigurdkb/docker-py/tree/gpus_parameter 에서 수정 된 docker-py에 대해 docker-compose를 빌드해야합니다.

나는 여기서 무슨 일이 일어나고 있는지 이해하지 못한다.

1) /etc/docker/daemon.json

{
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

하지만 runtime 키는 https://github.com/docker/compose/issues/6239 와 같이 v3.x에서 더 이상 사용할 수 없습니다.

나는 또한 시도했다 :

{
    "default-runtime": "nvidia",
    "runtimes": {
        "nvidia": {
            "path": "/usr/bin/nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

따라서 더 이상 docker-compose 에서 GPU 지원으로 컨테이너를 시작할 수 없습니다.

bertserving_1    | I:VENTILATOR:[__i:_ge:222]:get devices
bertserving_1    | W:VENTILATOR:[__i:_ge:246]:no GPU available, fall back to CPU

이러한 변경 사항이 적용되기 전에는 지금 무엇을 할 수 있습니까?

+1 docker-compose에서 이러한 기능을 사용하면 매우 유용합니다!

에타?

내부적으로 https://docker.atlassian.net/browse/COMPOSE-82로 추적됩니다.

+1은 docker-compose에 유용한 기능입니다.

이 기능은 docker-compose 멋진 추가 기능이 될 것입니다.

지금 내 솔루션은 런타임을 지원하는 2.3 버전의 docker-compose 파일을 사용하고 nvidia-container-runtime을 수동으로 설치하는 것입니다 (더 이상 nvidia-docker와 함께 설치되지 않기 때문에).
또한 /etc/docker/daemon.json에서 런타임 구성을 설정하고 있습니다 (사용 가능한 런타임과 마찬가지로 기본값이 아님).
이를 통해 다음과 같은 작성 파일을 사용할 수 있습니다.

version: '2.3'
services:
  test:
    image: nvidia/cuda:9.0-base
    runtime: nvidia

지금 내 솔루션은 런타임을 지원하는 2.3 버전의 docker-compose 파일을 사용하고 nvidia-container-runtime을 수동으로 설치하는 것입니다 (더 이상 nvidia-docker와 함께 설치되지 않기 때문에).
또한 /etc/docker/daemon.json에서 런타임 구성을 설정하고 있습니다 (사용 가능한 런타임과 마찬가지로 기본값이 아님).
이를 통해 다음과 같은 작성 파일을 사용할 수 있습니다.

version: '2.3'
services:
  test:
    image: nvidia/cuda:9.0-base
    runtime: nvidia

@arruda daemon.json 를) 공유해 주시겠습니까?

지금 내 솔루션은 런타임을 지원하는 2.3 버전의 docker-compose 파일을 사용하고 nvidia-container-runtime을 수동으로 설치하는 것입니다 (더 이상 nvidia-docker와 함께 설치되지 않기 때문에).
또한 /etc/docker/daemon.json에서 런타임 구성을 설정하고 있습니다 (사용 가능한 런타임과 마찬가지로 기본값이 아님).
이를 통해 다음과 같은 작성 파일을 사용할 수 있습니다.

version: '2.3'
services:
  test:
    image: nvidia/cuda:9.0-base
    runtime: nvidia

@arruda daemon.json 를) 공유해 주시겠습니까?

예, 문제 없습니다. 여기 있습니다.

{
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

안녕하세요

NVIDIA 드라이버가 필요한 애플리케이션이 있습니다. (FROM)을 기반으로 도커 이미지를 만들었습니다.
nvidia / cudagl : 10.1-runtime-ubuntu18.04

위에서 권장하는 접근 방식을 사용하면 내 이미지가 nvidia / cudagl : 10.1-runtime-ubuntu18.04 에서 파생 될 필요가 없음을 의미합니까? 즉, 간단히 (FROM) python : 3.7.3-stretch 에서 파생시킬 수
그리고 런타임을 추가하십시오 : nvidia를 docker-compose?

감사

@rfsch 아니요, 그건 다른 것입니다. docker-compose의 runtime: nvidia 는 Docker 런타임을 나타냅니다. 그러면 컨테이너에서 GPU를 사용할 수 있습니다. 그러나 사용할 수있게되면 사용할 수있는 방법이 여전히 필요합니다. runtime 의 nvidia/cudagl:10.1-runtime-ubuntu18.04 는 CUDA 런타임 구성 요소를 나타냅니다. 이를 통해 CUDA를 사용하여 GPU (Docker가 컨테이너에서 제공)를 사용할 수 있습니다.

이 이미지에서 :

runtime: nvidia 는 runc / containerd 부분을 대체합니다. nvidia/cudagl:10.1-runtime-ubuntu18.04 는 완전히 그림 밖에 있습니다.

이 기능이 필요합니다

@ Daniel451 방금 주변을 따라 왔지만 generic_resources 키 아래에있는 것처럼 보입니다.

services:
  my_app:
    deploy:
      resources:
        reservations:
          generic_resources:
            - discrete_resource_spec:
                kind: 'gpu'
                value: 2

(https://github.com/docker/cli/blob/9a39a1/cli/compose/loader/full-example.yml#L71-L74에서)
디자인 문서 : https://github.com/docker/swarmkit/blob/master/design/generic_resources.md

다음은 이미 병합 된 compose 3.8 스키마 지원과 관련된 작성 문제입니다. # 6530

데몬 측에서 gpu 기능은 daemon.json 또는 dockerd CLI (이전 하드 코딩 된 런타임 해결 방법과 유사)에 포함하여 등록 할 수 있습니다.

/usr/bin/dockerd --node-generic-resource gpu=2

그런 다음 NVIDIA 도커 유틸리티에 연결하여 등록됩니다.
https://github.com/moby/moby/blob/09d0f9/daemon/nvidia_linux.go

기계가 기본적으로 제자리에있는 것 같습니다. 문서화 만하면됩니다.

안녕하세요, @johncolby , 시도했지만 실패했습니다.

ERROR: The Compose file './docker-compose.yml' is invalid because:
services.nvidia-smi-test.deploy.resources.reservations value Additional properties are not allowed ('generic_resources' was unexpected)

어떤 제안?

감사
데이비드

https://github.com/NVIDIA/nvidia-container-runtime 에서 nvidia-container-runtime 3.1.4.1 설치 및 퍼팅

runtime: nvidia

https://docs.docker.com/compose/install/ 에서 설치 한 docker-compose 1.23.1 및 1.24.1 과 같은 멍청한 명령을 사용하여 잘 작동합니다.

sudo curl -L "https://github.com/docker/compose/releases/download/1.24.1/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

및 예를 들어 dockerhub의 nvidia / cudagl / 10.1-base 컨테이너. cuda와 OpenGL 렌더링을 시도해 보았는데 모두 거의 기본 성능입니다.

내부적으로 COMPOSE-82로 추적 됨
이러한 변경 사항은 일관성을 위해 docker stack (https://github.com/docker/cli/blob/master/cli/compose/types/types.go#L156)에서도 구현되어야합니다.

https://github.com/NVIDIA/nvidia-container-runtime 에서 nvidia-container-runtime 3.1.4.1 설치 및 퍼팅

runtime: nvidia

https://docs.docker.com/compose/install/ 에서 설치 한 docker-compose 1.23.1 및 1.24.1 과 같은 멍청한 명령을 사용하여 잘 작동합니다.

sudo curl -L "https://github.com/docker/compose/releases/download/1.24.1/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

및 예를 들어 dockerhub의 nvidia / cudagl / 10.1-base 컨테이너. cuda와 OpenGL 렌더링을 시도해 보았는데 모두 거의 기본 성능입니다.

docker-compose.yml을 공유 할 수 있습니까?

안녕하세요, @ jdr-face,

다음은 호스트 컴퓨터에 nvidia-container-runtime 를 설치하여 제안한 내 테스트입니다.

version: '3.0'

services:
  nvidia-smi-test:
    runtime: nvidia
    volumes:
      - /tmp/.X11-unix:/tmp/.X11-unix 
    environment:
     - NVIDIA_VISIBLE_DEVICES=0 
     - DISPLAY
    image: vkcube

여전히 오류가 발생합니다.

       Unsupported config option for services.nvidia-smi-test: 'runtime'

andyneff가 앞서 언급 한 @ david-gwa :

runtime 은 (는) 3.x 플래그가 아닙니다. 2.x 트랙 (2.3 및 2.4)에만 있습니다.

@ david-gwa

docker-compose.yml을 공유 할 수 있습니까?

version: '2.3'

services:
    container:
        image: "nvidia/cudagl/10.1-base"

        runtime: "nvidia" 

        security_opt:
            - seccomp:unconfined
        privileged: true

        volumes:
            - $HOME/.Xauthority:/root/.Xauthority:rw
            - /tmp/.X11-unix:/tmp/.X11-unix:rw

        environment:
          - NVIDIA_VISIBLE_DEVICES=all

필요에 따라 이러한 옵션 중 일부는 필요하지 않을 수 있습니다. @muru가 예측했듯이 트릭은 이전 버전을 지정하는 것입니다. 적어도 내 사용 사례에서는 이것이 문제가 아니지만이 구성을 해결 방법으로 만 제공합니다. 실제로 최신 버전을 사용하여 가능해야합니다.

감사합니다, @ jdr -face,
귀하의 솔루션이 v3 compose 용이라고 오해했습니다.

기록을 위해 전통적으로 말하면 compose v2는 compose v3보다 오래되지 않았습니다. 그들은 다른 사용 사례입니다. v3은 떼를 향한 반면 v2는 그렇지 않습니다. v1이 오래되었습니다.

Docker의 기본 GPU 지원을위한 Docker-compose 지원에 대한 논의가 있습니까?

runtime 옵션 지원은 향후 GPU 지원을위한 솔루션이 아닙니다. NVIDIA는 https://github.com/NVIDIA/nvidia-docker 에서 nvidia-docker2의 미래에 대해 다음과 같이 설명합니다.

Docker 19.03 릴리스에서는 NVIDIA GPU가 이제 Docker 런타임에서 장치로 기본적으로 지원되므로 nvidia-docker2 패키지 사용이 더 이상 사용되지 않습니다.

현재 GPU 지원은 런타임을 변경하여 실현할 수 있지만 앞으로는 작동하지 않을 가능성이 높습니다.

솔직히 말해서, 이것이 최선의 방법은 아닐 수도 있지만 어떻게 든 우리는 그것을 작동시킵니다.

까다로운 부분은 docker swarm을 사용하기 때문에 docker-compose v3.x를 고수해야하는 반면, 컨테이너에서 GPU / CUDA를 지원하기 위해 Nvidia 런타임을 사용하고 싶습니다.

docker-compose 파일 내에서 Nvidia 런타임을 명시 적으로 알리지 않도록 /etc/docker/daemon.json 에서 Nvidia를 기본 런타임으로 설정하면 다음과 같습니다.

{
    "default-runtime":"nvidia",
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

GPU 머신에서 실행되는 모든 컨테이너는 기본적으로 Nvidia 런타임을 활성화합니다.

이것이 비슷한 차단제에 직면 한 사람을 도울 수 있기를 바랍니다.

솔직히 말해서, 이것이 최선의 방법은 아닐 수도 있지만 어떻게 든 우리는 그것을 작동시킵니다.

까다로운 부분은 docker swarm을 사용하기 때문에 docker-compose v3.x를 고수해야하는 반면, 컨테이너에서 GPU / CUDA를 지원하기 위해 Nvidia 런타임을 사용하고 싶습니다.

docker-compose 파일 내에서 Nvidia 런타임을 명시 적으로 알리지 않도록 /etc/docker/daemon.json 에서 Nvidia를 기본 런타임으로 설정하면 다음과 같습니다.

{
    "default-runtime":"nvidia",
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

GPU 머신에서 실행되는 모든 컨테이너는 기본적으로 Nvidia 런타임을 활성화합니다.

이것이 비슷한 차단제에 직면 한 사람을 도울 수 있기를 바랍니다.

이것이 우리가하는 일이기도합니다. 지금은 작동하지만 나에게는 약간 엉망인 것 같습니다. 곧 완전한 compose-v3 지원을 기대합니다. :)

사용자가 docker> = 19.03 마이그레이션 한 후 /etc/docker/daemon.json 수동으로 채우고 nvidia-container-toolkit 대신 사용하기 위해 nvidia-docker2 를 제거하도록 의도 되었습니까?

이것은 많은 설치를 망가 뜨리는 것 같습니다. 특히 --gpus 는 compose 에서 사용할 수 없기 때문에.

--gpus는 compose에서 사용할 수 없습니다.
pycharm을 사용하여 docker를 연결하여 tensorflow-gpu를 실행할 수 없습니다.

이 문제에 대한 업데이트가 있습니까? --gpus가 곧 docker-compose에서 지원 될 가능성이 있습니까?

해결 방법을 찾는 사람들을 위해 우리가 한 일이 있습니다.

• 이 PR에서 docker-py 설치 : https://github.com/docker/docker-py/pull/2471
• 이 PR에서 docker-compose 설치 : https://github.com/docker/compose/pull/7124

그리고 다음 파일에서 COMPOSE_API_VERSION=auto docker-compose run gpu 를 실행합니다.

version: '3.7'

services:
    gpu:
        image: 'nvidia/cuda:9.0-base'
        command: 'nvidia-smi'
        device_requests:
            - capabilities:
               - "gpu"

Docker 19.03.0 Beta 2에서 NVIDIA GPU에 대한 지원이 새로운 CLI API --gpus의 형태로 도입되었습니다. docker / cli # 1714 는이 지원에 대해 이야기합니다.

이제 GPU 가속 Docker 기반 애플리케이션에 대해 --gpus 옵션을 간단히 전달할 수 있습니다.

$ docker run -it --rm --gpus all ubuntu nvidia-smi
Unable to find image 'ubuntu:latest' locally
latest: Pulling from library/ubuntu
f476d66f5408: Pull complete 
8882c27f669e: Pull complete 
d9af21273955: Pull complete 
f5029279ec12: Pull complete 
Digest: sha256:d26d529daa4d8567167181d9d569f2a85da3c5ecaf539cace2c6223355d69981
Status: Downloaded newer image for ubuntu:latest
Tue May  7 15:52:15 2019       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 390.116                Driver Version: 390.116                   |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  Tesla P4            Off  | 00000000:00:04.0 Off |                    0 |
| N/A   39C    P0    22W /  75W |      0MiB /  7611MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+
:~$ 

오늘부터 Compose는이를 지원하지 않습니다. NVIDIA GPU를 지원하도록 Compose를 활성화하기위한 기능 요청입니다.

이 문제를 해결했습니다. 다음과 같이 시도해 볼 수 있습니다. 내 csdn 블로그 주소 : https://blog.csdn.net/u010420283/article/details/104055046

~ $ sudo apt-get install nvidia-container-runtime
~ $ sudo vim /etc/docker/daemon.json

그런 다음이 daemon.json 파일에 다음 내용을 추가합니다.

{
"default-runtime": "nvidia"
"런타임": {
"nvidia": {
"경로": "/ usr / bin / nvidia-container-runtime",
"runtimeArgs": []
}
}
}

~ $ sudo systemctl daemon-reload
~ $ sudo systemctl 도커 재시작

앞에서 설명한 해결 방법을 설정하려는 ansible 사용자의 경우 nvidia-container-runtime 을 설치하고 runtime: nvidia 를 사용하도록 /etc/docker/deamon.json 을 구성하는

https://github.com/NVIDIA/ansible-role-nvidia-docker

(어떤 이유로 우분투와 RHEL에서만 실행되지만 수정하기가 매우 쉽습니다. 데비안에서 실행합니다)

그런 다음 docker-compose.yml에서 :

version: "2.4"
services:
  test:
    image: "nvidia/cuda:10.2-runtime-ubuntu18.04"
    command: "nvidia-smi"

GPU를 지원하는 공식 3.x 버전에 대한 업데이트가 있습니까? 우리는 무리에 필요합니다 :)

이 기능을 추가 할 계획이 있습니까?

이 기능은 구현 고정 표시기 - 평에 따라 device_requests 무엇 매개 변수를 --gpus 로 변환합니다. 이 기능을 추가하기위한 여러 풀 요청이있었습니다 (https://github.com/docker/docker-py/pull/2419, https://github.com/docker/docker-py/pull/2465, https : / /github.com/docker/docker-py/pull/2471) 그러나 관리자의 반응이 없습니다. # 7124는 https://github.com/docker/docker-py/pull/2471 을 사용하여 Compose에서 제공하지만 여전히 아무도 응답하지 않습니다.

# 7124에서 언급했듯이 PR을보다 준수하게 만드는 것이 기쁩니다.하지만 관심을 거의받지 않았기 때문에 병합되지 않을 일에 시간을 낭비하고 싶지 않습니다.

이 기능을 추가하십시오. 멋질 것입니다!

이 기능을 추가하십시오! daemon.json에서 런타임을 변경할 수있는 이전 nevidia-docker2에 더 만족했습니다. 이걸 다시 가지고 있으면 매우 좋을 것입니다.

제발 필요 해요. 정말 필요합니다 : /

이 기능이 필요합니다!

기본 런타임 해킹이 작동하지 않도록 동일한 컴퓨터에서 CPU와 GPU 컨테이너를 모두 실행해야합니다. 이것이 언제 compose에서 작동할지 알 수 있습니까? compose에 런타임 플래그가 없다는 점을 감안할 때 이것은 심각한 기능 회귀를 나타냅니다. 그렇지 않습니까? 이 작업을 수행하려면 스크립트를 작성해야합니다.

기본 런타임 해킹이 작동하지 않도록 동일한 컴퓨터에서 CPU와 GPU 컨테이너를 모두 실행해야합니다. 이것이 언제 compose에서 작동할지 알 수 있습니까? compose에 런타임 플래그가 없다는 점을 감안할 때 이것은 심각한 기능 회귀를 나타냅니다. 그렇지 않습니까? 이 작업을 수행하려면 스크립트를 작성해야합니다.

당신은 docker cli로 할 수 있습니다 (docker run --gpu ....), 나는 이런 종류의 트릭을 가지고 있습니다 (프록시를 추가하여 떼의 다른 노드에서 실행되는 다른 컨테이너와 통신 할 수 있습니다). 도커 서비스 명령 (내가 아는 바와 같이)이나 작성으로 작동하지 않기 때문에 우리는 모두 떼에서 실행할 수있는 기능을 기다리고 있습니다.

@dottgonzo . 글쎄, 예 ;-). 나는 이것을 알고 따라서 스크립트에 대한 참조를 알고 있습니다. 하지만 이것은 매우 끔찍하고 이식성이없는 방법이므로 좀 더 동적 인 방법으로하고 싶습니다. 내가 말했듯이 이것은 기능 요청이 아니라 회귀를 나타냅니다.

COMPOSE_API_VERSION=auto docker-compose run gpu

@ggregoire 어디에서 실행합니까? COMPOSE_API_VERSION = auto docker-compose run gpu?

쉘의 @joehoeller 는 다른 명령에 대해 수행

지금 우리는 3.x 기능이 필요한지 또는 GPU 옵션이 여전히 지원되는 docker-compose 2.x를 사용할 수 있는지 모든 프로젝트에 대해 결정하고 있습니다. Dockerfile에서 다단계 대상 실행과 같은 기능은 GPU가 필요한 경우 슬프게도 사용할 수 없습니다. 이것을 다시 추가하십시오!

docker-compose에서 아직 / 더 이상 지원되지 않는 --gpus=all 와 같은 플래그를 docker start / run 명령에 추가 할 수있는 docker-compose에 대한 "추가 옵션"필드와 같은 것을 추천하고 싶습니다. 하지만 최신 도커 버전입니다. 이렇게하면 compose 사용자는 아직 지원되지 않는 새로운 docker 기능이 필요한 경우 docker-compose가 따라 잡을 때까지 기다릴 필요가 없습니다.

프로덕션 환경을 위해 Docker Swarm에서이를 실행하려면 여전히 필요합니다. Docker Swarm이 유용할까요?

@sebastianfelipe compose를 사용하여 무리에 배포하려는 경우 매우 유용합니다.
비교:
docker service create --generic-resource "gpu=1" --replicas 10 \ --name sparkWorker <image_name> \"service ssh start && \ /opt/spark/bin/spark-class org.apache.spark.deploy.worker.Worker spark://<spark_master_ip>:7077\"

이런 식으로

docker stack deploy --compose-file docker-compose.yml stackdemo

@sebastianfelipe compose를 사용하여 무리에 배포하려는 경우 매우 유용합니다.
비교:
docker service create --generic-resource "gpu=1" --replicas 10 \ --name sparkWorker <image_name> \"service ssh start && \ /opt/spark/bin/spark-class org.apache.spark.deploy.worker.Worker spark://<spark_master_ip>:7077\"

이런 식으로

docker stack deploy --compose-file docker-compose.yml stackdemo

죄송합니다. 이미 docker-compose yaml 파일을 사용하여 Docker Swarm과 함께 작동하고 있습니까? 확실하게 : O. 감사!

docker compose 2.x 전용

이 문제의 요점은 docker-compose 3+에 대한 nvidia-docker GPU 지원을 요청하는 것입니다.

원래 의뢰를받은 지 거의 1 년! 왜 지연 ?? 이걸 앞으로 나아갈 수 있을까요?

핑 @KlaasH @ulyssessouza @Goryudyuma @ chris-crone. 이것에 대한 업데이트가 있습니까?

해결 방법을 찾는 사람들을 위해 우리가 한 일이 있습니다.

• 이 PR에서 docker-py 설치 : docker / docker-py # 2471
• 이 PR에서 docker-compose 설치 : # 7124

그리고 다음 파일에서 COMPOSE_API_VERSION=auto docker-compose run gpu 를 실행합니다.

version: '3.7'

services:
    gpu:
        image: 'nvidia/cuda:9.0-base'
        command: 'nvidia-smi'
        device_requests:
            - capabilities:
               - "gpu"

저처럼 참을성이없는 분들을 위해 위의 해결 방법의 쉬운 pip install 버전이 있습니다.

pip install git+https://github.com/docker/docker-py.git@refs/pull/2471/merge
pip install git+https://github.com/docker/compose.git@refs/pull/7124/merge
pip install python-dotenv

@yoanisgil에 대한 엄청난 명성!
여전히 공식 패치를 기다리고 있습니다. 모든 PR이 제자리에 있으면 어떤 표준에서도 어렵지 않습니다.

핑 @KlaasH @ulyssessouza @Goryudyuma @ chris-crone. 이것에 대한 업데이트가 있습니까?

아니요, 왜 전화를 받았는지 모르겠습니다.
어떻게해야하는지 말해 주셨으면 해요?

이에 대한 업데이트가 있기를 바랍니다.

네, 이제 1 년이 넘었습니다 ... 왜 그들이 docker-py에 합병되지 않는 거죠 ...

제안 된 구현이 Compose 형식에 적합한 지 잘 모르겠습니다. 좋은 소식은 우리가 이와 같은 것을 추가 할 의도로 작성 형식 사양을 열었다는 것입니다. 사양은 https://github.com/compose-spec 에서 찾을 수 있습니다

제가 제안하고 싶은 것은 사양에 문제를 추가 한 다음 곧있을 Compose 커뮤니티 회의 중 하나에서 논의하는 것입니다 ( 이 페이지 하단에있는 초대 링크).

작동합니다 : docker run --gpus all nvidia/cudagl:9.2-runtime-centos7 nvidia-smi
그렇지 않습니다 : docker run --runtime=nvidia nvidia/cudagl:9.2-runtime-centos7 nvidia-smi

당신은 가지고 있어야합니다

{
    "runtimes": {
        "nvidia": {
            "path": "/usr/bin/nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

계속 작업하려면 /etc/docker/daemon.json 에서 --runtime=nvidia 에 여기에 더 많은 정보가

Dockerd는이 데몬으로 시작하지 않습니다.

세상에, 이것은 몇 년이 걸릴 것입니다 : @

작동합니다 : docker run --gpus all nvidia/cudagl:9.2-runtime-centos7 nvidia-smi
@deniswal : 예, 우리는 이것을 알고 있지만 작성 기능에 대해 묻고 있습니다.

@ chris-crone : 혼란 스럽습니다 : 이것은 이전 동작에서 회귀를 나타냅니다. 왜 새로운 기능 사양이 필요합니까? 일부는 GPU를 사용하고 일부는 동일한 물리적 상자에서 CPU를 사용하는 컨테이너를 실행하는 것이 합리적이지 않습니까?

고려해 주셔서 감사합니다.

@ vk1z AFAIK Docker Compose는 GPU를 지원하지 않았으므로 회귀가 아닙니다. 디자인을 필요로하는 부분은 작성의 GPU (또는 다른 장치) 포맷팅 및 특히 같은 변화에 대한 서비스의 필요 선언하는 방법이다 이 . 그 후에는 백엔드로 연결되어야합니다.

안녕하세요 여러분, 여기에서 제안 된 몇 가지 솔루션을 시도했지만 아무런 효과가 없었습니다. 예를 들어 @miriaford 가 제 경우에는 작동하지 않았고 GPU를 사용하여 기존 Docker 컨테이너를 실행할 수있는 방법이 있습니까?
16GB 램의 i7을 사용하고 있지만 일부 프로젝트의 빌드를 완료하는 데 너무 오래 걸립니다. 제 목표는 GPU 성능을 사용하여 프로세스 속도를 높이는 것입니다. 가능합니까? 감사!

@ chris-crone : 다시 말하지만, 2.4 구성 후 런타임 : 매개 변수가 compose에서 사라졌기 때문에 수정되지 않았습니까? 그것이 회귀라고 느꼈던 이유입니다. 그러나 아니, 어쨌든 우리 모두 3.x에 있어야하므로 지금은 중요합니다.

문제를 제출하게되어 기쁩니다. 사양 저장소의 사양에 대해 그렇게하나요?

2.4 구성 후 런타임 : 매개 변수가 compose에서 사라졌기 때문에 그렇지 않습니까? 그것이 회귀라고 느꼈던 이유입니다.

네, 맞습니다. Docker-compose 파일에서 runtime: nvidia 사용에 의존하는 프로젝트가 몇 개 있는데,이 문제는 GPU를 사용할 방법을 찾지 못했기 때문에 3.x로 업그레이드하는 것을 차단합니다.

안녕하세요, 제발, 제발 고쳐주세요.
미션 크리티컬 우선 순위 -20으로 표시되어야합니다.

다시 말하지만, 2.4 구성 후 런타임 : 매개 변수가 compose에서 사라졌기 때문에 수정되지 않았습니까? 그것이 회귀라고 느꼈던 이유입니다. 그러나 아니, 어쨌든 우리 모두 3.x에 있어야하므로 지금은 중요합니다.

변경 사항이있을 때 여기에 없었기 때문에 삭제 된 이유를 100 % 확신 할 수 없습니다. 더 이상 GPU를 사용하기 위해 NVIDIA 런타임이 필요하지 않으며 단일 버전의 사양을 만들려는 의도로 여기 에서 Compose v3 사양을 발전시키고 있다는 것을 알고 있습니다. 이는 일부 v2 기능을 v3로 이동하는 것을 의미 할 수 있습니다.

runtime 필드와 관련하여 단일 노드에서 실행하는 데 매우 구체적이기 때문에 이것이 Compose 사양에 추가되어야한다고 생각하지 않습니다. 이상적으로는 워크로드에 기기 요구 사항 (예 : GPU, TPU, 다음에 오는 모든 항목)이 있음을 지정한 다음 오케 스트레이터가 해당 기능을 제공하는 노드에 워크로드를 할당 할 수있는 기능이 필요합니다.

이 토론은 Python Docker Compose와 관련이 없기 때문에 사양에 대해 이루어져야합니다.

@ chris-crone : 나는 대부분 당신의 진술에 동의합니다. 단기 해킹을 추가하는 것은 자체 런타임이있는 에지 장치가 급증하기 때문에이를 수행하는 잘못된 방법 일 수 있습니다. 예를 들어, Pi의 TPU (Google), VPU (Intel) 및 ARM GPU가 있습니다. 그래서 우리는 더 완전한 이야기가 필요합니다.

오늘 사양에 대한 문제를 제기하고 작업을 마치면이 스레드를 업데이트하겠습니다. 하지만 저는 오케 스트레이터가 독립적이어야한다고 생각합니다. 예를 들어 Kube를 사용하려면 그렇게 할 수 있어야합니다. 나는 그것이 범위에 있다고 가정하고 있습니다.

그러나 나는 GPUs 문 사용에 동의하지 않습니다. 이것은 compose에서 작동하지 않기 때문에 이것이 전부입니다. 하지만 우리 모두가 해결하고 싶은 문제가 무엇인지 이해하고 있다고 생각합니다.

@ chris-crone : 제출 된 docker-compose 사양 문제를 참조하세요. 나는 지금부터 그 문제에 대한 업데이트를 따를 것입니다.

단순히 extra_docker_run_args 와 같은 옵션을 추가하여 기본 docker run 인수를 직접 전달할 수 있습니까? 이것은 현재의 문제를 해결할뿐만 아니라 미래에도 보장됩니다. docker가 "XPU", ​​"YPU"또는 미래에 나올 다른 새로운 기능에 대한 지원을 추가한다면 어떻게 될까요?

docker가 새로운 기능을 추가 할 때마다 긴 앞뒤로 논의해야하는 경우 매우 비효율적이며 docker-compose 와 docker 업데이트 사이에 불가피한 지연 (불필요한 혼란)이 발생할 것입니다. 인수 위임을 지원하면 향후 모든 기능에 대해이 반복적 인 문제를 일시적으로 완화 할 수 있습니다.

@miriaford 해석되지 않은 blob을 전달하는 것이 선언적이라는 작성 개념을 지원하는지 확실하지 않습니다. 이전 런타임 태그는 적어도 런타임과 관련이 있음을 나타냅니다. 도 커가 유행하는 방향 (docker-apps)을 감안할 때 오케 스트레이터가 임의의 blob을 구문 분석해야하기 때문에 이렇게하면 선언적 배포가 더 어려워 질 것 같습니다.

그러나 나는 compose와 docker 가 동기화 해야 한다는 데 동의합니다 (주요 릴리스 임에도 불구하고).

@ vk1z 동의합니다- compose 와 docker 사이에 훨씬 더 나은 동기화 메커니즘이 있어야합니다. 그러나 이러한 메커니즘이 조만간 설계 될 것이라고는 생각하지 않습니다. 한편, 소스 코드를 깊숙이 해킹하지 않고 자체 동기화를 수행 할 수있는 임시 방법도 필요합니다.

인수 위임 제안이 선택 사항이 아닌 경우 우리는 무엇을 제안합니까? 예쁜 해결책이 아니라는 데 동의하지만이 해결 방법보다 적어도 _ 훨씬 _ 낫지 않습니까? https://github.com/docker/compose/issues/6691#issuecomment -616984053

@miriaford docker-compose는 인수로 docker Executive를 호출하지 않으며 실제로 docker 데몬에 http API를 사용하는 docker_py를 사용합니다. 따라서 "기본 docker run "명령이 없습니다. Docker CLI는 API가 아니며 소켓 연결은 API 접점입니다. 이것이 항상 그렇게 쉬운 것은 아닙니다.

과도하게 단순화하기 위해 도커를 실행하는 과정에서 두 가지 주요 호출이 있습니다. 하나는 컨테이너를 생성하고 하나는 시작하는 호출입니다. 나는 우리가 docker CLI를 아는 경향이있는 것 같지 않습니다. docker_py 호출에 추가 인수를 추가 할 수있는 것이 일부 사용 사례를 제외하고 생각만큼 유용 할 것이라고 생각하지 않습니다.

상황을 더욱 어렵게 만들기 위해 때때로 docker_py 라이브러리가 API 뒤에 있으며 필요한 모든 것이 즉시 포함되지 않고 업데이트 될 때까지 기다려야합니다. 지금까지 extra_docker_run_args 는 단순한 해결책이 아닙니다.

@andyneff 설명해 주셔서 감사합니다. 실제로 저는 Docker의 내부 작동에 너무 익숙하지 않습니다. 올바르게 이해했다면 새로운 기능 업데이트를 위해 수동으로 동기화해야하는 4 개의 API 가 있습니다.

1. Docker 소켓 API
2. 소켓 API에 파이썬 프런트 엔드를 제공하는 docker_py
3. Docker CLI (도커 툴체인에 대한 친숙한 진입 점)
4. Docker 소켓 API를 호출하는 Docker 작성 인터페이스

이것은 왜 자동 (또는 적어도 반자동) 동기화 메커니즘이 없는가? 4 개의 API에 새로운 기능 업데이트를 수동으로 전파하는 것은 오류가 발생하기 쉽고 지연되기 쉬우 며 혼란스러워 보입니다.

추신 : 자동 동기화를하는 것이 _ 간단한 _ 작업이라는 말은 아니지만, 미래의 삶을 더 쉽게 만들 수있는 작업이 있어야한다고 생각합니다.

이제 좀 현학에 빠져들고 있어요 ...하지만 제가 설명 하겠지만 ...

• 도커 소켓은 도커의 공식 API입니다. 그것은 종종 파일 소켓이지만 TCP (또는 다른 것, socat 사용하는 것을 상상) 일 수도 있습니다.
• docker CLI는이 API를 사용하여 사용자에게 멋진 도구를 제공합니다.
  
  
  
  • Docker는 API 및 CLI를 작성하므로 릴리스시 항상 동기화됩니다. (CLI는 도커 생태계의 일류 시민입니다.)
  
  
• docker_py 라이브러리는 해당 API를 가져 와서 다른 파이썬 라이브러리에서 사용할 수있는 멋진 라이브러리에 넣습니다. 이것이 없으면 이러한 모든 HTTP 호출을 직접 만들고 머리를 뽑을 것입니다.
  
  
  
  • 그러나 docker_py는 타사 라이브러리로 시작되었으므로 전통적으로 docker API를 뒤졌고 나중에 또는 필요에 따라 추가되었습니다 (제한된 리소스).
  
  
• compose는 docker_py 버전을 사용하고 필요에 따라 이러한 모든 멋진 기능을 다시 추가합니다 (이와 같은 문제를 기반으로 함).
  
  
  
  • 그러나 compose는 docker_py까지 많은 일을 할 수 없습니다 (내가 말하지 않는 것은이 문제를 해결하는 것입니다. 모르겠습니다. 일반적으로 말하고 있습니다)
  
  

그렇습니다.

• "yaml + compose 인수 작성"-> "docker_py"-> "docker_api"
• 그리고 CLI는 이것의 어떤 부분도 아닙니다 (그리고 저를 믿으십시오, 그것이 일을하는 올바른 방법입니다)

나는 docker_py 또는 compose에 대해 말할 수 없지만 그들이 그것에 기여하는 사람 시간이 제한되어 있다고 생각하기 때문에 docker가 지속적으로 추가하는 미친 미친 도커 기능을 모두 따라 잡기가 더 어렵습니다. 그러나 docker는 go 라이브러리이기 때문에 파이썬 지원은 (현재) 일류 시민이 아닙니다. 두 프로젝트가 모두 도커 우산 아래 있다는 것이 좋지만 적어도 github 조직 관점에서 볼 때.

그래서 모두 말하면 ... 저도 동등한 --gpus 지원을 기다리고 있으며, 대신에 이전 runtime: nvidia 메소드를 사용해야합니다. 최소한 이동 경로를 "a"제공 할 것입니다. docker-compose 2.x에서 앞으로.

@andyneff 참고로 최신 docker-compose에 Docker CLI 지원이 있습니다. 예를 들어 빌드 킷을 사용할 수 있습니다. https://www.docker.com/blog/faster-builds-in-compose-thanks-to-buildkit-support/

@andyneff 이것은 매우 유용한 개요입니다! 다시 한 번 감사합니다

@lig 굉장합니다! 수정 해 주셔서 감사합니다! 저는 실제로 "빌드 킷이이 모든 것에 어떻게 들어 맞을까"라고 생각했습니다.

내가 조금 놀란 것은 docker-compose가 새로운 docker-app 프레임 워크의 매우 본질적인 부분이며 적어도 그 이유 때문에 docker-compose와 docker를 동기화하고 싶어한다는 것입니다. 차단기가 실제로 무엇인지 궁금합니다. 파이썬 대역폭이 충분하지 않습니까? 조금 믿을 수없는 것 같습니다.

그렇다면 Docker Swarm은 @andyneff가 방금 설명한 구조에 어떻게 맞습니까? Swarm은 compose 파일 형식 버전 3 ( "compose"프로젝트에서 정의?)을 사용하지만 docker ?

이 특정 문제에 대해 주제를 벗어난 경우 사과드립니다. 나는 어떤 문제가 무엇인지 추적하지 못했지만, 특정 런타임을 사용해야한다는 것을 떼에서 실행되는 서비스에 알리고 싶기 때문에 이것을 따르기 시작했습니다. compose-file 사양의 v2에서만 가능합니다. 즉, v3이 필요한 Swarm에서는 불가능합니다. 즉, docker-compose CLI가 수행하는 작업에는 실제로 관심이 없지만 docker swarm에서 사용하는 docker-compose.yml 파일에 대해 정의 된 사양에만 관심이 있습니다.

오 떼, 도망친 사람 ... (내게서). 불행히도 그것은 BOT에 의해 닫힌 # 6239입니다. :( 누군가 # 6240에서 시도했지만 ...

@miriaford , 동기화에 대한 PR이있는 것 같습니다! # 6642 ?! (v3 전용인가요 ???)

따라서 스웜의 특성으로 인해 스웜 노드에서 수행하는 작업과하지 않는 작업이 있습니다. 따라서 Docker API는 일반적인 실행과 같이 무리 실행에서 항상 동일한 옵션을 수행하도록 허용하지 않습니다. 런타임이 이러한 작업 중 하나인지는 모르겠지만, 이것이 종종 v3 (스웜 호환 버전)에서 작업을 수행 할 수없고 v2 (스웜 호환 버전이 아닌 버전)에서는 할 수있는 이유입니다.

이 글을 읽는 사람은 너희들이 무슨 말을하는지 모른다.
우리 모두는 하드웨어 가속 기능이있는 jellyfin을 배포하려고합니다.
여러분이이 문제를 원래대로 되돌리기 전까지는 서비스라고 할 때 3.x는 좋지 않습니다.
그것을 사용하지 마십시오.

서비스를 위해 2.4를 입력해야합니다.
그런 다음 jellyfin, ez에 하드웨어 가속을 사용할 수 있습니다.

자, 여러분, 이것에 대한 ETA는 1 년, 2 년?

@KlaasH @ulyssessouza @Goryudyuma @ chris-crone 안녕하세요, 저는이 문제에 대해 작업 중입니다. "docker-py"에서 지원이 누락되었음을 발견했습니다. 해당 부분에서 작업했습니다. 이제 작동하게하려면 docker-compose.yml 파일을 통해 구성을 전달해야합니다. 스키마를 도와 줄 수 있습니까? 즉, 추가하려면 새 스키마에 추가해야하거나 구성을 전달할 수있는 위치가 있어야합니다.

@fakabbir 나는 이것을 위해 COMPOSE_DOCKER_CLI_BUILD 를 사용하는 것이 괜찮다고 가정합니다. docker run 인수의 임의 목록을 제공하는 기능을 추가하면 향후 유사한 문제를 방지하는 데 도움이 될 수도 있습니다.

@lig 하나의 서비스 만 GPU에 액세스

@lig AFAICS compose는 docker-py docker run cli 대신 docker-py 사용합니다. 따라서 임의의 docker run 인수를 추가하는 것은 docker-py 지원하지 않는 한 작동하지 않습니다.

참조 : https://github.com/docker/compose/issues/6691#issuecomment -585199425

이 하나의 것은 많은 사람들에게 docker-compose의 유용성을 크게 떨어 뜨립니다. 특히 오래된 docker-compose에서 작동했을 때 많은 관심과 욕구를 보지 못했다는 것은 매우 놀랍습니다.
한 가지 방법은 임의의 docker --run 인수를 docker-compose 파일에 제공하는 것입니다. 그런 다음 --gpus all 예를 들어 docker에 전달할 수 있습니다.

나는 특정한 방식으로 그것을하고 싶어하는 철학적 또는 기술적 이유가있을 수 있음을 이해합니다. 그러나 손을 뻗지 않고 어떤 식 으로든 그것을하는 것은 마음을 비틀 거리게합니다.

@lig 하나의 서비스 만 GPU에 액세스

환경 변수 NVIDIA_VISIBLE_DEVICES를 사용하면 제어 할 수 없습니다.

이 하나의 것은 많은 사람들에게 docker-compose의 유용성을 크게 떨어 뜨립니다. 특히 오래된 docker-compose에서 작동했을 때 많은 관심과 욕구를 보지 못했다는 것은 매우 놀랍습니다.
한 가지 방법은 임의의 docker --run 인수를 docker-compose 파일에 제공하는 것입니다. 그런 다음 --gpus all 예를 들어 docker에 전달할 수 있습니다.

나는 docker --run args 전달을 허용하지 않는다고 생각합니다. compose 는 실제로 docker 자체를 호출하지 않고 대신 docker-py 합니다.

나는 특정한 방식으로 그것을하고 싶어하는 철학적 또는 기술적 이유가있을 수 있음을 이해합니다. 그러나 손을 뻗지 않고 어떤 식 으로든 그것을하는 것은 마음을 비틀 거리게합니다.

이에 대한 PR이 열려 있습니다 : https://github.com/docker/compose/pull/7124. "손을 잡으십시오".

나는 docker compose spec의 변경에 따라 compose 2.4에 따라 이전 호환성으로 곧 돌아와야하며 nvidia 런타임이 작동한다고 믿습니다. 분명히 TPU 또는 기타 가속기에서는 작동하지 않습니다. 매우 안타깝지만 (비싼) nvidia gpus를 실행하려는 사람들에게는 작동합니다.

따라서 docker-py의 녹색 PR이 병합되기를 기다리고 있습니다. https://github.com/docker/docker-py/pull/2471

네! docker-py의 PR이 승인되었습니다! https://github.com/docker/docker-py/pull/2471
여기서 다음 단계는 무엇입니까?

여기에 뭐가 있어요? docker-compose에서 nvidia 런타임을 지원할 수 있으면 멋질 것입니다.

https://github.com/docker/docker-py/pull/2471 이 병합되었습니다.

docker / docker-py # 2471 이 병합되었으므로 master에서 docker-py를 설치할 수 있습니다. 하지만 docker-compose가 @yoanisgil 의 멋진 [PR] (https://github.com/docker/compose/pull/7124) (Kudos!) 이후로 변경

이전 댓글을 보지 않고 여기에 온 사람들을 위해 :

pip install git+https://github.com/docker/docker-py.git
pip install git+https://github.com/yoanisgil/compose.git@device-requests

그런 다음 작성 파일에서 다음 템플릿을 사용합니다. (출처 : 의견 ) :

그리고 다음 파일로 COMPOSE_API_VERSION=auto docker-compose run gpu 를 실행합니다.

version: '3.7'

services:
    gpu:
        image: 'nvidia/cuda:9.0-base'
        command: 'nvidia-smi'
        device_requests:
            - capabilities:
               - "gpu"

이것이 내 로컬 컴퓨터에서 작동하는지 확인합니다. Swarm과 함께 작동하는지 모르겠습니다.

프로덕션에서 docker-compose의 특정 커밋을 가질 수 없습니다. # 7124를 리베이스해야합니까? 아니면 새로운 docker-py 를 통합 할 다른 PR이 있습니까?

안녕하세요 @bkakilli ,

도와 주셔서 감사합니다! 방금 제안을 시도했지만 docker-compose를 실행하는 동안 오류가 발생합니다.

ERROR: The Compose file './docker-compose.yml' is invalid because:
Unsupported config option for services.analysis: 'device_requests'

_ 내 컨테이너 이름이되는 분석 _

docker-compose.yml 변경 :

version: '2.3'

services:
    analysis:
        container_name: analysis
        image: analysis:${TAG}
        runtime: nvidia
        restart: always
        ports:
            - "8000:80"

에:

version: '3.7'

services:
    analysis:
        container_name: analysis
        image: analysis:${TAG}
        device_requests:
          - capabilities:
            - "gpu"
        restart: always
        ports:
            - "8000:80"

올바르게 설정하기 위해 pip install git+ 외에 다른 것이 있습니까? 아니면 구성 파일을 잘못 편집 했습니까?

@frgfm 올바른 링크에서 compose 및 docker-py를 설치하고 있는지 확인하십시오. yoanisgil의 포크 (및 브랜치) 대신 docker-compose의 자체 저장소를 사용했을 수 있습니다. 다음 링크를 사용하고 있는지 확인하십시오.

pip install git+https://github.com/yoanisgil/compose.git@device-requests

--upgrade 매개 변수를 pip 설치에 넣어보십시오. 그렇지 않으면 가상 환경 설정이 의심됩니다. 기본적으로 사용되는 다른 docker-compose 설치가 있습니까? 예를 들어 https://docs.docker.com/compose/install/ 에서 "Linux"지침에 따라 시스템에 설치했을 수 있습니다

안녕하세요!
모든 정보에 감사드립니다. @bkakilli 및 docker-compose build 접근 방식을 실행하려고했지만 docker-compose up 실행하면 오류가 발생했습니다.
docker.errors.InvalidVersion: device_requests param is not supported in API versions < 1.40

내 docker_compose.yml은 다음과 같습니다.

version: '3.7'

networks:
  isolation-network:
    driver: bridge

services:
 li_t5_service:
    build: .
    ports:
      - "${GRAPH_QL_API_PORT}:5001"
    device_requests:
      - capabilities:
        - "gpu"
    environment:
      - SSH_PRIVATE_KEY=${SSH_PRIVATE_KEY}
      - PYTHONUNBUFFERED=${PYTHONUNBUFFERED}
    networks: 
      - isolation-network

미리 감사드립니다!

@ugmSorcero 환경 변수 COMPOSE_API_VERSION=1.40 한 다음 명령을 다시 실행하십시오.

@ugmSorcero 그 오류를 고쳤습니까? @EpicWink @bkakilli pip 설치에서 명시된 버전을 실행하고 있지만 이러한 변수를 1.40으로 내보내도 device_requests param is not supported in API versions < 1.40 대한 오류가 계속 발생합니다.

주어진 작성 파일의 경우

version: "3.7"
services:
  spam:
    image: nvidia/cuda:10.1-cudnn7-runtime
    command: nvidia-smi
    device_requests:
      - capabilities:
          - gpu

위와 같이 설치된 docker-compose 버전을 사용하여 Linux의 Bash에서 다음 명령이 성공합니다.

COMPOSE_API_VERSION=1.40 docker-compose up

다음 명령이 실패합니다.

docker-compose up

오류 출력이 있습니다.

ERROR: for tmp_spam_1  device_requests param is not supported in API versions < 1.40
...
docker.errors.InvalidVersion: device_requests param is not supported in API versions < 1.40

@EpicWink 대단히 감사합니다. 나는 docker-compose up 이 그렇게 실행되어야한다는 것을 몰랐다. 먼저 COMPOSE_API_VERSION 별도로 내 보낸 2 단계로 취했습니다. 함께 실행하면 작동하는 것 같습니다. :)

그래도 다른 문제가 있습니다. COMPOSE_API_VERSION=1.40 docker-compose run nvidiatest 를 실행하면 nvidia-smi 가 경로에없는 반면 이미지에서 직접 실행하면 문제가 없습니다.

내가 그것을 재현하는 방법은 다음과 같습니다.

docker-compose 로컬 파일에는 다음이 포함됩니다.

nvidiatest:
    image: nvidia/cuda:10.0-base
    device_requests:
      - capabilities:
        - gpu
    command: nvidia-smi

현재 설정 (api 버전 auto 및 1.40 모두)을 실행하면 다음 오류가 발생합니다.

COMPOSE_API_VERSION=auto docker-compose -f docker-compose.yml -f docker-compose.local.yml run nvidiatest
Error response from daemon: OCI runtime create failed: container_linux.go:349: starting container process caused "exec: \"nvidia-smi\": executable file not found in $PATH": unknown

대체 파일 사용과 관련이있을 수 있습니까? Docker로 cuda 기본 이미지를 실행하면 nvidia-smi 에서 출력을 얻는 데 문제가 없습니다.

docker run --gpus all nvidia/cuda:10.0-base nvidia-smi
Mon Aug 24 11:40:04 2020
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 440.100      Driver Version: 440.100      CUDA Version: 10.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce RTX 2070    Off  | 00000000:29:00.0  On |                  N/A |
|  0%   46C    P8    19W / 175W |    427MiB /  7974MiB |      2%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
+-----------------------------------------------------------------------------+

공식 문서에서 설치된 버전을 제거한 후 git에서 위의 지침에 따라 docker-compose 를 설치했습니다. 설치된 버전 정보는 다음과 같습니다.

pip3 show --verbose docker-compose
Name: docker-compose
Version: 1.26.0.dev0
Summary: Multi-container orchestration for Docker
Home-page: https://www.docker.com/
Author: Docker, Inc.
Author-email: None
License: Apache License 2.0
Location: /home/jurugu/.local/lib/python3.8/site-packages
Requires: docopt, docker, requests, PyYAML, texttable, websocket-client, six, dockerpty, jsonschema, cached-property
Required-by:
Metadata-Version: 2.1
Installer: pip
Classifiers:
  Development Status :: 5 - Production/Stable
  Environment :: Console
  Intended Audience :: Developers
  License :: OSI Approved :: Apache Software License
  Programming Language :: Python :: 2
  Programming Language :: Python :: 2.7
  Programming Language :: Python :: 3
  Programming Language :: Python :: 3.4
  Programming Language :: Python :: 3.6
  Programming Language :: Python :: 3.7
Entry-points:
  [console_scripts]
  docker-compose = compose.cli.main:main

내가 놓친 것이 있습니까? 도와 주셔서 감사합니다!

@jjrugui 이것은 주제에서 벗어난

@EpicWink 는 문제가 아니며 주제에서

누군가 다른 PR에서 작업 중이거나 PR을 준비하기 위해 device-requests 브랜치를 디버깅하고 있습니까?

PR이 멈춘 상태에서 종속성 등을 맞추기 위해 # 7124에서 master 브랜치의 최신 버전으로 변경 사항을 이식했습니다.- https : pip install git+https://github.com/beehiveai/compose.git 설치할 수 있습니다. docker-compose.yml 의 버전을 3.8 :

version: "3.8"
services:
  gpu-test:
    image: nvidia/cuda:10.2-runtime
    command: nvidia-smi
    device_requests:
      - capabilities:
          - gpu

이 설정에서는 모든 것이 예상대로 작동합니다.

어제 compose-spec 거버넌스 회의 에서 deploy 섹션에서 이미 사용할 수있는 generic_resouces 근접 할 수있는 # 7124와 비슷한 것을 채택하기위한 제안 작업을 시작할 것입니다.

@ndeloof 대단합니다! 가능하다면 여기에 제안 링크를 게시하십시오. GPU 지원이 딥 러닝 배포에 중요하기 때문에 많은 사람들이 기꺼이 기여할 것이라고 생각합니다.

@ndeloof 역사적으로 운영위원회가 결정을 내리는 데 얼마나 걸리나요? 6 개월, 1 년?

+1

+1

@visheratin 여러 compose yml 파일을 사용할 때 작동하도록 수정 사항을 개선 할 수 있습니까? 비 nvidia 컨테이너를 사용하는 기본 docker-compose.yml이 있는데, GPU가있을 때 nvidia 컨테이너로 재정의하고 싶지만 "- f ","device_requests "필드가 구성에서 제외됩니다.

@proximous "구성에서 제외"란 무엇을 의미합니까? 모든 작성 파일에 버전 3.8이 있습니까? 더 쉽게 재현 할 수 있도록 예제를 공유 할 수 있습니까?

docker-compose up과 함께 --scale 옵션을 사용하려고 할 때 compose / service.py의 코드에 문제가 있습니다. 지원되지 않습니까?

역 추적 (가장 최근 호출 마지막) :
파일 "/ usr / local / bin / docker-compose", 11 행, in
load_entry_point ( 'docker-compose == 1.27.0.dev0', 'console_scripts', 'docker-compose') ()
주 파일 "/usr/local/lib/python3.6/site-packages/compose/cli/main.py", 67 행
명령()
perform_command의 파일 "/usr/local/lib/python3.6/site-packages/compose/cli/main.py", 123 행
핸들러 (명령, 명령 _ 옵션)
파일 "/usr/local/lib/python3.6/site-packages/compose/cli/main.py", 1067 행, 위로
to_attach = up (False)
파일 "/usr/local/lib/python3.6/site-packages/compose/cli/main.py", 1063 행, 위로
cli = native_builder,
파일 "/usr/local/lib/python3.6/site-packages/compose/project.py", 648 행, 위로
get_deps,
"/usr/local/lib/python3.6/site-packages/compose/parallel.py"파일, 108 행, parallel_execute
error_to_reraise 발생
생산자의 파일 "/usr/local/lib/python3.6/site-packages/compose/parallel.py", 206 행
결과 = func (obj)
파일 "/usr/local/lib/python3.6/site-packages/compose/project.py", 634 행, do
override_options = override_options,
execute_convergence_plan의 파일 "/usr/local/lib/python3.6/site-packages/compose/service.py", 579 행
renew_anonymous_volumes,
_execute_convergence_recreate의 파일 "/usr/local/lib/python3.6/site-packages/compose/service.py", 509 행
스케일-len (컨테이너), 분리됨, 시작
_execute_convergence_create의 파일 "/usr/local/lib/python3.6/site-packages/compose/service.py", 479 행
"만들기"
"/usr/local/lib/python3.6/site-packages/compose/parallel.py"파일, 108 행, parallel_execute
error_to_reraise 발생
생산자의 파일 "/usr/local/lib/python3.6/site-packages/compose/parallel.py", 206 행
결과 = func (obj)
파일 "/usr/local/lib/python3.6/site-packages/compose/service.py", 477 행
람다 service_name : create_and_start (self, service_name.number),
"/usr/local/lib/python3.6/site-packages/compose/service.py"파일, 456 행, create_and_start
컨테이너 = service.create_container (number = n, quiet = True)
create_container의 파일 "/usr/local/lib/python3.6/site-packages/compose/service.py", 333 행
previous_container = 이전 _ 컨테이너,
_get_container_create_options의 파일 "/usr/local/lib/python3.6/site-packages/compose/service.py", 936 행
one_off = one_off)
_get_container_host_config의 파일 "/usr/local/lib/python3.6/site-packages/compose/service.py", 1014 행
device_request [ 'capabilities']]의 요소에 대한 element.split ( ',')
파일 "/usr/local/lib/python3.6/site-packages/compose/service.py", 1014 행
device_request [ 'capabilities']]의 요소에 대한 element.split ( ',')
AttributeError : 'list'개체에 'split'속성이 없습니다.

추가 디버깅 후 --scale을 사용할 때 어떤 이유로 한 인스턴스에 [ 'gpu']로 device_requests [ 'capabilities']가 있음을 발견했습니다. 그러나 시작되는 다른 모든 컨테이너의 경우 device_request [ 'capabilities']는 대신 [[ 'gpu']]처럼 보입니다.

이 문제를 해결하기 위해 compose / service.py의 1010 행에서 컨테이너를 시작하고 실행하기 위해 로컬에서 임시 수정을했습니다.

```
device_requests의 device_request의 경우 :
device_request에 'capabilities'가없는 경우 :
계속하다
if type (device_request [ 'capabilities'] [0]) == 목록 :
device_request [ 'capabilities'] = [
device_request [ 'capabilities'] [0]]의 요소에 대한 element.split ( '.')
그밖에:
device_request [ 'capabilities'] = [
device_request [ 'capabilities']]의 요소에 대한 element.split ( '.')

````

@proximous "구성에서 제외"란 무엇을 의미합니까? 모든 작성 파일에 버전 3.8이 있습니까? 더 쉽게 재현 할 수 있도록 예제를 공유 할 수 있습니까?

@visheratin 이 예제를 참조하십시오. 다른 결과를 기대하는 것이 잘못입니까?

docker-compose.nogpu.yml :

version: '3.8'

services:
  df:
    build: miniconda-image.Dockerfile

docker-compose.gpu.yml :

version: '3.8'

services:
  df:
    build: nvidia-image.Dockerfile
    device_requests:
      - capabilities:
          - gpu

nogpu.yml 만 사용하십시오.

$ docker-compose -f docker-compose.nogpu.yml config
services:
  df:
    build:
      context: /home/jerry/gpu-test/miniconda-image.Dockerfile
version: '3'

gpu.yml 만 사용하십시오.

$ docker-compose -f docker-compose.gpu.yml config
services:
  df:
    build:
      context: /home/jerry/gpu-test/nvidia-image.Dockerfile
    device_requests:
    - capabilities:
      - gpu
version: '3'

GPU가 아닌 yml로 시작하는 체인 구성 yml (참고 ... 런타임 누락) :

$ docker-compose -f docker-compose.nogpu.yml -f docker-compose.gpu.yml config
services:
  df:
    build:
      context: /home/jerry/gpu-test/nvidia-image.Dockerfile
version: '3'

예상 출력 :

$ docker-compose -f docker-compose.nogpu.yml -f docker-compose.gpu.yml config
services:
  df:
    build:
      context: /home/jerry/gpu-test/nvidia-image.Dockerfile
    device_requests:
      - capabilities:
          - gpu
version: '3'

(분명히 나는 ​​좀 더 정교한 것을 시도하고 있으며 이것은 예상치 못한 행동을 강조하기위한 단순한 사례 일뿐입니다.)

@jlaule @proximous 이 스레드를 주제로 유지하기 위해 분기 된 저장소에 문제를 생성하십시오. 시간이있을 때 조사하겠습니다.

기다리는 동안 무언가가 필요한 사람들을 위해 컨테이너 런타임으로 docker를 사용하여 30 분 안에 GPU 지원으로 K3S (Kubernetes의 에지 버전)를 설정했습니다 (예 : 설치 스크립트에 --docker 옵션 사용). https://github.com/NVIDIA/k8s-device-plugin 을 팔로우하여 Nvidia 장치 플러그인이 작동하도록합니다.
도움이 되었기를 바랍니다.

@EpicWink 는 문제가 아니며 주제에서

이 문제를 해결 했습니까?

"/ usr / bin / nvidia-container-runtime"과 같은 것은 더 이상 없습니다. 문제는 여전히 중요합니다.

여기에 설명 된대로 nvidia-docker2를 설치합니다.

이 문제를 최근에 다루고있는 이드와 나의 접근 방식을 공유하고 있습니다.
내 문제는 Docker 스택 배포가 필요했고 듣고 싶지 않았다는 것입니다. docker compose 나는 docker api 버전 해킹으로 작업했지만 옳다고 느끼지 않았고 스택 배포는 상관없이 작동하지 않습니다.

그래서 내 docker compose에서 런타임 pr 장치 요청을 설정하지 않고 This를 내 데몬에 추가했습니다.

{ "runtimes": { "nvidia": { "path": "/usr/bin/nvidia-container-runtime", "runtimeArgs": [] } }, "default-runtime": "nvidia", "node-generic-resources": [ "NVIDIA-GPU=0" ] }

GPU- {first part of gpu guid}를 사용할 수도 있습니다.
그러나 이것은 더 쉬웠다. NV 컨테이너 툴킷을 제외하고 pip + 또는 이와 유사한 것을 설치할 필요가 없습니다. 매력처럼 배치되고 작동합니다.

Tks 많이 @haviduck , 방금 내 컴퓨터 (Ubuntu 20.04, docker CE 19.03.8)에서 시도했으며 매력처럼 작동했습니다.
기타 : 도커 데몬을 다시 시작하는 것을 잊지 마십시오.

@pommedeterresautee 아 임 너무 기뻐서 다른 사람들을 위해 일했습니다! 재 장전을 언급 했어야했습니다.

3 주간 논스톱 dockering im 꽤 당황스러워서 아무 일도 일어나지 않는 것 같다 ..

@haviduck : 감사합니다! 마지막으로 작동하는 간단한 솔루션입니다. 나는 포기한 장치 등을 추가하는 데 너무 많은 시간을 보냈습니다. 그런 다음 이것이 와서 시도하고 몇 분 후에 Plex에서 하드웨어 코드 변환이 작동합니다.

나는이 문제에 2 센트를 더할 것이다. 나는 많은 포스트를 읽었고 마침내 해결책은 매우 간단했다.

그것은 나를 위해 일했습니다 : (조금 더 낮았을 수도 있습니다-전혀 모르겠습니다 ...)
docker-compose 버전 1.27.4, 빌드 40524192

1. 도커 호스트 컴퓨터에서 nvidia-container-toolkit 및 nvidia-container-runtime 패키지를 설치하십시오.
2. 도커 호스트 컴퓨터에서 : 유형
   nvidia-smi 를 클릭하고 오른쪽에 나타나는 CUDA 버전을 확인합니다.
   
3. 도커 호스트 컴퓨터에서 : 다음을 입력합니다 : (설치 한 버전으로 cuda 버전을 대체합니다)
   docker run --rm --gpus all nvidia / cuda : 10.1-base nvidia-smi
   호스트 컴퓨터에서 nvidia-smi를 실행할 때와 동일한 출력을 얻어야합니다.
4. /etc/docker/daemon.json 파일에서 다음을 설정해야합니다.
   "runtimes": { "nvidia": { "path": "/ usr / bin / nvidia-container-runtime", "runtimeArgs": []}}
5. docker-compose YML에 다음을 추가해야합니다.
   런타임 : nvidia

그게 다야!
YML을 사용하여 배포하면 docker-compose에서 GPU 지원이 제공됩니다.

5. in your docker-compose YML you should add:
   **runtime: nvidia**

오,이 전체 스레드는 런타임이없는 버전 3에 관한 것입니다.

릴리스 1.27.0 이상 에는 v2 / v3 파일 형식이 병합되었으므로 이제 어디에서나 runtime 사용할 수 있습니다. 또한 액셀러레이터에 대한 사양도 아직 docker-compose 에서 구현되지 않았지만 (https://github.com/compose-spec/compose-spec/pull/100) 도착했습니다.

나는이 문제에 2 센트를 더할 것이다. 나는 많은 포스트를 읽었고 마침내 해결책은 매우 간단했다.

그것은 나를 위해 일했습니다 : (조금 더 낮았을 수도 있습니다-전혀 모르겠습니다 ...)
docker-compose 버전 1.27.4, 빌드 4052419

1. 도커 호스트 컴퓨터에서 nvidia-container-toolkit 및 nvidia-container-runtime 패키지를 설치하십시오.
2. 도커 호스트 컴퓨터에서 : 유형
   nvidia-smi 를 클릭하고 오른쪽에 나타나는 CUDA 버전을 확인합니다.
   
3. 도커 호스트 컴퓨터에서 : 다음을 입력합니다 : (설치 한 버전으로 cuda 버전을 대체합니다)
   docker run --rm --gpus all nvidia / cuda : 10.1-base nvidia-smi
   호스트 컴퓨터에서 nvidia-smi를 실행할 때와 동일한 출력을 얻어야합니다.
4. /etc/docker/daemon.json 파일에서 다음을 설정해야합니다.
   "runtimes": { "nvidia": { "path": "/ usr / bin / nvidia-container-runtime", "runtimeArgs": []}}
5. docker-compose YML에 다음을 추가해야합니다.
   런타임 : nvidia

그게 다야!
YML을 사용하여 배포하면 docker-compose에서 GPU 지원이 제공됩니다.

참고로, nvidia-smi 의 출력에서 ​​볼 수있는 cuda 버전은 nvidia cuda 드라이버 버전 (일명 nvidia 드라이버)을 나타냅니다 (혼란 스럽지만 cuda라고도 함). docker 이미지의 버전 번호 (예 : nvidia/cuda:10.1-base nvidia-smi 는 nvidia 툴킷 버전을 나타냅니다 (다시 말하지만, 동일한 버전 번호 시스템, 다른 짐승).

드라이버는 툴킷과 역 호환되므로 <version> 이 드라이버 버전보다 작거나 같으면 원하는 nvidia/cuda:<version>-base nvidia-smi 를 실행할 수 있습니다.

자세한 정보 : https://stackoverflow.com/questions/53422407/different-cuda-versions-shown-by-nvcc-and-nvidia-smi

ARM 기반 시스템에 사용할 수있는 Docker Compose 1.27.4 바이너리가 표시되지 않습니다.

pip install docker-compose
Defaulting to user installation because normal site-packages is not writeable
Requirement already satisfied: docker-compose in /usr/local/lib/python3.6/dist-packages (1.26.2)

안녕하세요 @collabnix!

pip --version 의 결과는 무엇입니까?

Compose 1.27은 Python 2에 대한 지원을 중단하므로 시스템에 Python 2가있는 경우 1.27.x 릴리스가 표시되지 않을 수 있습니다.

@collabnix 는 이미 compose를 설치했기 때문입니다. pip install --upgrade docker-compose 시도

이제 1.27.4로 업그레이드 할 수 있습니다. pip 업그레이드가 트릭을 수행했습니다. 감사합니다 @kshcherban & @ chris-crone
내가 과거에 작업했고 Python 2.7을 사용하는 대부분의 프로젝트를 실제로 업그레이드해야하는 것을 보는 것은 미친 짓입니다.

docker-compose를 1.27.4로 업그레이드하면 문제가 해결되었습니다.
(나중에 문제를 해결하기 위해 1.19.3으로 업그레이드 할 수 있음)

$ cat /etc/docker/daemon.json 
{
    "default-runtime": "nvidia",
    "runtimes": {
        "nvidia": {
            "path": "/usr/bin/nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

version: '3.5'

    runtime: nvidia
    environment:
      - NVIDIA_VISIBLE_DEVICES=all
      - NVIDIA_DRIVER_CAPABILITIES=all       
    image: 'detectme'
    ipc: 'host'
    tty: true
    stdin_open: true

$ sudo docker-compose up -d --build
ERROR: The Compose file './docker-compose.yml' is invalid because:
Unsupported config option for services.engine: 'runtime'

$ docker-compose --version
docker-compose version 1.17.1, build unknown

$ sudo curl -L "https://github.com/docker/compose/releases/download/1.27.4/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
$ sudo chmod +x /usr/local/bin/docker-compose
$ sudo rm /usr/bin/docker-compose
$ sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose

$ sudo docker-compose up -d --build
docker-compose로 잘 실행하십시오.
호스트 컴퓨터에서 nvidia-smi가 사용하는 GPU를 확인하십시오.

@ bttung-2020
뿡
docker-hub에서 dokcer-nvidia-devel (런타임 아님) : nvidia / cuda : 10.1-cudnn7-devel-ubuntu18.04 를 사용하는 경우
작동합니까? docker-compose.yaml 파일을 어떻게 편집해야합니까?