Google이 독점 CUDA를 위해 OpenCL을 버린 것은 이상합니다.

최소한 Eigen 라이브러리는 OpenCL을 지원해야 합니다.

:+1:

:+1:

:+1:

엄지손가락과 그 모든 것.

OpenCL로 Tensor Flow를 확장하는 데 관심이 있습니다. 우리는 이미 OpenCL 카페를 출시했습니다. https://github.com/amd/OpenCL-caffe. 바라건대 그것은 가벼운 방식으로 통합 될 수 있습니까? 함께 작업하는 데 관심이 있는 사람이 있습니까?

@gujunli 여기서 AMD를 만나서 반갑습니다. /cc @naibaf7 @lunochod

훌륭할 것입니다.

:+1:

Eigen/OpenCL/SYCL용 /cc @lukeiwanski

@gujunli 확실히 기여에 관심이 있을 것입니다. 언제 시작할 계획인지 알려주세요.

안녕하세요 여러분,

여기 Codeplay에서 우리는 SYCL(OpenCL 위에 있는 최신 C++ 레이어)을 사용하여 GPU에서 실행되는 Eigen의 텐서를 조사하고 있습니다. 지금까지 수집한 내용에서 GPU 텐서 디자인은 CUDA와 매우 밀접하게 결합되어 있으며 다른 프로그래밍 모델, 특히 SYCL 및 OpenCL 1.2 버전에 대한 인터페이스 변경이 필요합니다.

누군가가 더 깊이 파고드는 데 관심이 있다면 / 우리는 기여하는 데 가장 관심이 있습니다.

감사 해요,
루크

@lukeiwanski 피드백 주셔서 감사합니다. @benoitsteiner 는 eigen의 텐서 확장 부분에서 작업했다고 생각합니다.

:+1: 누군가가 계획을 세우고 작업을 작업으로 나누는 경우 OpenCL/SYCL 코딩을 도울 수 있습니다. 저는 Boost.Compute를 OpenCL용 래퍼로 사용하는 것이 좋습니다(커널 실행, 테스트, 템플릿을 더 쉽게 만듭니다).

+1

:+1:

안녕하세요 여러분,

계속해서 소식을 전하기 위해 SYCL/OpenCL 1.2 프로그래밍 모델에 더 잘 맞도록 Eigen 인터페이스를 변경하는 방법을 계속 조사하고 있습니다.
이기종 프로그래밍 모델( OpenCL / SYCL 뿐만 아니라 )을 대상으로 하는 합리적인 접근 방식이 나오면 제안서를 작성합니다.

감사 해요,
루크

계속 업데이트해 주세요. AMD용 opencl-caffe를 개발했습니다. 나도보고있다
텐서 흐름.

감사 해요.
준루
2015년 12월 8일 오전 10시 19분에 "Luke Iwanski" [email protected] 이 다음과 같이 썼습니다.

안녕하세요 여러분,

계속 알려드리기 위해 변경 방법을 계속 조사 중입니다.
SYCL/OpenCL 1.2 프로그래밍 모델에 더 잘 맞는 고유 인터페이스.
합리적인 접근 방식이 나오면 제안서를 작성합니다.

감사 해요,
루크

—
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -162967662
.

/cc @ptillet @gongzg 인텔에서 이에 대한 관심이 있습니까? AMD 포크, Intel 통합되지 않은 PR, 또 다른 준비공식 AMD PR, 장기 스테이징 사용자 PR이 있는 Caffe와 같이 여기에서 OPENCL을 조각화하지 않기를 진심으로 바랍니다. 누군가가 역사에 관심이 있다면 https://github.com/BVLC/caffe/pull/2610 댓글을 볼 수 있습니다.

@bhack 우리는 이것에 관심이 있습니다. 알려 줘서 고마워. Eigen의 OpenCL/SYCL 구현에 대한 제안이 있으면 인텔 측에서 무엇을 할 수 있는지 알 수 있습니다.

:+1:

https://github.com/ptilet/isaac 의 흥미로운 이니셔티브는 여기에서 Eigen 텐서 확장에 의존하는 경우에도 마찬가지입니다.

저도 기여하고 싶습니다. @benoitsteiner 정리할 수 있나요?

이것은 로드맵에 포함되었지만 방향/부트스트랩이 정말 유용할 수 있도록 기여로 태그되기도 했습니다.

나는 그것을 조직하는 데 기여할 수 있습니다. OpenCL 지원을 담당하는 사람
이제 텐서 흐름?

정말 감사합니다.
준리

2016년 1월 19일 화요일 오전 7시 50분에 bhack [email protected] 에서 다음과 같이 썼습니다.

이것은 로드맵에 포함되었지만 기여로 태그가 지정되어
direction/bootstrap은 정말 유용할 수 있습니다.

—
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -172894538
.

---

구준리 - 谷俊丽
조정 과학 연구실
일리노이 대학교 어바나 샴페인

---

Benoit가 기능을 직접 할당했기 때문에 그냥 Benoit로 가정했지만 Junli는 당신이 그것을 가지고 있다고 생각합니다! 관심 있는 사람들의 이메일이나 포럼 스레드로 시작하시겠습니까?

@benoitsteiner 는 표시하지 않았을 수 있는 이해 관계자에 대해 더 많이 알고 있습니다.
이 스레드(또는 이 문제)에 있습니다. 그가 조정하기를 기다리겠습니다.
중복 작업을 피하십시오.

2016년 1월 19일 화요일 오전 11:42 Dan McLaughlin [email protected]
썼다:

나는 Benoit가 기능을 스스로 할당했기 때문에 추측했지만
당신은 그것을 얻었다 Junli! 이메일이나 포럼 스레드로 시작할 수 있습니다.
이해 관계자?

—
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -172963537
.

내가 관심. 로드맵이 있습니까?

2016년 1월 19일 오전 11시 46분에 Martin Wicke [email protected] 은 다음과 같이 썼습니다.

@benoitsteiner 는 표시하지 않았을 수 있는 이해 관계자에 대해 더 많이 알고 있습니다.
이 스레드(또는 이 문제)에 있습니다. 그가 조정하기를 기다리겠습니다.
중복 작업을 피하십시오.

2016년 1월 19일 화요일 오전 11:42 Dan McLaughlin [email protected]
썼다:

나는 Benoit가 기능을 스스로 할당했기 때문에 추측했지만
당신은 그것을 얻었다 Junli! 이메일이나 포럼 스레드로 시작할 수 있습니다.
이해 관계자?

—
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -172963537
.

—
이 이메일에 직접 회신하거나 GitHub에서 확인하세요.

Tensorflow가 의존하는 CUDA 종속성 라이브러리 목록이 있습니까?

이것은 우리가 즉각적인 OpenCL 대안을 가질 수 있는지 확인하는 데 도움이 될 것입니다.

@hsaputra
clFFT, clBLAS(또는 ViennaCL)가 있습니다. 난수 생성기는 CPU 생성기를 사용하고 GPU로 전송하거나 RNG용으로 다른 기존 커널을 ​​사용하는 조금 더 까다롭습니다(커런드 없음).

가장 큰 함정은 다시 효율적인 컨볼루션 구현(cuDNN과 같은 것)이 될 것입니다.

다음과 같은 문제에 대한 경험이 있습니다.
https://github.com/BVLC/caffe/pull/2610
https://github.com/BVLC/caffe/pull/2195
https://github.com/amd/OpenCL-caffe

Tensorflow는 Eigen으로 업스트림된 텐서 확장을 사용합니다. 그래서 Eigen에 대한 Opencl/Sycl 지원이 필요하다고 생각합니다. 이 스레드 보기

@naibaf7 감사합니다. 예, 현재 OpenCL용 cuDNN에 대한 실행 가능한 대안이 없다고 생각합니다.

웹사이트 http://opencl.org 는 이와 같은 오픈 소스 포팅 프로젝트를 지원하기 위해 만들어졌습니다! 우리는 현재 웹사이트에 필요한 모든 도구를 설치하고 있으며 https://github.com/OpenCL/ 에 리포지토리를 위한 공간이 있습니다. 나중에 여러 유형의 하드웨어를 테스트하기 위해 빌드 서버를 추가하고 다음 분야에 대한 전문 지식을 제공할 수 있습니다. 수많은 하드웨어에서 최고 속도로 실행되는 코드를 작성하는 방법.

다음 주에 GEGL에 대한 이식 계획을 시작하지만 기꺼이 여러분을 지원합니다.

@bhack 해당 스레드에서 여기에서 @lukeiwanski 가 그것을 조사하고 있는 것 같습니다. 기꺼이 작업할 수 있는 사람들이 충분하다고 생각합니다. 조정하려면 @benoitsteiner , @lukeiwanski 또는 @gujunli 만 있으면 됩니다. Benoit는 조용했습니다. 아마도 휴가 중일 것입니다.

이 이니셔티브에 기여하고 싶습니다.

안녕 모두,

Eigen의 텐서 모듈을 OpenCL용 SYCL로 이식하는 노력을 조정할 것입니다. 이미 대부분 작동하는 것이 있지만 아직 검토할 준비가 되지 않았기 때문입니다.

우리는 이 접근 방식을 선호합니다. 코드 기반에 대한 침입이 줄어들기 때문입니다. SYCL은 eigen이 이미 사용하고 있는 단일 소스 C++ 템플릿 모델을 지원합니다.

로드맵 디자인이 진행 중이므로 너무 오래 걸리지는 않을 것입니다.

감사 해요,
루크

@lukeiwanski 업스트림과 작업 중이거나 연락 중입니까? Eigen의 업스트림에서 승인될 것이라고 생각하십니까?

+1

좋은 소식 @lukeiwanski , 도움이 필요하면 알려주십시오.

개발자/연구원이 사용할 수 있는 SYCL 구현을 사용하고 있다고 생각합니다. 어떤 플랫폼에서?

@lukeiwanski SYCL은 Eigen과 관련된 템플릿 메타프로그래밍의 양을 고려할 때 올바른 방법인 것 같습니다. 나는 내 자신의 신경망과 선형 대수학 라이브러리 를 개발하면서 얻은 OpenCL 경험이 있는 숙련된 C++ 개발자입니다. 저는 이 노력을 돕고 SYCL과 함께 개발을 시작하고 싶습니다.

@bhack 우리는 @benoitsteiner 와 접촉하고 있지만 너무 많은 노력을 투자하기 전에 업스트림 유지 관리자와 제안에 대해 논의할 것입니다.

@DanMcLaughlin , @ville-k 우리는 SYCL, ComputeCpp(https://www.codeplay.com/products/computecpp) 구현을 개발 중입니다. 더 자세한 정보를 원하시면 제 프로필에 있는 이메일 주소를 통해 저에게 연락해 주시겠습니까?

@lukeiwanski 계획에 관한 업데이트/추정이 있습니까?

+1.
노트북에 AMD GPU와 Intel GPU가 있습니다. 둘 다 OpenCL 드라이버가 있고 AMD의 지원이 훨씬 더 나은 것 같습니다. 나는 2개의 OpenCL 장치를 가지고 있기 때문에 더 높은 성능을 가질 것입니다. OpenCL 장치로 확장할 수 있기를 바랍니다.

안녕하세요 여러분,

관심을 가져 주셔서 감사합니다!
이 시점에서 우리는 우리가 하는 어떤 것도 회귀를 도입하지 않도록 테스트 인프라를 설정하고 있습니다.
우리는 @benoitsteiner 와 연락하여 그가 지금까지 한 일과 일치하는지 확인하고 있습니다.

우리는 아직 통합 프로세스를 위한 로드맵을 작성 중입니다. 명확히 해야 할 몇 가지 비즈니스 세부 사항이 있으므로 몇 주 안에 완료해야 합니다.

우리의 목표는 올해 말까지 OpenCL을 Eigen을 통해 TensorFlow로 가져오는 것입니다.

감사 해요,

관심있는. 기여하고 싶습니다.

좋습니다. 실제로 Google 내부에 일종의 동기화를 사용하는 Codeplay의 노력인 것 같습니다. 여기서 AMD와 Intel 가입자의 역할은 무엇입니까?

/cc @keryell SYCL/FPGA 세계에서 이에 대한 관심이 있는 경우

최근에 이 토론에 더 많은 기여를 하지 못한 것에 대해 사과드립니다. 지난 2주 동안 제 접시가 가득 찼습니다.

TensorFlow 측에서 OpenCL 작업을 조정할 것입니다. 우리의 현재 생각은 다음과 같습니다.

• TensorFlow는 C++11에 의존하고 "단일 소스" 접근 방식을 취했기 때문에 SYCL이 매우 적합해 보입니다.
• 우리는 사내에 OpenCL 경험이 많지 않으므로 이 격차를 해소하기 위해 Codeplay와 긴밀하게 협력하고 있습니다. 특히 Codeplay는 현재 Eigen 텐서 라이브러리에 SYCL에 대한 지원을 추가하려는 노력을 주도하고 있습니다.
• TensorFlow는 cuDNN 라이브러리에 의존하여 NVidia GPU에서 컨볼루션을 계산합니다. 누군가 OpenCL에 상응하는 기여에 관심이 있다면 기꺼이 도와드리겠습니다.

노력을 구조화하는 데 도움이 되도록 [email protected]이라는 메일링 리스트를 만들었습니다.

@bhack 확실히 FPGA의 고급 C++에 관심이 있습니다 :-)
TensorFlow는 triSYCL에 대한 좋은 검증 사용 사례처럼 들립니다.
그건 그렇고, 여기 누군가가 이 주제에 대한 인턴십을 찾고 있다면 몇 가지 직책이 있습니다. 내가 그들의 웹사이트를 신뢰한다면 Codeplay도 몇몇 사람들을 찾고 있는 것 같습니다.

@karlrupp 및 @hughperkins 의견에 정말 관심이 있습니다. 그들이 새로운 Google 그룹에 대한 토론에 참여하기를 바랍니다.

@benoitsteiner 업데이트해주셔서 감사합니다. @KhronosGroup 의 모든 관련 파트너(Google, Nvidia, Amd, Intel, Codeplay, Xilinx 등)가 표준화된 방식으로 API와 같은 cudnn을 홍보한다면 훌륭할 것입니다. 일종의 Khronos openvx 컴퓨터 비전 표준화 노력이지만 딥 러닝을 위한 것입니다.

@bhack 어떤 새로운 Google 그룹인가요?

그 외에 OpenCL과 CUDA는 프로그래밍 방식이 너무 다릅니다. CUDA는 한 회사가 모든 것을 완전히 제어할 수 있기 때문에 있는 그대로 작동하므로 바이너리 Blob을 포함할 수 있으며 최종 실행 파일에 무엇이 있는지 누가 알 수 있습니다. SyCL 경로를 따라 내려가고(내 걱정이 있습니다...) SyCL 컴파일러 공급업체가 모든 가능한 대상 아키텍처를 완전히 제어하지 않는 한 OpenCL에서는 이를 수행할 수 없습니다(실제로 가능성이 없거나 불가능함). 전반적으로, 제 생각에는 좋은 OpenCL 지원 라이브러리가 여기 저기 약간의 조정 이상이 필요하다는 것입니다. 아마도 당신이 듣고 싶었던 것은 아니지만 당신은 내 의견을 물었습니다 :-)

@karlrupp 구글 그룹은 끝에 https://github.com/tensorflow/tensorflow/issues/22#issuecomment -176406416을 참조하세요.
여러 백엔드(CPU, GPU, MIC)와 대수 라이브러리를 인터페이스하는 ViennaCL에 대한 훌륭한 경험이 있기 때문에 귀하의 의견을 물었습니다. Tensorflow는 Eigein 라이브러리와 Google 업스트림에서 제공한 새로운 텐서 확장에 의존합니다(CUDA 백엔드에만 해당). 나는 그들이 이 개발 기간 동안 ViennaCL에서 이미 겪었던 모든 함정을 많이 경험하지 않았다고 생각합니다.

@bhack 저희는 현재 이번 주 시애틀에서 대면 회의를 하고 있지만 DNN 라이브러리에 대한 이야기인지 아닌지는 말할 수 없습니다. :-)

@keryell 시애틀에서 대의를 위해 노력하십시오 ;)

@karlrupp 맞습니다. OpenCL과 CUDA는 너무 다른 프로그래밍 접근 방식입니다. 예를 들어 CUDA 및 OpenMP 4.5에서 볼 수 있는 단일 소스 측면은 소프트웨어 엔지니어링 관점에서 매우 강력합니다. 이것이 실제 C++ 프로그래머를 위한 SYCL 표준이 있는 이유입니다. SYCL은 언어 확장이 없고 일부 OpenMP 측면(작업)이 있는 스테로이드에서 CUDA로 볼 수 있습니다. 일반적인 SYCL 장치 컴파일러는 SPIR-V 커널을 생성할 것으로 예상됩니다.

이식성에 대한 귀하의 우려는 OpenCL 2.1 및 Vulkan에서 반드시 수용해야 하는 SPIR-V 표준(Vulkan 및 OpenCL 세계에서 nVidia PTX/AMDIL/...의 휴대용 동등물)의 문제가 아닙니다. 따라서 SPIR-V를 생성하는 프런트 엔드가 있는 경우 실행할 하드웨어의 세부 사항에 대한 특별한 지식이 필요하지 않다는 장점이 있습니다. LLVM IR과 SPIR-V 사이에 Khronos 오픈 소스 양방향 변환기가 있으므로 완전히 새로운 영역이 열립니다.

@keryell 나는 SPIR-V가 한 걸음 더 나아갔다는 데 동의합니다. 그러나 완전한 지팅의 모든 문제를 다루지는 않습니다.

실행할 하드웨어의 세부 사항에 대한 특별한 지식이 필요하지 않습니다.

이것은 정확히 동일하다고 주장하는 OpenCL 1.0 마케팅의 복사 및 붙여넣기입니까? 최대 성능을 목표로 한다면 _항상_ 기본 하드웨어의 세부 사항으로 내려가야 합니다. 이것은 특히 빠른 텐서 수축의 맥락에서 그렇습니다.

... @scott-gray가 네온 으로 시연한 것처럼

@karlrupp

이것은 정확히 동일하다고 주장하는 OpenCL 1.0 마케팅의 복사 및 붙여넣기입니까?

ㅋ. :-)

최대 성능을 목표로 하는 경우 항상 기본 하드웨어의 세부 정보로 이동해야 합니다. 이것은 특히 빠른 텐서 수축의 맥락에서 그렇습니다.

물론, 그러나 2차 최적화를 사용하기 전에 전체 템플릿 C++ 코드의 상당 부분을 가속화된 방식으로 실행하는 것이 유용합니다.

최적화를 위해 최적화된 바이너리 커널을 NervanaSys로 꿰매거나 SYCL이 순수 C++이므로 asm("...")을 많은 #ifdef와 함께 사용하여 대상 아키텍처를 테스트할 수 있습니다. :-) 즉, SPIR-V는 그 자체로 확장 가능하며 인라인 VHDL 또는 Verilog를 어느 시점에 넣을 수 없는 이유를 알 수 없습니다. :-)

그러나 보다 구체적으로, 최근에 도입된 하위 그룹 작업은 이식 가능한 방식으로 좋은 성능을 달성하는 데 도움이 될 것이며 간단한 내장 ad-hoc 기능을 사용하는 것이 도움이 될 수 있습니다.

C++에는 X 또는 Y 하드웨어에 더 적합한 코드를 생성하기 위해 clBLAS 또는 기타 프레임워크에서 사용되는 대부분의 코드 생성기를 대체할 수 있는 흥미로운 메타프로그래밍 기능이 추가되었습니다.

또한 C++17의 N4355는 조만간 게임에 들어갈 수 있습니다.

@karlrupp , @bhack tensorflow 접근 방식은 일반적인 신경망에 필요한 대부분의 작업에 대해 하드웨어 추상화(텐서 모듈)에 의존하는 반면, 다음과 같은 몇 가지 작업에는 특수 라이브러리(예: cudnn)에 의존합니다. 정말 중요한 성능입니다. 하드웨어 추상화를 통해 우리는 대부분의 TensorFlow 작업을 한 번만 구현하고 충분한 성능 이상의 가속기에서 실행할 수 있습니다.

@bhack 예 저는 다차원 배열을 좋아합니다. 또한 우리의 관심 영역에는 이러한 문제에 관심이 있는 모든 사람들 이 표준으로 수렴하도록 하는 C++ 위원회의 SG14가 있습니다.
https://groups.google.com/a/isocpp.org/forum/#!forum/sg14
물론 SYCL은 논의 중입니다. :-)

@benoitsteiner 주로 풀링 및 컨볼루션을 위해 cudnn에서 사용합니다. 모든 공급업체가 자체 바이너리 어셈블리를 사용하여 이 작업을 위한 자체 하드웨어로 API를 생산한다면 확장 가능한 접근 방식이 아닐 것이라고 생각합니다. 그렇기 때문에 성능에 중요한 일부 API 호출은 어떤 식으로든 표준화하는 것이 더 낫다고 생각합니다.

@keryell 특히 vector/SIMD 호출 의제에서 새로운 SG14 c++의 Matrix/Tensor에 대한 정말 흥미로운 주제가 있습니다. 그러나 아무도 컨볼루션, 풀링 및 기타 유용한 "안정화된" 딥 러닝 인터페이스에 대해 이야기하지 않은 것 같습니다. 또한 이 특정 표준화 하위 그룹에는 Nvidia, Intel, Amd, CodePlay 등의 사람들이 있지만 다른 그룹에 있는 경우에도 Google이 아닌 것 같습니다.

:+1:

@bhack 예, SG14에는 아직 기계 학습 스타일 제안이 없습니다. 그러나 참여는 열려 있으므로 몇 가지 제안을 보낼 수 있습니다. :-) 하지만 아마도 SG6(숫자 주제)이 더 적절할 것입니다. 나는 그들이 아직 자신의 메일링 리스트/포럼을 가지고 있다고 생각하지 않습니다.

@gujunli OpenCL Caffe는 Android에서 실행되나요? 여기에 질문해서 죄송하지만 다른 곳에서 질문할 수 있는 곳을 찾지 못했습니다. :) Android 기기에서 실행되는 딥 러닝 라이브러리가 있으면 좋겠지만 GPU를 사용할 수는 있지만 현재로서는 없는 것 같습니다. (틀 렸으면 말해줘!)

@krikru
공식(그러나 실험적인) OpenCL Caffe 브랜치는 Android GPU에서 실행되도록 만들 수 있지만 현재 성능은 최적과는 거리가 멀습니다. https://github.com/sh1r0/caffe-android-lib/issues/23 및 https://github.com/BVLC/caffe/tree/opencl을 참조하십시오.

cudnn의 진정한 대안은 Tensor, NdConvolution, NdPooling 연산자 및 (아마도) 표준화 가능한 것으로 간주될 수 있는 다른 연산자를 지원하는 OpenVx 표준 개체 의 확장일 수 있습니다.
또한 cudnn 팀은 모든 릴리스에서 어떤 새로운 API와 연산자를 도입할지 선택해야 합니다. 물론 표준은 cudnn 릴리스만큼 빠르게 이동할 수는 없지만 일부 작업 및 개체에는 표준화하기에 충분한 "인용 기록"이 있다고 생각합니다.

@hughperkins 현재로서는 딥 러닝 라이브러리를 시도하지 않았습니다. 어떤 라이브러리를 잠재적으로 사용할 수 있는지 알아보기 위해 몇 가지 정찰을 하고 있습니다. Android에서 cltorch와 DeepCL을 사용해 보셨습니까? Android 전용 Torch 구현이 있기 때문에 cltorch가 Android에서 작동한다고 가정했습니다. 그리고 Android에서 작동하고 _그리고_ OpenCL을 사용하는 구현이 이미 있었다면 왜 그런 구현을 했을까요? 하지만 내가 더 잘 알았어야 했을지도 몰라.

@hughperkins 어떤 이유로 나는 토치-안드로이드 가 안드로이드의 공식 토치 구현이라고 상상했습니다. 즉, cltorch를 포함하여 다른 토치 구현(적어도 공식적이지 않은)은 안드로이드에서 원활하게 실행될 가능성이 없음을 의미합니다. 왜 그런 생각을 했는지 모르겠지만, 당연히 말이 안 된다.

음... Soumith 종류의 조정 횃불 개발. 그는 Facebook AI Research에서 일합니다. 그래서, 토치-안드로이드 리포지토리는 Soumith에 속하기 때문에 공식에 상당히 가깝다고 말하고 싶습니다. 그러나 어떤 이유로 코어의 일부가 아닐 수도 있습니다. 해당 리포지토리 또는 https://groups.google.com/forum/#!forum/torch7 에서 문제로 질문할 수 있다고 생각합니다. 실제로 Soumith는 https의 요청을 처리하는 주요 사람이기 때문입니다. //groups.google.com/forum/#!forum/torch7 , 아마도 거기에 질문을 게시하고 싶을 것입니다.

cltorch를 포함하여 Android에서 원활하게 실행되는 다른 Torch 구현(적어도 공식적이지는 않음)이 없음을 의미합니다.

cltorch는 토치의 구현이 아닙니다. 플러그인이며 OpenCL을 제공합니다. 둘 다 필요합니다.

cltorch는 토치의 구현이 아닙니다. 플러그인이며 OpenCL을 제공합니다. 둘 다 필요합니다.

아, 설명 감사합니다.

@naibaf7 OpenCL Caffe 브랜치와 AMD의 OpenCL Caffe 구현은 이름 외에 공통점이 더 있습니까? 둘을 비교했거나 성능에 차이가 있는지 알고 있습니까? OpenCL 분기가 최적의 성능과는 거리가 멀다고 씁니다. 그것이 의미하는 바는 무엇이며 이를 개선하기 위해 필요한 것은 무엇입니까? Android에서 시도하는 것은 흥미로울 것입니다.

우리는 주제를 벗어나고 있습니다

@bhack 예, 이 스레드를 가로채서 죄송합니다. 어디에서 질문을 해야 할지 몰랐을 뿐입니다.

@krikru
Caffe 브랜치에서 이에 대한 문제를 제기하고 Android 및 OpenCL로 플래그를 지정하십시오. 그러면 이에 대해 더 논의할 수 있습니다. 감사 해요.

@keryell 3월의 다음 f2f SG14 회의는 Google에서 주최할 것으로 보입니다. 내부에 텐서플로가 있습니까?

/cc @jfbastien

아마도 @benoitsteiner 는 현지인이기 때문에 들를 수 있을 것입니다.
그러나 이 이벤트 전에 플로리다 잭슨빌에서 월말에 완전한 C++ F2F가 있습니다.
https://isocpp.org/files/papers/N4568.pdf
불행히도 나는 그들 중 어느 것에도 참석할 수 없습니다.

CppCon 2015 에서 계산 물리학 및 응용 수학을 위한 C++ 다차원 배열에 대해 논의했는지 여부는 알 수 없습니다.

+1

@bhack 다차원 배열에 대해 지적해주셔서 감사합니다. 흥미롭고 실제 문제를 해결하지만 C++에서 그대로 비준하기에는 너무 임시적으로 보입니다. 개인적으로 저는 Boost.MultiArray를 사용하며 Boost.MultiArray의 세련된 버전이 더 자신 있습니다.

WG21 에도 몇 가지 논문 이 있습니다. 보시다시피 Google의 @jfbastien은 WG21 에서 일부 활동을 했으며 3월에 Google에서 SG14 f2f 회의를 주최하는 데 도움을 주기도 했습니다.

@bhack @keryell 세부 사항이 OpenCL/tensorflow와 관련이 없기 때문에 이 토론을 SG14 메일링 리스트 로 가져갈 가치가 있다고 생각합니다.

예, 더 이상 모든 세부 사항과 함께 더 이상 엄격하게 제한되지 않습니다. Eigen/sycl 지원 외 cudnn 호출 계획이 있습니까?

+1 매우 흥미로운 주제. 곧 출시되기를 바랍니다.

이 스레드는 매우 흥미롭습니다. 나는 안드로이드에서 작동하는 카페를 얻으려고 노력해 왔습니다. 결과는 놀라운 것 같습니다. Mali gpu로 실행되는 caffe는 cpu보다 2-3배 느리지만 약 4-5배 더 에너지 효율적입니다. 테스트는 Galaxy S6(Mali T760, Peak Performance 200 GFlops)에서 실행되었습니다.

GEMM은 caffe에서 컨볼루션의 핵심이므로 Android에서 성능을 프로파일링하기로 결정했습니다. ViennaCL은 일부 간단한 커널만큼 효율적이지 않은 것 같습니다. 이제 큰 행렬(2k x 2k)에 대해 GPU를 CPU만큼 빠르게 실행할 수 있습니다. 일반적으로 GPU가 훨씬 더 빠를 것으로 예상하기 때문에 이것은 여전히 ​​직관적이지 않습니다.

보다:
https://github.com/strin/mocha-profile

커널 구현은 다음에서 찾을 수 있습니다.

GEMM용 OpenCL 커널: https://github.com/strin/gemm-android

이견있는 사람?

@strin 이 스레드 https://community.arm.com/thread/4935를 이미 팔로우하셨습니까?

@bhack 공유해주셔서 감사합니다. 이 스레드는 매우 흥미롭게 보입니다. 제안한 대로 DVFS를 켜려고 했지만 ViennaCL에서 sgemm에 대해 중요한 성능이 나타나지 않았습니다.

+1

@strin MALI SDK에서 마지막 sgemm 버전을 사용해 보셨습니까?

Tensorflow가 늦었습니다! 아 아
https://gist.github.com/jarutis/ff28bca8cfb9ce0c8b1a

이것은 전략에 영향을 미칠 것입니다: http://lists.llvm.org/pipermail/llvm-dev/2016-March/096576.html?
편집하다:
"StreamExecutor는 현재 대부분의 Google 내부 GPGPU 애플리케이션의 런타임으로 사용되며, 이 스냅샷은 GPGPU 런타임 역할을 하는 오픈 소스 TensorFlow_ 프로젝트에 포함되어 있습니다."

+1

작업하는 사람들이 tensorflow가 1.0에 가까워질 때까지 CUDNN 대안 문제를 극복할 수 있기를 바랍니다.

@martinwick 이 문제가 종료된 이유는 무엇입니까?

나는 당신의 커밋이 이것을 고칠 것이라고 생각하지 않습니다.

다른 저장소에서 항상 동일한 커밋 주석을 사용할 수는 없습니다.) https://github.com/tensorflow/skflow/issues/22

오 깃허브

@vrv 이제 귀하가 우리에게 매우 통보를 하였으니 스트림 실행자 전략에 대한 피드백을 주실 수 있습니까? ;)

OpenCL 지원 부족을 포함하여 모든 것에 대해 GitHub를 비난할 것입니다. ;)

@benoitsteiner 가 더 많은 의견을 제시할 수 있습니다. '스트림 집행자' 전략이 무엇을 의미하는지 잘 모르겠습니다. 우리는 현재 스트림 실행기 버전과 CuDNN 및 Eigen을 사용하고 있으며 모두 함께 잘 작동하므로 OpenCL 측면에서 계획이 어떻게 변경되었는지 잘 모르겠습니다.

내 말은:
"StreamExecutor는 무엇입니까?
==========================
StreamExecutor 는 CUDA 및 OpenCL 호스트 측 프로그래밍 모델(런타임)에 대한 통합 래퍼입니다. 호스트 코드가 동일하게 작동하는 데이터 병렬 커널을 사용하는 CUDA 또는 OpenCL 장치를 대상으로 할 수 있습니다."

미리 준비된 작업
===================
StreamExecutor는 일반적인 데이터 병렬 작업을 위해 미리 정의된 여러 커널을 제공합니다.
지원되는 작업 클래스는 다음과 같습니다.

• BLAS: 기본 선형 대수 하위 프로그램,
• DNN: 심층 신경망,
• FFT: 고속 푸리에 변환 및
• RNG: 난수 생성.

@keryell 안녕하세요, 저는 Xilinx C++ 또는 OpenCL과 같은 고급 프로그래밍 언어를 사용하여 FPGA에서 TensorFlow를 구현하는 데도 관심이 있습니다. 계획이 있다면 기꺼이 기여하겠습니다.

@henline Opencl 및 관련 Canned에서 StreamExecutor의 역할이 무엇인지 설명할 수 있습니까?
Tensorflow에 대한 작업. 나는 이것이 Eigen 및 cudnn(대체?)의 SyCL 계획과 어떻게 통합되는지 여전히 알 수 없습니다.

:+1: 저도 이에 기여하고 싶습니다.

@bhack StreamExecutor는 CUDA 런타임 및 일부 CUDA 라이브러리(예: cublas 또는 cudnn)와 동일한 기능을 제공합니다. 그러나 여전히 우리가 Eigen을 사용하는 GPU 커널을 작성해야 합니다.

@benoitsteiner 그래서 여전히 두 개의 커널을 작성해야 합니까? 하나는 CUDA용이고 다른 하나는 Opencl용입니까?

@benoitsteiner 내부적 으로 아직 tensorflow/tensorflow/stream_executor/opencl/ 대응물이 없나요? "Canned operator"는 어떻습니까?

@bhack Eigen을 사용하면 한 번 수행하려는 계산을 설명하는 표현식을 작성할 수 있으며 CPU에서 해당 표현식을 평가하는 커널(평가자라고 함)을 자동으로 생성하고 CUDA 장치에서 표현식을 평가하는 다른 커널을 생성할 수 있습니다. Eigen에서 OpenCL을 지원하면(거의 가까워지고 있음) OpenCL 커널도 자동으로 생성할 수 있습니다.
성능이 중요한 몇 가지 TensorFlow 작업(예: 컨볼루션)의 경우 수동으로 최적화된 커널 및/또는 타사 라이브러리를 사용합니다. 이러한 경우 이러한 작업에 대한 좋은 OpenCL 구현이 필요합니다.

:+1:

https://bitbucket.org/benoitsteiner/eigen-opencl에서 더 많은 코드를 푸시할 계획이 있습니까? sycl 컴파일러는 어떻습니까? 공개된 오픈 소스 GPU 대상 구현이 없는 것 같습니다.

@bhack @benoitsteiner
저는 곧 Caffe의 OpenCL에 대한 cuDNN 대체품(이 작업을 수행하는 데 가장 중요한 성능과 메모리이기 때문에 컨볼루션 부분만)을 출시할 예정입니다. 아마도 Tensorflow 포트에도 사용될 것입니다.

@bhack : Codeplay는 opencl 측면에서 많은 발전을 이루었습니다. 앞으로 몇 주 동안 https://bitbucket.org/benoitsteiner/eigen-opencl 에 대한 대대적인 푸시를 기대해 주십시오.

@naibaf7 : Convolution 연산의 빠른 구현은 TensorFlow에서 매우 유용할 것입니다. 기대됩니다.

@benoitsteiner 좋은 캐치, 그들은 의자를 얻었습니다

@benoitsteiner 어떻게 cuda 구현을 간단히 제거할 수 있습니까? '#ifdef GOOGLE_CUDA'가 너무 복잡하기 때문입니다. 때로는 CUDA를 의미하기도 하고 때로는 GPU를 의미하기도 합니다.

이 문제가 로드맵 에 도달했기 때문에(_Platforms_ 참조): OpenCL 지원이 TensorFlow에 언제 영향을 미칠지 대략적으로 알 수 있습니까? 버전 0.9 / 1.0이 마음에 드시나요? 2016년 3/4분기? 아니면 2017년이 더 현실적입니까?

@benoitsteiner eigen-opencl https://bitbucket.org/benoitsteiner/eigen-opencl 이 opencl 텐서 흐름 개발을 지원할 만큼 충분히 준비되어 있습니까?

tensorflow는 Eigen 텐서에만 의존합니까 아니면 Eigen의 다른 종속성이 있습니까?

@NEELMCW Codeplay는 Eigen Tensor에 OpenCL에 대한 부분 지원을 방금 출시했습니다. 코드는 이 bitbucket 저장소 에서 사용할 수 있습니다. 대부분의 경우 TensorFlow는 Eigen 텐서에 의존합니다. 선형 대수 연산을 위한 Eigen에 대한 추가 종속성이 있지만 이러한 연산의 OpenCL 호환 구현을 제공할 필요는 없습니다(최소한 초기에는 아님). 따라서 우리는 TensorFlow에서 OpenCL 지원을 시작하기에 매우 좋은 위치에 있습니다.

기여에 관심이 있으시면 이 스프레드시트 에서 수행해야 할 작업을 추적하기 시작했습니다.

@benoitsteiner 저는 C++11 OpenCL BLAS 라이브러리(https://github.com/CNugteren/CLBlast)의 저자이며 현재 그곳에서 반정밀도 지원을 구현하고 있습니다. 저는 이 프로젝트의 BLAS/GEMM 부분에 기여하고/또는 귀하의 요구에 더 잘 맞도록 CLBlast를 수정하게 되어 기쁩니다.

@CNugteren
CLBlast는 이제 OpenCL-Caffe에서도 사용할 수 있습니다. 보셨나요? :)
libDNN 컨볼루션도 볼 기회가 있었나요?

@naibaf7 봤어, 네! :) 나는 지금까지 libDNN을 전혀 보지 않았지만 정확히 무엇을 의미하는지 잘 모르겠습니다. 컨볼루션이 GEMM을 사용하여 구현되었다고 가정합니까?

@CNugteren
네, 그냥 살펴보시고 libdnn에 대한 개선 사항이나 튜닝 팁을 주시면 좋을 것 같아요.
(https://github.com/naibaf7/caffe/blob/master/src/caffe/greentea/libdnn.cpp).
GEMM을 사용하지만 암시적(BLAS를 통하지 않고 작업 그룹 수준에서 작은 GEMM만)을 사용하므로 더 높은 수준의 병렬 처리가 가능하고 중간 버퍼가 필요하지 않습니다(GEMM 체계로 데이터를 풀기 위해).

모두 안녕,

@benoitsteiner 우리의 푸시를 언급해주셔서 감사합니다! 도움이 되기를 바랍니다!

이 코드를 컴파일하려면 SYCL 컴파일러가 필요합니다. 현재 지원되는 유일한 컴파일러는 Codeplay의 평가 프로그램을 통해 사용할 수 있는 Codeplay의 ComputeCpp입니다. ComputeCpp는 2016년 후반에 공개 오픈 베타로 무료로 제공될 예정이며 2017년에는 무료 버전(ComputeCpp Community Edition)으로 출시될 예정입니다. 이를 통해 누구나 AMD 또는 Intel GPU와 같은 OpenCL 장치에서 TensorFlow를 컴파일하고 개발할 수 있습니다. 그리고 CPU.

btw. 이 문제에 OpenCL 레이블이 없어야 합니까? :)

감사 해요,
루크

오픈 소스 도구로도 컴파일할 수 있기를 진심으로 바랍니다. @keryell 새 Opencl 브랜치 가 어떻게 진행되고 있습니까?

@bhack 먼저 CPU OpenMP 호스트 장치 모드에서 triSYCL과 함께 작동할 수 있는지 확인하는 것이 좋을 것입니다. 하지만 지금 TensorFlow/Eigen 빌드 시스템에 들어갈 대역폭이 없습니다. :-( 누군가가 시도하고 싶다면 자유롭게 시도하십시오. :-)

https://github.com/keryell/triSYCL/commits/opencl 은 OpenCL 상호 운용성 모드에서 곧 OpenCL 커널을 실행할 수 있도록 허용해야 하지만 Clang/LLVM 아웃라이너가 아직 없기 때문에 우리 모두가 꿈꾸는 SYCL 단일 소스 모드에서는 그렇지 않습니다. SYCL에서 커널을 추출합니다. 그러나 Khronos는 최근 AMD와 Intel의 구성 요소를 오픈 소스화하여 OpenCL C++ 2.2 및 SPIR-V를 지원하기 위해 이를 기반으로 했습니다. 그래서 그것은 "단지" 시간의 문제입니다...

누군가 Tensorflow가 OpenCL(AMD GPU)과 함께 실행될 수 있는 시기에 대한 추정치를 제공할 수 있습니까? 그리고 시간이 지남에 따라 성능/사용성 곡선이 어떻게 생겼습니까? 모든 과거 정보를 실행 가능한 하드웨어 구매 정보로 구문 분석하는 것은 어렵습니다. :)

미리 감사드립니다!

@djan92
불행히도 사용할 수 있을 때까지 1년을 달라고 말하고 싶습니다. 최신 라이브러리와 기술을 기반으로 구축될 것으로 보이지만 대부분은 아직 준비가 완료되지 않았습니다.
또한 완전한 도구 스택을 OpenSource로 사용할 수 있게 되는 즉시 온보드로 이동할 것입니다.

@naibaf7

불행히도 사용할 수 있을 때까지 1년을 달라고 말하고 싶습니다. 최신 라이브러리와 기술을 기반으로 구축될 것으로 보이지만 대부분은 아직 준비가 완료되지 않았습니다.
또한 완전한 도구 스택을 OpenSource로 사용할 수 있게 되는 즉시 온보드로 이동할 것입니다.

SYCL 포트가 준비될 때까지 기다리는 동안 CL 버전을 먼저 구현하지 않는 이유는 무엇입니까? 여기에 기꺼이 도움을 줄 사람들이 꽤 있을 거라 생각합니다. 1년은 너무 길게 들립니다.

@djan92
네, 맞습니다. #22는 거의 8개월이 지났고 100개 이상의 게시물이 있습니다! 정보가 휩쓸릴 수 있습니다!

누군가 Tensorflow가 OpenCL(AMD GPU)과 함께 실행될 수 있는 시기에 대한 추정치를 제공할 수 있습니까?

TensorFlow는 (Tensor 모듈에서) 텐서 계산을 위해 Eigen 라이브러리를 사용합니다. SYCL(https://bitbucket.org/benoitsteiner/opencl 분기 Codeplay)을 사용하여 OpenCL 1.2에 대한 부분 구현을 커밋했습니다. 이 작업에 SYCL을 사용한 이유는 TensorFlow의 이 섹션이 C++ 표현식 트리를 사용하기 때문입니다. 이는 OpenCL용 SYCL에서는 가능하지만 OpenCL C에서는 직접 불가능합니다. 컨볼루션이나 BLAS와 같은 TensorFlow의 다른 구성 요소는 OpenCL C를 직접 사용할 수 있습니다.

현재 저는 ComputeCpp(Codeplay의 SYCL 컴파일러)를 bazel 빌드 시스템에 통합하는 작업을 하고 있습니다. 이것은 곧 준비될 것입니다(이 리포지토리를 따르십시오: https://github.com/benoitsteiner/tensorflow-opencl/ ). 완료되면 ComputeCpp를 사용하여 OpenCL SPIR(예: AMD 또는 Intel)을 지원하는 시스템에서 TensorFlow를 가속화해야 합니다. 더 많은 TensorFlow를 가속화하고 더 많은 OpenCL 구현과 triSYCL 오픈 소스 SYCL을 지원하기 위한 추가 작업이 계속될 것입니다. SYCL 및 OpenCL은 다중 공급업체의 로열티 프리 개방형 표준이므로 AMD GPU뿐만 아니라 이 접근 방식을 사용하여 지원할 수 있는 플랫폼과 장치가 많이 있습니다.

ComputeCpp Community Edition 컴파일러는 2016년 후반에 무료로 제공될 예정입니다(베타 형식: 완전한 적합성은 2017년 초에 무료로 출시될 예정).

TensorFlow의 C++가 아닌 부분(예: BLAS 및 컨볼루션)을 가속화하는 작업은 SYCL 없이 수행할 수 있으며 별도로 구현할 수 있습니다. 다른 하드웨어 공급업체는 가속화를 도울 수 있는 이러한 기능에 대해 자체적으로 최적화된 라이브러리를 가질 수 있습니다. 또는 이러한 기능을 위해 C++와 함께 Eigen을 사용할 수 있습니다.

그리고 시간이 지남에 따라 성능/사용성 곡선이 어떻게 생겼습니까?

우리는 실적이 꾸준히 향상될 것이라고 믿습니다. 다양한 장치에서 가속화하려면 데이터를 보다 효율적으로 관리해야 합니다. 이것이 "관리되는 텐서" 작업 항목이 있는 이유이므로 호스트와 여러 장치 간의 데이터 이동을 보다 효율적으로 관리할 수 있습니다. 현재로서는 광범위한 장치에서 성능이 어떻게 달라질지 예측하기 어렵습니다. 현재 가속화되는 것은 거의 없지만 TensorFlow에서 공개 표준 가속화를 허용하는 인프라를 구축하고 있습니다.

@naibaf7

불행히도 사용할 수 있을 때까지 1년을 달라고 말하고 싶습니다.

기본 작업이 곧 완료될 것입니다. 개방형 표준 기반 가속을 지원하기 위해 코드 내에 기본 인프라를 배치하고 있습니다. 우리는 커뮤니티 지원을 통해 가속화되고 사용 가능한 버전이 1년 이내에 준비될 것이라고 믿습니다.

또한 완전한 도구 스택을 OpenSource로 사용할 수 있게 되는 즉시 온보드로 이동할 것입니다.

ComputeCpp는 2016년에 무료로 공개될 예정입니다. 오픈 소스 triSYCL 지원이 뒤따를 것입니다. 오픈 소스 OpenCL은 이미 pocl, Shamrock, Clover, Beignet에서 지원됩니다.

@robertwgh
Eigen의 C++ 텐서 코드는 SYCL이 없으면 OpenCL C로 쉽게 이식할 수 없지만 OpenCL C에서 잘 작동하는 다른 기능이 있습니다. 이 스프레드시트를 살펴보세요. https://docs.google.com/spreadsheets/d /1YbHn7dAFPPG_PgTtgCJlWhMGorUPYsF681TsZ4Y4LP0/edit#gid =0 및 무료 채우기 일반 OpenCL C를 사용해야 하는 기능(예: BLAS 및 컨볼루션)에 이름을 입력합니다.

우리는 공개 릴리스 전에 ComputeCpp에 대한 평가 버전을 제공하고 있습니다. 원하시는 분은 메일 주세요 :)

@lukeiwanski 훌륭합니다. 업데이트해주셔서 감사합니다. 모든 기능을 1년 이내에 완료하는 것이 옳기를 바랍니다.

LLVM에서 Streamexecutor의 또 다른 단계

rx 480에서 가속을 얻을 가능성이 있습니까?

@benoitsteiner
LibDNN 독립 실행형은 통합에 사용할 수 있습니다.
https://github.com/naibaf7/libdnn

이 작업이 진행 중입니다. Beignet 2.0이 연마되면 도움이 될 것입니다. 지금 Skylake와 Iris는 많은 잠재력을 가지고 있습니다.

누군가가 살펴보고 싶다면 최근 pull 요청이 https://github.com/benoitsteiner/tensorflow-opencl/pull/1 에 추가되었습니다.

Imagination(GPU)의 OpenCL SDK에 액세스하려면 NDA가 필요하며 공유 라이브러리만 있습니다. 이 라이브러리를 기반으로 tensorflow를 실행할 수 있습니까?

@알레프만
OpenCL 프로그램을 빌드하기 위해 공급업체별 헤더 파일이 필요하지 않습니다. https://www.khronos.org/registry/cl/api/1.2/cl.hpp 에서 cl.hpp를 시도하고 다른 SDK에서 opencl.h/cl.h를 시도하십시오. 예를 들어 - 저는 최소한 3개의 OpenCL 플랫폼을 가지고 있으며 모든 플랫폼이 하나의 공유 /usr/include/CL/cl.h에서 작동합니다.

OpenCL에서 실행되는 TensorFlow는 아직 지원하지 않습니다. 진행중인 작업입니다. 현재 우리는 AMD GPU를 연구하고 있습니다. PowerVR 지원이 따라야 합니다. 개발에 기여하고 싶다면 당사(Codeplay)에 직접 연락해야 합니다. PowerVR에서 TensorFlow를 실행하려면 조금 더 진행을 기다려야 합니다.

@inferrna 감사합니다. 벤더별 구현을 숨기는 OpenGL과 비슷해 보입니다.

@andrerichards 개발에 기여하고 싶습니다. 연락 방법은 무엇입니까?

가장 쉬운 방법은 https://www.codeplay.com/products/computecpp 페이지에서 "관심 등록"을 클릭하는 것입니다.
그러면 개발자 프로그램에 참여하게 되며 이 @alephman에서 함께 작업할 수 있습니다.

원한다면 오픈 소스 대안으로 컴파일할 수 있도록 공동 기여도 할 수 있습니다. https://github.com/tensorflow/tensorflow/issues/22#issuecomment -221841173 참조

안녕하세요 여러분!
Tensorflow 지원이 Nvidia Cuda 외부로 확장된다는 소식을 들으니 매우 기쁩니다. http://www.amd.com/en-us/products/processors/laptop-processors#sectionOne 과 같은 APU에서도 작동하도록 고려하고 있는지 궁금합니다.

@kgocheva
APU는 CPU와 GPU 부분 모두에 대해 OpenCL을 지원합니다.
이것은 OpenCL 지원이 준비되면 거의 즉시 작동해야 합니다.
한편, 이미 APU가 있고 다른 ML 프레임워크를 시도하려는 경우 BVLC OpenCL Caffe가 이미 작동합니다.

@ naibaf7 설명 감사합니다. 저는 Tensorflow를 로컬에서 실행하기 위한 비용 효율적인 하드웨어/소프트웨어 조합을 찾고 있으며 OpenCL 개발 진행 상황을 확실히 따를 것입니다.

@hughperkins
예가 문제가 될 수 있지만 im2col/col2im 및 기타 컨볼루션 구현과 같은 부분이 실제로 GCLA의 문제인 경우 외부 API로 플러그인될 수도 있다고 생각합니다. 이것은 그러한 작업의 원저자에게도 더 좋을 수 있습니다.

@hughperkins 우리는 OpenCL 1.2용 SYCL을 통해 OpenCL을 TensorFlow로 가져오기 위해 노력하고 있습니다.
https://docs.google.com/spreadsheets/d/1YbHn7dAFPPG_PgTtgCJlWhMGorUPYsF681TsZ4Y4LP0/edit#gid =1625897530에서 "todos" 및 진행 상황을 확인하세요.
최근에 ComputeCpp Comunity Edition이라는 SYCL https://www.codeplay.com/products/computesuite/computecpp 용 컴파일러를 출시했습니다. 사람들이 그것을 시도 할 수 있습니다!
또한 고유한 라이브러리 https://bitbucket.org/benoitsteiner/opencl/branch/ComputeCpp 에 초점을 맞추고 있습니다. TensorFlow의 MNIST가 요구하는 단계에 도달하는 것입니다. 몇 가지가 남아 있습니다.
제약 조건과 관련하여 현재 ComputeCpp CE 릴리스는 Ubuntu 14.04 64비트 및 CentOS 64비트를 지원하는 플랫폼에 대해 Intel(CPU, GPU) 및 AMD(CPU, GPU)에 대해 테스트되었습니다.
ComptueCpp는 무료로 다운로드할 수 있으며 상용 및 오픈 소스 프로젝트에서 사용할 수 있습니다.
우리는 <3개의 열린 커뮤니티를 가지고 있기 때문에 :)

@lukeiwanski 여기 스레드에서 논의/질문해서 죄송합니다. 하지만 다른 사람들에게도 관심이 있을 수 있다고 생각합니다. 저는 Codeplay가 OpenCL 구현을 위한 SYCL에 매우 관심이 있다는 것을 이해하며 이미 다른 사람들이 이 작업에 관심을 갖고 있다는 소식을 들었습니다. 너도. 예를 들어 Movidius 관계자의 게시물을 읽었습니다. 하지만 이에 대한 구글의 기여는 과연 무엇인지 묻고 싶다. AMD 등을 제외하고 Movidius가 Codeplay의 파트너로 등록되어 있기 때문에 OpenCL용 SYCL을 권장하거나 지원하는 것도 이해할 수 있지만 제가 아는 한 Google은 귀하의 파트너가 아니며 지금까지 기여하지 않았습니다!

오해하지 마세요. 저는 당신의 작업을 정말 좋아하지만, 노력을 통합하고, 자원을 모으고, Google과 함께 일하려고 하는 것이 좋은 생각이 아닐까요? 내가 보기에는 TensorFlow용 OpenCL에 많은 다른 당사자들이 관심을 가지고 있는 것처럼 보이지만, 이 당사자들이 함께 개발하지 않기 때문에 엄청난 잠재력은 사용되지 않습니다!

내가 틀릴 수 있고 이것이 충분히 논의되었다면 스스로 사과하시기 바랍니다. 그러나 나는 여전히 Google(또는 다른 당사자)이 이 문제에 대해 협력하려는 주요 시도를 알지 못하며, 그 결과 커뮤니티가 어떻게 직접적인 기부, 테스트 또는 기타 방법을 통해 (독신 개인과 같이) 돕거나 지원할 수 있습니다.

@ascenator 우리 Google은 거의 12개월 동안 이 프로젝트에서 Luke 및 그의 Codeplay 동료와 긴밀하게 협력해 왔습니다. 이러한 노력에 대한 Codeplay의 공헌은 엄청났으므로 OpenCL과 관련된 업데이트를 전달하는 데 있어서 Codeplay가 주도권을 잡도록 해야 한다고 생각했습니다. 이것이 우리가 주제에 대해 많이 듣지 못한 이유입니다 :)

이제 ComputeCpp 컴파일러가 널리 사용 가능하므로 지금까지 수행한 작업을 병합할 계획입니다. 그러나 먼저 우리는 기존 코드베이스를 불안정하게 만들지 않도록 포괄적인 테스트 인프라를 구성하고 싶습니다.

우리는 이 노력에 대한 모든 기여를 환영하므로 도움이 필요하면 언제든지 저에게 연락하십시오. 우리는 특히 행렬 곱셈과 컨볼루션을 위한 고성능 OpenCL 커널에 관심이 있습니다. 여러 후보가 제안되었지만 각각의 장단점이나 통합 방법을 조사하기 시작하지 않았습니다.

@benoitsteiner 설명해주셔서 감사하고 잘못된 정보 죄송합니다! 이것은 매우 좋고 유망하게 들립니다! 그러면 ComputeCpp를 확실히 살펴보겠습니다. TensorFlow에 대한 OpenCL 지원이 정말 기대됩니다. 왜냐하면 이것이 로봇 공학(딥 러닝 애플리케이션을 위해 TensorFlow를 연구하고 사용하는 분야)에 대한 많은 새로운 가능성을 제공하기 때문입니다. 나는 적어도 초기 릴리스를 살펴보고 테스트/디버그를 시도할 것입니다. 인텔 칩과 테스트를 기다리는 ARM CPU가 있습니다.)

@hughperkins... 죄송합니다만 이것은 여기에서 완전히 벗어난 주제가 아닌가요? 이것이 OpenCL TF와 어떤 관련이 있는지 모르겠습니다.

저는 여기에서 행렬 곱셈 및 컨볼루션 커널에 대한 조정 접근 방식을 취할 것인지, 그리고 SPIR-V를 생성할 CompiteCpp에 대한 유효한 오픈 소스 대안 이 될 것인지 알고 싶습니다.

http://llvm.org/docs/CompileCudaWithLLVM.html

두 개의 새로운 Kronos Group 표준이 https://www.khronos.org/news/press/khronos-launches-dual-neural-network-standard-initiatives 에서 발표되었습니다.

도움이 된다면 더 나은 isaac 버전이 출시되었습니다: https://github.com/ptillet/isaac , Maxwell, Pascal 및 Fiji에서 clBLAS 및 cuBLAS에 비해 상당한 속도 향상을 제공합니다. 또한 1D 및 2D 축소를 위해 Tensorflow보다 빠른(입력 인식) 커널을 제공합니다.

@hughperkins 는 CUDA-OpenCL 변환기보다 모든 OpenCL 장치에 대해 CUDA 컴파일러를 작성할 기회가 더 많은 것 같습니다.

@hughperkins OpenCL 2.0의 SVM 기능이 포인터 문제를 해결할 수 있을까요? Nvidia(AMD, Intel, ARM, Qualcomm)를 제외한 모두가 OpenCL 2.0을 지원하기 시작했기 때문입니다. 좋은 해결책이 아닐까요?

@hughperkins 그것은 blas 구현 자체입니다. clblas 및 cublas 헤더에 일부 기호를 구현하므로 재컴파일 및 코드 수정이 없습니다. 필수적이다. 다른 헤더를 사용하기 때문에 clblast.h에 대한 일부 기호를 구현할 수도 있습니다. 이삭의 장점은 다음과 같습니다.

• 완전히 동적이므로 재컴파일 없이 CUDA 또는 OpenCL을 사용할 수 있습니다.
• 입력 인식 , 큰 정사각형 행렬에 대해 커널을 조정하지 않습니다. 재조정 없이 생각할 수 있는 모든 모양에서 잘 수행되어야 합니다.
• numpy/arrayfire와 유사한 C++ API. 요소별 작업을 축소와 결합하기 위한 일부 융합

@marty1885
설마. AMD는 AMDGPU-PRO 드라이버에서 1.2 지원으로 돌아갔습니다. 완전한 2.0 지원이 널리 보급될 때까지 시간이 걸릴 수 있습니다. 확실히 단기적인 해결책은 아닙니다.

• 네
• 필요한 경우 여러 작업에 대한 호환성을 해킹할 수 있습니다(예: **MV를 GEMV로 전달). 복잡한 지원은 까다로울 것입니다. 이중 지원은 이미 여기에 있지만 이에 대해 조정된 아키텍처는 없습니다.

@hughperkins

내 코드가 명백한 OpenCL 규칙을 위반하지 않는 것 같습니다.

예, 포인터를 포함하는 모든 __global 구조(예: 배열 또는 구조체)를 전달하는 것은 해당 포인터가 다른 장치의 메모리를 가리킬 수 있기 때문에 올바르지 않습니다(OpenCL은 한 장치가 다른 장치의 메모리에 액세스할 수 없는 다중 장치 패러다임을 지원합니다). 그러나 OpenCL 코드에 대한 중간 번역 없이 IR 수준에서 극복하는 것이 가능한 것 같습니다. 이것이 제가 가정한 것입니다. :)

@benoitsteiner , @henline , https://github.com/henline/streamexecutordoc 에서 streamexecutor가 기본적으로 CL 버전 미리 준비된 작업(DNN, BLAS와 같은)을 지원했음을 나타냅니다. Google이 이미 Tensorflow에 사용할 준비가 된 clDNN, clBLAS 구현을 가지고 있지만 아직 오픈 소스가 아님을 시사합니까?

그렇지 않으면 동일한 소프트웨어 아키텍처를 유지하려는 경우 OpenCL 2.0+ 및 SYCL 2.2가 SVM을 지원합니다.
OpenCL 2.0+는 예를 들어 AMD 및 Intel GPU에서 지원됩니다. 임베디드 세계에서는 호스트 메모리와 디바이스 메모리가 비용상의 이유로 종종 동일하기 때문에 OpenCL 1.x에서도 종종 부작용에 의해 지원됩니다.

@keryell
그러나 가장 주목할만한 플랫폼인 Linux + 새로운 AMD GPU(RX 480, 곧 출시될 Vega)는 현재로서는 OpenCL 1.2만 지원합니다... 그리고 언제 변경될지 누가 알겠습니까(내 예상은 1년 후입니다). OpenCL 2.0용 Beignet(오픈 소스 Linux Intel)도 여전히 버그가 많은 엉망입니다. 안정 버전에는 1.2가 있습니다.
또한 OpenCL 호환 칩을 만드는 모든 소규모 회사가 1.2 지원을 간신히 끌어내고 있다는 점을 고려하면. 따라서 OpenCL 2.0에 의존하는 모든 것은 실제로 매우 나쁜 적응률을 보일 것이라고 생각합니다.

제 생각에는.. 어떤 하드웨어 공급업체라도 SPIR-V를 급하게 사용해야 합니까? Vulkan에 대한 그래픽/셰이더 압력이 Opencl 측에서 도움이 될 수 있다고 생각합니다.

@naibaf7 OpenCL 2에 대한 논의로 돌아가거나 말거나, 어느 시점에서 실제 물건이 전달되어야 합니다... 그렇지 않으면 TensorFlow가 실행 중인 nVidia GPU 및 CUDA가 이미 있습니다... :-)
그러나 물론 SVM이 없는 TensorFlow 버전에는 약간의 관심이 있습니다.

@keryell Vulkan SPIR-V가 드라이버에서 얼마나 작동합니까(이미 좋은 장치 적용 범위를 가지고 있음) 최신 Opencl 버전을 푸시할 것이라고 생각하십니까?

@naibaf7 Khronos 모임은 다음 주에 OpenCL과 Vulkan 사람들과 함께 서울에서 열리지만 토론은 공개되지 않습니다. 그러나 각 세계가 다른 세계를 개선하고 언젠가는 TensorFlow에 이점이 있다는 것은 좋은 생각처럼 들립니다. :-)

@keryell
네, 저는 그들이 DeepLearning에 유익한 내용에 대해 논의하기를 바랍니다. :)

축하 해요! HIP 프로젝트도 같은 문제를 풀기 위해 노력했으므로 반드시 확인하십시오. 그들은 수동으로 변환해야 하는 항목을 정의하는 HIP라는 새로운 언어를 만들기로 선택했습니다(예: 계산 수준을 확인하여 배정밀도 지원 확인). 프로젝트가 진행되는 동안 수동 번역의 양은 줄어들 것입니다. 참조: https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP

내가 제안하는 것은 HIP를 사용하고 Tensorflow 또는 자신의 목표를 발전시키는 데 방해가 되는 몇 가지 버그를 수정하는 것입니다. 이제 LLVM을 이해하게 되었기 때문입니다. 이렇게 하면 이미 수정한 문제를 해결할 필요가 없습니다.

@hughperkins
이 https://github.com/tensorflow/tensorflow/blob/master/tensorflow/g3doc/get_started/os_setup.md#create -the-pip-package-and-install에 따라 포크로 파이썬 모듈을 빌드할 수 없습니다.

INFO: From Compiling tensorflow/core/kernels/gather_functor_gpu.cu.cc:
gpus/crosstool: -x cuda
gpus/crosstool: using cocl
gpus/crosstool: PATH=/usr/bin:/usr/local/bin /usr/local/bin/cocl -D_FORCE_INLINES -gencode=arch=compute_30,\"code=sm_30,compute_30\"   -U_FORTIFY_SOURCE -D_FORTIFY_SOURCE=1 -DNDEBUG -DEIGEN_MPL2_ONLY -std=c++11  -I. -Ibazel-out/local_linux-py3-opt/genfiles -Iexternal/bazel_tools -Ibazel-out/local_linux-py3-opt/genfiles/external/bazel_tools -Iexternal/eigen_archive -Ibazel-out/local_linux-py3-opt/genfiles/external/eigen_archive  --compiler-bindir=/usr/bin/gcc -I . -fPIC  -x cu  -O2 -c  -o bazel-out/local_linux-py3-opt/bin/tensorflow/core/kernels/_objs/gather_functor_gpu/tensorflow/core/kernels/gather_functor_gpu.cu.pic.o tensorflow/core/kernels/gather_functor_gpu.cu.cc
dirname: invalid option -- 'O'
Try 'dirname --help' for more information.

저는 우분투 16.04를 사용 중이며 dirname은 coreutils-8.25-2ubuntu2에서 가져왔습니다.

@hughperkins 이 지침으로 저장소의 TF dockerfile을 조정하면 다른 사람들이 쉽게 설정할 수 있다고 생각합니다.

예, 더 기능적인 것이 있을 때. 기본적으로 귀하가 게시한 이 지침의 사본이자 과거입니다.

ATI 6770M(OpenCL 1.2)이 설치된 2015년 후반 MacBook의 MacOS 10.10.5에서 이것을 실험 중입니다.

Xcode 8, Anaconda(Python 3.5) 및 clang+llvm에 해당하는 MacPorts를 설치했습니다.

apt-get 행 대신 다음을 수행하십시오.

sudo 포트 설치 clang-3.8 llvm-3.8

/proc/cpuinfo를 사용하는 대신 다음을 수행합니다.

NUM_PROCS=$(system_profiler SPHardwareDataType | grep "총 코어 수" | cut -d ":" -f 2)

그런 다음 macport를 사용하도록 Makefile을 수정하고 make를 실행합니다.

perl -pi.bak -e 's|(CLANG)=.+|$1=/opt/local/libexec/llvm-3.8/bin/clag++|' 메이크파일
perl -pi -e 's|(LLVM_CONFIG)=.+|$1=/opt/local/bin/llvm-config-mp-3.8|' 메이크파일
perl -pi -e 's|(LLVM_INCLUDE)=.+|$1=/opt/local/libexec/llvm-3.8/include|' 메이크파일

Macos OpenCL 디렉토리로 업데이트 미래: /System/Library/Frameworks/OpenCL.framework/Versions/Current/Headers/cl.h '#ifdef APPLE ' 조건부 사용

grep -Rl 'include "CL/' * | xargs perl -pi.bak -e 's|include "CL/|"OpenCL/|g' 포함
make -j ${NUM_PROCS}

이것은 내가 얻는 한 :

$ make -j ${NUM_PROCS}
mkdir -p 빌드
mkdir -p 빌드
mkdir -p 빌드
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/hostside_opencl_funcs.o -std=c++11 -fPIC -g -O2 -I pwd /include -I pwd /src/EasyCL src/hostside_opencl_funcs.cpp
/opt/local/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-exceptions -c -o build/mutations.o -g -I/opt/local/libexec/llvm-3.8/include src/mutations.cpp
/opt/local/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-예외 -c -o build/struct_clone.o -g -I/opt/local/libexec/llvm-3.8/include src/struct_clone.cpp
/opt/local/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-예외 -c -o build/readIR.o -g -I/opt/local/libexec/llvm-3.8/include src/readIR.cpp
src/hostside_opencl_funcs.cpp:17에 포함된 파일:
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/include/cocl/cocl.h:91:16: 경고: '호스트' 속성이 무시됨 [-Wignored-attributes]
속성 ((호스트)) 인라인 unsigned long long atomicExch(휘발성 unsigned long long _p, unsigned long long val) {
^^
src/hostside_opencl_funcs.cpp:194:33: 오류: 'in' 멤버 함수에 대한 호출이 모호합니다.
launchConfiguration.kernel->in(오프셋);
~ ~ ~ ~ ~~~ ^~
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:101:15: 참고: 후보 함수
CLKernel in(부동값);^^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:104:15: 참고: 후보 함수CLKernel *in(int32_t 값);^^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:106:15: 참고: 후보 함수CLKernel *in(int64_t 값);^^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:108:15: 참고: 후보 함수CLKernel *in(uint64_t 값);^^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:110:15: 참고: 후보 함수CLKernel *in(uint32_t 값);^^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:73:15: 참고: 후보 함수가 실행 가능하지 않음: 'size_t'(일명 'unsigned long ') 'easycl::CLArray *'첫 번째 인수에 대해CLKernel *in(CLArray *clarray1d) { 반환 입력(clarray1d);



}^^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:91:36: 참고: 후보 함수 템플릿이 실행 가능하지 않음: 2개의 인수가 필요하지만 1개가 제공됨주형CLKernel *in(int N, const T *data);^^1개의 경고와 1개의 오류가 생성되었습니다.make: *_* [build/hostside_opencl_funcs.o] 오류 1만들다: * * 끝나지 않은 작업을 기다리며....
src/struct_clone. cpp:245 :12: 경고: 11 열거형 값이 스위치에서 처리되지 않음: 'HalfTyID', 'X86_FP80TyID', 'FP128TyID'... [-Wswitch]
스위치(typeID) {
^^
1개의 경고가 생성되었습니다.

launchConfiguration.kernel->in((int64_t)offset);

이 패치가 작동했습니다. 감사합니다.

이것을 적용한 후 빌드를 계속하면 size_t 네임스페이스 오류가 발생했습니다.

$ make -j ${NUM_PROCS}
mkdir -p 빌드
mkdir -p 빌드
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/hostside_opencl_funcs.o -std=c++11 -fPIC -g -O2 -I pwd /include -I pwd /src/EasyCL src/hostside_opencl_funcs.cpp
/opt/local/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-exceptions -o build/ir-to-opencl -g -I/opt/local/libexec/llvm-3.8/include src/ir-to-opencl.cpp build/struct_clone .o 빌드/readIR.o src/ir-to-opencl-common.cpp 빌드/mutations.o /opt/local/bin/llvm-config-mp-3.8 --ldflags --system-libs --libs all
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_events.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_events.cpp
/opt/local/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-exceptions -o build/patch-hostside -g -I/opt/local/libexec/llvm-3.8/include src/patch-hostside.cpp 빌드/readIR.o 빌드/ mutations.o 빌드/struct_clone.o src/ir-to-opencl-common.cpp /opt/local/bin/llvm-config-mp-3.8 --ldflags --system-libs --libs all
src/hostside_opencl_funcs에 포함된 파일에 있습니다. cpp:17 :
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/include/cocl/cocl.h:91:16: 경고: '호스트' 속성이 무시됨 [-Wignored-attributes]
속성 ((호스트)) 인라인 unsigned long long atomicExch(휘발성 unsigned long long _p, unsigned long long val) {
^^
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_blas.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_blas.cpp
1개의 경고가 생성되었습니다.
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_error.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_error.cpp
src/cocl_blas에 포함된 파일에 있습니다. cpp:15 :
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/include/cocl/cocl_blas.h:8:9: 오류: 'std' 네임스페이스에 'size_t'라는 유형이 없습니다. 단순히 'size_t'를 의미했나요?
typedef std::size_t cublasStatus_t;
^ ~ ~
size_t
/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: 참고: 'size_t'가 여기에 선언됨
typedef SIZE_TYPE size_t;
^^
src/cocl_blas에 포함된 파일에 있습니다. cpp:15 :
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/include/cocl/cocl_blas.h:17:5: 오류: 'std' 네임스페이스에 'size_t'라는 유형이 없습니다. 단순히 'size_t'를 의미했나요?
std::size_t cublasCreate(cublasHandle_t 팬들);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: 참고: 'size_t'가 여기에 선언됨typedef SIZE_TYPE size_t;^^src/cocl_blas에 포함된 파일에 있습니다.
단순히 'size_t'를 의미했나요?std::size_t cublasDestroy(cublasHandle_t 핸들);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: 참고: 'size_t'가 여기에 선언됨typedef SIZE_TYPE size_t;^^src/cocl_blas에 포함된 파일에 있습니다.
단순히 'size_t'를 의미했나요?std::size_t cublasSgemm(cublasHandle_t blas, int transA, int transB, int M, int N, int K,^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: 참고: 'size_t'가 여기에 선언됨typedef SIZE_TYPE size_t;^^src/cocl_blas에 포함된 파일에 있습니다.
단순히 'size_t'를 의미했나요?std::size_t cublasSetPointerMode(cublasHandle_t 핸들, cublasPointerMode_t 모드);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: 참고: 'size_t'가 여기에 선언됨typedef SIZE_TYPE size_t;^^src/cocl_blas에 포함된 파일에 있습니다.
단순히 'size_t'를 의미합니까?std::size_t cublasGetPointerMode(cublasHandle_t 핸들, cublasPointerMode_t *모드);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: 참고: 'size_t'가 여기에 선언됨typedef SIZE_TYPE size_t;^^src/cocl_blas에 포함된 파일에 있습니다.
단순히 'size_t'를 의미합니까?std::size_t cublasSetStream(cublasHandle_t 핸들, cudaStream_t streamId);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: 참고: 'size_t'가 여기에 선언됨typedef SIZE_TYPE size_t;^^/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_memory.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_memory.cpp/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_device.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_device.cpp7개의 오류가 생성되었습니다.make: *_* [build/cocl_blas.o] 오류 1make: * * 끝나지 않은 작업을 기다리는 중....

스레드를 계속 읽을 수 있도록 긴 로그온 요점을 푸시할 수 있습니까?

질문: 주소 공간 문제를 어떻게 해결하고 있습니까?

@hughperkins SYCL 사양은 섹션 5.8("주소 공간 공제")에 설명되어 있습니다.
구현이 다양한 메모리 유형을 처리해야 하는 방법. 이
PlayStation 3에 대해 수행된 이전 작업과 유사하며 에 설명되어 있습니다.
이 백서: 오프로드 – 이기종으로 코드 마이그레이션 자동화멀티코어 시스템 또는 C++: Clang을 사용하여 단일 소스 SYCL 및 HSA 프로그래밍 모델 지원

도움이 되기를 바랍니다.

@hughperkins 내 ARM 보드를 적용하기 위해 tensorflow-opencl repo 코드를 컴파일할 수 있습니까? 내 ARM 보드에는 opencl 1.2를 지원하는 Imagination GPU가 있습니다.

tf/intel 지원을 검색하는 동안 이 스레드를 우연히 발견했습니다.

Intel MacBook Pro가 있습니다. 어떻게 도와드릴까요? 나는 c/c++를 모르지만 빌드/컴파일/테스트 지침을 따르고 (pastebin) 결과를 전달할 수 있습니다...

derek$ system_profiler SPDisplaysDataType
그래픽/디스플레이:

Intel Iris:

  Chipset Model: Intel Iris
  Type: GPU
  Bus: Built-In
  VRAM (Dynamic, Max): 1536 MB
  Vendor: Intel (0x8086)
  Device ID: 0x0a2e
  Revision ID: 0x0009
  Metal: Supported
  Displays:
    Color LCD:
      Display Type: Retina LCD
      Resolution: 2560 x 1600 Retina
      Retina: Yes
      Pixel Depth: 32-Bit Color (ARGB8888)
      Main Display: Yes
      Mirror: Off
      Online: Yes
      Automatically Adjust Brightness: Yes
      Built-In: Yes
    PL2202W:
      Resolution: 1680 x 1050 @ 60 Hz
      Pixel Depth: 32-Bit Color (ARGB8888)
      Display Serial Number: 05884C7A57014
      Mirror: Off
      Online: Yes
      Rotation: Supported
      Adapter Type: Apple Mini DisplayPort To VGA Adapter
      Automatically Adjust Brightness: No
      Adapter Firmware Version: 1.03

@hughperkins 지시해주셔서 감사합니다!
arm 플랫폼에서 cuda-on-cl을 컴파일하려고 합니다. cuda-on-cl의 가이드를 따르십시오.
내 ARM 보드 정보:
arm64, gcc 4.9, clang 및 llvm 3.5, openCL 1.2

* clang++-3.8 버전을 사용해야 하나요? *
자식 클론 --재귀 https://github.com/hughperkins/cuda-on-cl
만들다
오류:
clang++-3.8: 명령을 찾을 수 없음
다음과 같이 Makefile을 편집합니다. CLANG=clang++ LLVM_CONFIG=llvm-config LLVM_INCLUDE=/usr/include/llvm
그런 다음 다시 만듭니다.
오류:
src/mutations.h:3:10: 치명적인 오류: 'llvm/IR/Module.h' 파일을 찾을 수 없습니다.

make run-test-cocl-cuda_sample을 실행해 보십시오.
make: cocl: 명령을 찾을 수 없음

@hughperkins 한번 해보겠습니다.

tensorflow로 keras를 테스트하는 동안 오류가 발생했습니다.

keras$ KERAS_BACKEND=tensorflow pytest3

출력 오류:

Invalid kernel name, code -46, kernel _ZN5Eigen8internal15EigenMetaKernelINS_15TensorEvaluatorIKNS_14TensorAssignOpINS_9TensorMapINS_6TensorIfLi1ELi1EiEELi16ENS_11MakePointerEEEKNS_18TensorCwiseUnaryOpINS0_12scalar_rightIffNS0_17scalar_product_opIffEEEEKNS4_INS5_IKfLi1ELi1EiEELi16ES7_EEEEEENS_9GpuDeviceEEEiEEvT_T0_
__internal__ build log: 
"/tmp/OCL11307T1.cl", line 3: error: variable with automatic storage duration
          cannot be stored in the named address space
      local float mem[1024];

암호:

inline float __shfl_down_3(float v0, int v1, int v2) {
    local float mem[1024];
    int tid = get_local_id(0);
    int warpid = tid % 32;
    int warpstart = tid - warpid;
    mem[tid] = v0;
    //barrier(CLK_LOCAL_MEM_FENCE);
    int warpsrc = warpid + v1;
    warpsrc = warpsrc >= 32 ? warpid : warpsrc;
    return mem[warpstart + warpsrc];
}

안녕하세요 여러분, 제 이름은 ricardo입니다. 저는 C++ 경험이 많은 C++ 프로그래머이며 Cuda에 대한 지식이 거의 없습니다. 이 노력에 기꺼이 기여할 것입니다. 이 일에 어떻게 기여할 수 있습니까?

자, Mali-T628 MP6(OpenGL ES 3.0/2.0/1.1 및 OpenCL 1.1 전체 프로필)이 있는 Odroid Xu3가 있습니다.
OS에서 실행: LUbuntu 1404 64비트
나는 완전한 설치를 만들고 이 플랫폼에 결과를 게시할 것입니다.
버그에 대해 버그 목록(Bugzilla와 같은 것)이나 버그 목록이 있는 스프레드시트가 있습니까?
건배!

HIP를 사용하는 것은 어떻습니까?
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/blob/master/docs/markdown/hip_faq.md#how -does-hip-compare-with-opencl
https://github.com/RadeonOpenCompute/hcc
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/issues/45
"당신의 소원이 이루어지고 있습니다. Eigen은 HIP를 통해 AMD GPU를 통해 이식되고 있습니다. 당신의 요청의 두 번째 부분은 우리의 모든 GFX8 GPU와 함께 제공되는 FLOAT16을 지원하는 표준화된 도구를 가져올 수 있는지입니다. 소원이 이루어졌습니다."
AMDGPU 컴파일러의 개발 분기는 이제 FP16/Int16에서 Float 및 그 반대로 변환하기 위해 상향 변환 및 하향 변환 명령어로 FP16/Int16을 에뮬레이트하는 대신 Float16 및 Int16 기본 명령어를 모두 지원합니다.

이것은 변환 및 기본 명령어를 사용하여 절반 유형의 행렬 곱셈을 성공적으로 실행하는 피지 하드웨어에 대한 f16 테스트입니다."

또한 관련이 없지만 1.2 대신 syCL/openCL 2.0을 사용해야 합니다. nvidia는 이미 CUDA를 통해 지원되기 때문입니다. 그리고 openCL 2.0은 AMD와 Intel Windows 드라이버 모두에서 지원됩니다. 또한 AMD는 곧 Linux용 un openCL 2.0 드라이버(Intel에서 사용할 수 있음, opensource magic)를 공개할 것이라고 밝혔습니다(Intel은 이미 성숙이 필요한 Linux openCL 2.0 구현을 가지고 있습니다.) Intel과 AMD에 물어보면 아마도 텐서플로는 경제적 이익을 위해 중요하기 때문에 작업 속도를 높일 수 있습니다. 그리고 그들은 이미 이 코멘트 섹션에서 그들이 돕고 싶다고 말했습니다. 또한 모든 주요 ARM 제조사는 openCL 2.0을 지원합니다. 이것은 Android(Google의 경제적 이익에 해당), 라즈베리와 같은 스마트 TV 등에 많은 기회를 열 수 있습니다.

그리고 중기에는 결국 지원되지 않는 하드웨어에 대한 opencl 1.2 폴백 계층을 개발할 수 있습니다.
그리고 구현은 또한 openVX(현재 모든 주요 하드웨어 제조업체가 지원하고 AMD는 오픈 소스 구현이 있음)와 https://www.khronos.org/news/press/khronos-launches-dual-neural-network 를 사용해야 합니다.
그리고 모든 것이 Spir-V(Vulkan 및 openGL에서 동시에 사용할 수 있음)입니다.
이미 말한 것을 복제하고 있다고 말할 수 있지만 종합하는 것이 중요합니다.
마지막으로 tensorflow가 HSA를 사용할 수 있습니까?

http://www.hsafoundation.com
HSA는 Android에서 훌륭할 것입니다.

HIP가 유용한지 아닌지 모르겠습니다. 일부 AMD 카드에서만 지원되므로 모든 장치를 지원하려면 OpenCL 구현이 필요합니다. HIP 구현이 현저하게 더 빠르다면 여전히 가치가 있을 수 있습니다. 그럴 수도 있지만 아직 많은 벤치마크(HIP 대 OpenCL)를 보지 못했습니다. 또 다른 이유는 cudnn을 대체하는 MLOpen(HC로 작성됨)일 수 있지만 이것이 얼마나 빠른지 또는 어떤 기능을 지원하는지 전혀 모릅니다.

TensorFlow는 매우 낮은 수준이기 때문에 HSA를 직접 사용하지 않습니다. 그러나 HC(및 HIP)가 그 위에 구현되며 if(pocl이 그렇게 함) 위에 OpenCL을 구현할 수도 있습니다.

리루퍼 알고리즘이 여기에 도움이 될까요? http://mozakai.blogspot.ca/2012/05/reloop-all-blocks.html

@hughperkins 컴파일러에 약간의 진전이 있는 것을 보니 반갑지만 TensorFlow의 주제에서 벗어난 것 같습니다. 대신 컴파일러 프로젝트의 GitHub 페이지에서 많은 소규모 토론 스레드를 시작해야 합니다. 더 집중적이고 생산적일 것 같아요.

https://github.com/chihchun/opencl-docker 참조

https://github.com/kripken/emscripten-fastcomp/blob/master/lib/Target/JSBackend/Relooper.cpp 도 있습니다.

관련 논문은 다음과 같습니다. https://github.com/kripken/emscripten/blob/master/docs/paper.pdf?raw=true

초기 OpenCL/SyCL 지원은 https://github.com/tensorflow/tensorflow/pull/5267 을 사용하여 마스터에서 병합되었습니다.

축하합니다!

@keryell Btw, triSYCL 저장소에 무슨 일이 일어났습니까? 그것은 사라진 것 같고 공개적으로 액세스할 수 없는 Khronos의 Gitlab에 대한 참조만 찾을 수 있습니다.

편집: 개인 클론을 찾았습니다. amd의 클론만 사라졌습니다.

@bhack , mac 플랫폼에서 opencl-docker를 지원합니까?

@alephman 저는 OSX 플랫폼이 없지만 실행 명령을 약간 조정하면 작동할 수 있다고 생각합니다.

@bhack @alephman : 위의 mac에 대한 내 의견을 참조하십시오. 빌드 지침을 알려 주시면 시도해 보겠습니다.

@olesalscheider : 예, triSYCL이 AMD에서 Xilinx https://github.com/Xilinx/triSYCL 로 이동했지만 맞습니다. 내 GitHub 작업 공간의 버전도 https://github.com/keryell/triSYCL 에서 작동합니다.

우리는 아직 TensorFlow에서 triSYCL을 시도하지 않았습니다. 시도하기 위해 수행해야 할 큰 빌드 구성 작업이 이미 있습니다.

@keryell triSYCL 상태는 무엇입니까?

Intel beignet opencl 2.0 지원이 거의 완료되었습니다!
http://phoronix.com/scan.php?page=news_item&px=Beignet-Birthday-CL2

@bhack triSYCL은 현재 Xilinx에서 주로 개발되고 있습니다. 여전히 더 많은 기능을 추가하고 있습니다. Clang/LLVM 기반 개요 컴파일러는 장치에서 완전한 단일 소스 환경을 제공하기 위해 아직 개발 중입니다. 그러나 이미 구현된 OpenCL 호환성 모드도 접근자가 표현한 종속성에 따라 지연 전송을 수행하는 SYCL 런타임으로 호스트와 커널 간의 통신을 단순화함으로써 어느 정도 가치가 있습니다.

내 Mac은 OpenCL과 호환됩니다. 그렇다면 어떻게 OpenCL로 내 텐서플로를 실행할 수 있습니까? 방금 새 코드를 구성할 때 tensorflow에서 opencl이 지원된다는 것을 알았습니다.

@hughperkins 내 Mac에는 clinfo 명령이 없습니다. 어떻게 해야 하나요? 그러나 나는 clang을 사용하여 opencl에 대한 테스트 코드 를 여기 에서 컴파일할 수 있으며 결과는 다음과 같습니다.
clang -framework OpenCL dumpcl.c -o dumpcl && ./dumpcl Device Intel(R) Core(TM) i5-5257U CPU @ 2.70GHz supports OpenCL 1.2 Device Intel(R) Iris(TM) Graphics 6100 supports OpenCL 1.2

@hughperkins 에게 감사합니다. 하지만 어제 computecpp를 시도한 것 같은데 맥북 시스템은 아직 computecpp에서 지원되지 않는 것 같습니다. 따라서 새로운 업데이트를 계속 기다리는 것이 내가 할 수 있는 유일한 일입니다(TT). BTW, 내 Iris 6100은 8세대로 OpenCL 1.2에 적합합니다.

@hughperkins 예 SYCL 1.2는 OpenCL 1.2에 대한 선험적이며 SYCL 2.2는 OpenCL 2.2에 대한 선험적입니다.
SYCL의 OpenCL 호환 모드를 필요로 하는 것을 사용하지 않는다면 SYCL은 실제로 OpenCL을 전혀 필요로 하지 않기 때문에 "선험적으로"라고 말했습니다. 실제로 SYCL은 이기종 컴퓨팅을 위한 매우 일반적인 모델이며 무엇이든 위에서 실행할 수 있습니다. 그러나 물론 실제 구현에는 OpenCL도 필요할 수 있습니다.

안녕하세요,

저는 당분간 TensorFlow 및 Keras로 학습/작업 중이며 macOS에서 OpenCL 지원이 작동하도록 하는 데 관심이 있습니다... macOS 주변에서 수행된 작업에 대한 소식이 있습니까?

TensorFlow 컴파일에 성공했지만 OpenCL용으로 구성하려고 하면 computeCpp 1.2 위치를 묻는 메시지가 표시되고 macOS용 ComputeCpp가 없는 것 같습니다.

여보세요. 결코 ML/Tensorflow/또는 OpenCL의 전문가는 아니지만 내장 라이브러리와 간단한 종속성을 사용하는 통합 및 AMD GPU가 있는 시스템에서 Tensorflow의 더 빠른 성능을 간절히 원하는 숙련된 Mac 그래픽 개발자입니다. :)

내가 어떻게 도움이 될 수 있습니다?

트래비스 로그 @hughperkins 에서 OS X의 마지막 컴파일 실패를 보면 'xcode-select --install'을 실행하면 해결될 수 있습니까? /usr/include 디렉토리를 다시 연결해야 합니다. Xcode 베타를 릴리스로 업데이트할 때 이 문제가 있었고 일부 C++ 코드를 컴파일하는 데 문제가 있었습니다.

XLA 컴파일러(https://www.tensorflow.org/versions/master/resources/xla_prerelease.html)가 데이터 흐름 그래프에서 LLVM 코드 생성을 제공하는 것 같습니다. 이는 spir-v 및 Vulkan의 컴퓨팅 API에 매우 쉽게 액세스할 수 있음을 의미합니다. 코드 생성이 정리되면 Android에서 실행되는 사용되지 않는 통합 GPU가 많다는 점을 감안할 때 Google이 Vulkan 호환성을 제공하지 않는다고 상상할 수 없습니다.

@hughperkins

빠르게: 지금은 맞춤형 C++/Object-C 코드베이스에서 Inception v3를 실행하고 디코딩된 비디오 프레임을 네트워크에 전달하고 있습니다. 낮은 수준의 요구 사항을 알기에는 TF에 대해 충분히 알지 못하지만 높은 수준: 모델 로드, 세션 실행, 작동할 것으로 예상합니다. 솔직히 말해서 100% 호환성을 의미한다고 생각합니다. 나는 그것이 우선순위를 정하는 데 도움이 되지 않는다는 것을 알고 있습니다. 기본적으로 TF /InceptionV3를 사용한 C++ 이미지 인식이 저의 출발점이었습니다.

Mac에서 실행 중인 cuda-on-cl: 리포지토리를 확인했으며 내 시스템에서 빌드를 디버그 및 실행하고 다양한 하드웨어 에서 결과를 확인할 수 있습니다. Dual D700, Nvidia Mac 노트북 및 데스크탑 시스템.

자세한 피드백 감사합니다. 리포지토리를 모니터링하고 따라 가며 최선을 다해 도와 드리겠습니다.

휴, 일부 기능이 매핑되는 방법을 배우려면 http://chrec.cs.vt.edu/cu2cl/ 을 참조하십시오.

우리 회사 StreamComputing에는 빌드 테스트 및 벤치마킹을 위한 다양한 GPU가 있으며 이를 고객 프로젝트에 사용합니다. Github을 Jenkins에 연결하여 매주 실행하도록 할 수 있습니다.

답변 감사합니다. 이번 주에 구체적인 스크립트를 사용하여 이 주제로 다시 돌아가겠습니다.

내 사용 사례는 내 실험에서 Gensim 및 Keras/tensorflow를 사용하여 텍스트/구문 일치 분석에 관한 것입니다.

테스트에 도움이 되었으면 합니다

AMD 카드가 있는 Windows PC가 있습니다.
AMD 카드가 있는 MBP
Intel 통합 GPU가 있는 MB

안녕하세요 @hughperkins - 저는 오늘 저녁 AMD R9 390 8GB에서 위의 테스트 세트를 진행하고 있습니다. 지금까지 이미 다른 결과를 얻었습니다. logistic_regression.py 는 nan $ 를 훈련하고 반환하지 않습니다. 그래서, 좋아! 마지막에 segfault가 발생하므로 스크립트 또는 cl 코드에 오류가 있는지 조사하겠습니다.

내 결과를 어디에 푸시해야 합니까? 가장 유용할 수 있는 곳으로?
자원 봉사자가 귀하에게 푸시할 수 있는 표준 결과 세트를 생성하는 표준 "테스트 스크립트"를 얻을 수 있습니까(또는 로컬 CI 또는 기타 무엇이든)?

py.test 는 어떤 솔루션보다 좋습니다. pip 거리에 있으며 tensorflow 설치 프로세스의 일부입니다.

테스트를 시작한 이후로 몇 가지 흥미로운 사실을 발견했으며 Python 출력만으로는 디버그할 수 없을 수도 있습니다.

• 동일한 스크립트에 대한 다른 호출이 일찍 충돌하거나 "중지"(출력 없음, 진행 없음, Ctrl-C 에 대한 응답 없음, 프로세스는 pkill -9 'd여야 함)하거나 늦게 충돌할 수 있습니다. 유효성 검사 부분에서 또는 스크립트가 성공적으로 완료된 후. 충돌(세그폴트)은 Xorg를 다운시킬 수 있습니다.
• 결과는 아무 이유 없이 달라집니다. 스크립트를 호출하고 segfault가 발생하도록 한 다음 다시 호출하면 작동합니다.
• 잠시 전에 말 그대로 작동하던 코드 부분에서 중단이 발생할 수 있습니다. 저는 수백 개의 배치가 성공적으로 발생한 후 교육 배치 내 또는 후에 한 번 중단이 발생했습니다.

따라서 GPU 측에 해결되지 않은 항목이 있고 이를 제거하려면 좋은 segfault가 필요합니까? 저는 아직 GPU 모델이나 OpenCL에 대해 잘 몰라서 여기에서 많은 기여를 할 수 없습니다. 그러나 무슨 일이 일어나고 있는지 제대로 조사하려면 GPU 디버깅 출력이 필요할 수 있습니다.

또한, 나는 당신이 github에서 AMD와 함께 있다고 생각했지만, 당신은 이 모든 CUDA-on-CL 작업을 자신의 시간에 하는 "불량 에이전트"인 것 같습니다. 이 일을 주도해 주셔서 진심으로 감사드립니다! 저와 다른 사람들이 GPU 크라우드 펀딩을 통해 여러분의 노력에 기여할 수 있는 방법이 있습니까? 또는 Patreon을 설정할 수 있습니다. 프로젝트에 대한 월간 기부에 등록하게 되어 기쁩니다.

AMD GPU와 관련하여 우리는 AMD의 파트너입니다. 놓쳤을 수도 있는 8일 전의 내 메시지를 참조하세요.

우리 회사 StreamComputing에는 빌드 테스트 및 벤치마킹을 위한 다양한 GPU가 있으며 이를 고객 프로젝트에 사용합니다. Github을 Jenkins에 연결하여 매주 실행하도록 할 수 있습니다.

각 커밋에서 실행되는 CI 서버를 설정할 가능성이 있는지 궁금합니다.

문제 없어요. Jenkins가 로그 파일을 빌드 로그 디렉터리에 쓸 수 있도록 프로젝트에 대한 쓰기 액세스 권한이 필요할 수 있습니다. 나는 단지 당신에게 스팸 메일을 보내서 우리가 토론할 수 있도록 하겠습니다.

안녕하세요 여러분,

이미 보셨겠지만 많은 SYCL 항목이 TensorFlow에 푸시되었습니다. 우리는 아직 완전하지 않고 해야 할 일이 많습니다. 그러나 우리는 거기에 도달하기 위해 전진하고 있습니다.

기여에 관심이 있거나 현재 상태가 궁금하다면 아래 분석을 확인하십시오.

하부 구조
Google은 @benoitsteiner 의 TensorFlow 포크(https://github.com/benoitsteiner/tensorflow-opencl)를 주기적으로 테스트하도록 설정된 두 대의 머신을 친절하게 기부했습니다.

둘 다 AMD GPU가 있습니다.

CL_DEVICE_NAME : 하와이
CL_DRIVER_VERSION : 1912.5(VM)

그리고

CL_DEVICE_NAME : 피지
CL_DRIVER_VERSION : 1912.5(VM)

Codeplay에서 우리는 내년에도 전용 머신을 찾고 있습니다. OpenCL 장치 다양성 적용 범위를 개선합니다.

우리가 지원하는 관련 플랫폼에 대한 테스트 빌드 서버를 제공하는 데 관심이 있는 사람이 있다면 전면에서 기여자를 찾고 있습니다.
현재 요구 사항은 다음과 같습니다.
- 우분투 14.04
- SPIR을 지원하는 OpenCL 드라이버(Intel CPU/GPU 또는 AMD GPU)

@VincentSC 아마도 당신이 그것을 도울 수 있습니까?

테스트
피지 머신( https://ci.tensorflow.org/job/tensorflow-opencl/127/consoleFull )에서 우리는 164개의 실패에 직면하고 있습니다.

하와이 머신( https://ci.tensorflow.org/job/tensorflow-opencl/129/consoleFull )에서는 56개까지 실패했습니다.

우리는 실패한 그래디언트 테스트를 수정하고 피지 머신에서 추가 실패의 원인을 조사하고 있습니다.

아이겐
지난 몇 개월 동안 우리는 Reshaping, Slicing, Basic Reduction 등을 포함하여 TensorFlow에 필요한 기능을 적극적으로 구현해 왔습니다. 현재 우리는 Contraction을 구현하고 있습니다. 자세한 분석은 https://docs.google.com/spreadsheets/d/1YbHn7dAFPPG_PgTtgCJlWhMGorUPYsF681TsZ4Y4LP0/edit#gid =0의 Eigen Tensor 탭에서 확인할 수 있습니다.

텐서플로우
Abs, Floor, IsFinite, Log, Pow, Mul 등을 포함한 많은 Coefficient-wise 연산과 Reshape, Shape, Identity, Fill 등과 같은 Tensor Manipulations가 구현되었습니다.
자세한 분석은 https://docs.google.com/spreadsheets/d/1YbHn7dAFPPG_PgTtgCJlWhMGorUPYsF681TsZ4Y4LP0/edit#gid =1719702219의 TensorFlow Kernels 탭에서 확인할 수 있습니다.

조직
위의 스프레드시트에는 전체 계획, 고유 텐서, TensorFlow 커널, 모델과 같은 프로젝트의 노력을 분류하는 여러 탭이 있습니다.

참여를 원하시면 작업 중인 항목 옆에 이름을 기재하거나 누락된 중요한 사항을 추가하십시오.
감사 해요,
루크

이 로드맵이 활성화되어 있습니까?

@lukeiwanski 네, 문제 없습니다. [email protected] 를 통해 저희에게 연락하십시오.

이 모든 내용을 읽은 후 macOS/OS X에서 OpenCL을 사용하기 위한 확실한 솔루션이 아직 없는 것 같습니까? OpenCL 지원으로 Tensorflow C++를 컴파일하려고 했습니다(누군가가 지적한 것처럼 SYCL 1.2용 ComputeCpp가 필요하다고 가정합니다).

주위를 둘러보았지만 SYCL 라이브러리를 다운로드, 컴파일 또는 빌드할 위치를 찾지 못한 것 같습니다. 여기 https://www.codeplay.com/ 입니까? 어떻게 해야할지 막막하네요...감사합니다.

@dylib 내가 아는 한 macOS용 ComputeCpp는 아직 없습니다. 즉, macOS용 OpenCL이 준비되지 않았습니다.

여전히 AMD 카드 및 촉매 드라이버 https://github.com/tensorflow/tensorflow/issues/6497을 사용하여 Ubuntu 16.04에서 작동하도록 만들 수 없습니다. 방법이 있나요?

OpenCL 지원으로 컴파일된 TF를 사용하기 전에 /usr/local/computecpp/bin/computecpp_info 출력을 확인해야 했습니다. 내 경우에는

  Device is supported                     : NO - Unsupported vendor
  CL_DEVICE_NAME                          : Pitcairn
  CL_DEVICE_VENDOR                        : Advanced Micro Devices, Inc.

이제 GPU에서 TF를 실행하기 위한 두 가지 선택 사항이 있습니다.
제한된 수의 장치(공급업체별)에서 잘 작동하지만 독점 CUDA
제한된 수의 장치(computecpp 개발자에 의해) 및 독점적인 computecpp에서 잘못된 작업
여전히 OpenCL을 지원하지 않습니다.

@inferrna 전체 TensorFlow 문서의 OpenCL 특정 섹션 에 있습니다. 이것은 곧 tensorflow.org 사이트에 게시될 것입니다.

@benoitsteiner opencl 컨볼루션 지원의 현재 상태는 무엇입니까? 기존 커널을 ​​직접 활용할 계획입니까? 행렬 곱셈은 어떻습니까?

도착 예정 시간이 있습니까?

HIP를 사용하여 CUDA 코드를 플랫폼에 구애받지 않는 코드로 이식하는 것은 어떻습니까? https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/blob/master/docs/markdown/hip_porting_guide.md

AMD가 작업 중인 것 같습니다: https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/issues/45#issuecomment -269827686

XLA 백엔드 LLVM IR을 https://github.com/KhronosGroup/SPIRV-LLVM을 사용하여 SPIR-V로 변환할 수 있습니까?

이것은 어떤가요? 이 패키지는 Radeon GPU에서 작동할 수 있다고 생각합니다.

https://github.com/RadeonOpenCompute/ROCm

@bhack https://github.com/tensorflow/tensorflow/issues/6449#issuecomment -269245727에서

@lukeiwanski XLA가 당신의 노력에도 영향을 미칠까요?

XLA 및 SYCL 솔루션은 다양한 상황에 대해 보완적입니다. SYCL은 완전한 프로그래밍 가능성과 사용자 정의 가능성을 제공하도록 설계되었습니다. XLA는 그래프에서 잘 정의된 패턴을 최적화하기 위한 것입니다.

XLA에 대한 나의 이해는 LLVM 컴파일러를 사용하여 런타임에 기존 TensorFlow 그래프를 최적화한다는 것입니다. 그래프에 사용된 각 알고리즘에 대해 컴파일러에서 최적화 단계를 구현해야 합니다.
SYCL 접근 방식은 개발자가 필요로 하는 CUDA 수준의 프로그래밍을 제공하는 유일한 접근 방식입니다.

SYCL을 통해 우리는 모든 TensorFlow Ops에 대한 지원을 제공하고 새로운 작업의 개발을 용이하게 하는 것을 목표로 하고 있습니다.

즉, SYCL을 사용하면 새로운 고성능 작업을 매우 쉽게 작성할 수 있으며 XLA는 그래프의 모든 작업을 지원하는 경우 전체 그래프를 최적화할 수 있습니다.

XLA 백엔드 LLVM IR을 https://github.com/KhronosGroup/SPIRV-LLVM을 사용하여 SPIR-V로 변환할 수 있습니까?

그것이 가능하지 않을 이유가 없습니다.

@lukeiwanski 감사합니다. 특히 https://www.tensorflow.org/versions/master/experimental/xla/develping_new_backend 를 찾고 있었습니다.

@k-hashimoto: 여기서 우리는 TensorFlow를 Khronos Group의 표준인 OpenCL로, 그리고 실제로 Khronos Group의 포스트모던 C++ 단일 소스 표준인 OpenCL SYCL로 이식하는 것에 대해 논의하고 있습니다.
ROCm은 일부 공급업체의 또 다른 비표준 솔루션처럼 보입니다.
독점 솔루션에 관심이 있다면 이미 잘 작동하는 TensorFlow의 CUDA 버전이 있습니다. :-)

동의: OpenCL에 대한 대화/노력을 유지하고 공급업체가 해당 개방형 표준 위에 있는 모든 것을 구현하도록 합니다.

2017년 1월 17일 10:01:32 GMT+00:00에서 Ronan Keryell [email protected] 은 다음과 같이 썼습니다.

@k-hashimoto: 여기에서 TensorFlow를
Khronos Group의 표준인 OpenCL과 실제로 더 많은 OpenCL SYCL,
Khronos Group의 포스트모던 C++ 단일 소스 표준.
ROCm은 일부 공급업체의 또 다른 비표준 솔루션처럼 보입니다.
독점 솔루션에 관심이 있다면 이미 CUDA가 있습니다.
잘 작동하는 TensorFlow 버전. :-)

--
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -273076892

--
K-9 Mail을 사용하여 Android 기기에서 보냈습니다. 제 간략한 설명을 부탁드립니다.

:+1:

👍

:+1:

이 메시지는 메일 배달 소프트웨어에 의해 자동으로 생성되었습니다.

귀하가 보낸 메시지를 하나 이상의 해당 주소로 전달할 수 없습니다.
받는 사람. 이것은 일시적인 오류입니다. 다음 주소가 연기되었습니다.

[email protected]
도메인 biomassiv.es가 허용되는 시간당 최대 이메일 수(111/100(111%))를 초과했습니다. 메시지는 나중에 다시 시도됩니다.

------- 이것은 모든 헤더를 포함하는 메시지의 사본입니다. ------
수신: github-smtp2-ext6.iad.github.net에서 ([192.30.252.197]:48606 helo=github-smtp2b-ext-cp1-prd.iad.github.net)
esmtps가 있는 chi-server32.websitehostserver.net(TLSv1.2:ECDHE-RSA-AES256-GCM-SHA384:256)
(Exim 4.87)
( [email protected] 에서 봉투)
아이디 1cWmiQ-0032as-W9
[email protected]용; 2017년 1월 26일 목요일 10:16:03 -0600
날짜: 2017년 1월 25일 수요일 04:09:21 -0800
DKIM-서명: v=1; a=rsa-sha256; c=편안함/편안함; d=github.com;
s=pf2014; t=1485346161;
bh=N1Pjga2Q9PtEE8ncEMXBtSJzd3kd6HAkJRnj6H2dDEg=;
h= From:Reply-To :To:Cc:In-Reply-To: References:Subject :List-ID:
목록- 아카이브:목록-게시물 :목록- 구독 취소:보낸 사람;
b=e5r+VKm/UtpLYj0OCnfEPSYlL6a7xCOd9bN+jS3gify2mRv/g4kofW7ZrEeDyeJT+
GvddVV/w5htZFUbHy9+92pYUHGEYEn2XrmFqc6ZFVoPqBsPW5Cxk31O3Kvi1cwuSPI
g8J4X/qvl1DT+yKrh1es7CeXkr23c8mFNgWkG5qk=
보낸 사람: Miguel Angel [email protected]
답장: tensorflow/tensorflow [email protected]
받는 사람: tensorflow/tensorflow [email protected]
참조: 구독 [email protected]
메시지 ID:
에 회신하여:
참조:
제목: Re: [tensorflow/tensorflow] OpenCL 지원(#22)
마임 버전: 1.0
콘텐츠 유형: 멀티파트/대안;
경계="--==_mimepart_5888957158d12_78b73ff902fe113c148134";
문자 집합=UTF-8
콘텐츠 전송 인코딩: 7비트
우선 순위: 목록
X-GitHub-Sender: migpradel
X-GitHub-수신자: 바이오매스
X-GitHub-이유: 구독
목록 ID: tensorflow/tensorflow
목록 아카이브: https://github.com/tensorflow/tensorflow
목록-게시물: [email protected]
목록-구독 취소:,
https://github.com/notifications/unsubscribe/AELU4lfFKxIqjh4jaQkUHuRKD7zj_eKCks5rVztxgaJpZM4Gex3i
X-자동 응답-억제: 모두
X-GitHub-수신자-주소: [email protected]

----==_mimepart_5888957158d12_78b73ff902fe113c148134
콘텐츠 유형: 텍스트/일반;
문자 집합=UTF-8
콘텐츠 전송 인코딩: 7비트

--
이 스레드에 가입했기 때문에 이 메시지를 받고 있습니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -275092277
----==_mimepart_5888957158d12_78b73ff902fe113c148134
콘텐츠 유형: 텍스트/html;
문자 집합=UTF-8
콘텐츠 전송 인코딩: 7비트

—
이 스레드에 가입했기 때문에 이 메시지를 받고 있습니다.
이 이메일에 직접 답장하거나 GitHub 에서 보거나 스레드를 음소거하세요 .

----==_mimepart_5888957158d12_78b73ff902fe113c148134--

여기 새로운. 미래에 tensorflow에서 OpenCL 지원이 있을 것인지 묻고 싶었습니다. 그러면 FPGA에서 tensorflow를 실행하기 위한 지원이 있을 것입니까?
감사합니다

@atinzad : OpenCL 또는 SYCL 버전 및 소스 코드가 FPGA 환경에서 지원되는 경우 예. 그러나 TensorFlow는 아마도 다양한 수단으로 가장 많이 이식된 프레임워크이기 때문에 이미 어딘가에 FPGA에서 실행 중인 일부가 있을 수 있습니다...

어머나. https://www.youtube.com/watch?v=LqLyrl-agOw

sycl 개발 노력과 중기 비전에서 PTX가 아닌 SPIR-V를 대상으로 하는 XLA의 차이점은 무엇입니까?

정말 좋은 질문입니다. 아마도 - 관련된 사람들의 수? 아는 것이 매우 흥미로울 것입니다!

2017년 2월 16일 오후 1시 35분에 bhack [email protected] 에서 다음과 같이 썼습니다.

sycl 개발 노력과 중기 비전에서 PTX가 아닌 SPIR-V를 대상으로 하는 XLA의 차이점은 무엇입니까?

—
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 보거나 스레드를 음소거하세요.

sycl 개발 노력과 중기 비전에서 PTX가 아닌 SPIR-V를 대상으로 하는 XLA의 차이점은 무엇입니까?

@bhack 어제 TensorFlow Dev Summit에서 열릴 훌륭한 토론이 될 것입니다.

사용 가능한 리소스/기고에 필요한 프로그래머 유형에 대해 문의하십니까?

그렇다면 OpenCL/SYCL 접근 방식에서 C++ 프로그래머/OpenCL C 프로그래머는 신속하게 속도를 높이고 기여할 수 있습니다. XLA 접근 방식은 컴파일러/llvm 경험이 필요합니다.

XLA는 확장에 따라 더 많은 관련 리소스가 있는 Google의 내부 프로젝트입니다. 그러나 다른 한편으로 그들의 작업은 훨씬 더 큽니다. 컴파일러를 작성하는 것은 쉬운 작업이 아닙니다.

그렇지 않고 모델에 대해 묻는 경우:

앞서 https://github.com/tensorflow/tensorflow/issues/22#issuecomment -272908870에서 언급했듯이 우리는 두 가지 노력을 보완적인 접근 방식으로 보고 있으며 둘 다 사용 사례가 다릅니다. 나는 여전히 그 말에 동의한다.

예를 들어 @tatatodd 는 프레젠테이션에서 일부 Ops가 XLA를 대상으로 하지 않을 것이라고 언급했습니다. 그 간극을 메울 수 있다고 믿습니다.

고려해야 할 다른 사항은 새로운 플랫폼입니다. 나는 새로운 칩이 GPU보다 더 자주 나오는 경향이 있기 때문에 이 주장을 위해 모바일 및 임베디드 환경을 사용할 것입니다(원칙은 동일함).

반도체가 SYCL/OpenCL을 지원하는 경우 기본적으로 TF 지원을 받을 수 있습니다(일부 성능 조정이 필요할 수 있음).

아키텍처가 독특하고 이에 대한 LLVM 백엔드가 아직 없는 경우 XLA에서 추가해야 합니다(너무 자주 발생하지는 않지만 여전히 발생함). 더 자주 발생하는 것은 아키텍처가 약간 변경된 다음 새로운 최적화 단계를 추가하거나 기존 최적화 단계를 수정하여 이점을 얻는 것입니다. 커널 코드를 조정하는 것이 더 쉽습니다.

XLA에 대해 자세히 살펴보지는 않았지만 XLA는 PTX 커널 코드를 실행하기 위해 어떻게든 CUDA API를 호출해야 하므로 대신 SPIR-V 커널을 실행하려면 OpenCL 또는 Vulkan으로 이식해야 한다고 가정합니다. 친숙해지기 위한 또 다른 프레임워크인 StreamExecutor를 거치게 될 것입니다. 아마도 상당한 노력이 필요할 것입니다.

즉, 반도체 회사와 개발자 모두가 목표로 삼을 수 있는 매우 파편화된/전환된 생태계에서 통합된/안정적인 플랫폼을 제공하고 있습니다. XLA가 지원을 약속해야 하는 곳.

@benoitsteiner 또는 @drpngx 는 대화를 기반으로 한 많은 가정/결론으로 작업하고 있으므로 XLA에 대한 내부 지식을 더 많이 제공할 수 있습니다.

아, 저도 편하게 소통하기 위해 슬랙 채널을 만들었어요 https://tensorflowopencl.slack.com/shared_invite/MTQzNDQ0NzgzNzAyLTE0ODcyOTE1NjctMDZhM2RkODRlYg

아이디:
Slack 링크는 더 이상 유효하지 않습니다. 가입을 원하시면 저에게 핑을 주세요.

나는 그것이 옳고 부분적으로 반도체 생산자가 지향하는 방향에 달려 있다고 생각합니다.
"이 백엔드는 효율적인 방식으로 XLA HLO 계산을 나타내는 데 필요한 LLVM IR을 내보낸 다음 LLVM을 호출하여 이 LLVM IR에서 기본 코드를 내보냅니다." 따라서 LLVM IR은 SPIR-V로 변환될 수 있습니다 . 그러나 Opencl SPIRV 방언 은 Vulkan과 다릅니다 . Streamexecutor는 LLVM 병렬 라이브러리 에서 푸시되고 있으며 원래 @henline 설명 에서 원래 계획은 opencl을 포함하는 것으로 보입니다.

/ 참조 @ dneto0

http://phoronix.com/scan.php?page=news_item&px=OpenCL-2.0-NVIDIA-Preps
Nvidia는 곧 Linux와 Windows 모두에서 opencl 2.0을 지원해야 합니다. 이것은 YUGE입니다!

성능면에서는 CUDA보다 느릴 수 있습니다.

Noveau 직원은 SPIR-V를 사용하여 Opencl 에서 독립적으로 작업하고 있음을 기억하십시오. 상태가 약간 오래되었지만 새로운 커밋이 있습니다.

Opencl은 본질적으로 Cuda보다 느리지 않습니다. 단지 nvidia가 그의 opencl 드라이버를 무력화시켜 시장을 사실상 잠그고 있을 뿐입니다.
그러나 nvidia의 선두주자는 마침내 종말을 맞이하고 있으며 그들의 부도덕한 반경쟁적 관행조차도 그들을 구하지 못할 것입니다. 인상적인 Cuda 자동 번역기 HIP 사용( https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP)
곧 출시될 vega apus, dgpus 및 ARM이 Windows에 제공되고 Nvidia에는 ​​미래가 없습니다. 이것이 바로 업계에서 opencl/syCL/HIP/HSA를 조만간 대규모로 지원해야 하는 이유입니다.

https://autodiff-workshop.github.io/slides/JeffDean.pdf의 슬라이드 40은 어떻습니까?

안녕하세요, tensorflow가 새로운 AMD Radeon Instinct를 지원할 계획인가요? (http://instinct.radeon.com/en-us/)

안녕하세요, FPGA에 대한 TF-OpenCL 지원에 진전이 있습니까?

@alexivia https://github.com/iteong/tensorflow/blob/master/tensorflow/stream_executor/platform.h#L30 은 몇 달 전에 제거되었으며 Streamexecutor 로드맵은 명확하지 않습니다.

@bhack 빠른 답변 감사합니다
그렇다면 지원이 없거나 올바른 작동이 보장되지 않는다는 의미입니까?
또한, 이 스레드에서 읽은 내용에서 테스트가 주로 AMD GPU에 관한 것임을 알았습니다... 이 OpenCL 포트를 사용하여 Nvidia GPU에서 네트워크를 훈련하는 사람이 있습니까?

Streamexecutor는 LLVM 병렬 라이브러리에서 이름이 바뀌었고 현재는 acxxel 입니다.

Google 회원이 streamexecutor와 https://reviews.llvm.org/rL285111의 차이점과 로드맵을 설명할 수 있습니까?

CC @zheng-xq

@henline 과 @jlebar 는 streamexecutor와 https://reviews.llvm.org/rL285111의 차이점에 답하는 전문가입니까?

Axcell과 StreamExecutor는 별개의 프로젝트입니다. 현재 병합할 계획이 없습니다. 전환할 계획인지 여부는 TensorFlow 사람들에게 맡기겠습니다.

그래서 StreamExecutor와 StreamExecutor llvm도 같은 프로젝트가 아니었나요?

맞습니다. 그들은 같은 프로젝트가 아닙니다.

2017년 3월 16일 목요일 오전 11:06에 bhack [email protected] 에서 다음과 같이 썼습니다.

그래서 StreamExecutor와 StreamExecutor llvm도 같은 프로젝트가 아니었나요?

—
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-287143104 ,
또는 스레드 음소거
https://github.com/notifications/unsubscribe-auth/AAJMh_4ODoCVglGRbFBs8UmtSEm6D47_ks5rmXoUgaJpZM4Gex3i
.

@jlebar 다음 번엔 크리에이티브 유닛 네이밍 ;) 하지만 아마도 창의성의 부족이 아니라 TF에서 유지 관리되는 도구로 분기된 내부 도구의 업스트림 노력이었을 것입니다..

@bhack , 우리 는 이름을 변경했습니다. 정확히 우리가 변경했다는 것을 깨달았을 때
StreamExecutor를 LLVM 도매로 옮기는 것이 합리적이지 않다고 생각합니다. 이것의
이제 "Acxxel"이라고 합니다.

혼란을 드려 죄송하고 피드백 감사합니다..
확실히 배우는 과정.

2017년 3월 16일 목요일 오전 11시 24분에 bhack [email protected] 에서 다음과 같이 썼습니다.

@jlebar https://github.com/jlebar 다음 번 크리에이티브 유닛 네이밍
;) 하지만 아마도 창의성 동기의 부족이 아니라 그저
유지된 도구로 분기된 내부 도구의 업스트림 노력
TF에서..

—
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-287148247 ,
또는 스레드 음소거
https://github.com/notifications/unsubscribe-auth/AAJMh0MMZvdTJ-bUoa71FBrEqHqFpDjvks5rmX5IgaJpZM4Gex3i
.

예, StreamExecutor, 고유한 SyCL, XLA 사이에 여전히 약간의 혼동이 있습니다(실제로 일부 슬라이드에서는 CPU 및 opencl 이외의 CUDA 백엔드만 있음).

충돌

Google에서 이 문제를 완화하기 위해 Apple이나 AMD와 이야기한 사람이 있습니까? AMD 사람들 은 너무 길을 잃어 문제가 있는지조차 모르고 Nvidia가 왜 그렇게 큰 시장 점유율을 가지고 있는지 궁금해하고 있습니다. 나는 Apple AI 팀이 여기에서 기꺼이 도와줄 것이라고 생각합니다... OpenCL이 2013년 이후로 그들의 편에서 포기하지 않았고 더 나쁜 것은 그들의 상사가 Google에 화를 내지 않았을 것입니다.

이것에 대한 최신 정보는 무엇입니까?

TF 1.1 릴리스 노트 에 따르면 Mac GPU(Nvidia만 해당) 지원은 더 이상 사용되지 않습니다. 이것이 OpenCL 접근 방식을 개선하는 데 도움이 되기를 바랍니다.

PR 상태도 팔로우할 수 있습니다. https://github.com/tensorflow/tensorflow/pull/9117

감사 해요! 지난 몇 달 동안 이 문제를 추적하고 있습니다. 2013년부터 OpenCL 1.2를 고수하고 있기 때문에 Apple OpenCL 약속에 대해 확신이 없습니다(Apple은 아직 SPIR 1.2 지원을 제공하지 않음).

OpenCL의 TensorFlow가 귀하의 작업에 도움이 된다면 저에게 알려주십시오. 딥 러닝의 연구 및 실습을 발전시키는 데 도움이 될 수 있는 범위에서 도움을 드리고 싶습니다. 우리 회사는 기기 내 추론 작업의 일부로 다양한 GPU에 맞게 조정된 TensorFlow용 OpenCL 백엔드를 구축했습니다. Windows 및 Mac의 공통 구성을 포함하여 주요 모바일 및 데스크탑 GPU 제품군에서 테스트했습니다. 충분한 관심이 있다면 우리는 일종의 공개 배포를 할 수 있습니다. 또한 Metal(Apple GPU) 및 LLVM(CPU)과 함께 제로 종속성 배포를 수행하는 방법도 있습니다. 여기에서 아이디어는 모든 장치에 딥 러닝을 위한 훌륭한 지원을 제공하는 것입니다.

@choongng - 이 모든 것이 매우 유용하고 도움이 되는 것 같습니다. 내 개인 프로젝트 https://github.com/Synopsis/ 는 OS X의 OpenCL과 Metal for iOS 및 Desktop 배포의 이점을 크게 누릴 것입니다. 이것이 Tensorflow에 적절하게 도입되는 것이 가능하다면 수많은 개발자들에게 엄청난 혜택이 될 것이라고 생각합니다.

감사합니다.

@충동

회사에서 OpenCL 버전이나 더 흥미로운 TensorFlow의 Metal 버전을 게시하면 이것이 많은 사람들에게 좋은 소식이 될 것이라고 생각합니다. 저는 TensorFlow를 얻기 위해 NVidia 카드로 eGPU를 구축하는 과정에 있습니다. / 내 작업을 위해 내 MBP에서 실행 중인 Keras...

관심 있는 분들은 ... eGPU.io 커뮤니티로 이동

@충동

나는 이것을 보는 데 매우 관심이 있을 것이므로 당신이 그것을 추구할 수 있어 매우 감사할 것입니다! 특히 TF가 CL 지원을 위해 선택한 개략적인 비공개 소스 컴파일러가 필요하지 않은 경우..

2017년 4월 26일 03:33:51 GMT+01:00에 Choong Ng [email protected] 에서 다음과 같이 썼습니다.

OpenCL의 TensorFlow가 귀하의 작업에 도움이 된다면 저에게 알려주십시오.
내가 딥 러닝의 연구와 실습을 발전시키는 데 도움을 줄 수 있다면
도움을 좋아합니다. 우리 회사는 TensorFlow용 OpenCL 백엔드를 구축했습니다.
온디바이스 추론 작업의 일부로 다양한 GPU에 맞게 조정되었습니다.
우리는 다음을 포함한 주요 모바일 및 데스크탑 GPU 제품군에서 테스트했습니다.
Windows 및 Mac의 일반적인 구성. 관심이 충분하다면
일종의 공개 배포를 할 수 있습니다. Metal(Apple GPU)도 있습니다.
및 LLVM(CPU)과 함께 제로 종속성 배포를 수행합니다. 그만큼
모든 장치에 딥 러닝에 대한 훌륭한 지원을 제공하는 아이디어입니다.

--
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -297220160

--
K-9 Mail을 사용하여 Android 기기에서 보냈습니다. 제 간략한 설명을 부탁드립니다.

혁명적일 것 같아요 ;)

@choongng 이 녀석들과 힘을 합치면 도움이 되지 않을까
https://github.com/benoitsteiner/tensorflow-opencl

@cathalgarvey 그렇다면 사용하겠다고 제안한 오픈 소스 컴파일러는 무엇입니까? 야생의 많은 장치를 처리하는 오픈 소스 OpenCL 호환 솔루션을 찾는 것은 어렵습니다...
우리는 어떤 점에서 어떻게든 솔루션을 부트스트랩해야 합니다...

나는 그것이 쉬운 수정이라고 말하지 않았다. 그러나 OpenCL이 문제가 아닙니다. 결국 CUDA는 완전히 독점적이며 TensorFlow가 선택한 OpenCL 옵션보다 훨씬 나쁩니다.

즉, 휴대용 미들웨어 런타임 또는 arrayfire 등을 포함하여 처음부터 시작하는 경우 CL 또는 cuda 시스템에 대한 옵션이 있습니다. Tensorflow는 CUDA에 너무 묶여 있습니다.

더 많은 사용자에게 도달하고 시장 생태계를 심각하게 성장시킬 수 있음에도 사람들이 CUDA로 커널을 기꺼이 작성하지만 CL용으로 작성하는 것을 주저한다는 사실이 실망스럽습니다. 모든 사람을 위한 개방형 플랫폼에는 직간접적인 이점이 있으며 장기적으로 모든 사람에게 큰 비용 절감으로 이어질 수 있습니다.

SYSCL이 결국 그렇게 되는 방식이라면 훌륭합니다. 그렇다면 왜 일부 유명 인사들은 공개 표준의 목적을 무색하게 하는 프린지 독점 옵션을 구매하는 대신 공개 SYSCL 배포에 돈을 투자하지 않습니까?

2017년 4월 28일 09:13:06 GMT+01:00에서 Ronan Keryell [email protected] 은 다음과 같이 썼습니다.

@cathalgarvey 그렇다면 사용하겠다고 제안한 오픈 소스 컴파일러는 무엇입니까?
오픈 소스 OpenCL 호환 솔루션을 찾기가 어렵습니다.
야생의 많은 장치를 처리하십시오 ...
우리는 어떤 점에서 어떻게든 솔루션을 부트스트랩해야 합니다...

--
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -297936468

--
K-9 Mail을 사용하여 Android 기기에서 보냈습니다. 제 간략한 설명을 부탁드립니다.

이 맥락에서 묻고 싶은 것은 다음과 같습니다.

따라서 Tensorflow와 같은 일부 딥 러닝 프레임워크는 CUDA의 대안으로 opencl의 사용을 다소 미지근하게 탐색하고 있습니다. 물론 CUDA는 cuDNN이 개발된 "언어"일 뿐이며 (내 이해가 맞다면) 대부분의 딥 러닝 언어가 실제로 사용하는 것입니다. 이 맥락에서 cuDNN의 opencl 버전이 무엇인지 잘 모르겠습니다.

또한 AMD는 지속적으로 개발 중이며 rocM이라고 부르는 CUDA에 대한 오픈 소스 대안에 대해 이야기해 왔습니다. 그들은 또한 miOpen이 cuDNN(일반적인 딥 러닝 기능을 위한 수제 어셈블러 라이브러리)과 동등하다고 이야기하고 있지만 아직 출시되지 않았습니다. AMD 접근 방식은 좀 더 총체적입니다. 우리는 단순히 GPU로 헤비 컴퓨팅을 내보내는 것이 아닙니다.

이런 맥락에서 나는 진심으로 혼란스럽다. 위에 나열된 것과 같은 opencl 노력은 어떻게 서로 맞습니까? NVIDIA GPU의 경우 쉽습니다....CUDA가 있고 CUDA로 작성된 cuDNN이 있습니다. 비NVIDIA/또는 이 경우 AMD의 경우 훨씬 덜 명확해 보입니다. HIP는 언제 선호됩니까? HCC를 사용하는 것이 선호되는 경우는 언제입니까? 언제 opencl을 선호합니까? 어떤 통찰력이라도 정말 감사하겠습니다!

@cathalgarvey 이 모든 거대한 소프트웨어/하드웨어 인프라 뒤에는 많은 정치가 있습니다... :-(
순수한 과학적 기준에 근거한 깨끗한 해결책을 꿈꿀 수 있다 하더라도 실용주의적이어야 한다고 생각합니다.
Google은 TensorFlow 아키텍처를 너무 많이 변경하고 싶지 않습니다. 이것이 OpenCL 기반 아키텍처가 매우 유사해야 하는 이유이며 하위 수준의 단일 소스가 아닌 OpenCL C 솔루션 대신 "CUDA 런타임"과 같은 단일 소스 C++가 필요합니다. Khronos 영역에서 OpenCL의 단일 소스 C++ 버전을 SYCL이라고 합니다.
예를 들어, 아일랜드에 기반을 두고 있기 때문에 더블린에 들르실 때 이에 대해 논의해 보겠습니다. :-)
그 동안 https://github.com/triSYCL/triSYCL 및 SYCL을 다루는 TensorFlow & Eigen 브랜치에 자유롭게 기여하십시오...

@keryell XLA:GPU :OpenCL도 SyCL에 계획되어 있는지 아십니까?

안녕하세요 @benoitsteiner , 다음과 관련하여:

전체 TensorFlow 문서의 OpenCL 특정 섹션에 있습니다. 이것은 곧 tensorflow.org 사이트에 게시될 것입니다.

OpenCL에 대해 tensorflow.org에서 검색했는데 중요한 것을 찾을 수 없었던 것 같습니다. 모두가 바로 여기를 가리키는 것 같습니다. "곧"은 ______ 이전을 의미합니까? ( _여기에 재미있는 풍자 삽입_ ).

Mac에서 작동하는 Tensorflow OpenCL 를 생성하려면 다른 것이 필요하다고 생각하지만(그래요!) 귀하의 repo를 컴파일할 수 있었습니다. 언급된 triSYCL 컴파일러를 빌드하려고 시도했지만 슬프게도 실패했습니다.

@bhack SI Google에서 일하지 않아서 XLA 세부 사항에 대해 전혀 모릅니다...

@dylib 불행히도 이 모든 것은 진행 중인 작업입니다...

@keryell 네 알겠습니다.. 일부 회의에서 논의가 되었는지 궁금합니다.

OpenCL은 CUDA와 근본적으로 다릅니다. 그러나 나는 이것이 대신 HIP로 이식되는 것을 확실히 볼 것입니다.
그래서 +1 제안한 여러분 모두에게.
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP

HIP를 통해 개발자는 CUDA 코드를 이식 가능한 C++로 변환할 수 있습니다. NVIDIA 또는 AMD GPU에서 실행되도록 동일한 소스 코드를 컴파일할 수 있습니다.

HIP에 대해 아는 사람은 많지 않습니다.
tensorflow 및 HIP에 대한 자세한 정보는 여기에서 찾을 수 있습니다.
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/issues/37
그리고
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/issues/45

참고 사항:
나는 우리가 Nvidia 대 AMD에 대해 싸우거나 자랑해야 한다고 생각하지 않습니다. 놀라운 하드웨어와 소프트웨어 시대를 만들어가는 존경받는 기업들입니다. 대신 더 큰 사용자 기반에 tensorflow를 제공하는 데 집중해야 합니다.
바인딩을 통해 많은 언어를 대상으로 하는 것은 이미 좋은 출발점이지만 가능한 한 많은 하드웨어를 대상으로 해야 합니다. (클라우드 솔루션이 훌륭하더라도 항상 정답은 아닙니다)

여기 Stream에서 HIP에 대한 경험이 있습니다. 한 번 볼게요.

"우리 회사가 더 낫다"는 주장에 동의합니다. TensorFlow가 타겟팅해야 하는 GPU를 알고 싶습니다. 실용적이고 유용해야 합니다. 예를 들어 Intel GPU 또는 임베디드 GPU(Qualcomm, ARM, Imagination), RaspBerry Pi - 예 또는 아니오?

AMD 라데온 베가 프론티어 에디션

우리는 ROCm 개방형 소프트웨어 플랫폼과 기계 학습 라이브러리를 지속적으로 공격적으로 개선하고 있습니다. 또한 Caffe(4월 출시)와 같은 개방형 기계 지능 프레임워크도 지원합니다. 이번 분기 후반에 Torch에 대한 지원을 제공할 계획이며 Tensor Flow 가 작업 중입니다.

그들은 이미 Caffe를 출시했으며 이 스레드에서 다른 사람들이 빌드/테스트에 대한 경험을 공유하는 것을 듣는 데 매우 관심이 있을 것입니다.

https://github.com/ROCmSoftwarePlatform/hipCaffe

설치를 시작했지만 clinfo 까지 CL이 필요한 모든 것이 정지되는 장애물에 부딪쳤습니다. 이것이 일부 소프트웨어 문제 때문인지 아니면 내 카드(R9 390)가 단순히 ROCm에서 지원되지 않는 것인지 확실하지 않습니다.

2017년 5월 17일 15:18:32 GMT+01:00에 Bryan Li [email protected] 에서 다음과 같이 썼습니다.

AMD 라데온 베가 프론티어판

우리는 ROCm 개방형 소프트웨어 플랫폼을 지속적으로 공격적으로 개선하고 있습니다.
및 기계 학습 라이브러리. 우리는 또한 오픈 머신을 지원하고 있습니다
Caffe(4월 출시)와 같은 인텔리전스 프레임워크. 나중에 이
분기에 Torch에 대한 지원을 제공할 계획이며 Tensor Flow 는
작품.

--
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -302103815

--
K-9 Mail을 사용하여 Android 기기에서 보냈습니다. 제 간략한 설명을 부탁드립니다.

@cathalgarvey 저는 AMD GPU에서 Caffe OpenCL 분기를 사용해 왔으며 잘 작동합니다. make run test 하나를 제외한 모든 테스트 통과

반갑습니다. HW/SW 설정에 대해 여쭤봐도 될까요? 예를 들어, 당신은 어떤 카드
사용, Linux의 배포판/버전 등은 무엇입니까?

이전에 AMDGPU-pro가 있었지만 ROCm을 설치할 때 제거했습니다.
저를 방해하는 유산이 있을 수 있습니다.

--
@onetruecathal / @ [email protected]

2017년 5월 17일 수요일 오후 3시 50분, Bryan Li [email protected]
썼다:

@cathalgarvey 저는 AMD GPU에서 Caffe OpenCL 브랜치를 사용해 왔으며
그것은 잘 작동합니다. 실행 테스트가 하나를 제외한 모든 테스트를 통과하도록 합니다.

—
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 보거나 스레드를 음소거하세요.

@cathalgarvey

• Caffe OpenCL 분기(테스트된 커밋 c61d48746b2df1d237c64abc7416342ce98f3251 )
• OS: 우분투 16.04.2 LTS
• Polaris(RX460), 피지(Fury X) 및 통가(W7100)에서 테스트됨
• 드라이버: Linux 16.40 이상용 AMDGPU-Pro 드라이버
• 비엔나CL
• 일반 종속성: libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libhdf5-serial-dev protobuf-compiler libatlas-base-dev libblas-dev libgflags-dev libgoogle-glog-dev liblmdb-dev libboost-all-dev cmake python-numpy
• cmake: cmake -DViennaCL_INCLUDE_DIR=<wherever you downloaded ViennaCL>/ViennaCL-<version> -DOPENCL_INCLUDE_DIRS=<wherever you downloaded ViennaCL>/ViennaCL-<version>/CL/ -DOPENCL_LIBRARIES=/opt/amdgpu-pro/lib/x86_64-linux-gnu/libOpenCL.so.1 ..

예, 위의 OpenCL 분기 외에도 naibaf7은 amd 및 hd 그래픽을 사용하는 상용 하드웨어에 대한 실시간 추론을 위해 이를 사용하는 것에 대한 책을 (곧) 출판할 예정입니다.

아; OpenCL 분기가 아닌 hipCaffe에 대해 이야기하고 있었습니다.

https://github.com/ROCmSoftwarePlatform/hipCaffe

hipCaffe를 빌드/테스트하기 위해 ROCm을 설치하면 제거해야 합니다.
AMDGPU-pro, 아마도 나는 바닐라 브랜치를 다시 시도할 것입니다. 별로다
문서화, 불행히도 .. 나는 블라인드 "메이크"를 시도하고 볼 것입니다.

그래서 나는 여전히 AMD에 대한 다른 사람들의 경험을 듣는 데 관심이 있습니다.
ROCm/HIP 스택; Tensorflow 포크에서 작업하고 있다면 훌륭할 것입니다.
실제로 3/4 이상의 AMD 카드 모델에서 작동한다면
야생의.

--
@onetruecathal / @ [email protected]

2017년 5월 17일 수요일 오후 4:09, Bryan Li [email protected]
썼다:

@cathalgarvey

Caffe OpenCL 브랜치(테스트된 커밋
c61d48746b2df1d237c64abc7416342ce98f3251)
OS: 우분투 16.04.2 LTS
Polaris(RX460), 피지(Fury X) 및 통가(W7100)에서 테스트됨
드라이버: Linux 16.40 이상용 AMDGPU-Pro 드라이버
비엔나CL
일반 종속성: libprotobuf-dev libleveldb-dev libsnappy-dev
libopencv-dev libhdf5-serial-dev protobuf-컴파일러 libatlas-base-dev
libblas-dev libgflags-dev libgoogle-glog-dev liblmdb-dev
libboost-all-dev cmake git python-numpy cmake
—
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 보거나 스레드를 음소거하세요.

@cathalgarvey 나는 그들이 완전한 포크가 아닌 힙한 백엔드에서 작업하고 있기를 바랍니다. 그것은 슬프고 노력을 나누는 것뿐입니다.
이미 충분한 도구가 있습니다 :/

@YvanDaSilva AMD의 노력은 현재 약간 잘못 조정되었습니다(예, 모든 포크). 또한 Caffe의 OpenCL 분기와 달리 아직 다양한 장치에서 잘 작동하지 않는 것 같습니다. 예를 들어...

@naibaf7 전적으로 동의합니다.
솔직히 인적 자원이 부족한 것 같고 모든면에서 노력하고 있습니다.
그건 그렇고: ETH에 신경 정보학이 있는지 몰랐습니다 ;) 좋아요!

@cathalgarvey 나 같은 평신도를 위한 ROCm/HIP 스택에 대해 자세히 설명해 주시겠습니까? 저는 Sea Islands 카드로 AMGPU-pro 및 AMDGPU를 사용하고 있으므로 유용한 결과를 게시할 수 있을 것이라고 확신합니다.

@YvanDaSilva
그들은 내 원래 Caffe OpenCL 프로젝트를 후원했지만 불행히도 잘 조정되지 않았기 때문에 AMD 연구와 AMD의 독립적인 사람도 OpenCL 포트에서 병렬로 작업했습니다. 이전 AMD 연구 팀은 이제 존재하지 않으며 대부분은 실제로 Tesla에서 일합니다 자율주행차 프로젝트) 이제... 너무 불행한 사건의 연속입니다.
나는 여전히 그들과 협력하고 연락하고 있습니다. Vega는 재미있을 것입니다 :)

@naibaf7 반갑습니다. 행운을 빕니다! 내가 Heig-vd에 있을 때 그러한 연구가 있었다면 분명히 석사를 계속했을 것입니다.

네... 그렇게 생각했습니다. 작업은 너무 많고 이 분야에서 사용할 수 있는 인적 자원은 거의 없습니다.

그 모든 것이 훌륭하게 들리지만 TensorFlow가 OpenCL SYCL과 함께 작동하도록 하는 논의에 다시 초점을 맞추고 공급업체별 솔루션뿐만 아니라... :-)
RoC와 다른 HiP가 각자의 문제를 논의할 수 있는 자체 GitHub가 있기를 바랍니다...
@ naibaf7 : 적어도 나는 여전히 OpenCL 영역에 있습니다. 다시 클럽에 가입하세요! :-)

@keryell 작업 중인 Tensorflow 용 HIP 포트가 있다면 HIP에 대한 논의가 유효하다고 생각합니다. 결국 공식 Tensorflow-on-CL 솔루션은 플랫폼과 커널 지원이 크게 제한된 독점 SYCL 프레임워크를 사용하는 것이므로 CUDA에서 벗어날 수 있는 새로운 방법을 제공하는 "공급업체별" HIP 솔루션보다 더 나은 것은 아닙니다.

HIP는 현재 대부분 AMD가 하고 있을 수 있지만 AFAIK는 공개 표준입니까? 아마도 내가 틀렸을 것이다. 하지만 AMD가 tensorflow-on-HIP 포트를 제공할 수 있다면 공식 tensorflow-on-SYCL 포트보다 즉시 더 개방적일 것입니다.

HIP는 CUDA의 하위 집합이므로 CUDA만큼 개방적입니다.

알았어 괜찮아; HIP-the-API는 CUDA-the-API의 하위 집합이지만 NVidia가 Oracle 채널링을 시작할 만큼 충분히 갈망하지 않는 한 이것이 문제가 될지 의심됩니다. 나는 AMD가 ~ 열려 있다고 생각하는 HIP용 런타임/컴파일러를 언급하고 있었습니다.

편집 : 위의 내용이 무례하게 들리셨다면 죄송합니다. 위의 내 입장을 명확히 하려고 합니다!

Vulkan과 Opencl이 융합 됩니까?

Raja의 Reddit AMA에 따르면 Vega는 MIOpen을 통해 Tensorflow, Cafe2, Cafe, Torch7 및 MxNet을 지원합니다.

@cathalgarvey 토론은 분명히 유효하지만 여기에서는 그렇지 않습니다...
현재 GitHub에 있으며 Khronos Group 표준을 사용하여 TensorFlow 및 Eigen 포트에 대해 논의하고 있습니다.
트위터나 페이스북 담벼락이 아닙니다... :-)
따라서 이러한 프로젝트에 대한 몇 가지 커밋에 기여하십시오! :-)

OpenCL 장치를 사용할 수 있도록 Codeplay의 SYCL 구현인 ComputeCpp로 TensorFlow를 컴파일하기 위한 설정 가이드의 새 버전이 있습니다. 이에 대한 피드백을 보내주시면 감사하겠습니다. https://www.codeplay.com/products/computesuite/computecpp/guides/how-to-setup-tensorflow-with-computecpp

테스트되지 않은 AMD GPU에서 이 작업을 수행하는 성공률이 어느 정도인지 알고 있습니까? AMD Radeon Pro 460 @rodburns용으로 테스트되었는지 특히 관심이 있습니다. 테스트되지 않은 GPU에 대한 희망이 있다면 내 Macbook 노트북에서 우분투를 실행하는 데 몇 시간을 보내게 되어 기쁩니다.

@samhains 우리는 이것을 테스트하지 않았지만 시도해 볼 수 있습니다. SPIR 확장을 지원하는 Ubuntu와 함께 일부 이전 AMD 드라이버를 사용해야 합니다. 나는 아직 그 드라이버가 무엇인지 알아낼 수 없었습니다.

@samhains 코드 플레이 경로가 전달되지 않으면 마침내 Ubuntu/Mac에서 실제 사용 상태에 있는 tf-coriander 를 놓치지 마세요.

현재 convnets, 양방향 rnns 등에서 테스트 중이며 모든 것이 잘 작동하는 것 같습니다. "바닐라" OpenCL 1.2에서 실행되므로 비교적 오래된 하드웨어의 방대한 범위에서 Tensorflow를 활성화해야 합니다.

문제는 현재 Tensorflow 0.11을 기반으로 한다는 것입니다.

@로드번스. https://www.codeplay.com/products/computesuite/computecpp/guides/how-to-setup-tensorflow-with-computecpp 링크에 나열된 단계를 따라해 보았습니다.
다음 오류가 발생합니다.
오류: /home/sayantan/.cache/bazel/_bazel_sayantan/6f05f78a1e215999d72e42c1e87a8c1d/external/protobuf/ BUILD:609 :1: 선언되지 않은 포함이 '@protobuf/.google/_apithon_impl 규칙에 포함됨 ':
실제로 소스에서 tensorflow를 컴파일하려고 하면 동일한 오류가 발생합니다. 나는 그것을 더 일찍 컴파일했지만 무엇이 바뀌 었는지 확실하지 않습니다.

@rahasayantan 무엇이 포함됩니까? --config=sycl 없이 컴파일할 때도 얻을 수 있습니까?

@lukeiwanski : 내가 이해하는 문제는 Bazel이 Protobuf를 컴파일하려고 하고 하위 디렉토리를 찾거나 다운로드하지 않는다는 것입니다. 나는 재귀 하위 모듈로 풀을했지만 여전히 동일한 문제가 있습니다. --config = sycl 없이도 동일한 문제가 있습니다. 사실 tensorflow 메인 프로젝트에서 git pull을 할 때도 같은 문제에 직면하고 있습니다. 나는 이것이 openCL과 연결되어 있다고 생각하지 않습니다. 풀을 수행하는 방식에 몇 가지 문제가 있습니다. git 없이 리포지토리에서 프로젝트 zip을 수동으로 다운로드하고 컴파일하면 제대로 컴파일되지만 분할 오류가 발생합니다. 나는 이미 당신의 GIT 프로젝트에서 이 문제를 제기했고 우리는 거기에 대해 이야기하고 있습니다. 나는 그 스레드의 분할 오류와 관련된 업데이트를 제공할 것입니다(중복되는 점은 없음). 응답해 주셔서 감사합니다.

오픈 소스 triSYCL이 도착합니다. https://github.com/triSYCL/triSYCL/pull/45 참조

나는 신입이다. TF 지원 OpenCL에 관심이 많습니다. 이 스레드에서 업데이트를 받으려면 어떻게 해야 합니까?

음...재미있지만 왜? Tensorflow가 cuda를 선택하지만 처음에는 opencl을 선택하는 이유는 무엇입니까? 내가 추측하는 어떤 상업적 이유?

안녕하세요 @tensorflower-gardener입니다.

@hughperkins 는 OpenCL 1.2 장치에서 NVIDIA® CUDA™ 코드를 실행할 수 있는 Coriander 를 만들었습니다. TF를 OpenCL 1.2 장치에 연결해야 하는 필요에 맞는지 살펴보는 것이 좋습니다. 그의 저작물을 사용할 계획이라면 그의 이름과 기여도를 친절하게 표시하십시오.

Mac에 대한 OpenCL 지원에 대한 희망이 거의 tf.zero 로 바뀌었습니다. 나는 TensorFlow Mac이 더 이상 GPU 지원을 더 이상 제공하지 않을 것이라고 읽었습니다(1.2+):

Note: As of version 1.2, TensorFlow no longer provides GPU support on Mac OS X.

https://www.tensorflow.org/install/install_mac

TF-Coriander는 Mac에서 테스트되었으므로 버전 패리티에 도달하면 이를 사용할 수 있어야 합니다.

2017년 6월 22일 11:46:51 CEST, dylib [email protected] 에서 다음과 같이 썼습니다.

Mac에 대한 OpenCL 지원을 볼 수 있다는 희망이 사라진 것 같습니다.
약간 tf.zero . 나는 방금 거기에 Mac이 더 이상 없을 것이라고 읽었습니다.
모든 GPU 지원(1.2+):

Note: As of version 1.2, TensorFlow no longer provides GPU support on
Mac OS X.

https://www.tensorflow.org/install/install_mac

--
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -310331281

--
K-9 Mail을 사용하여 Android 기기에서 보냈습니다. 제 간략한 설명을 부탁드립니다.

이제 eGPU와 n Nvidia 980 Ti를 사용하여 드라이버가 작동하고 Cuda가 작동하기 때문에 슬프다.

아직 내 구성에서 Tensor Flow를 사용해 볼 시간이 없었습니다.

내 컴퓨터에 웹드라이버와 Cuda 툴킷이 설치되어 있고 Cuda 샘플이 잘 작동합니다.

https://youtu.be/JN9fDmqf010

@cathalgarvey 당신은 tf-coriander에서 convnet을 테스트한다고 말했지만 아직 convnet이 작동하지 않는 것 같습니다. tf-coriander를 사용하여 GPU에서 convnet을 실행할 수 있는지 명확히 말씀해 주시겠습니까?

참고로,
https://github.com/tensorflow/tensorflow/issues/10703

tensorflow가 OS X에서 더 이상 GPU를 지원하지 않는 이유는 무엇입니까? 주문한 eGPU 설정과 함께 Tensorflow를 사용할 계획이었습니다.

@justinrmiller 그들은 더 이상 mac os에서 테스트할 수 없다고 주장하므로 지원을 중단하기로 결정했습니다. 그러나 나는 그것을 믿기가 어렵습니다. 하이 시에라의 egpus 광고와 새로운 nvidia 드라이버를 사용하면 더 이상 그렇지 않습니다.

@tscholak 네 맞습니다. 새 egpu 인클로저를 사용하여 Windows 상자를 영원히 버리려고 했습니다.

Nvidia 카드가 eGPU 인클로저에서 작동하더라도 Apple은 공식적으로 개발 키트에서 RX580만 지원하므로 OpenCL의 필요성이 사라지지 않을 것임을 명심하십시오.

Mac의 OpenCL은 1.2이므로 활성 드라이버가 없는 것 같습니다.
개발. TF에 Metal 지원을 추가하는 것은 힘든 과정이라고 생각합니다.
(Eigen 및 스트림 실행기 활성화) 하지만 가능합니다.

2017년 7월 16일 일요일 오후 3:17 Ferdia McKeogh [email protected]
썼다:

Nvidia 카드는 eGPU 인클로저에서 작동하지만 Apple은
개발 키트에서 RX580만 공식적으로 지원하므로
OpenCL은 사라지지 않습니다.

—
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-315634166 ,
또는 스레드 음소거
https://github.com/notifications/unsubscribe-auth/ACFkv3bmDr_KFSydC-QW_xbuR008pvLXks5sOm_kgaJpZM4Gex3i
.

macOS용 GPU 지원 중단에 대해 매우 유감입니다.

Apple은 분명히 조만간 Nvidia GPU로 변경하지 않을 것이기 때문에 macOS에서 GPU에 대한 OpenCL 지원을 계속 찾고 있습니다.

Tensorflow는 제가 선택한 엔진입니다. 내 MacBook Pro 또는 미래의 iMac Pro에서 로컬로 GPU 가속을 사용하면 정말 멋질 것입니다.

Microsoft의 경우 Apple을 방해하는 것이 합리적이지만 Google에는 데스크톱 OS가 없기 때문에 스스로에게만 피해를 줍니다.

솔직히 나보다 더 똑똑한 사람이 Mac OS 10.13의 MPS - 즉시 사용 가능한 많은 신경망 기본 요소를 지원하는 금속 성능 셰이더를 통합하는 방법을 살펴봐야 합니다. 이를 통해 모바일 및 데스크탑 iOS 및 macOS Tensorflow 추론 배포를 위한 최신 고성능 GPU가 가능합니다.

내가 이해하는 대로 Apple 프리미티브로 훈련할 수는 없지만(아무것도 제공하지 않음) Tensorflow 지원을 사용하면 가능할까요? Apple 플랫폼을 사용하는 사람들에게는 혜택이 될 것이라고 생각합니다.

나는 구글이 이것을 내부적으로 제공할 것이라고 생각하지 않으며 나 스스로 그것을 시도하는 데 필요한 기술이 거의 없습니다. 이 아이디어를 게시하여 나보다 더 재능 있는 사람들이 이 아이디어를 받아들일 수 있도록 합니다.

:)

Apple은 오로지 Apple 기기를 판매하는 것을 목표로 합니다. Google은 Google의 대규모 서비스를 고용하는 것을 목표로 합니다.

하나의 Apple 노트북과 같은 단일 장치로 AI(학습)를 수행하려는 경우 "딥 러닝" 대신 "피셜 러닝"을 수행하므로 자습서 이외의 작업을 포기하는 것이 좋습니다. 추론 결과 단일 장치(멀티코어 전화가 많지 않은 경우에도)에서 단일 사용자에 대한 훈련된 모델은 GPU를 통해 깔끔하게 수행될 수 있지만 CPU에서만 완벽하게 수행할 수 있습니다.

반면에 학습을 위해 매우 큰 데이터 세트를 제공하거나 매우 큰 동시 고객 그룹에 훈련된 추론을 제공하려는 경우 GPU가 절대적으로 필요합니다.

하지만 이러한 규모로 수행하는 것은 네트워크 문제로 인해 쉽지 않습니다. TPU-Pods 물리적 아키텍처를 살펴보십시오. 랩톱의 대척점에 있습니다(서버 간 통신을 위한 전용 광섬유가 있는 메모리 과부하 멀티 코어 서버당 여러 GPU).

맥북 프로가 있습니다. 클라우드로 이동하기 좋은 단말기입니다 :-D

Metal의 TF는 iOS로도 확장할 수 있습니다. 관심 있는 사람이 있다면 먼저 Eigen에 Metal 지원을 추가하는 것이 좋습니다(OpenCL을 참조로 사용할 수 있음).

@rogerpasky 학교에서는 모델 평가뿐만 아니라 학습 모델에도 Tensorflow를 사용해야 했습니다. 그리고 나는 가까운 장래에 이것을 다시 반복해야 할 것입니다. 나 같은 학생에게는 GPU 교육이 필수이므로 많은 시간을 절약할 수 있습니다. 여러 명의 동시 사용자에게 서비스를 제공하는 것은 문제가 아닙니다.

@rogerpasky 는 Mac에서 로컬로 모델 및 솔루션을 개발하는 기능에 관한 것입니다.

@rogerpasky는 정중하게 동의하지 않습니다. 클라우드 기반 다중 GPU 솔루션은 인터넷 서비스에 적합하지만 저는 몇 시간 동안 전문가 수준의 해상도와 압축되지 않은 HD, 2K, 4K 영상에 대해 추론이 실행되는 전문 비디오 제작 파이프라인을 목표로 하고 있습니다. 클라우드에 업로드하려고 하는 경우 b) Google이나 누구에게나 데이터를 제공하는 것을 원하지 않습니다. c) 활용하고자 하는 로컬에 다중 GPU 지원 시스템(Mac 및 Windows)으로 가득 찬 공간이 있고 d) 반면 단일 이미지에 대한 추론은 CPU에서 괜찮습니다. 여러 그래프를 통해 추론을 위해 전체 영화를 실행하면 100% MPS 대 CPU와 같은 것을 사용하여 성능이 증가하는 것을 볼 수 있습니다. 커뮤니티가 표준 지원/포용을 거부하고 대신 Nvidia 전용 코드를 사용하기 때문에 실제 사용 사례는 비둘기 구멍이 되어 정말 부끄럽습니다.

이것은 튜토리얼을 실행하는 취미 활동가의 유휴 요청이 아닙니다. GPU 추론은 실제 하드웨어의 다양한 워크로드에 대한 다양한 GPU/CPU 제품군을 지원하는 것처럼 중요합니다. Google이 이 문제를 진지하게 받아들이기를 바랍니다. TF와 같은 단일 라이브러리를 계속 사용할 수 있다면 정말 좋을 것이기 때문입니다.

제 말을 들어주셔서 감사합니다. 욕을 하려는 것이 아니라 커뮤니티에 다른 관점을 제공하기 위한 것입니다.

@pldelisle , @tscholak , @vade 저를 오해하지 마십시오. 갖고 싶고, 이 스레드에서 검색하면 나는 서포터로 합류했지만, 내가 그것을 따라온 한 나는 내가 그렇게 생각하기 때문에가 아니라 내가 쓴 결론에 도달했습니다. MacBook은 수천 개의 비디오로 교육을 받으면 녹아내릴 것입니다 :-D), 그러나 실제 산업 사실과 함께. 짧은 시간 안에 해결되기를 기다리지 마세요(IMHO, iPhone/Android 문제 이후로 Apple과 Google이 서로를 싫어하기 때문에 해결되지 않을 것입니다).

@rogerpasky 이미 Mac OS에서 nvidia GPU에 대한 지원이 있었습니다. 1.2에서 방금 제거되었습니다.

Note: As of version 1.2, TensorFlow no longer provides GPU support on Mac OS X.

eGPU(Sonnet's) 주문을 취소하고 내 게임 장비에서 Linux를 듀얼 부팅할 예정이지만 사람들이 사용하던 것을 지원하지 않는 것은 좋지 않습니다. eGPU(모델 교육)를 사용하여 Mac에서 이 작업을 수행하고 싶었지만 지금은 그렇지 않을 것 같습니다. https://github.com/lengstrom/fast-style-transfer

@rogerpasky Er, CoreML이 Keras를 통해 텐서 흐름 모델 가져오기를 지원한다는 것을 알고 계십니까? Apple은 Google을 '미워하지' 않습니다. 비즈니스는 비즈니스입니다. Apples 공급업체 중 하나는 삼성입니다. 잠시 동안 읽어보십시오. 구글, 애플, 삼성은 기업이고 돈 버는 일을 할 것입니다. 참고로. 제 MacBook Pro는 수천 편의 영화에 대한 추론을 실행한 결과 녹지 않았습니다. 저는 CUDA가 채택하기에 매우 편리했고 Nvidia의 지속적인 지원과 AMD의 놓친 기회가 우리를 여기까지 오게 했다고 생각합니다. 나는 그것이 사악하다고 생각하지 않습니다. 변경 비용 대 성능 델타 대 코스 유지 비용입니다.

나는 어떤 천재가 문제를 해결하는 데 도움을 줄 것이라고 생각합니다.

OpenCL, Mac, iOS, CoreML, Vulkan 등과 같은 새로운 장소에 딥 러닝을 도입하는 것에 대한 공동 토론을 위해 Google 그룹을 만들었습니다. 이러한 일이 가능하도록 하려면 가입하여 사용 메모를 게시하세요. 경우 또는 문제의 어떤 부분을 작업하고 있는지. 이미 MIOpen, Codeplay의 작업, TF-Coriander 및 우리 회사의 내부 프로젝트(Vertex.AI)를 포함하여 더 많은 플랫폼에 TF를 가져오기 위해 열심히 노력하는 사람들이 있습니다. 이러한 노력은 모두 밀접하게 관련되어 있으므로 개발자와 사용자를 한 곳에서 모두 모으는 것이 좋습니다.

https://groups.google.com/forum/#!forum/deep -learning-everywhere

@benoitsteiner @hughperkins @cathalgarvey
@rogerpasky @vade @tscholak @pldelisle @adityaatluri @chocol4te @justinrmiller

@justinrmiller 저는 Tensorflow 1.2.1(CUDA 8, cuDNN 6)을 실행하는 Sierra(Sonnet 인클로저의 Titan Xp)에 eGPU를 가지고 있습니다. 문제가 있으면 알려주세요.

tensorflow/core/common_runtime/gpu/gpu_device.cc:1045] Creating TensorFlow device (/gpu:0) -> (device: 0, name: TITAN Xp, pci bus id: 0000:4f:00.0)

In [5]: tf.__version__
Out[5]: '1.2.1'

@danbarnes333 멋지네요! 정보 주셔서 감사합니다!

@danbarnes333 어떻게 tf 1.2를 cuDNN 6으로 빌드하게 되었나요? LLVM을 사용하셨나요? GCC? cuDNN 5로 빌드하는 데만 성공했습니다...

참고로 https://machinelearning.apple.com/

@tscholak 나는 이것을 OpenCL에 유지하기 위해 여기에 게시하지 않겠지만 여기 에 단계를 요약하지 않습니다.

@choongng 구글 그룹에 가입했는데 잠잠한 것 같아요. 그럼 여기서 욕하겠습니다 ;-)

1. 머신러닝/고성능/GPU 컴퓨팅은 경쟁이 치열한 시장입니다. 좋든 싫든 NVidia는 시장 을 지배하고 카드와 소프트웨어를 베스트에 가깝게 유지합니다. 예산과 기한이 있는 경우 현재로서는 NVidia에 거의 고정되어 있습니다.

2. 나는 구식 AMD 카드("Bonaire")와 예산 이 전혀 없는 취미를 갖고 있습니다. 어제 현재 Arch Linux에서 독점 AMD OpenCL 2 구현으로 caffe 를 실행하고 있으며 오늘 아침에 같은 방식으로 AMD의 오픈 소스 MIOpen 를 실행했습니다. 그러면 일부 모델을 훈련할 수 있습니다. Bonaire는 약 1800 GFLOPS 단정밀도에서 정점을 이룹니다. 따라서 TensorFlow가 Bonaire에서 OpenCL과 함께 실행되지 않으면 TensorFlow를 사용하지 않을 것입니다.

3. 예산이 마술처럼 나타나야 한다면 Intel CPU와 NVidia 카드를 구입하고 공급업체가 지원하는 독점 소프트웨어를 실행할 것입니다. Google, Red Hat, Canonical 및 AMD와 같은 공급업체에 대한 무료 QA를 완료했습니다.

   3년 동안 가지고 있던 GPU에서 무언가를 얻는 데 3개월(및 3개의 배포판 - Fedora 25, Ubuntu 16.04 LTS 및 Arch)이 걸렸습니다. Fedora의 버그 트래커에 내 이름이 있는 수정되지 않은 버그가 있습니다. Ubuntu와 Freedesktop.org도 마찬가지입니다. 그것을 고칠 사람들의 대부분은 돈을 받지 못하거나 다른 일을 하기 위해 돈을 받고 있습니다.

   예, AMD의 새로운 CPU는 인상적입니다. 그렇습니다. 대부분의 소프트웨어는 오픈 소스이지만 예산과 기한이 상황을 바꿉니다. 지원이 핵심입니다. 지원이 전부입니다!

@znmeb TF에 GCN 이전 하드웨어를 사용할 수 있는지조차 몰랐습니다.
내 타히티에서는 AMD 독점 드라이버가 GCN1용 이전 Linux 커널에서만 작동하기 때문에 하나의 배포판(우분투 14.01.x)만 지원했습니다. (SYCL을 통해 TF + openCL을 얻습니다(7970에서 테스트되지 않음))

내가 일하는 곳에서는 전체 R&D 부서에서 그린 팀을 운영합니다. 그들은 모두 PHD를 가지고 있고 cuda(또는 OCL)의 한 줄을 작성하지 않은 것을 제외하고 모두가 있습니다. 그러나 도구는 Keras 워크로드를 가속화하기 위해 여기에 있습니다. 나는 재활용된 광산 GPU에서 두 번째 삶을 짜내려고 하는 일종의 괴짜입니다.

그린 팀 지원 이외의 tl;dr은 AMD GPU 시장 점유율이 표시되는 경우에만 표시됩니다.
닭과 계란의 문제입니다. 나는 vega에 대한 희망이 있지만 ... 예 ... 1080Ti 킬러는 아닙니다.

@acoye FWIW는 4월부터 스래싱 및 인터넷 검색 후 이번 주말에 저를 데려온 GitHub 게시물입니다. https://github.com/BVLC/caffe/issues/5804#issuecomment-318789942 . https://github.com/cdeterman/gpuR/issues/77#issuecomment-318814154 도 참조하세요. 그것이 저의 원래 문제였습니다. Bonaire를 사용하여 R에서 선형 대수학을 가속화하려고 했습니다.

@acoye
최신 Linux 배포판으로 이동하여 AMDGPU 드라이버가 활성화되고 RADEON이 비활성화되고 커널 구성에서 CONFIG_DRM_AMDGPU_SI=Y 및/또는 CONFIG_DRM_AMDGPU_CIK=Y 가 설정된 4.11/4.12와 같은 최신 사용자 정의 컴파일된 커널을 사용할 수 있습니다. initramfs => 최신 AMDGPU-PRO OpenCL의 7970(Tahiti)용 AMD 펌웨어는 모든 GCN 카드에서 작동합니다. FGLRX(이전 Linux 배포판에서)와 RADEON 드라이버를 통한 Clover는 잊어버리세요. 둘 다 하위 수준입니다.
GCN 이전 카드도 잊어버리십시오. Caffe용 Windows에서 OpenCL을 사용하여 테스트했지만 성능은 이러한 오래된 카드에 노력할 가치가 없습니다. 2012년 이후의 모든 AMD 카드는 어쨌든 GCN이어야 합니다.

@ naibaf7 어제 AMD의 오픈 소스 스택을 작동시키려고 몇 시간을 보냈습니다. MIOpen 및 해당 종속성을 얻었지만 hcc 에 여전히 일부 비트가 누락되었습니다. 모든 것을 얻으려면 사용자 정의 커널 빌드를 수행해야 할 수도 있습니다. 저는 CUDA 코드를 이식하거나 GPU에서 컴파일된 C++를 실행하는 것에 대해 별로 신경 쓰지 않습니다. ;-)

나는 또한 그들의 웹사이트에서 어셈블러로 프로그래밍하는 것에 관한 것을 보았습니다. 어셈블러에서 FORTH로 가는 것이 쉽기 때문에 관심이 있을 것입니다. ;-)

@znmeb 예, 또한 RX 480에서 일부 MIOpen 및 TensorFlow 항목을 작동시키려고 노력하고 있지만 주요 개발 장비를 파괴하고 싶지 않으므로 대신 IOMMU 가상화를 사용하고 Ubuntu 16.04 가상 머신을 사용할 수 있습니다. RX 480. AMD 드라이버는 가상화에 매우 친숙합니다(게임 카드용으로 만들어진 nVidia 드라이버와 달리 Quadro 드라이버만 가능).

@znmeb sudo apt-get install rocm miopen-hip 하면 됩니다.

@adityaatluri Arch User Repository에 있지만 설치되지 않습니다. GitHub 소스에서도 설치되지 않습니다. 간단한 것처럼 보입니다. 몇 가지 종속성을 찾을 수 없습니다.

@znmeb 여기(https://github.com/RadeonOpenCompute/ROCm/issues)에서 문제를 생성하여 논의할 수 있습니까? 감사 해요!

@adityaatluri 물론입니다 - 저녁 먹으러 가고 있지만 돌아올 때 제출할 것입니다.

@ebrevdo AMD 프로세서가 장착된 Mac에서 tensorflow GPU를 사용하는 방법은 무엇입니까?

@gautam1858 https://news.ycombinator.com/item?id=14894653

우리 회사는 한동안 OpenCL 딥 러닝에 대해 작업해 왔으며 몇 가지 초기 결과를 보여드릴 수 있습니다. 우리는 가까운 시일 내에 Keras에 초점을 맞추고 있지만 (매우) 실험적인 TensorFlow 지원도 구축했으며 초기 릴리스 후에 다시 살펴볼 것입니다. AMD의 초기 처리량 수치를 포함한 자세한 내용: http://vertex.ai/blog/bringing-deep-learning-to-opencl

멋있는!

작은 꼬집음: AFAIK, MIOpen은 ROCm뿐만 아니라 OpenCL에도 연결할 수 있기 때문에 AMD 전용이 아닙니다. 후자가 아마도 더 빠르지만 여전히 그렇습니다. MIOpen은 "GPU의 Open Source Neural Networks On GPU"에 대한 엄청난 진전이며 AMD는 OpenCL에서 잘 작동한다면 이에 대한 엄청난 신뢰를 받을 자격이 있습니다.

2017년 8월 14일 오후 5:19 "Choong Ng" 작성:
우리 회사는 한동안 OpenCL 딥 러닝에 대해 작업해 왔으며 몇 가지 초기 결과를 보여드릴 수 있습니다. 우리는 가까운 시일 내에 Keras에 초점을 맞추고 있지만 (매우) 실험적인 TensorFlow 지원도 구축했으며 초기 릴리스 후에 다시 살펴볼 것입니다. AMD의 초기 처리량 수치를 포함한 자세한 내용: http://vertex.ai/blog/bringing-deep-learning-to-opencl (http://vertex.ai/blog/bringing-deep-learning-to-opencl)

—

당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub(https://github.com/tensorflow/tensorflow/issues/22#issuecomment-322235416)에서 확인하거나 스레드를 음소거(https://github.com/notifications/unsubscribe-auth)하세요. /ABHR3VYHXFDEX0gPHTGLSbFeHjPfEfsXks5sYHOGgaJpZM4Gex3i).

@cathalgarvey 수정해 주셔서 감사합니다. MIOpen 문서(https://rocmsoftwareplatform.github.io/MIOpen/doc/html/install.html#prerequisites)의 시스템 요구 사항에 대한 내 의견을 기반으로 했지만 더 나은 링크.

잠깐, 나는 지금 10분 동안 이 스레드/호를 읽고 있습니다. 중간에 보고 나머지는 건너뛰었습니다. AMD GPU가 아직 지원됩니까?

Kernel/OS(코드 플레이)의 아주 오래된 조합에서만 작동하는 까다로운 폐쇄 소스 사용: 예

tensorflow의 이전 버전을 사용하고 아직 일부 비선형성을 지원하지 않습니다(tf-coriander): 예.

정말: 공식적으로는 아닙니다. AMD가 HIP로 포팅하고 있지만 3개월 정도 이내에 진전이 있을 것으로 예상합니다. 다른 프레임워크는 이미 그들의 노력으로 잘 작동하고 있습니다.

2017년 8월 18일 02:09:55 GMT+01:00, abrad1212 [email protected] 에서 다음과 같이 썼습니다.

잠깐, 나는 지금 10분 동안 이 스레드/호를 읽고 있습니다. 나는 반을 얻었다
나머지는 건너뛰었습니다. AMD GPU가 아직 지원됩니까?

--
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -323233294

--
K-9 Mail을 사용하여 Android 기기에서 보냈습니다. 제 간략한 설명을 부탁드립니다.

FWIW 최신 버전의 PyGpu는 CUDA 또는 OpenCL을 사용할 수 있다고 생각합니다. 내 아치 상자에 모든 소프트웨어가 설치되어 있지만 아직 테스트하지 않았습니다.

@abrad1212 예, 이 문제는 한동안 계속되었습니다. 노력은 방대하고 많은 사람들이 @cathalgarvey가 언급했듯이 "작동시키려고" 노력하고 있습니다.

우리 측에서 약간의 업데이트. Ubuntu 16.04용 AMDGPU-pro 드라이버 스택에서 ComputeCpp 0.3.0을 사용할 수 있어야 합니다. 지침은 http://deep-beta.co.uk/tensorflow-1-3-on-ubuntu-16 에서 찾을 수 있습니다.

또한 우리는 현재 다양한 모델의 성능 개선에 초점을 맞추고 있습니다. 해야 할 일이 많지만 목표를 달성하고 있습니다.

@lukeiwanski 벤치마킹에 대한 접근 방식은 무엇입니까? Keras에 포함된 모델의 시간을 측정하고 TF+cuDNN+K80에 대해 정규화합니다. 이는 일반적이고 최적화된 구성이기 때문입니다. 우리의 방법론은 Max Woolf(http://minimaxir.com/2017/06/keras-cntk/)와 비슷합니다. 코드가 많지는 않지만 공유하게 되어 기쁩니다. 웹 사이트(http://vertex.ai)에 처리량 수치가 있으며, 우리 코드는 Xception 추론에서 TF 1.2보다 약간 빠르며 더 많은 접근 방식을 나란히 비교하는 것이 흥미로울 것입니다.

Windows 솔루션이 있습니까? 내 PC에 Ubuntu를 설치하고 싶지만 현재 설치할 공간이 충분하지 않습니다.

우분투 14.04
텐서플로 마스터 브랜치
opencl 지원을 빌드하고 opencl 인텔 CPU 런타임만 설치했습니다.
파이썬 2.7
https://developer.codeplay.com/computecppce/latest/getting-started-with-tensflow 가이드를 따르십시오.
파이썬 classify_image.py 실행
opencl 드라이버를 호출하지 않은 것 같습니다. (나는 내 ​​opencl icd 래퍼를 추가했지만 아무것도 보지 못했습니다)
python 코드에 추가해야 하는 구성이 있습니까?
sess.graph.device('/cpu0')처럼

그러나 Eigen을 사용하는 경우 skcl 가이드는 OpenCL을 지원하는 CPU에서 실행할 수 있습니다. (또한 이 가이드 코드는 약간 구식이므로 수정이 필요합니다)
https://developer.codeplay.com/computecppce/latest/getting-started-with-eigen

누구든지 tensorflow python 인터페이스가 OpenCL 지원과 함께 실행될 수 있는 방법을 확인하는 데 도움을 줄 수 있습니다.

그리고 이 opt 세트로 tensorflow를 빌드하면 실제로 tensorflow 바이너리가 생성되지 않습니다. --config=주기
이 명령으로 tensorflow를 빌드하십시오.
bazel 빌드 -c opt /tensorflow/tools/pip_ 패키지:build_pip_package

아마도 나는 forget --config=sycl을 빌드합니다.
빌드 명령을 시도하고 OpenCL 라이브러리를 호출할 수 있는지 확인합니다. 결과를 얻은 후 여기에 게시하겠습니다.
bazel 빌드 -c opt tensorflow/tools/pip_ 패키지:build_pip_package

@ joe8086 아래로 tf.Session 생성을 수정하면 터미널에 로그가 표시됩니다. 이것은 어디에서나 SYCL을 언급하고 있습니까?
tf.Session(config=tf.ConfigProto(log_device_placement=True))

Eigen 가이드에 대해 최신 버전이 아닌 특정 피드백이 있습니까?

@rodburns 감사합니다.
내 오류는 빌드 tensorflow 미스 구성 옵션 --config=sycl입니다.
이 분기 코드로 이 옵션을 추가한 후 https://github.com/lukeiwanski/tensorflow.git
OpenCL 백엔드로 실행되는 텐서플로를 볼 수 있습니다.

Eigen 가이드의 경우 주요 오류는 다음과 같습니다.
1, 올바른 포함 파일을 제공하지 않습니다.
2, 배열의 경우 Tensor, TensorMap이 올바른 템플릿 매개변수를 제공하지 않습니다.
3, static_cast의 경우 데이터 유형을 제공하지 않습니다.

이 토론 주제에 약간의 도움이 될 수 있는 더 많은 정보를 추가하십시오.
1, Main tensorflow는 --config=sycl이 올바른 tensorflow를 빌드할 수 없습니다.
2, CPU OpenCL을 사용하면 내 환경에서 일반 CPU 구현보다 속도가 약 4x~8x 소비됩니다.

시간 파이썬 classify_image.py
2017-09-07 16:56:29.076054: I tensorflow/core/platform/cpu_feature_guard.cc:137] 귀하의 CPU는 이 TensorFlow 바이너리가 사용하도록 컴파일되지 않은 명령을 지원합니다: SSE4.1 SSE4.2 AVX
2017-09-07 16:56:29.077967: W ./tensorflow/core/common_runtime/sycl/sycl_device.h:49] OpenCL CPU를 시도하는 ComputeCpp에서 지원하는 OpenCL GPU가 없습니다.
2017-09-07 16:56:29.159775: I ./tensorflow/core/common_runtime/sycl/sycl_device.h:66] 다음 OpenCL 장치를 찾았습니다.
2017-09-07 16:56:29.159825: I ./tensorflow/core/common_runtime/sycl/sycl_device.h:68] id: 0, 유형: CPU, 이름: Intel(R) Core(TM) i7-6700HQ CPU @ 2.60GHz, 공급업체: Intel(R) Corporation, 프로필: FULL_PROFILE
2017-09-07 16:56:30.213375: W ./tensorflow/core/framework/op_def_util.cc:333] Op BatchNormWithGlobalNormalization은 더 이상 사용되지 않습니다. GraphDef 버전 9에서 작동이 중지됩니다. tf.nn.batch_normalization()을 사용하십시오.
자이언트 팬더, 팬더, 팬더 곰, 쿤베어, Ailuropoda melanoleuca (점수 = 0.89107)
인디, 인디, 인디 인디, 인디 브레비카우다투스(점수 = 0.00779)
레서 팬더, 레서 팬더, 팬더, 곰 고양이, 고양이 곰, Ailurus fulgens(점수 = 0.00296)
커스터드 애플 (점수 = 0.00147)
Earthstar (점수 = 0.00117)

실제 1m44.473초
사용자 2m8.980s
시스템 1m20.024s

여러분, 저는 이 전체 스레드를 읽지는 않겠지만 누군가가 제 질문에 답할 수 있다면 정말 좋을 것입니다! 아직 AMD GPU와 함께 Tensorflow를 사용할 수 있습니까? 그렇다면 어떤 운영 체제에서 RX Vega로 할 수 있습니까? 감사 해요!

@M3L0NM4N 흠 ... 스레드를 따라가지는 않았지만 적어도 CPU OpenCL에서는 지금 테스트 가능한 OpenCL 코드가 있는 것 같습니다. 이전 AMD GPU("Bonaire")가 있고 GPU와 CPU에서 모두 OpenCL을 실행하고 있으므로 이를 테스트할 수 있습니다. 주말에 한 번 시도해 보겠습니다. 내 GPU에 OpenCL TensorFlow가 정말 필요합니다.

tf-고수는 https://github.com/hughperkins/tf-coriander 작동합니다.

macos에서 tensorflow 1.3 gpu/opencl 지원이 있습니까?

최신 뉴스: GitHub 소스에서 OpenCL을 사용하여 TensorFlow 1.3.1을 성공적으로 빌드했습니다. 문서에 누락된 부분이 꽤 있으며 GPU에서 아직 실행을 시도하지 않았지만 최소한 OpenCL이 아닌 CPU에서는 작동합니다. BTW, CPU OpenCL이 설치되어 있지 않고 GPU OpenCL만 설치되어 있습니다.

OpenCL GPU가 있는 TensorFlow에 대한 테스트 사례가 있는 사람이 있습니까? 나는 결국 나 자신을 위해 하나를 만들어야 하지만 빠른 확인을 바랐습니다.

@znmeb 네, 제가 보고한 문제에 테스트 앱이 있습니다. https://github.com/hughperkins/tf-coriander/issues/64

귀하의 경우에 작동하는지 알려주시겠습니까?

@unoexperto 예 - 작동하지만(충돌하지 않음) OpenCL을 찾았는지 여부는 표시되지 않습니다.

 python ./hello-tensorflow.py 
b'Hello, TensorFlow!'

여기에서 최선의 조치는 문서를 요청하기 위해 별도의 문제를 제출하는 것이라고 생각합니다. ( ./configure 빌드를 소스에서 실행할 때) OpenCL용 코드 가 있다는 것이 분명하기 때문입니다. 암튼 그렇게 찾았습니다.

@znmeb 내 경우 GPU 장치 선택에 대한 초기 디버그 정보를 인쇄했기 때문에 귀하의 경우에 GPU 장치를 찾았는지 의심스럽습니다. tensorflow/core/common_runtime/gpu/gpu_device.cc 어딘가에 콘솔에 printf 를 추가하여 다시 컴파일할 수 있습니다.

@unoexperto 토론 Google 그룹에 가입하여 문서 요청을 게시했습니다. 나는 이것에 더 많은 노력을 기울이기 전에 누군가 응답하는지 기다릴 것입니다.

@znmeb 어떤 지침을 따르고 있습니까? clinfo를 실행하셨습니까? computecpp_info를 실행하셨습니까? OpenCL 드라이버가 예상대로 설치되었음을 나타냅니까? Ubuntu 14.04에 대한 지침은 https://developer.codeplay.com/computecppce/latest/getting-started-with-tensflow 에 있으며 16.04를 사용하는 경우 http://deep-beta.co에 몇 가지 실험 지침이 있습니다. uk/tensorflow-1-3-on-ubuntu-16-04-lts/

@rodburns clinfo 및 clpeak 둘 다 실행됩니다. 나는 최근에 이것을 하지 않았지만, 소스에서 caffe를 빌드하고 테스트를 실행하면 확실히 GPU에 닿습니다. 그래서 OpenCL/GPU 드라이버/라이브러리가 작동하고 있다고 확신합니다.

저는 Arch Linux를 사용 중입니다. 커널은 LTS인 linux-lts 4.9.52-1입니다. 중요한 경우 "Bonaire"는 32비트 모드에서 최대 약 1.7TFLOPS이며 AMD GPU의 "Sea Island" 제품군에 있습니다.

bin/computecpp_info 
********************************************************************************

ComputeCpp Info (CE 0.3.2)

********************************************************************************

Toolchain information:

GLIBC version: 2.26
GLIBCXX: 20160609
This version of libstdc++ is supported.

********************************************************************************


Device Info:

Discovered 1 devices matching:
  platform    : <any>
  device type : <any>

--------------------------------------------------------------------------------
Device 0:

  Device is supported                     : UNTESTED - Untested OS
  CL_DEVICE_NAME                          : Bonaire
  CL_DEVICE_VENDOR                        : Advanced Micro Devices, Inc.
  CL_DRIVER_VERSION                       : 2442.7
  CL_DEVICE_TYPE                          : CL_DEVICE_TYPE_GPU 

If you encounter problems when using any of these OpenCL devices, please consult
this website for known issues:
https://computecpp.codeplay.com/releases/v0.3.2/platform-support-notes

누군가 테스트 로그를 수집합니까? 내 장치가 테스트되지 않았으므로 테스트할 것이라고 합니다. ;-)

Sycl/OpenCL용 TensorFlow를 빌드하는 것은 불가능합니다!

구성:
우분투 16.04
텐서플로 r1.3
오픈CL 2.0
ComputeCpp CE 0.3.2(computecpp_info 확인)
인텔 HD 그래픽 620
바젤 0.5.4

설치 지침(OpenCL Intel/ComputeCpp 빌드):
https://software.intel.com/en-us/articles/opencl-drivers#philinux
https://www.codeplay.com/portal/03-30-17-setting-up-tensorflow-with-opencl-using-sycl

오류:

ERROR: /home/erwang/workspace/ia/tf_original/tensorflow/tensorflow/core/kernels/BUILD:1695:1: C++ compilation of rule '//tensorflow/core/kernels:adjust_contrast_op' failed (Exit 1)
In file included from tensorflow/core/kernels/adjust_contrast_op.cc:19:
In file included from ./tensorflow/core/kernels/adjust_contrast_op.h:18:
In file included from ./third_party/eigen3/unsupported/Eigen/CXX11/Tensor:1:
In file included from external/eigen_archive/unsupported/Eigen/CXX11/Tensor:14:
In file included from external/eigen_archive/Eigen/Core:299:
In file included from external/local_config_sycl/crosstool/../sycl/include/SYCL/sycl.hpp:20:
In file included from external/local_config_sycl/crosstool/../sycl/include/SYCL/sycl_interface.h:54:
external/local_config_sycl/crosstool/../sycl/include/SYCL/multi_pointer.h:342:3: error: multiple overloads of 'global_ptr' instantiate to the same signature 'void (pointer_t)' (aka 'void (__attribute__((address_space(1))) float *)')

내 CPU의 훈련 모델은 오래 걸리고 OpenCL/GPU 가속이 정말 필요합니다...

@ErwanGalline 우리는 Eigen( https://bitbucket.org/benoitsteiner/opencl/pull-requests/16/changes-required-for-new-computecpp-ce/diff#comment-None )에 대한 변경 사항을 업데이트하는 중입니다. 보고 있는 문제를 수정하십시오.

또한 우리는 Eigen에 대한 업스트림 성능 개선을 준비하고 있습니다. 이것은 약간 까다롭고 병합 충돌의 흐름을 피하기 위해 @benoitsteiner 와 조정이 필요합니다. 그러나 우리는 거기에 도달하고 있습니다.

AMD 사용자의 경우 포크를 사용해 볼 것을 제안합니다: https://github.com/lukeiwanski/tensorflow/tree/dev/amd_gpu
Ubuntu 16.04에 대한 설정 지침은 다음에서 찾을 수 있습니다. http://deep-beta.co.uk/tensorflow-1-3-on-ubuntu-16-04-lts/
앞서 언급한 Eigen 변경 사항이 적용된 후 모든 변경 사항은 tensorflow의 업스트림이 됩니다.

도움이 되기를 바랍니다.

@lukeiwanski 귀하의 포크는 AMD R9 Nano/AMD FirePro GPU만 지원합니까?

@lukeiwanski GPU를 사용하고 있는지 확인하는 데 사용할 수 있는 테스트 사례가 있습니까? radeontop 로 모니터링할 수 있지만 TensorFlow 자체를 사용하는 것을 원합니다.

@ZixuanLiang 아니 뿐만 아니라..
우리는 현재 AMD(R9 380, R9 Nano, FirePro)에서 테스트하고 있습니다. Intel GPU가 일부 드라이버 버그를 노출한다는 것을 알고 있지만 수정 사항이 제공될 예정입니다. 그리고 우리는 Renesas R-Car를 발표했으며 더 많은 것이 뒤따를 것으로 기대합니다.

Xilinx가 triSYCL https://github.com/tensorflow/tensorflow/pull/12882 에 대한 업스트림 지원을 제공하고 있다고 생각합니다. 따라서 FPG(?) - @keryell 은 이에 대해 더 많이 알아야 합니다.

@znmeb bazel test -c opt --config=sycl --test_output=all //tensorflow/python/kernel_tests:basic_gpu_test 는 공정한 검증이어야 합니다. 출력은 다음과 같아야 합니다.
INFO: From Testing //tensorflow/python/kernel_tests:basic_gpu_test: ==================== Test output for //tensorflow/python/kernel_tests:basic_gpu_test: 2017-10-05 10:53:52.727745: I tensorflow/core/platform/cpu_feature_guard.cc:137] Your CPU supports instructions that this TensorFlow binary was not compiled to use: SSE4.1 SSE4.2 AVX AVX2 FMA 2017-10-05 10:53:53.059908: I ./tensorflow/core/common_runtime/sycl/sycl_device.h:66] Found following OpenCL devices: 2017-10-05 10:53:53.059926: I ./tensorflow/core/common_runtime/sycl/sycl_device.h:68] id: 0, type: GPU, name: Tonga, vendor: Advanced Micro Devices, Inc., profile: FULL_PROFILE .....

@lukeiwanski 감사합니다 AMD GPU에서 시도해보겠습니다

@lukeiwanski 빌드 및 테스트가 내 Bonaire에서 작동하는 것 같습니다. 하지만 저는 Python 3.6을 사용하고 있으며 지침에서는 Python 2.7을 사용합니다. 2.7을 사용해야 합니까 아니면 3.6이 작동합니까?

@znmeb 다음 https://github.com/tensorflow/tensorflow/issues/6533#issuecomment -273852647 Python 3.6이 작동해야 하는 것 같습니다.

@lukeiwanski 현재 TF를 구축할 수 있는 ComputeCpp 버전인가요?
0.3.2와 0.1.4 사이의 다양한 버전을 시도했지만 아무 것도 작동하지 않았습니다. 그들은 모두 "'global_ptr'의 다중 오버로드가 동일한 서명으로 인스턴스화됨" 오류로 끝났습니다.
Btw, TF 소스에서 TensorDeviceSycl.h 파일을 찾을 수 없습니다. 이름이 바뀐 파일인가요? 현재 소스에 패치를 적용할 수 있습니까?

미리 감사드립니다.

@eLvErDe ComputeCpp 0.3.2 빌드 가능: https://github.com/lukeiwanski/tensorflow/tree/dev/amd_gpu

업스트림에는 이를 수정하는 Eigen 패치가 없습니다. https://github.com/tensorflow/tensorflow/issues/22#issuecomment -334154564 참조

bazel 빌드 중에 이 Eigen 패치를 삽입하는 방법을 알고 있습니까? 고정 버전을 얻으려면 Eigen tgz 버전을 어딘가에 부딪쳐야 할까요?

고마워, 아담.

https://github.com/lukeiwanski/tensorflow/commit/8468d65e87e083337f18616f75ac56d3296d6ab1

이 커밋은 빌드하기에 충분할까요?

예, 당신은 그것을 체리 선택 할 수 있어야합니다

슬프게도, 그것은 분명히 충분하지 않습니다. 다음은 다음 빌드 실패 중 일부입니다.

external/eigen_archive/Eigen/src/Core/util/BlasUtil.h:63:63: error: no type named 'ReturnType' in 'Eigen::ScalarBinaryOpTraits<cl::sycl::vec<float, 4>, std::complex<float>, Eigen::internal::scalar_product_op<cl::sycl::vec<float, 4>, std::complex<float> > >'
  typedef typename ScalarBinaryOpTraits<LhsScalar,RhsScalar>::ReturnType Scalar;
          ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^~~~~~~~~~

external/eigen_archive/Eigen/src/Core/util/BlasUtil.h:69:34: error: invalid operands to binary expression ('const cl::sycl::vec<float, 4>' and 'const std::complex<float>')
  { return conj_if<ConjLhs>()(x) *  conj_if<ConjRhs>()(y); }
           ~~~~~~~~~~~~~~~~~~~~~ ^  ~~~~~~~~~~~~~~~~~~~~~

@eLvErDe 컴파일하려면 적용해야 하는 커밋이 거의 없습니다.
dev/amd_gpu의 팁을 사용하거나 현재 분기를 변경하지 않으려는 경우 .. dev/amd_gpu를 병합할 수 있습니다.

사실 저는 비공식 Debian/Ubuntu 패키지에서 작업 중이므로 공식 1.3.1 릴리스에 가깝게 유지하려고 합니다. OpenCL 지원 없이도 살 수 있지만 올바르게 지원되는 즉시 활성화할 준비가 되어 있습니다. 테스트 목적으로 브랜치에 대해 패키지를 업데이트할 수도 있지만 오늘은 충분합니다. ;)

광산 장비에는 약 10가지 종류의 AMD GPU가 있습니다. (우분투 16.04 및 amdgpu-pro를 실행하는 7970에서 RX 480으로). 내가 무언가를 테스트하여 기여할 수 있는지 알려주십시오.

내가 무언가를 테스트하여 기여할 수 있는지 알려주십시오.
https://github.com/ROCmSoftwarePlatform/hipCaffe 는 어떻습니까?
https://github.com/ROCmSoftwarePlatform/hipeigen

2017년 10월 17일 화요일 오전 10시 54분에 slundell [email protected] 에서 다음과 같이 썼습니다.

광산 장비에는 약 10가지 종류의 AMD GPU가 있습니다. (에서
7970 - 우분투 16.04 및 amdgpu-pro를 실행하는 RX 480). 할 수 있는지 알려주세요
무엇이든 테스트하여 기여하십시오.

—
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-337309059 ,
또는 스레드 음소거
https://github.com/notifications/unsubscribe-auth/AA6MNxXJ-G3nCQUA9RucrJ8y4vs5NPtLks5stOnbgaJpZM4Gex3i
.

@lukeiwanski 포크가 macOS에서도 AMD GPU를 지원합니까?

안녕,
GPU(Mali-T720)가 활성화된 Android 기기용 Ubuntu16.04 x64에서 tensorflow API를 구축하고 있었습니다.

내 OS 정보:
우분투 16.04 x64
컴퓨터 GPU: NVIDIA 1080Ti
쿠다 8.0
CUDNN 5.1(빌드에 cuda 또는 cudnn을 사용하지 않지만)
바젤 0.5.2
ComputeCpp CE 0.3.2

내 build.sh는 다음과 같습니다
'
bazel 빌드 -c opt --config=sycl //tensorflow/contrib/android:libtensorflow_cc.so --cxxopt="-
std=c++11" --cxxopt="-DTENSORFLOW_DISABLE_META" --verbose_failures --
crosstool_top=//external:android/crosstool --host_crosstool_top=@bazel_tools//tools/cpp:toolchain --
cpu=armeabi-v7a
'
빌드하기 전에. LD_LIBRARY_PATH=my_sycl_lib_path=$LD_LIBRARY_PATH를 내보내고 ' --config=sycl ' 없이 빌드하는 것이 좋고 올바른 libtensorflow_cc.so를 얻었지만 ' --config=sycl '을 사용하면 최종 결과에 -lComputeCpp가 없는 것으로 나타났습니다. 컴파일 오류

다음과 같은 전체 로그:

오류: /home/e0024/workspace/tensorflow/tensorflow/contrib/android/BUILD:102:1: '//tensorflow/contrib/android:libtensorflow.so' 규칙 연결 실패: link_dynamic_library.sh 실패: 명령 실행 오류
(cd /home/e0024/.cache/bazel/_bazel_e0024/783dad02ec856015f56356584726dd10/execroot/org_tensorflow && \
임원 환경 - \
COMPUTECPP_TOOLKIT_PATH=/home/e0024/workspace/source/computeCppForSYCL1.2 \
HOST_CXX_COMPILER=/usr/bin/g++ \
HOST_C_COMPILER=/usr/bin/gcc \
LD_LIBRARY_PATH=/home/e0024/workspace/source/computeCppForSYCL1.2/lib:/home/e0024/workspace/caffe/build/lib:/home/e0024/workspace/cudnn/lib64: \
경로=/home/e0024/bin:/home/e0024/.local/bin:/home/e0024/workspace/Anaconda2/bin:/opt/cuda:/home/e0024/workspace/source/protoc-3.3.0- linux-x86_64/bin:/home/e0024/workspace/bazel/output:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/ 게임:/usr/local/games:/snap/bin \
PWD=/proc/self/cwd \
PYTHON_BIN_PATH=/home/e0024/workspace/Anaconda2/bin/python \
PYTHON_LIB_PATH=/home/e0024/workspace/Anaconda2/lib/python2.7/site-packages \
TF_NEED_CUDA=0 \
TF_NEED_OPENCL=1 \
외부/bazel_tools/tools/cpp/link_dynamic_library.sh 무시 무시 무시 외부/androidndk/ndk/toolchains/arm-linux-androideabi-4.9/prebuilt/linux-x86_64/bin/arm-linux-androideabi-gcc -shared -o bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/contrib/android/libtensorflow.so '-Wl,-rpath,$ORIGIN/../../../ _solib_armeabi-V7A / _U @local_Uconfig_Usycl_S_Ssycl_Csyclrt___Uexternal_Slocal_Uconfig_Usycl_Ssycl_Slib '-Lbazel 아웃 / 팔 - 리눅스 - androideabi-4.9-V7A - GNU-libstdcpp-옵트 / 빈 / _solib_armeabi-V7A / _U @local_Uconfig_Usycl_S_Ssycl_Csyclrt___Uexternal_Slocal_Uconfig_Usycl_Ssycl_Slib -Wl, 전체적인 아카이브 bazel 아웃 / 팔 -linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/c/libc_api.a -Wl,-no-whole-archive -Wl,-whole-archive bazel-out/arm-linux-androideabi- 4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/core/libandroid_tensorflow_lib.lo -Wl,-no-whole-archive -Wl,-whole-archive bazel-out/arm-linux-androideabi-4.9-v7a-gnu -libstdcpp-opt/bin/tensorflow/core/kernels/libandr oid_tensorflow_kernels.lo -Wl,-no-whole-archive -Wl,-whole-archive bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/core/libandroid_tensorflow_lib_lite.lo -Wl ,-no-whole-archive -Wl,-whole-archive bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/core/libprotos_all_cc.a -Wl,-no-whole -archive -Wl,-전체 아카이브 bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/external/protobuf/libprotobuf.a -Wl,-no-whole-archive -Wl, -전체 아카이브 bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/external/protobuf/libprotobuf_lite.a -Wl,-no-whole-archive -lComputeCpp 외부/androidndk/ndk/ 소스/cxx-stl/gnu-libstdc++/4.9/libs/armeabi-v7a/libgnustl_static.a 외부/androidndk/ndk/sources/cxx-stl/gnu-libstdc++/4.9/libs/armeabi-v7a/libsupc++.a -landroid -llog -lm -z defs -s -Wl,--gc-sections '-Wl,-soname=libtensorflow.so' -Wl,--version-script tensorflow/c/version_script.lds -lz -static-libgcc - no-canonical-prefixes '-march=armv7-a' -Wl,--fix-cortex-a8 '--sysroot=external/androidndk/ndk/platforms/android-14/arch-arm'): com.google.devtools.build.lib.shell.BadExitStatusException: 프로세스가 종료됨 상태 1.
외부/androidndk/ndk/toolchains/arm-linux-androideabi-4.9/prebuilt/linux-x86_64/bin/../lib/gcc/arm-linux-androideabi/4.9/../../../.. /Ssoarm-linux-androideabi/bin/ld: 경고: 호환되지 않는 bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/_solib_armeabi-v7a/_U@local_Uconfig_Usycl_S_Ssycl_Csyclrt___Uexternal_Csyclrt___Uexternal_Ssycl 동안 검색 ComputeCpp용
외부/androidndk/ndk/toolchains/arm-linux-androideabi-4.9/prebuilt/linux-x86_64/bin/../lib/gcc/arm-linux-androideabi/4.9/../../../.. /arm-linux-androideabi/bin/ld: 오류: -lComputeCpp를 찾을 수 없습니다.
collect2: 오류: ld가 1 종료 상태를 반환했습니다.
대상 //tensorflow/contrib/android:libtensorflow.so 빌드 실패
정보: 경과 시간: 617.736초, 임계 경로: 54.66초

음.... GPU(Mali-T720)가 활성화된 팔목에 tensorflow API를 구축하고 싶습니다.
누군가가 여기에 몇 가지 경험이나 제안을 남길 수 있다면 감사합니다. 헐 대박.

다음 주 Arm TechCon, @laMia482 에서 제 강연을 들으러 오세요! http://schedule.armtechcon.com/session/running-tensorflow-machine-learning-on-arm-embedded-hardware/850230

아직 쉽게 구할 수 없는 SPIR-V를 지원하는 Mali 드라이버가 필요합니다. 그리고 Arm CPU 지원 및 SPIR-V 지원이 포함된 Android용 ComputeCpp 런타임이 필요합니다(아직 제공되지 않음). 그래서, 당신은 단지 _조금_ 조금만 참아야 할 것입니다.

우리(Vertex.AI)는 OpenCL에서 Keras 실행을 지원하는 딥 러닝 스택인 PlaidML을 공개했습니다. TensorFlow 지원이 예정되어 있습니다. 도움이 될 것입니다. 예, Mac 지원이 진행 중입니다(Windows도 포함). http://vertex.ai/blog/announcing-plaidml @ggaabe

@choongng 해보고 싶었지만 실패.
pip search plaidml 반환

plaidml (0.1.0rc3)        - PlaidML machine learning accelerator

하지만 pip install plaidml 또는 pip install plaidml==0.1.0rc3
보고

Could not find a version that satisfies the requirement plaidml (from versions: )
No matching distribution found for plaidml

@hy9be tensorflow 에서 OpenCL을 지원하는 문제이기 때문에 여기보다는 plaidml 저장소 에서 문제를 제기하는 것이 더 적절할 것 같습니다. 또한 설치 지침을 보면 pip install 명령이 올바르지 않을 수 있습니다.

귀하의 관심과 세션 연설에 대해 @andrewrichards 에게 감사드립니다.

하지만 현재 나(대학원생)는 Android 기기에서 Tensorflow를 사용하여 앱을 빌드하고 GPU(Mali-T720)를 활성화하기 위해 SPIP-V를 지원하는 Mali 드라이버와 Arm CPU가 있는 Android용 ComputeCpp 런타임을 확보하기 위해 필요한 것은 무엇입니까? 지원 및 SPIR-V 지원.

CodePlay 홈페이지에서 ComputeCpp(Ubuntu16.04 x64 with bin/doc/include/lib/)를 다운로드했기 때문에 어제 다음을 실행했습니다.
bazel build -c opt --config=sycl //tensorflow/contrib/android:libtensorflow_cc.so --cxxopt="-std=c++11" --cxxopt="-DTENSORFLOW_DISABLE_META" --verbose_failures --crosstool_top=//external:android/crosstool --host_crosstool_top=@bazel_tools//tools/cpp:toolchain --cpu=armeabi-v7a
오류는 libComputeCpp.so incompatible 라고 표시되어 있으므로 Arm CPU 지원 및 SPIR-V 지원이 포함된 Android용 ComputeCpp가 필요하다고 생각하지만 Android ComputeCpp를 빌드하기 위한 소스 코드를 찾을 수 없었고 github에 샘플만 있습니다.

그리고 현재 Android용 ComputeCpp를 사용할 수 없다고 말씀하셨는데, Android 기기를 지원할 계획이 있거나 지원되는 경우 어떻게 받을 수 있습니까?

AMD GPU 및 Linux 사용자를 위해 AMD는 최근 여기 에 tensorflow의 HIP 포트를 출시했습니다. 관심이 있을 수 있습니다.

나는 그것을 테스트하지 않았습니다.

테스트할 수 있습니다. 계속 지켜봐 주십시오. 그래도 CI에 실패한 것 같습니다.

실제로 실패하고 있습니다. 아직 초기 단계라고 생각합니다.

나는 그것을 테스트했고 MNIST 예제에서 즉시 segfault를 얻었습니다.
내가 여기서 뭘 잘못하고 있는지 모르겠다.

$ python ./convolutional.py 
I tensorflow/stream_executor/dso_loader.cc:130] Couldn't open CUDA library libhipblas.so. LD_LIBRARY_PATH: :/home/masa/project/rendering/RadeonProRender-Baikal/Bin/Release/x64:/usr/local/lib64:/opt/CodeXL_2.5-25:/usr/lib/x86_64-linux-gnu/:/opt/CodeXL_2.5-25/RuntimeLibs/QT/
I tensorflow/stream_executor/cuda/cuda_blas.cc:2305] Unable to load HIPBLAS DSO.
I tensorflow/stream_executor/dso_loader.cc:130] Couldn't open CUDA library libhipfft.so. LD_LIBRARY_PATH: :/home/masa/project/rendering/RadeonProRender-Baikal/Bin/Release/x64:/usr/local/lib64:/opt/CodeXL_2.5-25:/usr/lib/x86_64-linux-gnu/:/opt/CodeXL_2.5-25/RuntimeLibs/QT/
I tensorflow/stream_executor/cuda/cuda_fft.cc:344] Unable to load cuFFT DSO.
I tensorflow/stream_executor/dso_loader.cc:139] successfully opened CUDA library libhip_hcc.so locally
I tensorflow/stream_executor/dso_loader.cc:130] Couldn't open CUDA library libhiprng.so. LD_LIBRARY_PATH: :/home/masa/project/rendering/RadeonProRender-Baikal/Bin/Release/x64:/usr/local/lib64:/opt/CodeXL_2.5-25:/usr/lib/x86_64-linux-gnu/:/opt/CodeXL_2.5-25/RuntimeLibs/QT/
I tensorflow/stream_executor/cuda/cuda_rng.cc:338] Unable to load cuRAND DSO.
I tensorflow/stream_executor/dso_loader.cc:139] successfully opened CUDA library libMIOpen.so locally
Extracting data/train-images-idx3-ubyte.gz
Extracting data/train-labels-idx1-ubyte.gz
Extracting data/t10k-images-idx3-ubyte.gz
Extracting data/t10k-labels-idx1-ubyte.gz
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE3 instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.1 instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.2 instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use AVX instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use AVX2 instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use FMA instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/stream_executor/cuda/cuda_driver.cc:633] creating context when one is currently active; existing: 0x7f94fa357e90
I tensorflow/core/common_runtime/gpu/gpu_device.cc:892] Found device 0 with properties: 
name: Fiji [Radeon R9 FURY / NANO Series]
major: 2 minor: 0 memoryClockRate (GHz) 1
pciBusID 1����
Total memory: 4.00GiB
Free memory: 3.75GiB
I tensorflow/core/common_runtime/gpu/gpu_device.cc:913] DMA: 0 
I tensorflow/core/common_runtime/gpu/gpu_device.cc:923] 0:   Y 
I tensorflow/core/common_runtime/gpu/gpu_device.cc:972] Creating TensorFlow device (/gpu:0) -> (device: 0, name: Fiji [Radeon R9 FURY / NANO Series], pci bus id: 1����)
Initialized!
I tensorflow/core/kernels/conv_ops.cc:604] running auto-tune for Convolve
Invoking clang-ocl on "/tmp/miopen-MIOpenUtilKernels.cl-c377-1df5-8b6a-884c/MIOpenUtilKernels.cl"
/opt/rocm/bin/clang-ocl -DNUM_CH_PER_WG=1 -DNUM_IM_BLKS_X=1 -DNUM_IM_BLKS=4 -DLOCAL_MEM_SIZE=432 -DSTRIDE_GT_1=0 -DTILE_SZ_X=32 -DTILE_SZ_Y=8 -DUSE_IM_OFF_GUARD=1 -mcpu=gfx803 -Wno-everything MIOpenUtilKernels.cl -o /tmp/miopen-MIOpenUtilKernels.cl-c377-1df5-8b6a-884c/MIOpenUtilKernels.cl.o
writing gemm kernel to "/tmp/miopen-tinygemm.cl-836e-c4d4-abd3-b292/tinygemm.cl"
Invoking clang-ocl on "/tmp/miopen-tinygemm.cl-836e-c4d4-abd3-b292/tinygemm.cl"
/opt/rocm/bin/clang-ocl -mcpu=gfx803 -Wno-everything tinygemm.cl -o /tmp/miopen-tinygemm.cl-836e-c4d4-abd3-b292/tinygemm.cl.o
GCN assember path: /opt/rocm/opencl/bin/x86_64/clang
Arugment: --version 
Invoking clang-ocl on "/tmp/miopen-MIOpenConvDirUniC.cl-f5fc-85f4-7079-a024/MIOpenConvDirUniC.cl"
/opt/rocm/bin/clang-ocl -DMLO_HW_WAVE_SZ=64 -DMLO_DIR_FORWARD=1 -DMLO_FILTER_SIZE0=5 -DMLO_FILTER_SIZE1=5 -DMLO_FILTER_PAD0=2 -DMLO_FILTER_PAD1=2 -DMLO_N_OUTPUTS=32 -DMLO_N_INPUTS=1 -DMLO_BATCH_SZ=64 -DMLO_OUT_WIDTH=28 -DMLO_OUT_HEIGHT=28 -DMLO_OUT_BATCH_STRIDE=25088 -DMLO_OUT_CHANNEL_STRIDE=784 -DMLO_OUT_STRIDE=28 -DMLO_IN_WIDTH=28 -DMLO_IN_HEIGHT=28 -DMLO_IN_BATCH_STRIDE=784 -DMLO_IN_CHANNEL_STRIDE=784 -DMLO_IN_STRIDE=28 -DMLO_IN_TILE0=28 -DMLO_IN_TILE1=8 -DMLO_OUT_TILE0=28 -DMLO_OUT_TILE1=8 -DMLO_GRP_TILE0=16 -DMLO_GRP_TILE1=8 -DMLO_ACTIVE_ALUS=112 -DMLO_N_ALUTILES_PERSTACK=2 -DMLO_OUT_PIX_TILE0=2 -DMLO_OUT_PIX_TILE1=2 -DMLO_N_STACKS=1 -DMLO_N_OUT_TILES=8 -DMLO_N_OUT_TILES_PERSTACK=16 -DMLO_N_IN_TILES_PERSTACK=1 -DMLO_N_READ_PROCS=128 -DMLO_CONV_BIAS=0 -DMLO_ALU_VTILE0=14 -DMLO_ALU_VTILE1=4 -mcpu=gfx803 -Wno-everything MIOpenConvDirUniC.cl -o /tmp/miopen-MIOpenConvDirUniC.cl-f5fc-85f4-7079-a024/MIOpenConvDirUniC.cl.o
Invoking clang-ocl on "/tmp/miopen-MIOpenConvFFT.cl-2fbf-2ba2-0088-ebfc/MIOpenConvFFT.cl"
/opt/rocm/bin/clang-ocl -DCFF_TRANSP_WT_MOD16=1 -DCFF_CGEMM_CHOICE_0=1 -DCFF_IMG_SZ_28_28 -DCFF_IMG_H=28 -DCFF_IMG_W=28 -DCFF_BATCH=64 -DCFF_NFILTER=32 -DCFF_CHANNELS=1 -DCFF_HALFW=1148928 -mcpu=gfx803 -Wno-everything MIOpenConvFFT.cl -o /tmp/miopen-MIOpenConvFFT.cl-2fbf-2ba2-0088-ebfc/MIOpenConvFFT.cl.o
Segmentation fault (core dumped)

@masahi - rocm 1.6.4 base가 설치되어 있는지 확인하십시오.

@bensander 감사합니다, 업그레이드하겠습니다.

@bensander AMD 스택에서 다른 것이 필요합니까? 지금 가지고 있는 것은 오픈 소스 "amdgpu" 드라이버를 사용하는 AMD 독점 opencl 라이브러리뿐입니다.

@masahi - rocm 및 rocm-libs(예: "apt-get install rocm rocm-libs")를 설치하는 경우 필요한 모든 것입니다. 저장소의 rocm_docs에는 예상 결과를 포함한 전체 지침이 있습니다.

@bensander rocm 1.6.4를 올바르게(1.6.3이 아니라) 실행하고 있는지 어떻게 알 수 있습니까?

@masahi 는 추측일 뿐입니다. 여기가 아니라 AMD 또는 RoCM 프로젝트와 같이 문제와 관련하여 더 관련이 있는 곳에서 질문해야 합니다...

@keryell 맞습니다. 주제에서 벗어났습니다. 여기서 멈춥니다.
어쨌든 내 시스템에서 hiptensorflow가 작동하도록 할 수 없었습니다. 나중에 깨끗한 Ubuntu 설치로 시도하겠습니다.

@masahi - 문제를 열어주시면 설정해 드리겠습니다.

안녕하세요, @bensander와 AMD의 다른 사람들 덕분에 hiptensorflow 가 작동할 수 있었다는 것을 말씀드리고 싶습니다. 빠른 시작 가이드에서 모든 예제를 실행할 수 있습니다.

감사 해요

ROCm을 사용하여 AMD 하드웨어에서 TensorFlow를 시도하려는 사람들을 위해 AMD Fury Nano를 사용하여 Fast.ai 노트북을 실행하는 방법을 설명하는 블로그를 작성했습니다.
http://briansp2020.github.io/2017/11/05/fast_ai_ROCm/

👍 기대됩니다!

적절한 Tensorflow 지원처럼 들리는 ROCm 1.7이 곧 출시됩니다!

https://www.phoronix.com/scan.php?page=news_item&px=AMD-ROCm-1.7-출시

AMD GPU에 대한 Tensorflow 포트:
https://github.com/ROCmSoftwarePlatform/hiptensorflow/blob/hip/README.ROCm.md

그것은 나를 위해 잘 작동합니다. 내 하드웨어 설정:
GPU: AMD 라데온 RX 480
CPU: 인텔 제온 2603 v3
MB: 슈퍼마이크로 x10srl-f

핵심은 마더보드이고 CPU는 PCIe v3를 지원해야 합니다.

성능은 Nvidia 980Ti와 유사합니다.

"지원되는" Ubuntu 16.04 LTS 설치에서 작동하도록 "지원되는" AMD 드라이버도 얻을 수 없습니다. 계획된 노후화?

znmeb, 당신의 AMD GPU는 무엇입니까? 듀얼 GPU가 있는 경우 BIOS에서 지원되지 않는 GPU를 비활성화합니다.

전체 스레드를 읽을 수 없습니다... MacOS(sierra +)의 OpenCL에서 tensorflow의 현재 상태는 무엇입니까? 특히, Intell Iris GPU가 있고 소스 Tf+Open CL 지원에서 빌드할 수 있기를 바랐습니다.
또한 tf corrainder는 버전 1.2에서 잘 실행되는 것 같습니다.

@varun19299 FWIW에는 OpenCL용 Intel SDK가 있습니다. 제 고대 Sandy Bridge 랩톱에 이 SDK가 있지만 귀하의 컴퓨터에서도 작동할 것이라고 확신합니다. https://software.intel.com/en-us/intel-opencl

이것은 현재 우분투가 아닌 Linux 시스템에서 사용 가능한 상태입니까? 로드맵 페이지는 여기로 연결됩니다.

@pfc 현재 Ubuntu가 아닌 Linux에서 사용할 수 있는 것은 무엇입니까? 일반적으로 OpenCL을 사용하는 TensorFlow? 아니면 AMD GPU에서 OpenCL을 사용하는 TensorFlow입니까? OpenCL을 사용하여 TensorFlow를 실행하려는 유일한 이유이기 때문에 후자로 가정하겠습니다. NVidia GPU의 경우 NVidia 드라이버/라이브러리를 사용하고 CPU 전용의 경우 OpenCL에서 얻을 수 있는 것이 없습니다.

저는 몇 주 전에 독점 ComputeCpp SYCL 라이브러리와 AMD "Bonaire"(Sea Islands 아키텍처) GPU를 사용하여 Arch Linux에서 이 작업을 수행했습니다. 테스트해야 하는 새로운 ComputeCpp 릴리스가 있지만 작동할 것이라고 생각합니다.

이 작업을 수행하는 데 필요한 AMDGPU Pro 독점 라이브러리가 Ubuntu 16.04.3에서 실행되지 않는 것으로 나타났습니다. 16.04.2에서 업그레이드하면 더 새로운 Linux 커널과 X Server가 도입되었으며 AMD는 아직 작동하는 제품을 출시하지 않았습니다. 자세한 내용은 http://support.amd.com/en-us/kb-articles/Pages/AMDGPU-PRO-Driver-Compatibility-Advisory-with-Ubuntu-16.04.2-and-16.04.3.aspx 를 참조하십시오. Ubuntu에서 AMD OpenCL이 작동하도록 만들 수 없습니다.

컴파일러를 사용하여 CUDA 코드를 OpenCL 코드로 변환하는 실험적 AMD 버전의 TensorFlow가 있지만 저도 테스트하지는 않았습니다. 지원되는 드라이버가 없으면 쓸모가 없습니다.

https://github.com/ROCmSoftwarePlatform/hiptensorflow/tree/hip/rocm_docs 는 AMD 하드웨어에서 텐서 흐름을 실행하기 위해 공식적으로 지원되는 방법입니다.

@bensander ROCm 런타임은 Ubuntu 16.04.3에서 작동합니까? 나는 그것을 작동시키지 못했습니다.

추신: AMDGPU-Pro 설정이 Ubuntu 16.04.3에서 작동하는지 여부에 대한 통찰력이 있습니까? 다른 프로젝트에 필요합니다.

흠, 나는 Ubuntu를 어디에서나 즐기지 않지만 (그리고하지 않을 것입니다) CentOS 7 w/ repos와 GTX1080TI가 있고 커널 4.14.x와 최신 Nvidia 베타 드라이버를 실행하므로 테스트하는 데 도움이 될 수 있습니다. 도움이 된다면 오늘 어느 시점에 거기에 있습니까?

--
샘 맥그로드

2017년 12월 7일 07:28에 M. Edward (Ed) Borasky [email protected] 이 다음과 같이 썼습니다.

@bensander ROCm 런타임은 Ubuntu 16.04.3에서 작동합니까? 나는 그것을 작동시키지 못했습니다.

—
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 보거나 스레드를 음소거하세요.

@sammcj 완벽하게 좋은 CUDA 라이브러리가 있는데 OpenCL과 함께 NVidia GPU를 실행하는 이유는 무엇입니까?

단지 당신을 위해 그것을 테스트하는 데 도움이!

손 테스트가 필요하지 않다면 걱정하지 마세요. 제가 제안할 거라고 생각했습니다. 나는 cuda TBH로 그 머신을 시도하지도 않았고, 현재로서는 Docker를 통해 OpenCL을 사용할 수 없는 MacOS에서만 시도했습니다.

--
샘 맥그로드

2017년 12월 7일 08:16 M. Edward (Ed) Borasky [email protected] 이 다음과 같이 썼습니다.

@sammcj 완벽하게 좋은 CUDA 라이브러리가 있는데 OpenCL과 함께 NVidia GPU를 실행하는 이유는 무엇입니까?

—
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 보거나 스레드를 음소거하세요.

@znmeb 저는 ComputeCpp SYCL을 시도하려고 했지만 우분투 설치 프로그램만 제공하고(저도 아치에 있습니다) aur 설치 스크립트가 손상되었습니다. 작동할 수 있다는 소식을 듣는 것이 좋습니다. 내가 충분히 절망한다면 나는 그것을 시도 할 수 있습니다.
@bensander 정확히 ADM 지원을 받는 데 필요한 것처럼 보이지만 이 코드가 TF로 백포팅되지 않았고 코드가 TF 1.4를 대상으로 한다는 점을 감안할 때 해당 코드가 2개월 전에 마지막으로 업데이트되었다는 사실이 걱정됩니다. 0
현재로서는 tensorflow가 기본적으로 사용자를 Nvidia에 연결하는 것 같습니다. 적어도 우리 "필멸의" 프로그래머에게는 그렇습니다. 문서 부족/업데이트된 로드맵은 도움이 되지 않습니다. 나는 내가 할 수 있는 어떤 식으로든 도와주는 것을 꺼리지 않을 것이지만, 나는 지금까지 일을 하는 데 거의 성공하지 못했습니다.

@pfc Arch에서 ComputeCpp SYCL이 작동하도록 했습니다. 내가 할 때 웹사이트에 바이너리 tarball이 있었습니다.

SYCL 1.2.1 릴리스에 대한 이 뉴스에서
https://www.roboticstomorrow.com/news/2017/12/06/the-khronos-group-releases-finalized-sycl-121-/11107/
그것은 말한다 :
_새로운 사양은 3개의 개별 구현에서 얻은 중요한 경험과 TensorFlow와 같은 기계 학습 프레임워크 개발자의 피드백을 통합합니다. 이는 현재 원래 CUDA 가속기 백엔드와 함께 SYCL을 지원합니다._

이제 SYCL이 구축된 OpenCL 1.2를 지원하는 AMD GPU에서 TensorFlow를 "쉽게" 실행할 수 있다는 의미입니까?

AMD 하드웨어용 일부 저수준 소프트웨어/드라이버/라이브러리는 하드웨어나 TensorFlow 또는 OpenCL 표준 또는 SYCL이 아닌 대부분의 고장난 물건이 있는 곳이라는 의미에서 "쉽게"입니다. ;-) 작동하는 AMD GPU 드라이버와 작동하는 OpenCL 라이브러리가 있다면 AMD GPU에 TensorFlow가 있는 것입니다.

AMD Bonaire(Sea Islands 아키텍처)에 대한 나의 작업 설정:

amdgpu 커널 모듈이 로드되고 radeon 커널 모듈이 블랙리스트에 있는 Arch Linux
아치 사용자 저장소 패키지 opencl-amd
ComputeCpp 라이브러리
@lukeiwanski 의 포크를 사용하여 내 워크스테이션의 소스에서 빌드된 TensorFlow:

https://github.com/tensorflow/tensorflow/issues/22#issuecomment-334154564

"AMD GPU 드라이버가 작동하고 OpenCL 라이브러리가 작동한다면 AMD GPU에 TensorFlow가 있는 것"이라고 말한 것에 약간 놀랐습니다. TensorFlow "공식" 버전이 OpenCL에서 실행되지 않는다는 것을 이해했습니다(CUDA만 해당). 제가 헷갈렸던 것 같습니다.
적어도 일부 Keras 코드가 AMD Redeon HD 6970이 설치된 iMac에서 실행되도록 허용하는 PlaidML 프로젝트를 찾아서 매우 기뻤습니다. (https://groups.google.com/forum/#!topic/plaidml-dev/ksFMgxjgKrM ) AFAIK 당신은 또한 그 프레임 워크를 시도했습니다.
Tensorflow가 이미 실행 중이면 Ubuntu VirtualBox에서 TensorFlow를 실행하겠습니다(CPU만 해당).

@PALYGAP VirtualBox가 Mac 호스트에서 Linux 게스트로 OpenCL을 내보내지 않는다고 생각하고 Ubuntu 16.04.3이 현재 작동하지 않습니다. 저는 Mac이 없으므로 테스트할 방법이 없습니다.

OpenCL을 통해 AMD에서 TensorFlow 작업을 성공적으로 시도하고 성공한 사람이 있습니까?.

@mohnkhan @lukeiwanski 포크가 작동하고 있습니다(Arch Linux) - https://github.com/tensorflow/tensorflow/issues/22#issuecomment-349877056 참조 . 블로그 게시물을 게시하기 전에 더 많은 AMDGPU-Pro 작업을 기다리고 있습니다. https://github.com/corngood/archlinux-amdgpu/pull/54 참조 .

@znmeb 입력 감사합니다

@mohnkhan BTW, AMD는 컴파일러 도구 체인을 사용하여 CUDA 코드를 OpenCL 코드로 변환하는 완전히 오픈 소스인 대체 경로를 구축하고 있습니다. 저와 같은 오래된 카드의 상태가 어떤지 잘 모르겠습니다.

기사를 쓰실 예정이라면 설명도 해주시는 것도 나쁘지 않을 것 같아요(전체 그림을 보는 데 3시간 소요).

• TF에는 실제로 SYCL 1.2 백엔드가 있습니다. *실제* opencl이 없습니다.
• 차례로, 당신은 표준의 두 가지 구현 이 있습니다 (trisycl 은 멋지게 보이지만 atm은 제한적 입니다)
• 결국 ComputeCpp는 SPIR /SPIR-V를 '훅'합니다(PTX에 추가하지만 이것은 실제로 다른 이야기 입니다).

그리고 이것이 결국 당신을 열망하는 OpenCL 1.2(w/ cl_khr_spir ext)로 바로 인도하는 것입니다.

대신 HIP는 SYCL과 반대 되는 또 다른 백엔드이며 ROCm만을 대상으로 합니다(또는 nvidia gpu가 있는 경우 cuda도 마찬가지입니다. 그러나 이것은 또 다른 이야기입니다).

AMD는 컴파일러 툴체인을 사용하여 CUDA 코드를 OpenCL 코드로 변환하는 완전한 오픈 소스인 대체 경로를 구축하고 있습니다.

아니요. 당신은 HIP에 대해 이야기하고 있습니다. 그리고.. 실제로 그게 전부입니다. 결국 코드 를 ​​. OpenCL이 아닙니다 .
그런 다음 HIP는 내가 말했듯이 ROCm에서 실행됩니다.
ROCm은 OpenCL을 실행하는 기능 이기도 하지만 (지원되는 카드 에서) 관계가 "하위 계층 내"가 아닌 ROCm에서만 어떻게 전달되는지 모든 사람에게 강조합니다.

당신이 생각하고 있는 것은 고수 일 수 있습니다.

저와 같은 오래된 카드의 상태가 어떤지 잘 모르겠습니다.

여기 에 요약하자면: 완전한 기능을 갖춘 AMDGPU-PRO, amdgpu-pro-opencl-only 드라이버 지금 하고 있는 것처럼 ... 또는 누군가가 마침내 클로버를 사용할 수 있게 만들 때까지 10년이 끝날 때까지 계속 기다리십시오.

또한, fglrx... 하지만 pre-gcn 카드에 권장하기 어렵다면 베일을 덮는 것이 더 나을 것 같습니다.

@mirh

1. 저는 GCN 이전 카드에 대해서는 관심이 없습니다. 내 것은 바다 섬이고 나는 더 오래된 것을 구입할 계획이 없습니다. 다시 말하지만, 다른 AMD GPU도 구입할 계획이 없습니다. ;-)
2. ROCm이 내 워크스테이션에서 실행되는지 여부는 알 수 없습니다. 예 또는 아니오로 답할 수 있는 오픈 소스 하드웨어 테스터가 없습니다. 나는 그것에 대한 문제를 열었고 응답을받지 못했습니다.
3. SPIR-V는 컴파일러 대상입니다. 컴파일러 작성자를 고용할 예산이 없어서 살펴보고 손을 뗐습니다.

그래서 SYCL을 떠나거나 ... 또는 다른 두 손을 들고 TensorFlow, Theano(정지되고 있음), CNTK 또는 PlaidML 백엔드가 있는 Keras로 모든 작업을 수행합니다. 순전히 엔지니어링 경제학의 관점에서 볼 때 Keras / PlaidML은 TensorBoard를 어떻게든 얻을 수 있다면 큰 승자입니다.

@mirh 모든 링크가 포함된 좋은 요약에 감사드립니다. 3시간을 낭비하지 않으신 것 같아요... :-)

ROCm이 내 워크스테이션에서 실행되는지 여부는 알 수 없습니다. 예 또는 아니오로 답할 수 있는 오픈 소스 하드웨어 테스터가 없습니다. 나는 그것에 대한 문제를 열었고 응답을받지 못했습니다.

내가 당신에게 꽤 여러 번 말했듯이, 그것은 작동하지 않을 것입니다.
Pre GCN 3세대 GPU에는 ROCm이 전혀 작동하거나 수행할 수 있는 하드웨어가 부족합니다.

SPIR(-V).. 무슨 말씀을 하시는지 잘 모르겠습니다. 그걸 신경쓰는건 당신의 일이 아닙니다. Computecpp는 SYCL "명령"에서 이를 만들고 모든 (opencl) 드라이버 비즈니스입니다.

당신은 내가 잠정적으로 amdgpu-pro-opencl-only라고 부르는 것을 가지고 있는데, 그때 무엇이 ​​문제인지 잘 모르겠습니다.
편집: Luke의 코드가 착륙하기 위해 일종의 ETA를 갖는 것도 멋질 것입니다.

@znmeb 와 여러분

(L) 우분투 17.10이 있습니다. 커널 4.14.x 및 AMDGPU Pro 17.40 드라이버의 OpenCL 라이브러리 부분이 실행되고 내 AMD A12-9800E APU에서 문제 없이 clinfo 또는 Boinc(예: Engima @Home , Milkyway@Home)와 같은 OpenCL 응용 프로그램을 실행할 수 있습니다.

또한 tensorflow(현재 버전 1.4.1) CPU 버전을 성공적으로 컴파일하고 사용할 수 있습니다. 그러나 tensorflow의 OpenCL 버전을 성공적으로 컴파일하지 못했습니다. 저는 바닐라 텐서플로우 1.4.1 및 @lukeiwanski 포크의 "dev/ amd_gpu " 분기와 함께 computecpp 0.5(등록할 필요 없이 다운로드할 수 있는 현재 버전)를 사용합니다.

따라서 tensorflow의 OpenCL 버전을 성공적으로 컴파일한 사람이 어떤 버전의 computecpp 라이브러리와 어떤 tensorflow git의 분기를 사용하고 있는지 정보를 제공할 수 있습니까?

감사합니다

@AlphasCodes Ubuntu에서 실행 중인 것이 없습니다. 모든 작업은 Arch에 있습니다. 시스템이 Ubuntu 16.04.3으로 이중 부팅되었지만 AMD 독점 라이브러리는 아직 작동하지 않습니다. 내가 아는 한 17.10에서는 지원되지 않지만 17.10에서 작동하는 OpenCL 조각이 있는 경우 세 번째 부팅을 추가할 수 있습니다. 디스크 공간이 충분합니다. ;-)

어떤 종류의 오류가 발생합니까? 빌드 오류인 경우 Bazel 비호환성이 있을 수 있습니다. Bazel은 TensorFlow처럼 끊임없이 앞으로 나아가고 있으며 때로는 하나가 다른 하나보다 앞서게 될 것입니다.

"지원되지 않음"은 무엇을 의미합니까?

이 .
우분투의 경우 16.04.3만 지원된다고 합니다.
편집: '완전한' AMDGPU-PRO 드라이버에는 커널 4.9가 필요합니다. 문제였을 가능성이 있습니다.

관심이 있는 사람이 있다면 AMDGPU-Pro Driver 17.40을 Arch로 이식하는 작업이 진행 중이며 GitHub( https://github.com/corngood/archlinux-amdgpu/pull/54 )에서 매우 활성화되어 있습니다.

@mirh 가 지적했듯이 TensorFlow는 OpenCL이 아닌 SYCL을 사용하기 때문에 이 문제를 닫아야 합니다. "AMD 카드의 TensorFlow"라는 다른 카드를 열어야 할까요?

아니요, 완전히 합법입니다.
tensorflow가 결국 opencl 장치에서 실행되기를 원합니다. 그것이 목표입니다. 합법적이고 끝입니다.
실제로 SYCL을 사용하고 있다고 말하는 것은 내가 만든 기술적인 엉터리일 뿐이었습니다. 마술처럼 무작위적인 기술의 이러한 모든 약어가 저를 미치게 만들었기 때문입니다.
편집: 나는 또한 그들의 엄청난 작업에 대해 모든 codeplay 사람들에게 감사하고 싶습니다.

amd를 위해 특별히 제작된 것을 원한다면 hiptensorflow 를 확인하는 것이 좋습니다. 하지만 ROCm 전용입니다. 그리고 제발, 이 주장은 뒤로 하고 가자.

좋아요. 빌드를 다시 수행하고 주말까지 컴파일 오류를 제공할 충분한 시간이 있는지 모르겠습니다. 하지만 기존 문서를 새 github 저장소에 추가했습니다.

자세한 내용은 https://github.com/AlphasCodes/DeepLearning 을 참조하십시오(내 하드웨어/소프트웨어 설정 + AMD OpenCL 설정 + Tensorflow 설정).

@mirh 는 "[...] [당신을] 화나게 만드는 마법처럼 무작위적인 기술 [...]의 약어"를 명확히 하기 위해:

Khronos Group 영역에서 OpenCL은 하위 수준의 비단일 소스 API이고 SYCL은 상위 수준의 단일 소스 C++ DSeL(도메인별 임베디드 언어)입니다. SYCL은 OpenCL 위에 구축될 것으로 예상되므로 SYCL을 사용할 때 전이성으로 인해 OpenCL을 사용하는 경우가 많습니다.

TensorFlow는 단일 소스 CUDA와 함께 단일 소스 C++ 접근 방식을 사용하는 Eigen을 사용하기 때문에 나중에 OpenCL로 이식되었을 때 단일 소스 C++를 갖는 Khronos Group의 표준 방식이기 때문에 SYCL이 선택되었습니다.

그러나 CUDA에 대해 생각해보면 훨씬 더 미묘합니다.

거의 모든 사람이 실제로 "CUDA Runtime API"라는 CUDA의 고급 단일 소스 버전을 사용합니다. 이것은 어떻게 든 SYCL과 유사합니다.
그러나 실제로 OpenCL과 유사하고 "CUDA 런타임 API" 구현 자체에서 사용되는 "CUDA 드라이버 API"라고 하는 CUDA의 덜 알려진 저수준 비 단일 소스 버전이 있습니다.

일종의 FAQ이기 때문에 https://en.wikipedia.org/wiki/SYCL 및 https://en.wikipedia.org/wiki/CUDA 를 조금 명확히 했습니다.

TensorFlow와 함께 사용하는 SYCL 구현인 ComputeCpp는 아직 Ubuntu 17.10을 지원하지 않습니다. 현재 LTS인 Ubuntu 16.04를 고수해야 합니다. 지침 및 전제 조건은 https://developer.codeplay.com/computecppce/latest/getting-started-with-tensflow 에 있습니다.

제쳐두고, TensorFlow에 대한 OpenCL 지원은 단지 AMD 장치 지원을 의미하지 않습니다. SYCL 통합은 다른 OpenCL 장치도 활성화합니다. TensorFlow로 수행 중인 작업의 일부로 ARM 및 Intel GPU에 대한 지원은 이들 회사의 최신 드라이버를 사용할 수 있게 되면 제공될 것입니다. 우리는 또한 R-Car 플랫폼에 대해서도 Renesas 가속기 프로세서에 대한 지원을 가능하게 하기 위해 노력하고 있습니다.

@rodburns 감사합니다! 나는 이것이 Arch User Repository의 opencl-amd 라이브러리를 사용하여 Arch Linux(4.14.4 커널)에서 작동하고 있습니다. 카드는 Bonaire(GCN 2.0)입니다. 해당 페이지에서 테스트를 실행하여 제대로 작동하는지 확인하겠습니다.

GCN 2세대(일명 1.1)가 있는 경우 2.0은 존재하지 않습니다.
(너무 현학적이라고 구부려야 함)

성공!

@lukeiwanski 포크의 최신 "dev/amd_gpu" 분기 커밋이 내 Tensorflow OpenCL 컴파일 문제를 수정했습니다. SysCL 1.2.1 관련 커밋이라고 가정합니다.

Tensorflow OpenCL 버전을 성공적으로 컴파일하여 사용할 수 있습니다. 자세한 내용은 내 Tensorflow 설정 문서 를 참조하세요.

또한 향후 다양한 Tensorflow 설정(비 CPU 최적화, CPU 최적화, OpenCL)에서 설정의 일부 벤치마크를 찾을 수 있는 벤치마크 페이지를 추가했습니다.

AMDGPU Pro 드라이버 버전 17.50도 작동합니다. 관련 AMD OpenCL 설정 문서를 업데이트했습니다.

모든 기여자에게 감사드립니다.

몇 가지 벤치마크를 수행했는데 iGPU가 matmul_bench.py ​​벤치마크를 제외하고 사용 가능한 4개의 CPU 스레드보다 느린 것 같습니다.

OpenCL Tensorflow 실행의 초기화는 CPU 전용 OpenCL Tensorflow 실행보다 훨씬 느립니다. CPU의 경우 5초, OpenCL의 경우 1-2분 정도입니다.

아무도 그런 결과를 확인할 수 있습니까?

알겠습니다. 문제 해결을 더 했습니다.

• Tensorflow MNIST 예제를 사용했습니다 . Tensorflow 설정 확인 문서를 참조하세요.
• 나는 "sudo cat /sys/kernel/debug/dri/0/amdgpu_pm_info"를 사용하여 iGPU 클럭/로드를 확인/관찰하고 "top"을 사용하여 CPU 로드를 확인했습니다.
• 0단계까지의 초기화 단계는 약 6분이 걸렸고, iGPU 로드는 약 0%, iGPU 클럭은 300MHz(최소 사용 가능한 클럭)이고 파이썬 프로세스 CPU 사용량은 약 200%(= 2 스레드)였습니다.
• 0단계부터 iGPU 로드는 약 90%였고, iGPU 클럭은 항상 654MHz - 720MHz - 800MHz - 900MHz(최대 사용 가능한 클럭)에서 전환되었으며 Python 프로세스 CPU 사용량은 약 100%(= 1 CPU)였습니다. 실)

저는 여전히 Arch에서 컴파일할 수 있도록 노력하고 있습니다.

어제 사용한 것 .
14시간 후(예, 제 감자는 매우 느립니다) 시도하고 싶다면 이 바이너리 를 얻었습니다.

나는 무슨 일이 일어나고 있는지 알아 내려고 노력했지만 불행히도 나는 할 수 없었습니다. 다음에 대해 아는 사람이 속도를 높이는 데 도움을 주시면 감사하겠습니다!

위의 논의 대부분은 AMD 칩에서 OpenCL 가속으로 Tensorflow를 실행하는 것과 관련되었습니다. 내가 이 말을 하는 것이 맞습니까? Opencl을 지원하는 통합 그래픽 카드(인텔 HD 5000)를 사용하여 GPU 가속 텐서플로를 얻으려면 어떻게 해야 합니까?

미리 감사드립니다!

@znmeb 안녕하세요 Ed, 답변해 주셔서 감사합니다. 내 시스템에서 OpenCL을 다운로드하여 실행 중입니다. 그러나 내 질문은 - 실제로 OpenCL 라이브러리를 사용하기 위해 tensorflow를 컴파일하는 방법은 무엇입니까?

https://developer.codeplay.com/computecppce/latest/getting-started-with-tensflow
그리고 가장 중요한 것은 인텔 https://github.com/codeplaysoftware/computecpp-sdk/issues/78#issuecomment -352411192입니다.

@AlphaCode 결과를 게시해 주셔서 감사합니다. 초기화 시간과 관련하여 OpenCL이 작동하는 방식은 실행 전에 코드를 컴파일하는 것이므로 시작 시간은 컴파일 프로세스입니다.

@brainwave Intel 장치의 경우 실행 중인 장치에 대한 제한을 제거하는 방법을 설명하는 @mirh 가 있는 스레드가 있습니다 . 이러한 장치 유형이 제한된 이유는 Intel 드라이버에 문제가 있는 것으로 나타났지만 지원을 개선하는 Intel 장치에 대해 업데이트된 드라이버를 곧 사용할 수 있기를 바랍니다. 그동안 변경 사항으로 TensorFlow를 다시 컴파일하여 자체 Intel 하드웨어를 테스트할 수 있습니다. 우리는 코드베이스에서 장치 제한을 제거하려고 합니다.

@AlphasCodes 여러분, 순진한 질문에 대해 사과드립니다. 하지만 이 빌드가 AMD GPU 전용인 이유는 무엇입니까? OpenCL이 표준이 되어야 하지 않습니까? OpenCL 2.0 드라이버가 설치된 Intel Carbon X1에서 작동하지 않는다는 것을 올바르게 이해하고 있습니까?

두 번 링크된 문제를 읽으면 amd gpu에 대한 내용이 없음을 알 수 있습니다.
인텔은 현재 제외되지만 사용자를 강제하려는 것과는 관련이 없으며 임시 해결 방법이 있습니다. 실제로 있는 경우 논의하십시오.

jupyter 노트북과 함께 amd_gpu 분기를 사용할 때 스레드가 남아 있는 것 같습니다. 파이썬은 계산이 완료된 후에도 여전히 하나의 CPU를 100% 사용합니다. 커널을 다시 시작하면 잘못된 스레드가 종료됩니다. 다른 사람이 이것을 경험합니까?

@brainwave @unoexperto
AMD OpenCL 하드웨어만 있기 때문에 Intel OpenCL에 대해 도움을 드릴 수 없습니다.

@desperadoduck
저는 아직 jupyter를 사용하지 않습니다. 저는 일반 bash 셸과 가상 Python 3 환경을 사용합니다( 내 Python 3 + Tensorflow 설정 참조). 하지만 문제를 재현할 수 없습니다. 계산이 완료된 후에는 파이썬 프로세스에서 CPU 사용량이 없습니다.

@rodburns
정보 주셔서 감사합니다. 초기 컴파일 시간을 단축할 수 있습니까? 예를 들어 50%만 사용하는 대신 사용 가능한 모든 CPU 스레드를 사용합니다.

@brainwave @rodburns
Linux에서 Intel GPU(Gen9)의 경우 PlaidML에서 일반 비전 네트로 벤치마킹할 때 Intel의 오픈 소스 Beignet 구현과 폐쇄 소스 구현으로 훨씬 더 나은 DNN 성능을 보았습니다. Beignet은 또한 설치하기가 더 쉽습니다.

ubuntu17.10에서 인텔 그래픽 hd615(7세대 CPU)를 지원합니까?

linux64용 opencl dirver SRB5.0은 ubuntu17.10에서 잘 실행됩니다.

그리고 오랫동안 업데이트되지 않았습니다.
https://bitbucket.org/mehdi_goli/opencl/branch/IntelGPU

신의 사랑을 위해 위의 2개(두개!)개의 게시물만 읽을 수 없습니까?
https://github.com/codeplaysoftware/computecpp-sdk/issues/78 에서 인텔 GPU(또는 amd cpu) 지원 부족에 대해 논의하십시오.

@znmeb 다양한 컴퓨팅 리소스(예: cpu, gpu, DSP, 기타 보조 프로세서)를 최대한 활용하는 것이 목표입니다.
사실, 하드웨어 공급업체의 지원에 따라 다릅니다: dirver 및 OS.
내가 아는 한, vedio 드라이버의 제한으로 인해 Intel GPU와 nvida GPU를 동시에 비디오용으로 활성화할 수 없습니다. (당신은 그들 사이를 전환할 수 있습니다).
그러나 opencl은 동시에 사용할 수 있습니다. 둘 다 "장치"입니다.

@choongng 흥미롭게도 우리는 Beignet을 활성화하는 데 도움을 주기 위해 몇 가지 작업을 수행했지만 이 프로젝트의 활동은 다소 조용해진 것 같습니다.

@znmeb 예, 어떤 GPU라도 작은 문제에서 훨씬 더 나은 성능을 발휘하지 못할 것입니다. 그래도 약간의 진전이 있어 다행입니다!

@unoexperto ComputeCpp with TensorFlow는 Intel GPU를 포함하는 SPIR OpenCL 중간 명령어를 지원하는 모든 하드웨어에서 사용할 수 있지만 여기 스레드에서와 같이 현재 드라이버가 현재 작동하고 있다고 생각하지 않았기 때문에 의도적으로 실행을 방지했습니다. . 일부 사용자가 다른 Intel 드라이버와 함께 작동하는 것처럼 들리므로 해당 제한을 제거할 수 있습니다. 또한 OpenCL 드라이버가 있는 ARM 및 Renesas 프로세서에 대해 이 기능을 활성화하기 위해 노력하고 있습니다.

@sxpc722 그러면 작동해야 합니다. 그건 그렇고, 새 시스템은 Windows 10이고 절대적으로 해야 할 때까지 Linux로 이중 부팅할 계획이 없습니다! 공급업체의 드라이버 및 라이브러리 버그를 추적하는 것이 지겹습니다(AMD를 보고 있습니다). 사실, 동일한 AMD 이유로 내 워크스테이션에 Windows 파티션을 둘 수 있습니다. ;-)

14일 동안 활동이 없었으며 이 문제에는 담당자가 있습니다. 그에 따라 레이블 및/또는 상태를 업데이트하십시오.

내 테스트에 따르면 Tensorflow AMD OpenCL 성능은 매우 느립니다. 그래서 다른 딥러닝 프레임워크로 몇 가지 기본 테스트를 했습니다. 여기 내 GitHub 페이지에서 설정 및 벤치마크를 찾을 수 있습니다.

긴 이야기를 짧게. 다른 딥 러닝 프레임워크는 현재 Tensorflow AMD OpenCL보다 약 10배 빠릅니다.

@AlphasCodes @znmeb TF 팀이 스레드를 TF 전용으로 유지하는 것을 선호한다는 것을 알고 있습니다. PlaidML 프로젝트에서 PlaidML 관련 대화를 호스트하게 되어 기쁩니다. 즉, TensorFlow 자체와 비 OpenCL 플랫폼(예: 현재 프로토타입 형태로 존재하는 iOS용 Apple Metal)을 궁극적으로 지원하기를 희망합니다.

https://github.com/plaidml/plaidml

@choongng 그에 따라 내 메시지를 편집한 정보에 감사드립니다.

@znmeb AMD A12-9800E iGPU는 GCN v3이어야 합니다.

내가 벤치마크/테스트를 하는 주된 이유는 "AMD를 계속 사용하거나 딥 러닝 모험을 위해 Nvidia로 전환하십시오"라는 질문에 대한 답을 찾는 것입니다.

그리고 답은 입니다. 나는 AMD의 오픈 소스 접근 방식을 정말 좋아하지만 두 가지 요인으로 인해 Nvidia로 전환할 것입니다. 먼저 딥 러닝 소프트웨어 스택(예: Tensorflow)은 Nvidia에서 훨씬 더 성숙했습니다. 두 번째로 내 특정 요구 사항에 대해 제공하는 그래픽 카드(Dan A4 SFX 케이스에 맞아야 하고 몇 시간 동안 최대 부하에서 매우 조용하거나 거의 소음이 없어야 함)는 AMD 측에 매우 제한적이거나 아예 존재하지 않습니다.

인텔 GPU가 지원됩니까? 내 Iris Pro는 오랜 훈련을 조금이나마 가속화할 수 있다고 생각합니다.

여기에서 인텔 GPU(또는 amd cpu) 지원 부족에 대해 논의하십시오. codeplaysoftware/computecpp-sdk#78

https://github.com/codeplaysoftware/computecpp-sdk/issues/82

이 문제의 상태를 파악하려고 합니다. 이 리포지토리가 다음과 같이 말하는 것이 옳습니까?

https://github.com/lukeiwanski/tensorflow

...ComputeCpp로 구축된 것이 현재 일반적인 AMD GPU 지원으로 Tensorflow를 구축하기 위한 최상의 옵션입니까? 그렇다면 이 빌드가 CPU보다 속도 향상을 제공한다는 벤치마크 증거가 있습니까?

"일반 AMD GPU 지원"이 의미하는 바에 따라 다릅니다. 정말 오래된 dGPU 또는 APU를 의미하는지 모르겠습니다. 그러나 최신(2세대 GCN 이상)이 있는 경우 ROCm에서 실행되는 hipTensorFlow(v1.0.1)가 꽤 잘 작동했습니다.

@briansp2020 아 예, ROCm에 대한 AMD의 작업을 보았습니다. 불행히도 그들은 Linux만 지원하고 다른 OS에 대한 지원은 로드맵에 없는 것 같습니다. Windows를 지원하는 무언가를 기대하고 있습니다.

@mjmax Windows에서 사용할 수 있는 GPU 가속 텐서플로 패키지가 있습니까? GPU 가속 딥 러닝을 원한다면 Linux가 유일한 선택이라고 생각했습니다. TensorFlow가 OpenCL로 포팅되면 Windows로 포팅하기가 더 쉬울까요? GPU 가속이 있는 Windows에서 CUDA가 지원될 때 TensorFlow를 사용할 수 없는 이유가 확실하지 않습니다.

이것은 이제 주제를 벗어난 것 같지만 GPU 가속화된 Windows용 TensorFlow 및/또는 PyTorch에 대해 아는 사람이 있다면 저도 알고 싶습니다...

@briansp2020 내가 아는 한, Tensorflow는 이미 Windows에서 Nvidia GPU 가속을 지원합니다.

CL tensofrflow는 이미 Linux에서 엉망입니다. 곧 아무 것도 기대하지 마십시오.
거기에서 속도를 높이고 싶다면 plaidML만 있습니다.
(그리고 제발, 우리는 이미 500개의 댓글을 달았습니다. 정말, 정말로 필요한 경우에만 게시하도록 노력합시다)

@mirh OpenCL Caffe는 Windows에서 작동합니다. 물론 기능 면에서 TensorFlow는 아니지만 모든 곳에 배포해야 하는 소프트웨어에는 꽤 견고합니다.

openCL 포트를 AMD가 지원하는 HIP 포트로 교체하는 것은 어떻습니까?

https://github.com/ROCmSoftwarePlatform/hiptensorflow

ㅋ! @LifeIsStrange 인생은 사실 굉장히 이상해요... AMD의 HiP 마케팅 팀에서 일하고 있나요? :-)
이 문제의 주제인 "OpenCL 지원"을 살펴보십시오.

이는 Khronos 표준 https://en.wikipedia.org/wiki/OpenCL 에 관한 것이며 OpenCL Khronos 작업 그룹의 다른 SYCL 표준은 "개요" 섹션 끝에 나타납니다.

물론 이 문제 밖에 있는 세계가 있지만 그것은... 바깥쪽에 있습니다! :-)

이미 너무 긴 토론에 대해 임의의 게시물을 게시하여 우주의 엔트로피를 무심코 증가시키지 마십시오... :-)
그런데 이 댓글은 당신 뿐만 아니라 여기 있는 몇몇 다른 포스터들에게도 적용됩니다.
이것은 기술적인 문제를 해결하기 위한 GitHub 문제입니다. 사람들이 도구 A 또는 B를 좋아하거나 싫어하는 방법에 대한 FaceBook 페이지가 아니라 OpenCL 표준을 지원하는 장치에서 TensorFlow를 실행하는 것입니다. :-)
그러나 우리가 볼 수 있는 이 문제와 관련된 일부 git 커밋을 자유롭게 보내주십시오...

OpenCL https://github.com/hughperkins/tf-coriander 를 지원하는 TensorFlow 포크가 있습니다.

그리고 물론 @benoitsteiner 의 작업 https://github.com/benoitsteiner/tensorflow-opencl

IMHO, 주류 TF가 여전히 작업을 병합하지 않았다는 것은 우스꽝스럽습니다.

여기에서 lomg-as-it-is-OpenCL을 실행하는 데 초점을 맞추고 있습니까, 아니면 실제로 더 빠르게 실행하도록 합니까? 나는 거룩한 전쟁이 아니라 여러 GPU에서 빠르게 실행되는 데 집중하는 것을 선호합니다. LifeIsStrange의 초점은 AMD GPU에서 작동하도록 하는 것이며 HIP는 타당합니다. 다른 사람들에게 초점은 Intel GPU 또는 Android에서 작동하도록 하는 것이며 OpenCL이 훨씬 더 합리적입니다. GPU 언어는 엉망이므로 실용적으로 유지하십시오.

여기에서 일부 주석을 읽으면 성능이 OpenCL 포트의 문제입니다. 그러나 불행히도 주변에 많은 벤치마크를 볼 수 없습니다. 이것보다 더 많은 벤치마크가 있습니까? https://github.com/AlphasCodes/DeepLearning/blob/master/Tensorflow_Benchmarks.md

제가 알기로는 CUDA와 OpenCL을 비교하면 다른 하드웨어를 사용해야 하기 때문에 벤치마킹이 어렵습니다. 의심되는 바에 따르면, nVidia는 OpenCL 구현을 의도적으로 만들거나 허용했기 때문에 동일한 하드웨어에서 벤치마킹하면 항상 CUDA가 멋지게 보입니다.

2018년 2월 12일 14:26:11 GMT+00:00에 VincentSC [email protected] 에서 다음과 같이 썼습니다.

여기에서 lomg-as-it-is-OpenCL을 실행하는 데 중점을 두었습니까?
실제로 더 빠르게 실행되도록 하시겠습니까? 성스러운 전쟁은 없었으면 좋겠지만,
여러 GPU에서 빠르게 실행되도록 하는 데 중점을 둡니다. 라이프아이즈스트레인지
초점은 AMD GPU에서 작동하도록 하는 것이며 HIP는
감각. 다른 사람들에게는 Intel GPU 또는
Android, OpenCL이 훨씬 더 합리적입니다. GPU 언어는
엉망이므로 실용적으로 유지하십시오.

여기 댓글 중 일부를 읽으면 성능이 문제입니다.
OpenCL 포트. 그러나 불행히도 주변에 많은 벤치마크를 볼 수 없습니다.
이것보다 더 많은 벤치마크가 있습니까?
https://github.com/AlphasCodes/DeepLearning/blob/master/Tensorflow_Benchmarks.md

--
당신이 언급되었기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -364936498

--
K-9 Mail을 사용하여 Android 기기에서 보냈습니다. 제 간략한 설명을 부탁드립니다.

2개의 숫자만 비교하는 것은 정보가 아닙니다. NVidia의 OpenCL이 다른 GPU에서 4배 속도로 실행되는 경우 절반 속도로 실행되는지 누가 신경을 쓰겠습니까?

다음과 같은 벤치마크가 필요하다고 생각합니다.

1. NV GPU의 CUDA(참조 벤치마크)
2. AMD, Nvidia 및 Intel GPU의 https://github.com/hughperkins/tf-coriander
3. AMD, Nvidia 및 Intel GPU의 https://github.com/benoitsteiner/tensorflow-opencl
4. AMD, Nvidia 및 Intel GPU의 https://github.com/lukeiwanski/tensorflow

참조 벤치마크는 쉽게 찾을 수 있습니다. 여기에 일부 고급 GPU가 있으므로 숫자를 입력할 장소만 있으면 됩니다(건물 문서에 대한 링크 포함).

OpenCL 지원 사실이 되어야 합니다.

cuda는 너무 제한적이며 nvidia는 공유하고 싶지 않습니다.
cuda는 Nv GPU에서만 작동합니다.
TensorFlow의 막다른 골목입니다.
다른 "TensorFlow"가 나오지만 TensorFlow보다 더 많은 지원을 한다면.
TensorFlow가 여전히 Windows에서 cuda만 지원하는 경우.
유일한 선택이 아닌 TensorFlow를 인식해야 합니다.

OpenCL이 HIP보다 나은 이유는 무엇입니까? 나는 OpenCL이 견인력을 얻는 데 실패했으며 이 시점에서 OpenCL을 지원하는 것은 아마도 전체 커뮤니티/산업에 역생산적이고 자원 낭비일 것이라고 생각합니다. TensorFlow가 HIP를 직접 지원하고 컴파일러/도구/라이브러리가 이식성을 처리하도록 하는 것이 좋습니다.

소프트웨어가 하나의 언어/프로그래밍 모델을 지원하는 것이 더 좋지 않습니까?

소프트웨어는 모든 사용 사례를 다루기 위해 지원해야 하는 것을 지원해야 합니다.
하드웨어를 지원하는 경우 HIP는 모든 종과 호루라기 (적어도 종이에)입니다. 그러나 이 세상에 "최신 amd 및 nvidia 카드"만 있는 것은 아닙니다.

이제 제발, 신의 사랑을 위해, 그것에 대한 어떤 문제라도 여기 에서 불평하십시오.
그리고 이 문제의 지속에 관심이 있는 다른 모든 사람들을 위해 여기 에 있습니다.

나는 SPIR-V가 하드웨어 간 대안으로 CUDA를 직접 대체할 것이라고 생각했습니다.
http://alphanew.net/index.php?section=alphanew&site=overview&lang=eng&newsID=111

Google이 여전히 CUDA에 의존하는 이유는 무엇입니까?

도움이 될까요?

OpenCL 난수 생성(Thomas Wang's):

uint wang_hash(uint seed)
{
               seed = (seed ^ 61) ^ (seed >> 16);
               seed *= 9;
               seed = seed ^ (seed >> 4);
               seed *= 0x27d4eb2d;
               seed = seed ^ (seed >> 15);
               return seed;
}

void wang_rnd_0(__global unsigned int * intSeeds,int id)                
{
               uint maxint=0;
               maxint--;
               uint rndint=wang_hash(id);
               intSeeds[id]=rndint;
}

float wang_rnd(__global unsigned int * intSeeds,int id)                
{
               uint maxint=0;
               maxint--;
               uint rndint=wang_hash(intSeeds[id]);
               intSeeds[id]=rndint;
               return ((float)rndint)/(float)maxint;
}


// initialize each thread's own random number seed
__kernel void rnd_0(__global unsigned int * intSeeds)
{
               int id=get_global_id(0);
               wang_rnd_0(intSeeds,id);     
}

// get a new random value by each thread
__kernel void rnd_1(__global unsigned int * intSeeds)
{
               int id=get_global_id(0);
               float randomFloat=wang_rnd(intSeeds,id);
}

OpenCL SHA3hashing(누가 작성했는지 잊어버림)

https://gist.github.com/tugrul512bit/c8170f74846e36e350607664f12c525c

이 문제는 외부 기여를 초대하므로 양수인을 제거하십시오. 그렇지 않으면 contributions welcome 레이블을 제거합니다. 감사합니다.

이 문제는 외부 기여를 초대하므로 양수인을 제거하십시오. 그렇지 않으면 contributions welcome 레이블을 제거합니다. 감사합니다.

OpenCL을 지원하는 것은 Google의 이익입니다.
특정(회사/브랜드/공급업체)의 특정 하드웨어를 소프트웨어에 대한 종속성으로 사용하면 하드웨어에 대해 더 많은 비용을 지불해야 하고 시장 경쟁은 비용을 낮춥니다.
Google은 처음부터 항상 상용 하드웨어에 관한 것이었습니다. 이는 Google의 성공(시장 지배력)에 여전히 결정적이었고, 데이터 센터 운영 비용이 낮아 Gmail(저장 공간) 및 Google Photos(저장 공백 및 자동 태그 추가).

@wesamco 아니요, 반드시 Google의 이익이 되는 것은 아닙니다. 그들은 IIRC인 "TensorBoard"라고 하는 자체 하드웨어를 만듭니다. OpenCL 및 CUDA/CUDnn을 우회하고 보드가 원시 TensorFlow 코드를 실행하도록 할 수 있습니다.

원시 TensorFlow 코드.

그런 것은 없습니다. 가공되지 않은 음식과 다릅니다. TPU에는 다양한 유형의 호출을 처리하는 자체 DNN 라이브러리가 필요합니다.

위의 논의를 다시 하나의 목록으로 압축해야 할 때인 것 같습니다.

• CodePlay는 SYCL 백엔드에서 작업 중입니다.
• Hugh Perkins는 tf-coriander를 작업 중입니다.
• AMD는 HIP 백엔드에서 작업 중입니다.
• PlaidML은 현재 CPU만 지원합니다.
• Intel GPU에 대한 지원 상태는 불명확합니다.

따라서 원하는 프로젝트를 선택하고 지원을 시작하십시오. 각 그룹이 프로젝트에 대한 상태 업데이트를 제공할 수 있습니까?

OpenCL은 전체 언어에서 SPIRV(커널)로 표현되는 언어 정의/하드웨어 사양으로 변환되었으며 OpenCL 드라이버와 같은 플랫폼 위에서 실행될 수 있으며 나중에 Vulkan 드라이버에서도 실행될 수 있습니다. (플랫폼). 따라서 SYCL을 지원하면 OpenCL도 지원합니다.

완벽한 요약이지만 plaidml은 GPU에서도 실행됩니다.
현재 tensorflow가 아닌 ​​keras의 백엔드입니다. 그래서 그것은 약간 OT입니다.

안녕하세요 여러분,
@VincentSC 다양한 노력에 대한 훌륭한 요약에 감사드립니다!

따라서 원하는 프로젝트를 선택하고 지원을 시작하십시오. 각 그룹이 프로젝트에 대한 상태 업데이트를 제공할 수 있습니까?

SYCL 접근 방식은 이제 다양한 플랫폼/장치를 지원합니다. 제가 언급할 수 있는 것들은 다음과 같습니다:

• AMD GPU(FirePro W8100, R9 Nano 및 R9 380 시리즈) 여기 또는 여기에서 지침 사용 가능
• ARM Mali( HiKey 960 ) 여기에서 사용 가능한 명령어
• Intel NEO OpenCL 드라이버가 포함된 Intel GPU(SkyLake 시리즈)

AMD의 경우 위에서 언급한 GPU는 레거시 OpenCL이 활성화된 AMDGPU-Pro 드라이버 17.40-xxx를 사용하고 있습니다.
다른 시리즈가 작동하지 않는 분명한 이유는 보이지 않습니다(SPIR/SPIR-V가 지원된다는 가정 하에)

우리가 집중하고 있는 주요 플랫폼은 Linux입니다. 그러나 향후 Windows를 활성화하기 위해 지속적인 노력을 기울이고 있습니다. 가까운 장래에 OSX를 지원할 계획은 없습니다. 나는 슬픈 얼굴을 알고 있다.

우리의 초점은 CNN의 성능을 개선하는 것입니다. 현재 성능은 최적화되지 않았으며 우리가 볼 수 있는 곳 근처에 없습니다. 즉, 우리는 이미 다른 대상에서 대부분의 모델에 대해 CPU 성능을 능가하고 있습니다.

개발 주기를 가속화하고 TensorFlow의 전체 컴파일 시간을 줄이기 위해(또한 이식성을 개선하기 위해) Eigen, BLAS 및 DNN 라이브러리에서 작업하고 있습니다.
이러한 라이브러리는 성능 문제를 해결하고 TensorFlow와 같은 복잡한 프로젝트와 쉽게 통합할 수 있는 이식 가능한 라이브러리 생태계를 구축하는 것을 목표로 합니다.

아래에서 현재 공유할 수 있는 성능 그래프를 참조하세요. 그것들은 내 포크 https://github.com/lukeiwanski/tensorflow/tree/dev/amd_gpu(271093b21cc5ca38e8699e154b5cada96bd7ac0d )에서 가져왔습니다.
사용된 벤치마크는 https://github.com/tensorflow/benchmarks 입니다.

그래프는 Intel i7-4790K 결과로 정규화됩니다.

변경 사항이 발생하면 TensorFlow를 따르도록 Eigen에 대한 변경 사항을 천천히 업스트림합니다.

도움이 되기를 바랍니다.
루크

GPU/OpenCL을 지원하는 모바일 장치의 딥 러닝 추론을 위해 Adreno, Mali 및 PowerVR GPU에 최적화된 MACE 를 확인할 수 있습니다. 다음은 몇 가지 벤치마크 결과 입니다.

@keryell @benoitsteiner , 통합에 필요한 tensorflow 및 trisycl 버전. 최신 trisycl 릴리스로 tensorflow(1.9)를 빌드하는 데 문제가 있습니다.

불행히도 최신 TensorFlow는 현재 triSYCL이 처리할 수 있는 것보다 더 고급 기능을 사용하고 있으므로 현재 유일하게 완전히 호환되는 SYCL 구현인 ComputeCpp를 사용해야 합니다...

Tensorflow는 Google Brain에서 지원하고 Google은 nVidia와 파트너십을 맺고 있습니다. Tensorflow에서 OpenCL을 지원하지 않을 것이라고 생각합니다.
큰 OpenCL 커뮤니티 노력이 필요합니다

OpenCL 지원 부탁드립니다!

OpenCL은 우리에게도 더 적합합니다.

@Makhaon 나도. NVIDIA 그래픽 카드가 있는 컴퓨터를 살 여유가 없습니다.

위의 2개의 게시물 외에도 이제 AMD의 Vega GPU(Raven Ridge APU 내부의 GPU 포함)가 FLOPS의 두 배에서 FP16을 수행할 수 있으므로 TF가 OpenCL을 통해 지원할 수 있다면 정말 도움이 될 것입니다. 적은 예산. 또한 이들 중 많은 사람들이 학생일 것이며, DNN 여정의 시작점으로 TF를 사용하게 하면 그들은 아마도 TF를 계속 고수하고 다른 사람들에게 TF에 대해 이야기할 것입니다. 이 프로젝트를 확장하는 데 도움이 되는 좋은 방법입니다.

나는 이 스레드가 개발자들에게 대부분 의미가 없다고 생각합니다(너무 많은 노이즈 - 그리고 더 추가할 것입니다 ;-). 하지만 많은 의견이 요점을 놓치고 있다고 생각합니다.
AMD 카드로 Tensorflow를 실행하려면 OpenCL이 원하는 것이 아닙니다 . https://github.com/ROCmSoftwarePlatform/ 으로 이동하여 ROCm 스택을 설치하세요. AFAIK AMD의 현재 전략은 Tensorflow/pytorch용 OpenCL 대신 ROCm을 기반으로 합니다 .

Generic OpenCL은 너무 많은 유지 관리가 필요했으며 AMD에 충분한 성능 이점을 제공하지 못했습니다. 따라서 이 티켓은 OpenCL만 사용하는 ARM 플랫폼을 실행하는 경우 에만 유용합니다.

(면책 조항: Tensorflow 개발에 대한 실제 내부가 아닌 외부인에 불과하므로 위의 정보가 완전히 잘못되었거나 오해의 소지가 있을 수 있습니다. 더 잘 알고 있다면 부담 없이 저를 비난하십시오.)

새로운 GPU 오프로드가 포함된 llvm은 어떻습니까? 그러면 tensorflow와 cuda 특정 코드 사이에 상당한 수준의 추상화가 이루어집니다.

위의 단 10개의 게시물을 읽고 시도할 수 있는 lukeiwanski/codeplaysoftware의 포크가 이미 있다는 것을 알아차린 여러분은 어떻습니까?
(또한 한 번 심각한 종류의 오픈 소스 노력에 기여한 것에 대해 xiaomi에 모자를 벗습니다)

@FelixSchwarz ROCm이 OpenCL을 사용한다는 사실을 알고 계시기 때문에 Linux에서 AMD의 사용자 공간 OpenCL 드라이버입니다(이것이 Windows를 지원하지 않는 이유입니다). 따라서 Linux에서 AMD의 드라이버 에코시스템이 작동하는 방식을 모르는 경우 커널 측 드라이버 AMDGPU 및 AMDKFD(현재 AMDGPU로 병합됨) 다음 사용자 공간 드라이버 RadeonSI(OpenGL용) RadV/AMDVLK(Vulkan용) 및 ROCm(OpenCL용)이 있습니다.

이 버그 및 기타 포크의 역학 관계로 판단하면 Google은 이에 대해 전혀 관심이 없으며 공식 저장소에서 이를 구현 하지 않을 것입니다. 나는 모든 사람에게 잘못된 희망을 주지 않기 위해 이 문제를 종료(또는 잠금)하는 데 투표할 것입니다.

문제는 여기에서 다음을 수행할 모든 사람들을 최소한 여기에서 지적해야 합니다.
필연적으로 다시 엽니 다.

2018년 9월 15일(토) 09:45 Anton Kochkov [email protected] 에서 다음과 같이 썼습니다.

이 버그와 다른 포크의 역학으로 판단하면 Google에는 0이 없습니다.
관심을 갖고 공식적으로 이를 구현 하지 않을 것입니다.
저장소. 나는 이 문제를 닫거나 잠그는 것에 투표할 것입니다.
모든 사람에게 거짓 희망을 주지 마십시오.

—
이 스레드에 가입했기 때문에 이 메시지를 받고 있습니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-421535747 ,
또는 스레드 음소거
https://github.com/notifications/unsubscribe-auth/AB1qNyDrfbiQ4h3kQyqObEfpK3O0FqRGks5ubKIBgaJpZM4Gex3i
.

Movidius Pi Hat을 지원하는 TensorRT가 있습니다. Movidius Pi Hat은 Google의 45달러짜리 "AIY ​​Vision Kit"입니다. Google은 Target에 연결하여 구매합니다.

이것은 CUDA 또는 Nvidia와 관련이 없습니까? 인텔 칩을 사용한다고 합니다. 핵심은 아마도 칩이 FPGA일까요? 누구든지 그것에 대해 더 알고 있습니까?

나는 큰 Movidius 유닛에 대해 꽤 알고 있습니다. 이것은 추론일 뿐이며 TensorFlow 또는 Caffe 사전 컴파일된 모델을 실행합니다. IIRC는 모두 16비트 모드입니다.

Movidius 칩 자체는 훨씬 더 강력하지만 SDK를 받으려면 자격을 갖춘 파트너여야 합니다.

텐서 opencl을 사용하려는 다른 사람에 대한 링크가 있습니다.

https://github.com/hughperkins/tf-coriander
https://github.com/ChiahungTai/tensorflow-cl
https://github.com/guoyejun/tensorflow-cl
https://github.com/honggui/tensorflow-cl
https://github.com/benoitsteiner/tensorflow-opencl
https://github.com/lukeiwanski/tensorflow (저장소가 오래됨)
https://github.com/codeplaysoftware/tensorflow
또한 확인할 가치가 있습니다.

https://documen.tician.de/pyopencl/
https://pypi.org/project/DeepCL/
https://www.khronos.org/sycl/

작업 프로젝트를 자유롭게 추가하십시오.

업데이트가 있습니까? 이 문제는 3년이 넘었습니다.

네, 게시물의 마지막 한 줌만 보세요.

@ filips123 아니요, 업데이트가 없으며 예측 가능한 미래에도 없을 것입니다. 그 가능성은 외계인의 침공과 시간을 거슬러 여행하는 방법을 찾는 것보다 낮습니다.

이 인텔 이니셔티브 PlaidML은 충분히 잘 작동하므로 확인해 볼 가치가 있습니다.
https://github.com/plaidml/plaidml
Mac의 opencl 또는 metal에서 실행됩니다. 그것은 내가 찾고 있던 Macbook Pro AMD GPU와 함께 작동합니다.
한편 PlaidML에서 Pytorch 지원에 투표하는 데 도움을 주실 수 있습니까? https://github.com/plaidml/plaidml/issues/63

PlaidML은 확실히 모두 훌륭하고 멋집니다(예를 들어, tf의 cuda 자체보다 opencl의 nvidia gpu에서 더 많은 성능을 얻을 수 있습니다.)
그러나 keras의 백엔드입니까? 아시다시피 tensorflow를 완전히 대체하는 것은 우리가 이것을 논의하는 저장소입니까?
(최신 tf 버전은 모델을 keras로 직접 내보낼 수 있다는 것을 이해하는 것 같습니까? 그래서 거기에 ..)

어쨌든, 네 번째로, 만약 당신이 opencl에 대한 최신 솔루션을 원 하고 여전히 활발히 개발되고 있는 것( 또한 실제로 언젠가는 여기에 병합될 실제 기회가 있는 것)을 원한다면, 단지 코드 플레이 스택이 있습니다.
다시:
https://developer.codeplay.com/computecppce/latest/tensorflow-overview
https://github.com/Rbiessy/tensorflow/tree/dev/amd_gpu

PlaidML은 확실히 모두 훌륭하고 멋집니다(예를 들어, tf의 cuda 자체보다 opencl의 nvidia gpu에서 더 많은 성능을 얻을 수 있습니다.)
그러나 keras의 백엔드입니까? 아시다시피 tensorflow를 완전히 대체하는 것은 우리가 이것을 논의하는 저장소입니까?
(최신 tf 버전은 모델을 keras로 직접 내보낼 수 있다는 것을 이해하는 것 같습니까? 그래서 거기에 ..)

어쨌든, 네 번째 빌어먹을 시간 동안, 만약 당신이 opencl에 대한 최신 솔루션을 원 하고 여전히 활발히 개발되고 있는 무언가를 원한다면(_또한_ 실제로 언젠가는 여기에 병합될 실제 기회가 있는 것), 단지 코드 플레이 스택이 있습니다.
다시:
https://developer.codeplay.com/computecppce/latest/tensorflow-overview
https://github.com/Rbiessy/tensorflow/tree/dev/amd_gpu

죄송합니다. tensorflow 지원이 없다는 것을 깨닫지 못했습니다. 내 가정적인 두뇌는 keras gpu 지원 == tensorflow 지원이라고 생각했습니다.

plaidML은 정말 멋집니다. 케라스에서 작동합니다.
물론 plaidML 백엔드(예: tf.image.ssim)에서 작업하기 위해 일부 tf 코드를 순수 케라스로 전송해야 했습니다.
그러나 결과 - 내 코드는 NVIDIA 및 AMD 카드에서 작동합니다.

또한 plaidML은 연구자에게 천국입니다. "타일" 언어로 작성할 모든 기능에 대해 자동으로 그라디언트를 생성하고 GPU에서 텐서플로의 80% 속도로 작동합니다.

그래서 ML 연구원이 여전히 PyTorch를 사용하는 이유를 이해할 수 없습니다. Intel의 plaidML로 ML 과학을 향상시키자?

@iperov 실제로 아무도 PlaidML을 사용하지 않는 이유를 알고 싶습니까?

1. Tensorflow의 CUDA 백엔드에 비해 AMD의 OpenCL 구현에서 가련하게 느리게 실행되므로 사용하는 이유의 절반 이상이 있습니다. CPU와 함께 Tensorflow를 사용하는 것이 경쟁력이 있거나 PlaidML을 사용하는 하드웨어를 완전히 능가하는 성능이 너무 나쁩니까?

2. 아무도 순수 수학 교수와 같은 사람만이 구성할 수 있는 전문적인 Tile 프로그래밍 언어를 유지하는 데 관심이 없습니다.

3. 이것은 #2와 거의 관련이 있지만 Intel이 Vertex.AI를 인수한 이후로 그들은 PlaidML에 대해 더 이상 신경 쓰지 않습니다. GPU 컴퓨팅 가속 머신 러닝을 위한 인텔의 솔루션은 Tensorflow, PyTorch 또는 기타 딥 러닝 프레임워크를 백엔드로 대상으로 하기 위해 현재 nGraph 로 알려진 딥 러닝을 위한 새로운 컴파일러를 도입하고 있습니다. nGraph가 있으면 더 이상 PlaidML을 중개자로 계속 개발할 이유가 없습니다.

사람들은 유지 관리 또는 기타 기능과 같은 다른 이유로 PyTorch를 사용하므로 요약하자면 PlaidML은 Intel의 도구이며 계획의 마지막 부분에서 PyTorch가 역할을 수행할 의도가 없을 것입니다. nGraph의 현재 Intel GPU 백엔드는 OpenCL 2.1을 기반으로 하며 그 중 Intel만 준수 구현을 하고 있으므로 Intel은 순수하게 기계 학습의 개선보다는 스스로를 위해 존재합니다. Intel이 계속해서 nGraph를 개발할 때 많은 딥 러닝 프레임워크에 OpenCL, Metal 또는 Vulkan의 별도 소스 프로그래밍 모델과 호환되지 않는 템플릿화된 커널이 있으므로 OpenCL 2.1만으로는 GPU 백엔드 기반을 계속 유지할 수 없습니다. 실험 목적으로 만. Intel의 최종 GPU 백엔드는 아마도 SYCL 2.2를 기반으로 하거나 OpenMP와 같이 완전히 다른 무언가를 기반으로 할 것이며 공급업체별 솔루션을 가져올 수도 있습니다.

AMD의 경우 누가 신경을 쓰나요? OpenCL은 그들과 관련이 없으며 마침내 HIP에 대한 작업으로 일부 결과를 보여주고 있습니다 ...

@iperov 실제로 아무도 PlaidML을 사용하지 않는 이유를 알고 싶습니까?

1. Tensorflow의 CUDA 백엔드에 비해 AMD의 OpenCL 구현에서 가련하게 느리게 실행되므로 사용하는 이유의 절반 이상이 있습니다. CPU와 함께 Tensorflow를 사용하는 것이 경쟁력이 있거나 PlaidML을 사용하는 하드웨어를 완전히 능가하는 성능이 너무 나쁩니까?
2. 아무도 순수 수학 교수와 같은 사람만이 구성할 수 있는 전문적인 Tile 프로그래밍 언어를 유지하는 데 관심이 없습니다.
3. 이것은 #2와 거의 관련이 있지만 Intel이 Vertex.AI를 인수한 이후로 그들은 PlaidML에 대해 더 이상 신경 쓰지 않습니다. GPU 컴퓨팅 가속 머신 러닝을 위한 인텔의 솔루션은 Tensorflow, PyTorch 또는 기타 딥 러닝 프레임워크를 백엔드로 대상으로 하기 위해 현재 nGraph 로 알려진 딥 러닝을 위한 새로운 컴파일러를 도입하고 있습니다. nGraph가 있으면 더 이상 PlaidML을 중개자로 계속 개발할 이유가 없습니다.

사람들은 유지 관리 또는 기타 기능과 같은 다른 이유로 PyTorch를 사용하므로 요약하자면 PlaidML은 Intel의 도구이며 계획의 마지막 부분에서 PyTorch가 역할을 수행할 의도가 없을 것입니다. nGraph의 현재 Intel GPU 백엔드는 OpenCL 2.1을 기반으로 하며 그 중 Intel만 준수 구현을 하고 있으므로 Intel은 순수하게 기계 학습의 개선보다는 스스로를 위해 존재합니다. Intel이 계속해서 nGraph를 개발할 때 많은 딥 러닝 프레임워크에 OpenCL, Metal 또는 Vulkan의 별도 소스 프로그래밍 모델과 호환되지 않는 템플릿화된 커널이 있으므로 OpenCL 2.1만으로는 GPU 백엔드 기반을 계속 유지할 수 없습니다. 실험 목적으로 만. Intel의 최종 GPU 백엔드는 아마도 SYCL 2.2를 기반으로 하거나 OpenMP와 같이 완전히 다른 무언가를 기반으로 할 것이며 공급업체별 솔루션을 가져올 수도 있습니다.

AMD의 경우 누가 신경을 쓰나요? OpenCL은 그들과 관련이 없으며 마침내 HIP에 대한 작업으로 일부 결과를 보여주고 있습니다 ...

휴대폰, raspberry pi odroid 등과 같은 암 머신 내부의 모든 GPU는 어떻습니까?
그들은 opencl을 지원하지 않습니까?
Google은 Android의 GPU에 tensorflow를 삽입하는 데 신경을 써야 합니다.
신경망 교육의 가장 큰 라이브러리는 Nvidia GPU에서만 실행되며 Nvidia GPU를 점점 더 비싸게 만듭니다(사람과 회사가 전문적인 신경망 교육을 위해서만 구입하기 때문에). 그러면 Google은 더 많은 돈을 잃게 됩니다.

@Degerz 당신은 어느 행성에서 왔습니까?
tf-CPU와 AMD GPU를 어떻게 비교할 수 있습니까?
tf-CPU보다 빠른 plaidML x30의 AMD GPU

1. Tensorflow의 CUDA 백엔드와 비교하여 AMD의 OpenCL 구현에서 가련하게 느리게 실행되므로 사용하는 이유의 절반 이상이 있습니다.

내 deepfakes 테스트에서 OpenCL은 20%만 느려지지만 일부 미니 네트워크에서는 OpenCL이 20% 더 빠릅니다.

내 프로젝트 DeepFaceLab에는 AMD의 지원을 기다려온 많은 사용자가 있습니다. 딥페이크가 마침내 AMD 카드에서 훈련될 수 있게 되었을 때 얼마나 많은 사람들이 기뻐했습니까?
또한 plaidML은 기본적으로 AMD/IntelHD를 지원하는 keras의 유일한 백엔드입니다.
keras용 새 AMD 백엔드가 나타나면 물론 내 프로젝트가 해당 백엔드로 전환됩니다.
PyTorch에는 미래가 없습니다.

plaidML에서 무엇을 유지해야 합니까? Ops는 자동 미분 가능하며 유지 관리할 것이 없습니다.

순수 수학 교수와 같은 사람만이 구성할 수 있는 타일 프로그래밍 언어

기계 학습은 수학 교수들이 발명한 것 아닙니까?

@talregev ARM 또는 Broadcom은 어떻습니까? 전자는 아마도 하위 OpenCL 구현을 가지고 있고 후자는 OpenCL 드라이버를 공식적으로 제공하지도 않습니다! 하드웨어 공급업체를 위한 유능한 컴퓨팅 스택을 만들고 유지하는 것은 Google의 책임이 아닙니다...

@iperov PlaidML 에 레이어를 임베딩하여 신경망을 훈련하는 것이 고통스럽다는 것을 알고 계시나요? PlaidML은 또한 DenseNet에 적합하지 않거나 계산 그래프가 정적이며 PlaidML이 RNN과도 잘 작동한다는 사실과 같은 많은 다른 제한 사항이 있습니까?

당신의 프로젝트에 관해서는, 그것에 대해 걱정하지 마십시오. MIOpen이 업스트림되면 AMD가 곧 네이티브 GPU 백엔드를 제공할 예정이므로 Tensorflow와 같은 더 나은 것으로 이동하게 될 것입니다. 성능면에서 먼지. 어쨌든 인텔 iGPU에 관심이 있는 사람은 누구입니까? 인텔이 미래의 개별 그래픽 하드웨어에서 고성능 딥 러닝을 제공하는 데 진정으로 전념한다면 다른 제품(AMD/HIP 및 Nvidia/CUDA)이 이전에 제공했던 것처럼 단일 소스 옵션을 제공할 것입니다...

PyTorch에는 미래가 없습니다.

많이 부러워? PyTorch는 PlaidML보다 ​​~10배 더 인기가 있으며 DL의 최신 기술은 PyTorch, 다양한 기여자에서 쉽게 구현되며 Intel이 거의 한 달 동안 PlaidML에 기여하지 않은 동안 Facebook에서 적극적으로 개발하고 있습니다.

plaidML에서 무엇을 유지해야 합니까? Ops는 자동 미분 가능하며 유지 관리할 것이 없습니다.

따라서 PlaidML은 앞으로 새로운 수정 사항이나 새로운 기능을 받지 않아야 한다는 점을 알려드립니다. 코드 개선의 가치를 보지 못한다면 PlaidML의 눈에 띄는 결함을 인정하도록 설득하는 것은 의미가 없습니다...

기계 학습은 수학 교수들이 발명한 것 아닙니까?

가독성보다 우아함이 분명히 선호되는 Tile의 경우 특히 그들이 구성하는 모든 프로그래밍 언어를 사용해야 한다는 의미는 아닙니다. 많은 잠재적 기여자가 기여하는 것을 두려워하는 이유는 전혀 이상하지 않습니다...

맙소사, STFU하고 대신 일터로 돌아가길 바랍니다. 화염 전쟁에 관한 이메일을 받는 것이 견딜 수 없기 때문에 티켓에서 구독을 취소해야 합니다. 불행히도 유지 관리자는 스레드를 음소거하지 않습니다.

@gunan @caisq @sanjoy 좀 해주실 수 있나요?