@aselle क्या आप कृपया इस मुद्दे पर एक नज़र डाल सकते हैं? धन्यवाद।

हम वर्तमान में मोबिलनेट एसएसडी (और उसके बाद स्थापना एसएसडी) को परिवर्तित करने के लिए काम कर रहे हैं, लेकिन इसमें ऑप्स शामिल हैं जो पूरी तरह से समर्थित नहीं हैं। एक बार ऐसा करने के बाद मैं इस मुद्दे को अपडेट कर दूंगा।

बढ़िया, मैंने यहाँ इसी तरह का प्रश्न पूछा है: https://github.com/tensorflow/tensorflow/issues/14731

जब तक आप लोग ssd-mobilenet से समर्थन नहीं जोड़ते, तब तक आप कब तक मानते हैं?

धन्यवाद,
मार्टिन पेनियाक

TensorFlow संगठन के एक सदस्य ने स्टेट के बाद जवाब दिया है: टेंसरफ्लॉवर लेबल की प्रतीक्षा कर रहा है।

?

नेगिंग असाइनी: बिना किसी गतिविधि के 14 दिन हो गए हैं और इस मुद्दे में एक असाइनी है। कृपया तदनुसार लेबल और/या स्थिति अपडेट करें।

कोई अपडेट्स?
मुझे भी इसी तरह की समस्या का सामना करना पड़ रहा है। अग्रिम में धन्यवाद।

@yucheeling

क्या आप कृपया " ssd_mobilenet_v1_coco_2017_11_17.tar " जैसे किसी भी डेटासेट का सुझाव दे सकते हैं जिसका उपयोग खुदरा दुकान में विभिन्न परिधान पहचान जैसे टी-शर्ट, जींस इत्यादि के लिए किया जा सकता है।

@ rana3579 , कृपया स्टैक ओवरफ्लो पर ऐसा प्रश्न पूछें। मोबाइलनेट एसएसडी पर एक त्वरित अपडेट। यह प्रगति कर रहा है और हमें उम्मीद है कि जल्द ही हमारे पास एक उदाहरण होगा।

@ rana3579 मेरे वीडियो की जांच करें, यह चल रहा है movidius, nvidia gpus के साथ-साथ आर्म प्रोसेसर पर भी। मैं डेटासेट साझा नहीं कर सकता लेकिन अगर आप किसी कंपनी का हिस्सा हैं तो हम संभावित सहयोग के बारे में बात कर सकते हैं: https://www.youtube.com/watch?v=3MinI9cCJrc

@aselle अद्यतन के लिए धन्यवाद! इस पर सूचनाएं कहां देखें? अगर यह संभव हो तो मैं जल्द से जल्द अधिसूचित होना चाहता हूं। धन्यवाद, मैं इस पर आपकी कड़ी मेहनत की सराहना करता हूं!

@andrewharp , इस पर काम कर रहा है और tflite का उपयोग करने के लिए Java TF मोबाइल ऐप को अपडेट करेगा। तो भंडार में उन परिवर्तनों को देखें। मैं इस मुद्दे को अभी के लिए खुला छोड़ दूँगा।

यह आंतरिक रूप से कार्यात्मक है; अगले एक या दो सप्ताह में कुछ बाहर होना चाहिए।

@andrewharp कमाल है !! क्या यह आईओएस कैमरा उदाहरण के लिए भी जाता है?
इसके अलावा वज़न और प्रदर्शन का आकार कैसा दिख रहा है?
टीएफलाइट वर्गीकरण मोबाइलनेट छोटा है और आईओएस पर प्रदर्शन बटररी स्मूद है इसलिए मैं वास्तव में टीएफलाइट के लिए उत्साहित हूं।

कुछ अन्य लोगों ने पहले से ही मौजूदा एसएसडी मोबाइलनेट पीबी को कोरएमएल मॉडल में बदल दिया और स्विफ्ट में लापता आउटपुट परतों को लिखा:
https://github.com/vonholst/SSDMobileNet_CoreML

लेकिन यह वास्तव में iPhone 7 पर केवल 8-12 fps की तरह है।

नमस्ते,
इस पर किसी भी अद्यतन?

मैं भी उत्सुक हूँ :)

मेरे पास वर्तमान में समीक्षा के तहत एंड्रॉइड टीएफ डेमो को tflite में पोर्ट करने के लिए प्रतिबद्ध है, उम्मीद है कि इस सप्ताह जीथब पर दिखाना चाहिए।

@ माधवजय यह केवल एंड्रॉइड है, लेकिन आप इसे आईओएस के लिए अनुकूलित करने में सक्षम होना चाहिए। केवल एक चीज यह है कि कुछ पूर्व-प्रसंस्करण (छवि का आकार बदलना/सामान्यीकरण) और पोस्ट-प्रोसेसिंग (बॉक्स पुजारियों द्वारा गैर-अधिकतम दमन और समायोजन) जावा में किया जाता है क्योंकि tflite MobileNet SSD द्वारा उपयोग किए जाने वाले सभी ऑपरेटरों का पूरी तरह से समर्थन नहीं करता है। .

@andrewharp यह कमाल है। क्या आप संक्षेप में बता सकते हैं कि वे ऑपरेशन वर्तमान में TF लाइट में क्यों उपलब्ध नहीं हैं। नियमित एसएसडी पर tfcoreml रूपांतरण उपकरण के लिए एक ही मामला लगता है। शिकायत न करते हुए केवल तकनीकी रुचि के लिए पूछ रहे हैं, क्या वे कुछ ऐसा करते हैं जिसे मोबाइल स्टैक में लागू करना विशेष रूप से कठिन है या यह केवल कम प्राथमिकता है?

Android कोड पर आपके शानदार प्रयास को देखने के लिए उत्सुक हैं!!! बहुत - बहुत धन्यवाद। मुझे पता है कि मैं अकेला नहीं हूं जो इस पर आगे देख रहा है!

@andrewharp , और @aselle TFLite के लिए SSD आधारित ऑब्जेक्ट लोकलाइज़ेशन उदाहरण का उपयोग करने के लिए डेमो प्राप्त करने पर कोई अपडेट?

यह अब tensorflow/contrib/lite/examples/android पर लाइव है! यह मूल TF Android डेमो का एक अधिक संपूर्ण पोर्ट है (केवल स्टाइलाइज़ उदाहरण की कमी है), और आगे चलकर tensorflow/contrib/lite/java/demo में अन्य डेमो की जगह लेगा।

एक परिवर्तित TF लाइट फ्लैटबफर mobilenet_ssd_tflite_v1.zip में पाया जा सकता है, और आप TFLiteObjectDetectionAPIModel.java में जावा अनुमान कार्यान्वयन पा सकते हैं। ध्यान दें कि यह मूल टीएफ कार्यान्वयन से अलग है जिसमें बॉक्स को जावा में मैन्युअल रूप से डीकोड किया जाना चाहिए, और एक बॉक्स पूर्व txt फ़ाइल को ऐप्स संपत्तियों में पैक करने की आवश्यकता है (मुझे लगता है कि उपरोक्त मॉडल ज़िप में शामिल एक को अधिकांश के लिए मान्य होना चाहिए रेखांकन)।

TOCO रूपांतरण के दौरान एक अलग इनपुट नोड (प्रीप्रोसेसर/उप) का उपयोग किया जाता है, साथ ही विभिन्न आउटपुट नोड्स (concat, concat_1) का भी उपयोग किया जाता है। यह कुछ हिस्सों को छोड़ देता है जो tflite के लिए समस्याग्रस्त हैं, जब तक कि या तो ग्राफ़ को पुनर्गठित नहीं किया जाता है या TF लाइट TF समता तक नहीं पहुंच जाता है।

SSD MobileNet मॉडल को tflite प्रारूप में बदलने और इसका उपयोग करने के लिए डेमो बनाने के लिए यहां त्वरित चरण दिए गए हैं:

# Download and extract SSD MobileNet model
wget http://download.tensorflow.org/models/object_detection/ssd_mobilenet_v1_coco_2017_11_17.tar.gz
tar -xvf ssd_mobilenet_v1_coco_2017_11_17.tar.gz 
DETECT_PB=$PWD/ssd_mobilenet_v1_coco_2017_11_17/frozen_inference_graph.pb
STRIPPED_PB=$PWD/frozen_inference_graph_stripped.pb
DETECT_FB=$PWD/tensorflow/contrib/lite/examples/android/assets/mobilenet_ssd.tflite

# Strip out problematic nodes before even letting TOCO see the graphdef
bazel run -c opt tensorflow/python/tools/optimize_for_inference -- \
--input=$DETECT_PB  --output=$STRIPPED_PB --frozen_graph=True \
--input_names=Preprocessor/sub --output_names=concat,concat_1 \
--alsologtostderr

# Run TOCO conversion.
bazel run tensorflow/contrib/lite/toco:toco -- \
--input_file=$STRIPPED_PB --output_file=$DETECT_FB \
--input_format=TENSORFLOW_GRAPHDEF --output_format=TFLITE \
--input_shapes=1,300,300,3 --input_arrays=Preprocessor/sub \
--output_arrays=concat,concat_1 --inference_type=FLOAT --logtostderr

# Build and install the demo
bazel build -c opt --cxxopt='--std=c++11' //tensorflow/contrib/lite/examples/android:tflite_demo
adb install -r -f bazel-bin/tensorflow/contrib/lite/examples/android/tflite_demo.apk

@andrewharp हैप्पी ईस्टर आप लीजेंड! :) देखता हूँ कि क्या मैं इसे चला सकता हूँ।

नमस्ते, क्या कोई परिमाणित संस्करण है?

मुझे यह ऊपर दिए गए निर्देशों के साथ काम कर रहा है लेकिन इसकी आवश्यकता है:

• मेरे बेज़ल संस्करण के कारण Android SDK 15
• मैं एंड्रॉइड स्टूडियो में प्रोजेक्ट भी नहीं खोल सकता

@andrewharp यह एक नई एंड्रॉइड स्टूडियो चीज है जिसकी ओर आप जा रहे हैं, जो ग्रैडल के बजाय प्रोजेक्ट बनाने के लिए बेज़ल का उपयोग करता है, या इसे काम करने के लिए कम समय सीमा के कारण अभी कुछ प्रोजेक्ट सेटिंग्स को याद कर रहा है?

अगर मैं समझता हूं कि समस्या क्या है तो पीआर की आपूर्ति करने में खुशी होगी।

प्रदर्शन के संबंध में, यह एंड्रॉइड 7 पर मेरे एलजी जी 6 पर धीमा लगता है।
क्या ऐसा इसलिए है क्योंकि एनएन एपीआई केवल एंड्रॉइड 8 पर है?

Android 8 पर कोई इसका परीक्षण करने में सक्षम है?

मैं देखता हूं, मैंने सोचा था कि निर्देश केवल रूपांतरण के लिए थे। मैंने वाक्य के पहले भाग के बाद यह कहते हुए पढ़ना बंद कर दिया कि आप मॉडल को कैसे परिवर्तित करते हैं।

हाँ, मुझे पिक्सेल xl मिला है, मुझे लगता है कि आपके फ़ोन में ऐसा हार्डवेयर नहीं है जो अनुमान को तेज़ कर सके या हार्डवेयर सॉफ़्टवेयर द्वारा समर्थित नहीं है।

मैं कोशिश करूँगा और आपको बता दूंगा। मैं मान रहा था कि मैं इसे एंड्रॉइड स्टूडियो दोह के साथ बना सकता हूं ...

मेरे आईफोन से भेजा गया

31 मार्च 2018 को 20:05 बजे माधव जय नोटिफिकेशन @github.com ने लिखा:

मुझे यह ऊपर दिए गए निर्देशों के साथ काम कर रहा है लेकिन इसकी आवश्यकता है:

मेरे बेज़ल संस्करण के कारण Android SDK 15
मैं एंड्रॉइड स्टूडियो में प्रोजेक्ट भी नहीं खोल सकता
@andrewharp यह एक नई एंड्रॉइड स्टूडियो चीज है जिसकी ओर आप जा रहे हैं, जो ग्रैडल के बजाय प्रोजेक्ट बनाने के लिए बेज़ल का उपयोग करता है, या इसे काम करने के लिए कम समय सीमा के कारण अभी कुछ प्रोजेक्ट सेटिंग्स को याद कर रहा है?

अगर मैं समझता हूं कि समस्या क्या है तो पीआर की आपूर्ति करने में खुशी होगी।

प्रदर्शन के संबंध में, यह एंड्रॉइड 7 पर मेरे एलजी जी 6 पर धीमा लगता है।
क्या ऐसा इसलिए है क्योंकि एनएन एपीआई केवल एंड्रॉइड 8 पर है?

Android 8 पर कोई इसका परीक्षण करने में सक्षम है?

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपने टिप्पणी की थी।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें, या थ्रेड को म्यूट करें।

हां, मैंने वही किया और सीधे कोड और एंड्रॉइड स्टूडियो में गया। फिर आज सुबह आपके पिंग करने के बाद मैं जवाब देने वाला था कि मुझे भी यही समस्या है और फिर RTFM'ed। मैं

मैं जो कह सकता हूं उससे एलजी जी6 एनएन एपीआई का समर्थन करने में सक्षम होना चाहिए क्योंकि इसमें क्वालकॉम 821 एसओसी पिक्सेल 1 के समान है। लेकिन, दुर्भाग्य से एलजी ने एंड्रॉइड 8 या 8.1 जारी नहीं किया है और नवीनतम वंशावली बनाता है थोड़ा स्केची दिखता है इसलिए जब तक मैं यह नहीं जानता कि यह एंड्रॉइड 8.1 पर बेहतर काम करता है, तब तक मैं इसे रोक दूंगा। यदि आप इसे पिक्सेल पर सक्रिय कर सकते हैं तो यह बहुत बढ़िया होगा! मैं

मैं इसका परीक्षण करने में कामयाब रहा हूं लेकिन डेमो वास्तव में धीमा चलता है ... मूल संस्करण से भी धीमा।
मैं पिक्सेल एक्सएल (प्रथम संस्करण) का उपयोग कर रहा हूं और मैंने पहले 64 बिट आर्क के लिए पुराने डेमो को संकलित किया है, जिसने इसे टीएफलाइट के बिना भी लगभग दोगुना तेजी से चलाने के लिए बनाया है ... इस मामले में अनुमान समय लगभग 450ms है। जब मैं इस डेमो की कोशिश करता हूं, तो यह लगभग 850ms पर चलता है और कभी-कभी एक सेकंड से भी अधिक। क्या मैंने कुछ गलत किया है या मैं सिर्फ एक अच्छी गति की उम्मीद करने के लिए अति-आशावादी था? धन्यवाद।

@mpeniak मुझे LG G6 पर समान गति मिली, डिबग ऑन या ऑफ के साथ (सोचा कि यह पहली बार में डिबग था)। मुझे संदेह है कि NNAPI का उपयोग नहीं किया जा रहा है। शायद हमें nnapi_lib बिल्ड के साथ कुछ खास करने की ज़रूरत है?
https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/BUILD

निर्भरता सूचीबद्ध है लेकिन एक विशिष्ट वास्तुकला के लिए निर्माण की आवश्यकता हो सकती है?
शायद ./configure . में कुछ
(बीटीडब्ल्यू मैंने एक्सएलए को अपने ./configure में सक्षम किया था जो संबंधित था लेकिन इससे गति में बदलाव नहीं आया)

@andrewharp
मैं एनएनएपीआई का उपयोग करना चाहता हूं, लेकिन मुझे नहीं पता कि इसका उपयोग कैसे किया जाए।
दस्तावेज़ के अनुसार, तंत्रिका नेटवर्क API Android 8.1> . में उपलब्ध है
यदि यह 8.1 या उच्चतर है, तो क्या यह मूल रूप से लागू होता है? या क्या मुझे अतिरिक्त एनडीके कार्य की आवश्यकता है? दस्तावेज़ लिंक
आपका दिन शुभ हो XD

@andrewharp , मैंने tflite_demo के लिए NNAPI को सक्षम करने और एपीके चलाने की कोशिश की, हालांकि मैंने पाया कि एपीके दुर्घटनाग्रस्त हो गया है
AddOpsAndParams को कॉल करते समय, ऑपरेशन tflite::BuiltinOperator_SQUEEZE समर्थित नहीं है और
nn_op_type -1 पर सेट है, जो FATAL को कॉल करेगा, और बाहर निकलें (-1) का कारण बनेगा। मुझे लगता है कि
मूल कारण। क्या आप कृपया बताएंगे कि क्या यह भविष्य के संस्करण में समर्थित होगा? क्या काम करने का कोई और तरीका है
NNAPI पथ का परीक्षण करने के लिए? धन्यवाद।

@andrehentz
बेज़ल रन-सी ऑप्ट टेंसरफ़्लो/पायथन/टूल्स/ऑप्टिमाइज़_फॉर_इनफरेंस -- \
--input=$DETECT_PB --output=$STRIPPED_PB --frozen_graph=True \
--input_names=प्रीप्रोसेसर/उप --output_names=concat,concat_1 \
--alsologtostderr

input_names image_tensor क्यों नहीं है?
मैंने इस तरह से कोशिश की और मुझे एक त्रुटि का सामना करना पड़ा।

@नानामारे
आपको फ्रोजन_इनफेरेंस_ग्राफ.पीबी के बजाय फ्रोजन_इनफेरेंस_ग्राफ_स्ट्रिप्ड.पीबी का उपयोग करना चाहिए।
"बेज़ल-बिन/टेंसरफ़्लो/टूल्स/ग्राफ़_ट्रांसफ़ॉर्म/समराइज़_ग्राफ़ --in_graph=frozen_inference_graph_stripped.pb" आज़माएँ
और आप निम्न आउटपुट देख सकते हैं:
1 संभावित इनपुट मिले: (नाम = प्रीप्रोसेसर/उप, प्रकार = फ्लोट (1), आकार = कोई नहीं)
कोई चर नहीं देखा गया।
2 संभावित आउटपुट मिले: (नाम = कॉनकैट, ऑप = कॉनकैट वी 2) (नाम = कॉन्कैट_1, ऑप = कॉन्कैट वी 2)

इनपुट नाम प्रीप्रोसेसर/उप पेट है आउटपुट नाम कॉनकैट है।

@नानामारे
नवीनतम टेंसरफ़्लो लाइट कोड में NNAPI को सक्षम करने के लिए एक जावा इंटरफ़ेस शामिल है।

क्लास इंटरप्रेटर में फ़ंक्शन कहा जाता है: setUseNNAPI(true);
आप सीधे ऐसे इंटरफ़ेस को कॉल कर सकते हैं।

@ झांगबो0325
मैं पहले से ही setUserNNAPI(true) को कॉल करने का प्रयास कर रहा हूं, लेकिन कोई प्रभाव नहीं पड़ा।
यह लगभग समान अनुमान था कि NNAPI का उपयोग नहीं किया गया था।
एंड्रॉइड विनिर्देश: 8.1 संस्करण।

@nanamare , क्या आपका ssd-mobilenet चल रहा है? ऐसे नेटवर्क के लिए, एक SQUEEZE ऑपरेशन है जो Android NNAPI द्वारा समर्थित नहीं है। मैंने ऊपर सवाल पूछा। मोबाइलनेट-वी1 के लिए यह ठीक है।

<strong i="5">@andrewharp</strong>  Hi, andrewharp. i just followed your quick steps for converting an SSD MobileNet model to tflite format, and then i tried to  build the demo to use it. But something accurred in apk.
for the tflite from mobilenet_ssd_tflite_v1.zip, everything is ok! i can use mobile to detecter things.
And then i tried to use pet data to fine tune the model from the checkpoint in mobilenet_ssd_tflite_v1.zip. this process is also ok. i check the generated frozen_inference_graph.pb with the object_detection_tutorial.ipynb(https://github.com/tensorflow/models/blob/master/research/object_detection/object_detection_tutorial.ipynb). the result shown this pb can used to object detection. And then i followed the script to convert frozen pb to tflite. Then build demo with tflite, unfortunately something wrong ocurred. Then log is written below. 
It seems the Shape of output target [1, 1917, 4] does not match with the shape of the Tensor [1, 1917, 1, 4]. Because i am new to use object detection api, i donot know how to deal with the problem. 
Hope you can point out some solutions, Thx!

मोबाइल लॉग यहाँ:
04-04 19:46:36.099 28864-28882/org.tensorflow.lite.demo E/AndroidRuntime: घातक अपवाद: अनुमान प्रक्रिया: org.tensorflow.lite.demo, PID: 28864 java.lang.IllegalArgumentException: आउटपुट लक्ष्य का आकार [1, 1917, 4] टेंसर के आकार से मेल नहीं खाता [1, 1917, 1, 4]। org.tensorflow.lite.Tensor.copyTo(Tensor.java:44) पर org.tensorflow.lite.Interpreter.runForMultipleInputsOutputs(Interpreter.java:139) पर org.tensorflow.demo.TFLiteObjectDetectionAPIModel.RecognizeImage(TFLiteObjectDetectionAPIModel. ) org.tensorflow.demo.DetectorActivity$3.run(DetectorActivity.java:248) पर android.os.Handler.handleCallback(Handler.java:761) पर android.os.Handler.dispatchMessage(Handler.java:98)पर android.os.Looper.loop(Looper.java:156) android.os.HandlerThread.run(HandlerThread.java:61) पर

अद्भुत! आईओएस पर यह काम करने की कोशिश कर रहा है। मैं टेंसर आउटपुट को कैसे पार्स करूं?

interpreter->Invoke();
float* output = interpreter->typed_output_tensor<float>(0);

DetectorActivity इंटरफ़ेस मेरे प्रोजेक्ट में अटका हुआ है, क्या आप मौजूद हैं, मैं इसे कैसे हल कर सकता हूँ?

@ zhangbo0325 विवरण के लिए धन्यवाद। चूंकि निचोड़ एनएनएपीआई द्वारा समर्थित नहीं है, क्या इसका मतलब यह है कि एनएनएपीआई का बिल्कुल भी उपयोग नहीं किया जाता है और अनुमान उतना ही धीमा रहेगा जितना कि है? जैसा कि मैंने पहले टिप्पणी में उल्लेख किया था, मुझे पिक्सेल एक्सएल पर वास्तव में खराब प्रदर्शन मिलता है। मैं अनुमान के समय लगभग 80-120ms की अपेक्षा करता हूं। धन्यवाद!

@mpeniak , मैंने वही सवाल एंड्रूवर्प से पूछा। मैंने अभी-अभी ssd-mobilenet को tensorflow-lite cpu कार्यान्वयन की मदद से चलाया और खराब प्रदर्शन भी मिला।

देव शिखर सम्मेलन 2018 में टेंसरफ्लो लाइट वार्ता ने मोबाइलनेट पर 3x प्रदर्शन दिखाया:
https://youtu.be/FAMfy7izB6A?t=530

शायद वह एसएसडी के लिए नहीं है?
संभवतः पहले वजन परिमाणीकरण की आवश्यकता है?

मैंने मोबिलनेट की कोशिश की है और यह बहुत तेज़ है, यह मोबिलनेट-एसएसडी पर लागू नहीं होता है, हालांकि ...

उदास पांडा ️🐼
@andrewharp कोई विचार जब एक प्रदर्शनकारी एसएसडी कार्यान्वयन उपलब्ध होगा? क्या यह वजन परिमाणीकरण का प्रश्न है?

मुझे TensorFlowLite पर ssd-mobilenet के लिए खराब प्रदर्शन भी मिला :(
लेकिन, मेरा एक और सवाल है। परिणाम का स्कोर 1 से अधिक क्यों होता है? क्या यह संभावना नहीं है?

@ a1103304122 जैसा कि मैं समझता हूं, स्कोर सॉफ्टमैक्स से पहले नोड "कॉनकैट" का आउटपुट है, इसलिए, यह संभावना नहीं है।

TOCO रूपांतरण के दौरान एक अलग इनपुट नोड (प्रीप्रोसेसर/उप) का उपयोग किया जाता है, साथ ही विभिन्न आउटपुट नोड्स (concat, concat_1) का भी उपयोग किया जाता है। यह कुछ हिस्सों को छोड़ देता है जो tflite के लिए समस्याग्रस्त हैं, जब तक कि या तो ग्राफ़ को पुनर्गठित नहीं किया जाता है या TF लाइट TF समता तक नहीं पहुंच जाता है।

क्या किसी को पता है कि इस मॉडल में TFlite TFmobile की तुलना में धीमा क्यों है?

@andrewharp क्या TF लाइट SSD के प्रदर्शन पर टिप्पणी करना संभव है? क्या परिमाणीकरण भी संभव/आ रहा है? मुझे पता है कि आप लोग यह सब करने के लिए कड़ी मेहनत कर रहे हैं, लेकिन यह जानना अच्छा होगा कि क्या यह सिर्फ एक अल्पकालिक हिचकी है या कोई समाधान है जिसे हम लागू कर सकते हैं। मैं

@andrewharp आपकी शानदार पोस्टिंग के लिए धन्यवाद। हालाँकि, मेरे पास आपके कदमों के लिए एक प्रश्न है।

TOCO को ग्राफ़डेफ़ देखने देने से पहले समस्याग्रस्त नोड्स को हटा दें

बेज़ल रन-सी ऑप्ट टेंसरफ़्लो/पायथन/टूल्स/ऑप्टिमाइज़_फॉर_इनफरेंस -- \
--input=$DETECT_PB --output=$STRIPPED_PB --frozen_graph=True \
--input_names=प्रीप्रोसेसर/उप --output_names=concat,concat_1 \
--alsologtostderr

अगर मैं गलत नहीं समझता, तो आप यहाँ STRIPPED_PB बनाना चाहते हैं, है ना? यदि ऐसा है, तो वर्तमान में, हमारी इनपुट फ़ाइल का इनपुट image_tensor होना चाहिए। इसलिए, मुझे समझ में नहीं आता कि हम प्रीप्रोसेसर/उप का उपयोग क्यों करते हैं। क्या आप अधिक विस्तार से बता सकते हैं?

दूसरे, यहां हम ऑप्टिमाइज़_फॉर_इनफेरेंस का उपयोग करते हैं, क्या हम ट्रांसफॉर्म_ग्राफ टूल का उपयोग कर सकते हैं? क्योंकि नया टेंसरफ़्लो दस्तावेज़ ऑप्टिमाइज़_फ़ोर_इनफ़रेंस के बजाय ट्रांसफ़ॉर्म_ग्राफ़ की सलाह देते हैं।

@mpeniak आप इसे कैसे करते हैं? कृपया कुछ विवरण बताएं।

org.tensorflow.lite.demo E/AndroidRuntime: घातक अपवाद: अनुमान प्रक्रिया: org.tensorflow.lite.demo, PID: 28864 java.lang.IllegalArgumentException: आउटपुट लक्ष्य का आकार [1, 1917, 4] से मेल नहीं खाता टेंसर का आकार [1, 1917, 1, 4]।

@Haijunlv क्या आपने समस्या हल की है? क्या आप समाधान साझा कर सकते हैं?

टीएफ लाइट नया एंड्रॉइड डेमो आयात करने पर मुझे ओएस एक्स पर Error:Plugin with id 'com.android.application' not found. मिल रहा है।

@csmith105 जैसी ही समस्या! मैं bazel के साथ डेमो बनाने और स्थापित करने में कामयाब रहा लेकिन मैं एंड्रॉइड स्टूडियो पर प्रोजेक्ट को संकलित या चला नहीं सकता ... इस समस्या का कोई समाधान?

@ एडी-झेंग यदि आपने फ्रोजन ग्राफ में नोड "कॉनकैट" देखा है, तो आप पाएंगे कि कॉनकैट ऑप के बाद निचोड़ सेशन एक्साइटेड है। मुझे लगता है कि यही कारण है कि आकार असंगत है। मैंने निचोड़ सेशन की गति का परीक्षण नहीं किया। लेकिन मुझे लगता है कि समस्या को हल करने के दो तरीके हैं।

1. निचोड़ और संक्षिप्त सेशन का क्रम बदलें। Ssd_meta_arch.py ​​में, थोड़ा बदलें " box_encodings = tf.squeeze(tf.concat(prediction_dict['box_encodings'],axis=1),axis=2)"
2. आकृति 1 को अक्ष 2 पर सीधे मारें। box_predictor.py में, थोड़ा सा बदलें " box_encodings =tf.reshape(
   box_encodings, tf.stack([combined_feature_map_shape[0],
   संयुक्त_फीचर_मैप_आकार[1] *
   संयुक्त_फीचर_मैप_आकार[2] *
   num_predictions_per_location,
   1, स्व._बॉक्स_कोड_साइज़]))"

असल में मुझे समझ में नहीं आता कि अतिरिक्त "1" आकार के साथ टेंसर को दोबारा क्यों बदलें। हो सकता है कि यह एक बेमानी है
सेशन।
मैंने मोबाइल में मॉडल चलाने के लिए रास्ता 1 और सफलता की कोशिश की है। लेकिन फिर भी थोड़ा धीमा। बाद में मैं यह देखने के लिए रास्ता 2 का प्रयास करूंगा कि क्या इसे बेहतर गति मिल सकती है

@Haijunlv डिटेक्शन कितने अच्छे हैं? @andrewharp के डेमो से लाइट मॉडल ग्राफ से सभी प्रीप्रोसेस और पोस्टप्रोसेस नोड्स (उनमें से हजारों) को आसानी से हटा देता है और उन्हें कोड की कई पंक्तियों के साथ बदल देता है। मुझे यकीन नहीं है कि यह कैसे काम करेगा ..

मुझे लगता है कि एंड्रॉइड स्टूडियो और ग्रेडल मुद्दे का समाधान है। (अगर मैं गलत हूं या कोई बेहतर समाधान है तो कृपया मुझे सुधारें):

• यह सबसे अच्छा तरीका नहीं है, लेकिन एक Bazel प्लगइन है जिसे हम एंड्रॉइड स्टूडियो के अंदर ग्रैडल को "प्रतिस्थापित" करने के लिए स्थापित कर सकते हैं और हम AS के माध्यम से Bazel का उपयोग करके अपना प्रोजेक्ट बना और चला सकते हैं।

• मैंने बाज़ेल के बारे में कई लेख पढ़े और मैं Quora में इस प्रश्न पर आया .. और उत्तर के अनुसार टेंसरफ़्लो बाज़ेल का उपयोग करना जारी रखेगा क्योंकि यह ढांचे का बेहतर शोषण करता है और बेहतर परिणाम देता है .. इसलिए मुझे लगता है कि इस विशेष मामले में डेवलपर्स के रूप में हमें अनुकूलित करना चाहिए इसके लिए और ग्रैडल को तब तक पीछे छोड़ दें जब तक कि टेंसरफ़्लो इसका पूरी तरह से समर्थन न कर दे।

@davidfant
क्या आपने TensorFlow Lite C++ में एकाधिक आउटपुट प्राप्त करने का प्रबंधन किया है?

interpreter->Invoke();
???? output = interpreter->typed_output_tensor<?????>(0);

मैं प्रगति कर रहा हूं, लेकिन फिर भी मुझे नहीं पता कि सी ++ में आउटपुट कैसे प्राप्त करें। क्या इसके बारे में कोई दस्तावेज है? इस समय मेरे पास यही है। स्कोर प्राप्त करने के लिए मुझे डेटा सरणी तक कैसे पहुंचना है?

(fill inputs)
.......
intepreter->Invoke();
const std::vector<int>& results = interpreter->outputs();
TfLiteTensor* outputLocations = interpreter->tensor(results[0]);
TfLiteTensor* outputClasses   = interpreter->tensor(results[1]);
float *data = tflite::GetTensorData<float>(outputClasses);
for(int i=0;i<NUM_RESULTS;i++)
{
   for(int j=1;j<NUM_CLASSES;j++)
   {
      float score = expit(data[i*NUM_CLASSES+j]); // ¿?
    }
}

@JaviBonilla मैंने ऐसा ही किया और पाया कि यह काम नहीं करता है। एंड्रॉइड डेमो ऐप से कटऑफ का उपयोग करके, यह बहुत अधिक शोर उत्पन्न करता है। यदि आप ग्राफ को पढ़ने के लिए टेंसरबोर्ड का उपयोग करते हैं, तो आप पाएंगे कि लाइट मॉडल हजारों पोस्टप्रोसेस नोड्स को काट देता है। मुझे नहीं लगता कि मौजूदा तरीका काम करेगा। मुझे उम्मीद है कि टेंसरफ़्लो लाइट भविष्य में उन पोस्टप्रोसेस नोड्स का समर्थन करेगी, बजाय इसके कि लोगों को इस तरह के काम न करने वाले हैक करने के लिए कहें।

धन्यवाद @YijinLiu। मैंने आपका रिपॉजिटरी tf-cpu देखा, मैं आपके कोड पर एक नज़र डालूंगा कि मेरा कार्यान्वयन सही है, और परिणाम देखें, भले ही वे अच्छे न हों।

@JaviBonilla कृपया हमें बताएं कि आपने C ++ के साथ कैसे चलना है, यह पता लगा लिया है! मैं

हाय @davidfant ,

मुझे अभी भी इसका परीक्षण करना है, लेकिन @YijinLiu ने इसे पहले ही समझ लिया है!

उसके भंडार पर एक नज़र डालें (https://github.com/YijinLiu/tf-cpu)। विशेष रूप से, आप tf-cpu/benchmark/obj_detect_lite.cc फ़ाइल, AnnotateMat() फ़ंक्शन में आउटपुट प्राप्त करने का तरीका ढूंढ सकते हैं, जिसे Interpreter->Invoke() के बाद निष्पादित किया जाता है।

@JaviBonilla मैंने obj_detect_lite.cc को पूरा नहीं किया, विशेष रूप से, डिटेक्शन बॉक्स को डिकोड करने के लिए पुजारियों का उपयोग करने के लिए।
मैंने जो पाया वह यह है कि सभी परिदृश्यों में स्कोर का कोई मतलब नहीं है। कुछ मामलों में, यह बहुत अधिक शोर उत्पन्न करता है। अन्य मामलों के लिए, यह कुछ अच्छी पहचान खो सकता है। मैंने इन इंटरमीडिएट स्कोर को अंतिम संभावना स्कोर में बदलने के लिए उन नोड्स को देखा। हजारों गांठें हैं...

@YijinLiu इसे स्पष्ट करने के लिए धन्यवाद। फिर, मुझे लगता है कि ऑब्जेक्ट डिटेक्शन के लिए TensorFlow Lite में और सुधार शामिल किए जाने तक प्रतीक्षा करना बेहतर है। वैसे भी, अगर मेरे पास समय है तो मैं सी ++ में डिटेक्शन बॉक्स को डीकोड करने का प्रयास करूंगा।

हाय @andrewharp ,

नया एंड्रॉइड डेमो प्रोजेक्ट बनाने के लिए आपके प्रयास के लिए धन्यवाद, लेकिन क्या आप कृपया tensorflow/contrib/lite/examples/android में एक readme.md या कुछ विवरण दस्तावेज़ लिख सकते हैं ताकि हम सभी आसानी से टेंसरफ़्लो लाइट बनाने की प्रक्रिया को समझ सकें? धन्यवाद ~!

हैलो, मैंने ssd_mobilenet_v1_coco_2017_11_17 डेमो सफलतापूर्वक चलाया है, तो मुझे एक ठीक-ठीक मॉडल मिलता है। जब मैं उस पर @andrehentz की प्रक्रिया चलाता हूं, तो समस्या उत्पन्न होती है:
bazel run tensorflow/contrib/lite/toco:toco -- --input_file=$STRIPPED_PB --output_file=$DETECT_FB --input_format=TENSORFLOW_GRAPHDEF --output_format=TFLITE --input_shapes=1,300,300,3 --input_arrays=Preprocessor/sub --output_arrays=concat,concat_1 --inference_type=FLOAT --logtostderr

अप्रयुक्त ऑप्स को हटाने से पहले: 586 ऑपरेटर, 871 सरणियाँ (0 मात्राबद्ध)
2018-06-12 15:29:54.273221: मैं tensorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] सामान्य ग्राफ परिवर्तन से पहले: 586 ऑपरेटरों, 871 सरणियों (0 मात्राबद्ध)
2018-06-12 15:29:54.300213: मैं tensorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] सामान्य ग्राफ परिवर्तन के बाद 1: 409 ऑपरेटरों, 688 सरणियों (0 मात्राबद्ध)
2018-06-12 15:29:54.309735: मैं tensorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] dequantization ग्राफ परिवर्तन से पहले: 409 ऑपरेटरों, 688 सरणियों (0 मात्राबद्ध)
2018-06-12 15:29:54.317395: मैं tensorflow/contrib/lite/toco/allocate_transient_arrays.cc:329] कुल क्षणिक सरणी आवंटित आकार: 2880256 बाइट्स, सैद्धांतिक इष्टतम मूल्य: 2880128 बाइट्स।
2018-06-12 15:29:54.319173: F tensorflow/contrib/lite/toco/tflite/export.cc:330] मॉडल के कुछ ऑपरेटर मानक TensorFlow Lite रनटाइम द्वारा समर्थित नहीं हैं। यदि आपके पास उनके लिए एक कस्टम कार्यान्वयन है तो आप इस त्रुटि को --allow_custom_ops के साथ अक्षम कर सकते हैं, या tf.contrib.lite.toco_convert() को कॉल करते समय allow_custom_ops=True सेट करके अक्षम कर सकते हैं। यहां उन ऑपरेटरों की सूची दी गई है जिनके लिए आपको कस्टम कार्यान्वयन की आवश्यकता होगी: RSQRT, SquaredDifference, Stack, TensorFlowShape।

ये रहा मेरा मॉडल https://drive.google.com/open?id=1IxRSU4VSmVmhUtUpSQew_5anEfxTg3Ca

क्या कोई मेरी मदद कर सकता है?
@andrehentz

@JaviBonilla और @YijinLiu मेरे पास एक पायथन कार्यान्वयन है जिसे मैंने Google के पूर्वनिर्धारित SSD MobileNet V{1,2} और SSDLIte MobileNet V2 मॉडल के साथ परीक्षण किया। यहां सरल दस्तावेज देखें।

@freedomtan आप tf के किस संस्करण का उपयोग करते हैं? टीएफ 1.8?

tflite दुभाषिया पायथन बाइंडिंग (29c129c6) के बाद @hengshanji मास्टर शाखा। मुझे नहीं लगता कि 1.8 में बाध्यकारी है।

@freedomtan tf1.8 में दुभाषिया पायथन बाध्यकारी है, लेकिन मुझे इस तरह की समस्या "nnapi त्रुटि: लाइब्रेरी libneuralnetworks.so खोलने में असमर्थ" मिलती है। यह कहाँ से प्राप्त करें .so या इसे कैसे उत्पन्न करें? धन्यवाद।

इसे अनदेखा करें :) यह Android NNAPI के लिए है।

@freedomtan क्या आपने डिवाइस या पीसी पर उदाहरण का परीक्षण किया? जब मैं इसे पीसी पर परीक्षण करता हूं, तो android-28/x86 libneuralnetworks.so का उपयोग करें, यह त्रुटि दिखाता है "tflite के विफल होने के बाद से निरस्त करना"।

जैसा कि मैंने कहा, कृपया उस एनएनएपीआई समस्या को अनदेखा करें। आपसे libneuralnetwork.so काम करने की उम्मीद नहीं है। मैंने अपनी स्क्रिप्ट का परीक्षण एक x86 उबंटू और एक एआरएमवी 8 बोर्ड डेबियन चलाने वाले दोनों पर किया।

@freedomtan , कोड और दस्तावेज़ीकरण साझा करने के लिए धन्यवाद।

भंडार के आधार पर (https://github.com/YijinLiu/tf-cpu)। मैंने आउटपुट प्राप्त करने के लिए tf-cpu/benchmark/obj_detect_lite.cc को अपडेट किया है। फ़ंक्शन में AnnotateMat() output_locations को संभालने के लिए decodeCenterSizeBoxes कोड जोड़ें, फिर इन परिणामों के लिए nms करें।
उसी समय, libtensorflow-lite.a उत्पन्न करने के लिए https://github.com/tensorflow/tensorflow/issues/14688 का उपयोग करते हुए, यह x86 चलाने वाले Ubuntu और ssdlite_mobilenet_v2_coco_2018_05_09 में tflite मॉडल के साथ एक एंड्रॉइड डिवाइस दोनों पर चल सकता है। tar.gz
सबको शुक्रीया।

@WeiboXu क्या आप यहां कोड और मॉडल साझा कर सकते हैं?

यहाँ obj_detect_lite.cc के लिए अद्यतन कोड है
obj_detect_lite.cc.zip

मॉडल है http://download.tensorflow.org/models/object_detection/ssdlite_mobilenet_v2_coco_2018_05_09.tar.gz

@freedomtan आपके पायथन कार्यान्वयन कोड में, एक फ़ाइल "/tmp/box_priors.txt" है, क्या आप जानते हैं कि यह फ़ाइल कैसे बनाई जाती है? या इस फ़ाइल में डेटा की गणना कैसे की गई? आकार 300X300 के साथ छवि के लिए अनुमान लगाने में कोई समस्या नहीं है, लेकिन, 224X224 आकार वाली छवि के लिए अनुमान लगाने पर अनुमान सटीकता कम हो जाएगी

@freedomtan , @andrewharp , इस निर्देशों का पालन करके पिछला मॉडल नवीनतम TFLite डेमो में काम नहीं कर सकता है, चाहे वह मात्राबद्ध हो या फ्लोट, क्योंकि नवीनतम TFLite डेमो में tflite मॉडल को 4 आउटपुट की आवश्यकता होती है, लेकिन पिछला मॉडल में केवल 2 आउटपुट होते हैं ( कॉनकैट, कॉनकैट 1)।

कृपया मदद करें, धन्यवाद!

फिलहाल इन निर्देशों को अपडेट किया जा रहा है। अगले सप्ताह अद्यतन निर्देशों के लिए लिंक प्रदान करेंगे।

@frontword /tmp/box_priors.txt में पोस्ट प्रोसेसिंग के लिए बॉक्स क्या हैं। यदि आप @WenguoLi द्वारा उल्लिखित नए का उपयोग करते हैं, तो आपको इसकी आवश्यकता नहीं है। हालाँकि, जहाँ तक मैं बता सकता हूँ, उन पोस्ट-प्रोसेसिंग ऑप्स को TF लाइट कस्टम ऑप्स के रूप में लागू किया गया है। इसका मतलब है कि आप बिना किसी और प्रयास के एनएनएपीआई त्वरक के साथ उन्हें तेज नहीं कर सकते।

छवि आकार की समस्याओं के लिए, हाँ, मुझे लगता है कि SSD300 को 224x224 छवियों को खिलाना (Google द्वारा जारी किए गए मॉडल को 300x300 छवियों के साथ प्रशिक्षित किया गया था) और खराब सटीकता प्राप्त करना अप्रत्याशित नहीं है।

@WenguoLi यह मुझे लगता है कि आपके द्वारा उल्लिखित अद्यतन मॉडल को संभालना काफी आसान है। मेरी अद्यतन स्क्रिप्ट देखें। निम्नलिखित आंकड़ा द्वारा उत्पन्न किया गया है

python  tensorflow/contrib/lite/examples/python/object_detection.py --image /tmp/image2.jpg  --show_image True

1 से अधिक अनुमान परिणाम के स्कोर को ठीक करने के लिए जावा विधि TrackedObject.getCurrentCorrelation() का उपयोग करना संभव है क्योंकि यह हमेशा 1 से कम कुछ लौटाता है (सुनिश्चित नहीं है कि यह सही है या नहीं)। TFLite Android उदाहरण Recognition.getConfidence() का उपयोग करता है जो हमेशा 1 . से अधिक कुछ लौटाता प्रतीत होता है

@mpeniak आपने Movidius पर ssd mobilenet tflite मॉडल चलाया। मैं भी कुछ ऐसा ही करने की योजना बना रहा हूं। क्या आप कृपया थोड़ा मार्गदर्शन कर सकते हैं कि आपने यह कैसे किया?

@achowdhery नमस्ते, मैंने यहां नवीनतम एंड्रॉइड डेमो के लिए बिल्डिंग निर्देशों के कुछ अपडेट देखे (https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/lite/examples/android/app), लेकिन यह यह इंगित नहीं किया कि हम वास्तव में जमे हुए pb मॉडल को tflite मॉडल में कैसे परिवर्तित कर सकते हैं (मात्रा का पता लगाने। tflite जो नवीनतम डेमो में उपयोग किया गया था)। परिमाणित मॉडल रूपांतरण प्रवाह पर कोई और निर्देश? साथ ही, मुझे लगता है कि हमें पहले यहां निर्देश के अनुसार नकली परिमाणीकरण संचालन के साथ मात्रात्मक प्रशिक्षण चलाना चाहिए (https://www.tensorflow.org/performance/quantization) और फिर मॉडल रूपांतरण करें, सही है? साथ ही, क्या नवीनतम एंड्रॉइड डेमो में एनएनएपीआई को सक्षम करना संभव है? मैंने TFLiteObjectDetectionAPIModel.java में tfLite.setUseNNAPI(true) का उपयोग करने की कोशिश की, लेकिन यह मेरे Pixel 2 पर Android 8.1 चला रहा था (यह NNAPI के बिना अच्छी तरह से काम कर सकता है)। कोई सुझाव? धन्यवाद!

@tenoyart संक्षिप्त उत्तर "क्या नवीनतम एंड्रॉइड डेमो में एनएनएपीआई को सक्षम करना संभव है?" नहीं होना चाहिए। इतना संक्षिप्त उत्तर यह नहीं है कि यदि आप टीएफ लाइट दुभाषिया को संशोधित करते हैं तो मॉडल को विभाजित करने या एनएनएपीआई में संबंधित कस्टम ऑप्स जोड़ने जैसा कुछ करना संभव है।

@achowdhery मैंने आपके द्वारा एक TensorFlow ब्लॉग आलेख देखा। क्या यह आपके द्वारा बताए गए निर्देश हैं या अधिक आ रहे हैं?

हां। यह एंड्रॉइड पर ऑब्जेक्ट डिटेक्शन मॉडल के प्रशिक्षण और सेवा के लिए निर्देश हैं।

@freedomtan स्क्रिप्ट साझा करने के लिए धन्यवाद।
पोस्टप्रोसेसिंग के साथ अपनी नवीनतम स्क्रिप्ट में आप किस मॉडल फ़ाइल का उपयोग कर रहे हैं?
क्या आपने Optimize_for_inference.py का तर्क निर्दिष्ट किया था
--input_names="प्रीप्रोसेसर/उप"
--output_names="detection_boxes,detection_scores,num_detections,detection_classes"

क्या आप पोस्टप्रोसेसिंग के साथ/बिना कोई अंतर देखते हैं?

धन्यवाद!

क्या स्क्वीज़नेट मॉडल को 4 आउटपुट के साथ tflite में बदलने का कोई तरीका है?

@chanchanzhang कृपया ट्यूटोरियल के अंत में https://medium.com/tensorflow/training-and-serving-a-realtime-mobile-object-detector-in-30-minutes-with-cloud-tpus में नए निर्देशों का पालन करें
ध्यान दें कि यह Optimize_for_inference.py . के उपयोग से भिन्न वर्कफ़्लो का उपयोग करता है

@ashwaniag यदि आप पता लगाने के लिए SSD रखते हुए Mobilenet को स्क्वीज़नेट क्लासिफायर से बदलना चाहते हैं, तो यह वर्तमान वर्कफ़्लो के लिए ठीक है।

@achowdhery ssd mobilenet v1 पर TF लाइट मॉडल देखकर बहुत अच्छा लगा। क्या TF लाइट ssdlite mobilenet v2 को पूरी तरह से सपोर्ट करता है?

@tenoyart हाँ। कोई भी Mobilenet SSD इस पाइपलाइन के जरिए काम करेगी। हमने ओपन सोर्स में संबंधित tflite फाइलें जारी नहीं की हैं। यदि आपको कोई समस्या आती है, तो कृपया एक बग दर्ज करें।

@chanchanzhang के रूप में @achowdhery ने कहा, कृपया optimized_for_inference.py के बजाय optimized_for_inference.py object_detection/export_tflite_ssd_graph.py का उपयोग करें। और मेरे द्वारा उपयोग की जाने वाली tflite मॉडल फ़ाइल Android उदाहरण द्वारा उपयोग की जाने वाली फ़ाइल से है। आप इसे यहां प्राप्त कर सकते हैं।

@achowdhery मुझे लगता है कि ssd_mobilenet_v1_quantized_coco और ssd_mobilenet_v1_0.75_depth_quantized_coco की चौकियों में FakeQuant नोड्स और टेंसर नहीं हैं। क्या आप उनकी जांच कर सकते हैं?

@freedomtan मैं object_detection/export_tflite_ssd_graph.py का उपयोग करने के बाद निर्यात किए गए ग्राफ में weight_quant और act_quant नोड्स देखता हूं।
कृपया एक स्क्रीनशॉट या सटीक निर्देश दें कि आपने कैसे सत्यापित किया कि इसमें कोई फेकक्वांट नोड नहीं है।
मैं चौकियों को सफलतापूर्वक बदलने में भी सक्षम हूं

@achowdhery जाँच के लिए धन्यवाद। जब मैंने उन दोनों पर export_tflite_ssd_graph.py चलाया, तो मुझे tflite मॉडल नहीं मिले, इसलिए मैंने चौकियों का निरीक्षण किया। मैंने जो किया वह कुछ ऐसा है

curl http://download.tensorflow.org/models/object_detection/ssd_mobilenet_v1_quantized_300x300_coco14_sync_2018_07_03.tar.gz | tar xzvf -
cd ssd_mobilenet_v1_quantized_300x300_coco14_sync_2018_07_03
strings model.ckpt.index  |grep quant

कुछ दिखाई नहीं देता।

@andrewharp आपके कटोसम अनुमान वर्ग TFLiteObjectDetectionAPIModel.java के लिए बहुत बहुत धन्यवाद, मैंने इसे आपके ssd mobilenet v1 tflite mobilenet_ssd_tflite_v1.zip के साथ आज़माया है, लेकिन जब ऐप शुरू होता है तो फ़ंक्शन में समस्या होती है पहचान छवि (अंतिम बिटमैप बिटमैप) जब मैं कॉल करता हूं tfLite.runForMultipleInputsOutputs (इनपुटअरे, आउटपुट मैप); यह इस अपवाद को फेंकता है

07-18 10:37:02.416 19957-19996/com.app.cerist.realtimeobjectdetectionapi E/AndroidRuntime: FATAL EXCEPTION: Camera
    Process: com.app.cerist.realtimeobjectdetectionapi, PID: 19957
    java.lang.IllegalArgumentException: Output error: Outputs do not match with model outputs.
        at org.tensorflow.lite.Interpreter.runForMultipleInputsOutputs(Interpreter.java:170)
        at com.app.cerist.realtimeobjectdetectionapi.ImageClassifierTFLiteAPI.recognizeImage(ImageClassifierTFLiteAPI.java:207)
        at com.app.cerist.realtimeobjectdetectionapi.MainActivity.classifyFrame(MainActivity.java:421)
        at com.app.cerist.realtimeobjectdetectionapi.MainActivity.access$1000(MainActivity.java:48)
        at com.app.cerist.realtimeobjectdetectionapi.MainActivity$4.run(MainActivity.java:455)
        at android.os.Handler.handleCallback(Handler.java:739)
        at android.os.Handler.dispatchMessage(Handler.java:95)
        at android.os.Looper.loop(Looper.java:159)
        at android.os.HandlerThread.run(HandlerThread.java:61)
07-18 10:37:02.436 19957-19996/com.app.cerist.realtimeobjectdetectionapi V/Process: killProcess [19957] Callers=com.android.internal.os.RuntimeInit$UncaughtHandler.uncaughtException:99 java.lang.ThreadGroup.uncaughtException:693 java.lang.ThreadGroup.uncaughtException:690 <bottom of call stack> 
07-18 10:37:02.436 19957-19996/com.app.cerist.realtimeobjectdetectionapi I/Process: Sending signal. PID: 19957 SIG: 9

त्रुटि ने कहा कि आउटपुट सरणी की लंबाई इनपुट सरणी की लंबाई से बड़ी है
Interpreter.java में यह स्थिति है

public void runForMultipleInputsOutputs(Object[] inputs, <strong i="7">@NonNull</strong> Map<Integer, Object> outputs) {
        if (this.wrapper == null) {
            throw new IllegalStateException("Internal error: The Interpreter has already been closed.");
        } else {
            Tensor[] tensors = this.wrapper.run(inputs);
            if (outputs != null && tensors != null && outputs.size() <= tensors.length) {
                int size = tensors.length;
                Iterator var5 = outputs.keySet().iterator();
            }
       }
}

और यह मेरा इनपुट और आउटपुट सरणियाँ है:

d.imgData = ByteBuffer.allocateDirect(1 * d.inputSize * d.inputSize * 3 * numBytesPerChannel);
d.imgData.order(ByteOrder.nativeOrder());
d.intValues = new int[d.inputSize * d.inputSize];

 imgData.rewind();
        for (int i = 0; i < inputSize; ++i) {
            for (int j = 0; j < inputSize; ++j) {
                int pixelValue = intValues[i * inputSize + j];
                if (isModelQuantized) {
                    // Quantized model
                    imgData.put((byte) ((pixelValue >> 16) & 0xFF));
                    imgData.put((byte) ((pixelValue >> 8) & 0xFF));
                    imgData.put((byte) (pixelValue & 0xFF));
                } else { // Float model
                    imgData.putFloat((((pixelValue >> 16) & 0xFF) - IMAGE_MEAN) / IMAGE_STD);
                    imgData.putFloat((((pixelValue >> 8) & 0xFF) - IMAGE_MEAN) / IMAGE_STD);
                    imgData.putFloat(((pixelValue & 0xFF) - IMAGE_MEAN) / IMAGE_STD);

आउटपुट सरणी:

// Copy the input data into TensorFlow.
        Trace.beginSection("feed");
        outputLocations = new float[1][NUM_DETECTIONS][4];
        outputClasses = new float[1][NUM_DETECTIONS];
        outputScores = new float[1][NUM_DETECTIONS];
        numDetections = new float[1];

        Object[] inputArray = {imgData};
        Map<Integer, Object> outputMap = new HashMap<>();
        outputMap.put(0, outputLocations);
        outputMap.put(1, outputScores);
        outputMap.put(2, numDetections);
        outputMap.put(3, outputClasses);
        Trace.endSection();

और अनुमान:

// Run the inference call.
        Trace.beginSection("run");
        Log.d("TAG_INPUT",""+String.valueOf(inputArray.length));
        Log.d("TAG_OUTPUT",""+String.valueOf(outputMap.size()));

        tfLite.runForMultipleInputsOutputs(inputArray, outputMap);
        Trace.endSection();

मुझे इस त्रुटि का अर्थ समझ में नहीं आया क्योंकि मैंने आपके TFLiteObjectDetectionAPIModel.java वर्ग के समान ही किया था।
मदद के लिए शुक्रिया

@achowdhery नमस्ते, आपके ब्लॉग का अनुसरण करते हुए मैंने मॉडल को ssd_mobilenet_v1_coco_2017_11_17. हालाँकि जब मैंने tflite_demo.apk में रूपांतरित mobilenet_ssd.tflite का उपयोग किया, तो मुझे निम्न त्रुटि मिली:

    java.lang.IllegalArgumentException: Cannot copy between a TensorFlowLite tensor with shape [1, 1917, 4] and a Java object with shape [1, 10, 4].

कोई विचार मुझे यह क्यों मिला? धन्यवाद।

यह एक आकार बेमेल है क्योंकि अपेक्षित आउटपुट टेंसर 1,10,4 आकार में 1,1917,4 नहीं है। पुराने मॉडल फ़ाइल के लिए, आपको मई के डेमो ऐप संस्करण पर वापस जाना होगा। अन्यथा कृपया रूपांतरण के लिए नवीनतम जारी किए गए मॉडलों का उपयोग करें।

@achowdhery मैंने अपने मॉडल को tflite में बदल दिया और जब मैं इसे चलाता हूं। दुभाषिया-> आह्वान () कॉल एक seg गलती फेंकता है। कोई विचार क्या गलत हो सकता है?

@ashwaniag डाउनलोड किए गए मॉडल https://medium.com/tensorflow/training-and-serving-a-realtime-mobile-object-detector-in-30-minutes-with-cloud-tpus-b78971cf1193 पर करें
आपके लिए संकलन?
यदि हाँ, तो कृपया नए निर्देश प्रदान करें जिनका आप अभी उपयोग कर रहे हैं जब आपको seg दोष मिलता है?
इनपुट प्रकार/आकार आदि में एक बेमेल हो सकता है।

@achowdhery यह काम किया। मैं गलत input_arrays दे रहा था। फिर भी धन्यवाद!

यदि आपने ट्यूटोरियल का अनुसरण किया है, तो अद्यतन ssd_mobilenet_v1_quantized_coco और ssd_mobilenet_v1_0.75_depth_quantized_coco कार्य। धन्यवाद @achowdhery।

मैं उदाहरण डेमो ऐप में TFLiteObjectDetectionAPIModel.java देख रहा था। क्या कोई कारण है कि outputLocations , outputClasses , outputScores और numDetections यहां प्रत्येक recognizeImage कॉल पर आवंटित किए जाते हैं ? ऐसा लगता है कि उन्हें प्रचारित किया जाना है।
मैंने प्रीलोकेशन के साथ कोड चलाने की कोशिश की है और ऐसा लगता है कि यह ठीक काम करता है, लेकिन मैं सिर्फ यह सुनिश्चित करना चाहता था कि कवर के तहत कुछ भी नहीं चल रहा है जो बाद में समस्याएं पेश करेगा।

Preallocating शायद अधिक कुशल है। आप कहाँ प्रचार कर रहे हैं कि आप समस्याओं का पूर्वाभास कर सकते हैं?

उत्तर @achowdhery के लिए धन्यवाद। मैं स्थिर create विधि में प्रीलोकेशन छोड़ रहा हूं। मेरी एकमात्र चिंता यह थी कि कोड प्रीलोकेशन का उपयोग करने के लिए लिखा गया प्रतीत होता है (स्थैतिक विधि सरणी को पूर्ववत करती है), लेकिन किसी कारण से प्रत्येक कॉल पर सरणी पुन: आवंटित की जाती हैं।

नमस्ते @achowdhery , मैंने नए Android tflite ऐप डेमो का परीक्षण किया। यह ssd_mobilenet_v1_coco, ssd_mobilenet_v1_0.75_depth_coco, ssd_mobilenet_v1_quantized_coco के लिए पूरी तरह से काम करता है।
लेकिन मुझे अन्य ssd-mobilenet मॉडल के लिए यह अपवाद मिला:

07-25 07:41:25.292 31515-31532/org.tensorflow.lite.demo E/AndroidRuntime: FATAL EXCEPTION: inference
    Process: org.tensorflow.lite.demo, PID: 31515
    java.lang.ArrayIndexOutOfBoundsException: length=160; index=-2147483648
        at java.util.Vector.elementData(Vector.java:734)
        at java.util.Vector.get(Vector.java:750)
        at org.tensorflow.demo.TFLiteObjectDetectionAPIModel.recognizeImage(TFLiteObjectDetectionAPIModel.java:218)
        at org.tensorflow.demo.DetectorActivity$3.run(DetectorActivity.java:249)
        at android.os.Handler.handleCallback(Handler.java:790)
        at android.os.Handler.dispatchMessage(Handler.java:99)
        at android.os.Looper.loop(Looper.java:164)
        at android.os.HandlerThread.run(HandlerThread.java:65)

tflite मॉडल ने गलत क्लास इंडेक्स तैयार किया। कुछ सेकंड के लिए अच्छी तरह से पता लगाने के बाद अपवाद ऐप क्रैश हो जाता है।
ssd_mobilenet_v1_ppn_coco गलत मेसी बाउंडिंग बॉक्स, लेबल भी बनाता है।

PPN एक फ्लोट मॉडल है: क्या आप फ्लोट रूपांतरण कमांड का उपयोग करके TFLITE मॉडल को परिवर्तित कर रहे हैं।
https://github.com/tensorflow/models/blob/master/research/object_detection/g3doc/running_on_mobile_tensorflowlite.md
फिर आपको DetectorActivity.java में निम्नलिखित को भी बदलना होगा:
निजी स्थिर अंतिम बूलियन TF_OD_API_IS_QUANTIZED = true;

मुझे पता था कि config. दरअसल जब वह कॉन्फिगरेशन गलत होता है, तो ऐप बिल्कुल नहीं चल सकता।
क्या आप ArrayIndexOutOfBoundsException देख सकते हैं? मैंने आपके ट्यूटोरियल के डॉकर को भी आजमाया, लेकिन यह वही है।

ठीक। कृपया सटीक रेप्रो निर्देशों के साथ एक नया गिटहब मुद्दा दर्ज करें। पीपीएन मॉडल जावा ऐप के लिए एक नया फीचर अनुरोध है - जब हम इसे प्राथमिकता दे सकते हैं तो हम जवाब देंगे

धन्यवाद। ArrayIndexOutOfBoundsException ssd_mobilenet_v1_0.75_depth_quantized_coco, ssdlite_mobilenet_v2_coco के साथ भी होता है। पीपीएन से अंतर यह है कि उस अपवाद से ऐप क्रैश होने से पहले सही परिणाम देता है।

@achowdhery क्या वैसे भी tflite के लिए 4 आउटपुट के साथ मॉडल को प्रशिक्षित करने के लिए विरासत/train.py का उपयोग करना है क्योंकि नए model_main.py में बग हैं?
https://github.com/tensorflow/models/issues/4798

@ashwaniag आप दो कोड को अलग कर सकते हैं और उस हिस्से को जोड़ सकते हैं जो मात्राकरण जोड़ता है: ध्यान दें कि graph_rewriter फ़ंक्शन वह जगह है जहां क्वांटिज़ेशन ऑप्स जोड़ा जाता है।

@achowdhery : https://github.com/tensorflow/models/blob/master/research/object_detection/g3doc/running_on_mobile_tensorflowlite.md
आईओएस में इसे कैसे करें इसका कोई उदाहरण या नमूना कोड है। अब तक मुझे जो सबसे नज़दीकी चीज़ मिली है, वह यह https://github.com/YijinLiu/tf-cpu/blob/master/benchmark/obj_detect_lite.cc है जो हमेशा काम नहीं करती है।

वर्तमान आईओएस डेमो ऐप एसएसडी और फ्लोट मॉडल के साथ काम नहीं करता है।

@achowdhery मैंने टेंसरफ़्लो v1.9.2 का उपयोग करके अपने मॉडल को प्रशिक्षित किया। ब्लॉग में दिए गए चरणों का उपयोग करके tflite में कनवर्ट किया गया। मुझे कोई पता नहीं चल रहा है। क्या आपको इस बारे में कोई आइडिया है?

@ashwaniag COCO या पालतू जानवर? कृपया सटीक रेप्रो निर्देशों के साथ एक नया बग खोलें। अन्य GitHub उपयोगकर्ताओं ने Tensorflow 1.10 . के साथ इसके काम करने की पुष्टि की है

@achowdhery यह मेरा अपना डेटासेट है। मैंने mobilenetv2 आर्किटेक्चर के लिए प्रशिक्षण लिया। जब मैं .pb मॉडल (टेंसरफ़्लो मॉडल) चलाता हूं, तो मुझे मिलता है
नहीं मिला: VAL5-04 पर चल रहे बाइनरी में Op प्रकार पंजीकृत नहीं है 'NonMaxSuppressionV3'। सुनिश्चित करें कि Op और कर्नेल इस प्रक्रिया में चल रहे बाइनरी में पंजीकृत हैं।

क्या आपको लगता है कि यह संबंधित है?

@ashwaniag कृपया एक नया बग खोलें और सटीक प्रतिलिपि प्रस्तुत करने योग्य निर्देश प्रदान करें

@ashwaniag इन दोनों मुद्दों की जाँच करें, मुझे एक ही समस्या थी: #10254 और # 19854

@ अचरफ-बौसादा धन्यवाद! मैंने तय कर लिया। यह एक संस्करण बेमेल मुद्दा था।
@achowdhery अब, समस्या यह है कि पूर्ण टेंसरफ़्लो मॉडल मुझे बहुत अच्छे परिणाम देता है लेकिन tflite मॉडल बहुत खराब परिणाम देता है।

@ashwaniag कृपया बहुत खराब परिणामों को परिभाषित करें। क्या आपके पास छोटी वस्तुएं हैं? समस्या को पुन: उत्पन्न करने में हमारी सहायता के लिए कृपया एक मॉडल चेकपॉइंट, पाइपलाइन कॉन्फ़िगरेशन और लेबल फ़ाइल के साथ-साथ एक नमूना छवि संलग्न करें। धन्यवाद

@oopsodd हैलो, मुझे या तो गलत क्लास इंडेक्स मिलता है। इसने शिकायत की "java.lang.ArrayIndexOutOfBoundsException: length=10; index=-739161663", क्या आप मेरी मदद कर सकते हैं?

नोट मैंने iOS और Android के लिए TensorFlow Lite SSD (ऑब्जेक्ट डिटेक्शन) न्यूनतम कार्यशील उदाहरण बनाए हैं; https://github.com/baxterai/tfliteSSDminimalWorkingउदाहरण। IOS संस्करण YijinLiu द्वारा obj_detect_lite.cc पर आधारित है (WeiboXu द्वारा nms फ़ंक्शन के साथ), और Android संस्करण https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/examples/ पर आधारित है।

@baxterai बहुत अच्छा काम! धन्यवाद, मैं इसका परीक्षण करूंगा।

आपके अद्भुत काम के लिए सभी को धन्यवाद! हाल ही में जोड़े गए पोस्टप्रोसेसिंग ऑपरेशन के बारे में मेरा एक और सवाल है।

पूर्व प्रशिक्षित ssd_mobilenet_v1_quantized_coco . का आउटपुट
वर्तमान में फ्रेम में शीर्ष 10 डिटेक्शन तक सीमित है, भले ही मॉडल/शोध/ऑब्जेक्ट_डिटेक्शन/नमूने/कॉन्फ़िगरेशन/जैसे में डिफ़ॉल्ट कॉन्फ़िगरेशन
ssd_mobilenet_v1_quantized_300x300_coco14_sync.config सभी कुल पहचान की एक उच्च सीमा निर्दिष्ट करते हैं।

post_processing { batch_non_max_suppression { score_threshold: 1e-8 iou_threshold: 0.6 max_detections_per_class: 100 max_total_detections: 100 } score_converter: SIGMOID }

क्या यह इस पाइपलाइन कॉन्फ़िगरेशन के साथ नेटवर्क को फिर से प्रशिक्षित करके हल किया गया है या इसकी आयामीता है
अन्य कॉन्फ़िगरेशन द्वारा 'TFLite_Detection_PostProcess' को 10 पर नियत किया गया?

@ जॉर्ज-डब्ल्यू आपको Export_tflite_ssd_graph.py में भी अधिकतम पहचान को बदलना होगा। एक कमांड लाइन विकल्प है।

@achowdhery आह धन्यवाद! वही मैं चूक गया।

@andrewharp आपके कटोसम अनुमान वर्ग TFLiteObjectDetectionAPIModel.java के लिए बहुत बहुत धन्यवाद, मैंने इसे आपके ssd mobilenet v1 tflite mobilenet_ssd_tflite_v1.zip के साथ आज़माया है, लेकिन जब ऐप शुरू होता है तो फ़ंक्शन में समस्या होती है पहचान छवि (अंतिम बिटमैप बिटमैप) जब मैं कॉल करता हूं tfLite.runForMultipleInputsOutputs (इनपुटअरे, आउटपुट मैप); यह इस अपवाद को फेंकता है

07-18 10:37:02.416 19957-19996/com.app.cerist.realtimeobjectdetectionapi E/AndroidRuntime: FATAL EXCEPTION: Camera
    Process: com.app.cerist.realtimeobjectdetectionapi, PID: 19957
    java.lang.IllegalArgumentException: Output error: Outputs do not match with model outputs.
        at org.tensorflow.lite.Interpreter.runForMultipleInputsOutputs(Interpreter.java:170)
        at com.app.cerist.realtimeobjectdetectionapi.ImageClassifierTFLiteAPI.recognizeImage(ImageClassifierTFLiteAPI.java:207)
        at com.app.cerist.realtimeobjectdetectionapi.MainActivity.classifyFrame(MainActivity.java:421)
        at com.app.cerist.realtimeobjectdetectionapi.MainActivity.access$1000(MainActivity.java:48)
        at com.app.cerist.realtimeobjectdetectionapi.MainActivity$4.run(MainActivity.java:455)
        at android.os.Handler.handleCallback(Handler.java:739)
        at android.os.Handler.dispatchMessage(Handler.java:95)
        at android.os.Looper.loop(Looper.java:159)
        at android.os.HandlerThread.run(HandlerThread.java:61)
07-18 10:37:02.436 19957-19996/com.app.cerist.realtimeobjectdetectionapi V/Process: killProcess [19957] Callers=com.android.internal.os.RuntimeInit$UncaughtHandler.uncaughtException:99 java.lang.ThreadGroup.uncaughtException:693 java.lang.ThreadGroup.uncaughtException:690 <bottom of call stack> 
07-18 10:37:02.436 19957-19996/com.app.cerist.realtimeobjectdetectionapi I/Process: Sending signal. PID: 19957 SIG: 9

त्रुटि ने कहा कि आउटपुट सरणी की लंबाई इनपुट सरणी की लंबाई से बड़ी है
Interpreter.java में यह स्थिति है

public void runForMultipleInputsOutputs(Object[] inputs, <strong i="14">@NonNull</strong> Map<Integer, Object> outputs) {
        if (this.wrapper == null) {
            throw new IllegalStateException("Internal error: The Interpreter has already been closed.");
        } else {
            Tensor[] tensors = this.wrapper.run(inputs);
            if (outputs != null && tensors != null && outputs.size() <= tensors.length) {
                int size = tensors.length;
                Iterator var5 = outputs.keySet().iterator();
            }
       }
}

और यह मेरा इनपुट और आउटपुट सरणियाँ है:

d.imgData = ByteBuffer.allocateDirect(1 * d.inputSize * d.inputSize * 3 * numBytesPerChannel);
d.imgData.order(ByteOrder.nativeOrder());
d.intValues = new int[d.inputSize * d.inputSize];

```
imgData.rewind ();
के लिए (int i = 0; i <इनपुट आकार; ++i) {
के लिए (इंट जे = 0; जे <इनपुट आकार; ++ जे) {
int pixelValue = intValues[i * inputSize + j];
अगर (isModelQuantized) {
// मात्राबद्ध मॉडल
imgData.put ((बाइट) ((पिक्सेलवैल्यू >> 16) और 0xFF));
imgData.put ((बाइट) ((पिक्सेलवैल्यू >> 8) और 0xFF));
imgData.put ((बाइट) (पिक्सेलवैल्यू और 0xFF));
} और {// फ्लोट मॉडल
imgData.putFloat ((((पिक्सेलवैल्यू >> 16) और 0xFF) - IMAGE_MEAN) / IMAGE_STD);
imgData.putFloat ((((पिक्सेलवैल्यू >> 8) और 0xFF) - IMAGE_MEAN) / IMAGE_STD);
imgData.putFloat (((पिक्सेलवैल्यू और 0xFF) - IMAGE_MEAN) / IMAGE_STD);

The outputs array :

// इनपुट डेटा को TensorFlow में कॉपी करें।
Trace.beginSection ("फ़ीड");
आउटपुट स्थान = नया फ्लोट [1] [NUM_DETECTIONS][4];
आउटपुट क्लासेस = नया फ्लोट [1] [NUM_DETECTIONS];
आउटपुटस्कोर = नया फ्लोट [1] [NUM_DETECTIONS];
numDetections = नया फ्लोट [1];

    Object[] inputArray = {imgData};
    Map<Integer, Object> outputMap = new HashMap<>();
    outputMap.put(0, outputLocations);
    outputMap.put(1, outputScores);
    outputMap.put(2, numDetections);
    outputMap.put(3, outputClasses);
    Trace.endSection();

And the Inference :

// अनुमान कॉल चलाएँ।
ट्रेस.बेगिनसेक्शन ("रन");
Log.d("TAG_INPUT",""+String.valueOf(inputArray.length));
Log.d("TAG_OUTPUT",""+String.valueOf(outputMap.size ()));

    tfLite.runForMultipleInputsOutputs(inputArray, outputMap);
    Trace.endSection();

```
मुझे इस त्रुटि का अर्थ समझ में नहीं आया क्योंकि मैंने आपके TFLiteObjectDetectionAPIModel.java वर्ग के समान ही किया था।
मदद के लिए शुक्रिया

मेरे पास एक ही समस्या है .. समाधान मिला?
धन्यवाद..

@ जॉर्ज-डब्ल्यू आपको Export_tflite_ssd_graph.py में भी अधिकतम पहचान को बदलना होगा। एक कमांड लाइन विकल्प है।

नमस्ते

मैं छवि में 10 से अधिक वस्तुओं का पता लगाने की कोशिश कर रहा हूं (जो डिफ़ॉल्ट है)
मैं निम्नलिखित कमांड का उपयोग कर रहा हूं:
बेज़ल रन-सी ऑप्ट टेंसरफ़्लो/कंट्रीब/लाइट/ टोको: टोको -- --input_file=$OUTPUT_DIR/tflite_graph.pb --output_file=$OUTPUT_DIR/mobile_net_500.tflite --input_shapes=1,300,300,3 --input_arrays=normalized_input_input_input_input_input output_arrays='TFLite_Detection_PostProcess','TFLite_Detection_Po stProcess:1 ','TFLite_Detection_Po stProcess:2 ','TFLite_Detection_Po stProcess:3 ' --inference_type=FLOAT --max_detections=500 --max_classes_per_detection=1

मैंने भी संशोधित किया
Export_tflite_ssd_graph.py
झंडे।DEFINE_integer('max_detections', 500 <--- के बजाय 10,
'दिखाने के लिए अधिकतम संख्या में पहचान (बक्से) हैं।')
झंडे।DEFINE_integer('max_classes_per_detection', 1,
'प्रति डिटेक्शन बॉक्स प्रदर्शित करने के लिए कक्षाओं की संख्या।')

लेकिन अभी भी एंड्रॉइड [1,10,4] में आउटपुट के रूप में 10 ऑब्जेक्ट दे रहा है।

कोई उपाय?

मुझे @KaviSanth मुद्दे के समाधान में भी दिलचस्पी होगी।

@Stevelb का यह समाधान काम करना चाहिए। आप यह सुनिश्चित करने के लिए फ़्रीज़ किए गए ग्राफ़ की कल्पना करना चाह सकते हैं कि max_detections सही तरीके से सेट है।

@achowdhery आपके उत्तर के लिए धन्यवाद। मैंने @andrewharp द्वारा लिखे गए आदेशों को निष्पादित करने का प्रयास किया लेकिन मुझे निम्न त्रुटि मिलती है। वास्तव में, टोको इस स्थान पर स्थित नहीं है। मैं जीथब रिपोजिटरी से मास्टर संस्करण और आर 1.95 संस्करण का उपयोग कर रहा हूं।

बेज़ल रन टेंसरफ़्लो/कंट्रीब/लाइट/ टोको: टोको -- --input_file=$STRIPPED_PB --output_file=$DETECT_FB --input_format=TENSORFLOW_GRAPHDEF --output_format=TFLITE --input_shapes=1,300,300,3 --input_subs -=प्रीप्रोसेसर -output_arrays=concat,concat_1 --inference_type=FLOAT --logtostderr
जानकारी: आमंत्रण आईडी: 0e58a5ef-9fee-4619-b760-aeb1c83c9661
त्रुटि: 'टेंसरफ़्लो/कंट्रीब/लाइट/ टोको: टोको ' को छोड़ना: ऐसा कोई पैकेज नहीं 'टेन्सरफ़्लो/कंट्रीब/लाइट/टोको': बिल्ड फ़ाइल पैकेज पथ पर नहीं मिली
चेतावनी: लक्ष्य पैटर्न पार्सिंग विफल।
त्रुटि: ऐसा कोई पैकेज 'टेंसरफ़्लो/कंट्रीब/लाइट/टोको' नहीं: पैकेज पथ पर बिल्ड फ़ाइल नहीं मिली
जानकारी: बीता हुआ समय: 0.179s
जानकारी: 0 प्रक्रियाएं।
विफल: बिल्ड सफलतापूर्वक पूर्ण नहीं हुआ (0 पैकेज लोड किए गए)
विफल: बिल्ड सफलतापूर्वक पूर्ण नहीं हुआ (0 पैकेज लोड किए गए)
मुझे संशोधन करना है कि मैं उन आदेशों को अपने स्थानीय टेंसरफ्लो फ़ोल्डर से निष्पादित कर रहा हूं जो गिट से खींचा गया था।

मुझे टेंसरफ़्लो/लाइट/टोको के तहत एक टोको मिल सकता है और मैं अभी परीक्षण कर रहा हूं कि यह काम करता है या नहीं।
ठीक है, ऐसा लगता है कि यह इस टोको का उपयोग करके काम कर रहा है और इसके अलावा आपको $DETECT_FB पथ को $PWD/ssd_mobilenet.tflite में बदलना होगा क्योंकि कॉन्ट्रिब/लाइट फ़ोल्डर में केवल कुछ पायथन स्थित है और कुछ नहीं।

https://github.com/tensorflow/tensorflow/tree/master/tensorflow/examples/android (https://github.com/tensorflow/tensorflow/blob से डिटेक्टरएक्टिविटी में .tflite फ़ाइल जोड़ते समय एक रनटाइम त्रुटि दिखाई देती है। /master/tensorflow/examples/android/src/org/tensorflow/demo/DetectorActivity.java) लाइन के साथ

private static final String TF_OD_API_MODEL_FILE =
            "file:///android_asset/ssd_mobilenet_v1.tflite";

ई/एंड्रॉयडरनटाइम: घातक अपवाद: मुख्य
प्रक्रिया: मायप्रोसेस, पीआईडी: 32611
java.lang.RuntimeException: इनपुट नोड 'image_tensor' खोजने में विफल
myPackage.myClass.TensorFlowObjectDetectionAPIModel.create(TensorFlowObjectDetectionAPIModel.java:106) पर

क्या उस ऐप में .tflite मॉडल का उपयोग करना संभव नहीं है?

@ defaultUser3214 आप डिटेक्शन ऐप में क्लासिफायर मॉडल का उपयोग कर रहे हैं। MobileNet v1 वर्गीकरण मॉडल है। कृपया MobileNet SSD मॉडल का उपयोग करें

@achowdhery धन्यवाद! wget http://download.tensorflow.org/models/object_detection/ssd_mobilenet_v1_coco_2017_11_17.tar.gz से मॉडल का उपयोग करने से वह त्रुटि हुई। लेकिन मैंने सोचा कि यह एसएसडी संस्करण था?

लेकिन ssd_mobilenet_v1_android_export.pb का उपयोग करके .tflite में परिवर्तित किया गया जो पहले .pb के रूप में काम करता था, वही त्रुटि उत्पन्न करता है।

@ defaultUser3214 मॉडल का एक पुराना संस्करण है जो जुलाई 2018 में जारी नवीनतम डेमो ऐप में काम नहीं करेगा। कृपया जुलाई 2018 में नवीनतम मॉडल डिटेक्शन मॉडल चिड़ियाघर में डाउनलोड करें: वे ऐप में काम करते हैं। अगर यह अभी भी अवरुद्ध है तो कृपया एक नया मुद्दा खोलें।

@SteveIb आपको TFLiteObjectDetectionAPIModel.java में NUM_DETECTIONS = 500 बदलने की भी आवश्यकता है

ssdmobilenet v1 .pb को .tflite . में बदलने में सक्षम नहीं है
Tensorflow ऑब्जेक्ट डिटेक्शन एपीआई @aselle @achowdhery . के माध्यम से उत्पन्न pb

इस पर कोई प्रगति? फ्रोजन_इनफेरेंस_ग्राफ.पीबी को .TFLITE फाइल में बदलने की कोशिश की जा रही है लेकिन त्रुटि हो रही है

java.lang.IllegalArgumentException: Cannot convert between a TensorFlowLite buffer with 49152 bytes and a ByteBuffer with 270000 bytes

Android में कस्टम ऑब्जेक्ट डिटेक्शन के लिए। विभिन्न रूपांतरण विधियों पर कोई विचार? यहां ट्यूटोरियल के बाद विंडोज 10 पर सीखा ssd_mobilenet_v1_pets ट्रांसफर करें: https://github.com/EdjeElectronics/TensorFlow-Object-Detection-API-Tutorial-Train-Multiple-Objects-Windows-10

इस पर कोई प्रगति? फ्रोजन_इनफेरेंस_ग्राफ.पीबी को .TFLITE फाइल में बदलने की कोशिश की जा रही है लेकिन त्रुटि हो रही है

java.lang.IllegalArgumentException: Cannot convert between a TensorFlowLite buffer with 49152 bytes and a ByteBuffer with 270000 bytes

Android में कस्टम ऑब्जेक्ट डिटेक्शन के लिए। विभिन्न रूपांतरण विधियों पर कोई विचार? यहां ट्यूटोरियल के बाद विंडोज 10 पर सीखा ssd_mobilenet_v1_pets ट्रांसफर करें: https://github.com/EdjeElectronics/TensorFlow-Object-Detection-API-Tutorial-Train-Multiple-Objects-Windows-10

बस इस पर अनुवर्ती कार्रवाई करने के लिए और किसी और की मदद करने के लिए जिसकी वही त्रुटि हो रही थी - यह प्रशिक्षण के लिए गलत मॉडल चेकपॉइंट का उपयोग करने के कारण होता है। एंड्रॉइड पर .tflite के साथ काम करने के लिए, प्रारंभिक मॉडल को MobileNet होना चाहिए और इसे मात्राबद्ध भी किया जाना चाहिए और इसमें कोड का यह खंड या .config फ़ाइल में कुछ समान होगा:

graph_rewriter { quantization { delay: 48000 weight_bits: 8 activation_bits: 8 } }

यह अब tensorflow/contrib/lite/examples/android पर लाइव है! यह मूल TF Android डेमो का एक अधिक संपूर्ण पोर्ट है (केवल स्टाइलाइज़ उदाहरण की कमी है), और आगे चलकर tensorflow/contrib/lite/java/demo में अन्य डेमो की जगह लेगा।

एक परिवर्तित TF लाइट फ्लैटबफर mobilenet_ssd_tflite_v1.zip में पाया जा सकता है, और आप TFLiteObjectDetectionAPIModel.java में जावा अनुमान कार्यान्वयन पा सकते हैं। ध्यान दें कि यह मूल टीएफ कार्यान्वयन से अलग है जिसमें बॉक्स को जावा में मैन्युअल रूप से डीकोड किया जाना चाहिए, और एक बॉक्स पूर्व txt फ़ाइल को ऐप्स संपत्तियों में पैक करने की आवश्यकता है (मुझे लगता है कि उपरोक्त मॉडल ज़िप में शामिल एक को अधिकांश के लिए मान्य होना चाहिए रेखांकन)।

TOCO रूपांतरण के दौरान एक अलग इनपुट नोड (प्रीप्रोसेसर/उप) का उपयोग किया जाता है, साथ ही विभिन्न आउटपुट नोड्स (concat, concat_1) का भी उपयोग किया जाता है। यह कुछ हिस्सों को छोड़ देता है जो tflite के लिए समस्याग्रस्त हैं, जब तक कि या तो ग्राफ़ को पुनर्गठित नहीं किया जाता है या TF लाइट TF समता तक नहीं पहुंच जाता है।

SSD MobileNet मॉडल को tflite प्रारूप में बदलने और इसका उपयोग करने के लिए डेमो बनाने के लिए यहां त्वरित चरण दिए गए हैं:

# Download and extract SSD MobileNet model
wget http://download.tensorflow.org/models/object_detection/ssd_mobilenet_v1_coco_2017_11_17.tar.gz
tar -xvf ssd_mobilenet_v1_coco_2017_11_17.tar.gz 
DETECT_PB=$PWD/ssd_mobilenet_v1_coco_2017_11_17/frozen_inference_graph.pb
STRIPPED_PB=$PWD/frozen_inference_graph_stripped.pb
DETECT_FB=$PWD/tensorflow/contrib/lite/examples/android/assets/mobilenet_ssd.tflite

# Strip out problematic nodes before even letting TOCO see the graphdef
bazel run -c opt tensorflow/python/tools/optimize_for_inference -- \
--input=$DETECT_PB  --output=$STRIPPED_PB --frozen_graph=True \
--input_names=Preprocessor/sub --output_names=concat,concat_1 \
--alsologtostderr

# Run TOCO conversion.
bazel run tensorflow/contrib/lite/toco:toco -- \
--input_file=$STRIPPED_PB --output_file=$DETECT_FB \
--input_format=TENSORFLOW_GRAPHDEF --output_format=TFLITE \
--input_shapes=1,300,300,3 --input_arrays=Preprocessor/sub \
--output_arrays=concat,concat_1 --inference_type=FLOAT --logtostderr

# Build and install the demo
bazel build -c opt --cxxopt='--std=c++11' //tensorflow/contrib/lite/examples/android:tflite_demo
adb install -r -f bazel-bin/tensorflow/contrib/lite/examples/android/tflite_demo.apk

यह एक आकर्षण की तरह काम करता है!