Kafka-backup: فشل إلغاء تسلسل قيمة العنوان "kafka_replyPartition" في الموضوع

تم إنشاؤها على ١١ يونيو ٢٠٢٠ · 15تعليقات · مصدر: itadventurer/kafka-backup

حدث خطأ آخر في مجموعة QA لدينا (kafka 2.4.0 ، kafka-backup مبني من الالتزام f30b9ad9).

[2020-06-11 08:39:55,585] WARN Failed to deserialize value for header 'kafka_replyPartition' on topic 'cosmos-cs-reads', so using byte array (org.apache.kafka.connect.storage.SimpleHeaderConverter:68)
java.lang.StringIndexOutOfBoundsException: String index out of range: 0
        at java.base/java.lang.StringLatin1.charAt(Unknown Source)
        at java.base/java.lang.String.charAt(Unknown Source)
        at org.apache.kafka.connect.data.Values.parse(Values.java:822)
        at org.apache.kafka.connect.data.Values.parseString(Values.java:378)
        at org.apache.kafka.connect.storage.SimpleHeaderConverter.toConnectHeader(SimpleHeaderConverter.java:64)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.convertHeadersFor(WorkerSinkTask.java:516)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.lambda$convertAndTransformRecord$3(WorkerSinkTask.java:491)
        at org.apache.kafka.connect.runtime.errors.RetryWithToleranceOperator.execAndRetry(RetryWithToleranceOperator.java:128)
        at org.apache.kafka.connect.runtime.errors.RetryWithToleranceOperator.execAndHandleError(RetryWithToleranceOperator.java:162)
        at org.apache.kafka.connect.runtime.errors.RetryWithToleranceOperator.execute(RetryWithToleranceOperator.java:104)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.convertAndTransformRecord(WorkerSinkTask.java:491)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.convertMessages(WorkerSinkTask.java:465)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.poll(WorkerSinkTask.java:321)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.iteration(WorkerSinkTask.java:224)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.execute(WorkerSinkTask.java:192)
        at org.apache.kafka.connect.runtime.WorkerTask.doRun(WorkerTask.java:177)
        at org.apache.kafka.connect.runtime.WorkerTask.run(WorkerTask.java:227)
        at java.base/java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.base/java.util.concurrent.FutureTask.run(Unknown Source)
        at java.base/java.util.concurrent.ThreadPoolExecutor.runWorker(Unknown Source)
        at java.base/java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.base/java.lang.Thread.run(Unknown Source)
[2020-06-11 08:39:56,295] ERROR WorkerSinkTask{id=chrono_qa-backup-sink-0} Task threw an uncaught and unrecoverable exception. Task is being killed and will not recover until manually restarted. (org.apache.kafka.connect.runtime.WorkerSinkTask:559)
org.apache.kafka.connect.errors.DataException: cosmos-cs-reads error: Not a byte array! cosmos-cs-cmds
        at de.azapps.kafkabackup.common.AlreadyBytesConverter.fromConnectData(AlreadyBytesConverter.java:19)
        at de.azapps.kafkabackup.common.record.RecordSerde.write(RecordSerde.java:121)
        at de.azapps.kafkabackup.common.segment.SegmentWriter.append(SegmentWriter.java:75)
        at de.azapps.kafkabackup.common.partition.PartitionWriter.append(PartitionWriter.java:57)
        at de.azapps.kafkabackup.sink.BackupSinkTask.put(BackupSinkTask.java:68)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.deliverMessages(WorkerSinkTask.java:539)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.poll(WorkerSinkTask.java:322)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.iteration(WorkerSinkTask.java:224)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.execute(WorkerSinkTask.java:192)
        at org.apache.kafka.connect.runtime.WorkerTask.doRun(WorkerTask.java:177)
        at org.apache.kafka.connect.runtime.WorkerTask.run(WorkerTask.java:227)
        at java.base/java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.base/java.util.concurrent.FutureTask.run(Unknown Source)
        at java.base/java.util.concurrent.ThreadPoolExecutor.runWorker(Unknown Source)
        at java.base/java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.base/java.lang.Thread.run(Unknown Source)
[2020-06-11 08:39:56,353] ERROR WorkerSinkTask{id=chrono_qa-backup-sink-0} Task threw an uncaught and unrecoverable exception (org.apache.kafka.connect.runtime.WorkerTask:179)
org.apache.kafka.connect.errors.ConnectException: Exiting WorkerSinkTask due to unrecoverable exception.
        at org.apache.kafka.connect.runtime.WorkerSinkTask.deliverMessages(WorkerSinkTask.java:561)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.poll(WorkerSinkTask.java:322)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.iteration(WorkerSinkTask.java:224)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.execute(WorkerSinkTask.java:192)
        at org.apache.kafka.connect.runtime.WorkerTask.doRun(WorkerTask.java:177)
        at org.apache.kafka.connect.runtime.WorkerTask.run(WorkerTask.java:227)
        at java.base/java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.base/java.util.concurrent.FutureTask.run(Unknown Source)
        at java.base/java.util.concurrent.ThreadPoolExecutor.runWorker(Unknown Source)
        at java.base/java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.base/java.lang.Thread.run(Unknown Source)
Caused by: org.apache.kafka.connect.errors.DataException: cosmos-cs-reads error: Not a byte array! cosmos-cs-cmds
        at de.azapps.kafkabackup.common.AlreadyBytesConverter.fromConnectData(AlreadyBytesConverter.java:19)
        at de.azapps.kafkabackup.common.record.RecordSerde.write(RecordSerde.java:121)
        at de.azapps.kafkabackup.common.segment.SegmentWriter.append(SegmentWriter.java:75)
        at de.azapps.kafkabackup.common.partition.PartitionWriter.append(PartitionWriter.java:57)
        at de.azapps.kafkabackup.sink.BackupSinkTask.put(BackupSinkTask.java:68)
        at org.apache.kafka.connect.runtime.WorkerSinkTask.deliverMessages(WorkerSinkTask.java:539)
        ... 10 more
[2020-06-11 08:39:56,354] ERROR WorkerSinkTask{id=chrono_qa-backup-sink-0} Task is being killed and will not recover until manually restarted (org.apache.kafka.connect.runtime.WorkerTask:180)
[2020-06-11 08:39:56,382] INFO Stopped BackupSinkTask (de.azapps.kafkabackup.sink.BackupSinkTask:139)

bug

مصدر

jay7x

ال 15 كومينتر

JFYI ، يبدو هذا الموضوع جديدًا بالنسبة لي. أعتقد أنه تم إنشاؤه مؤخرًا.

jay7x في ١١ يونيو ٢٠٢٠

JFYI 2 ، إعادة التشغيل لا تساعد.

jay7x في ١١ يونيو ٢٠٢٠

هنا وصف الموضوع:

Topic: cosmos-cs-reads  PartitionCount: 1       ReplicationFactor: 1    Configs: compression.type=producer,min.insync.replicas=1,cleanup.policy=delete,segment.bytes=1073741824,flush.messages=9223372036854775807,file.delete.delay.ms=60000,max.message.bytes=1000012,min.compaction.lag.ms=0,message.timestamp.type=CreateTime,preallocate=false,index.interval.bytes=4096,min.cleanable.dirty.ratio=0.5,unclean.leader.election.enable=true,retention.bytes=120000000000,delete.retention.ms=86400000,message.timestamp.difference.max.ms=9223372036854775807,segment.index.bytes=10485760
        Topic: cosmos-cs-reads  Partition: 0    Leader: 1       Replicas: 1     Isr: 1

jay7x في ١١ يونيو ٢٠٢٠

حاولت استهلاك الرسائل باستخدام kafka-console-Consumer وهناك JSON صالح بالداخل .. jq يمكنه تحليلها بدون مشاكل. بعض الحقول هي سلاسل فارغة بالرغم من ( "field1":"","field2":"" ).

jay7x في ١١ يونيو ٢٠٢٠

يبدو أنه مشكلة في الرؤوس. هل يمكنك التحقق من شكل الرؤوس؟

itadventurer في ١٤ يونيو ٢٠٢٠

هل يمكنك اقتراح كيفية القيام بذلك من فضلك؟

jay7x في ١٤ يونيو ٢٠٢٠

أسهل طريقة هي استخدام kafkacat: https://stackoverflow.com/questions/55180620/how-to-view-kafka-headers

itadventurer في ١٤ يونيو ٢٠٢٠

نعم .. فقط حاولت باستخدام kafkacat وشاهد هذا في الرؤوس الآن ..
kafka_replyTopic=cosmos-cs-cmds,kafka_replyPartition=,kafka_correlationId=��D�� ;X,__TypeId__=eu.chargetime.ocpp.model.core.BootNotificationRequest

يبدو أن مطورينا يفعلون شيئًا خاطئًا :(

محدث: قالوا إنها بيانات اختبار ومن المتوقع .. :(
UPD2: أخبروا أن رؤوس kafka_* تمت إضافتها بواسطة إطار العمل السحابي Spring.

jay7x في ١٥ يونيو ٢٠٢٠

حسنًا ، شكرًا ... سأفكر في كيفية إصلاح ذلك. أرى أن هذا أمر بالغ الأهمية 😱

itadventurer في ١٧ يونيو ٢٠٢٠

👍1

JFYI ، احتفظ بهذا في حالة "معطلة" لاختبار الإصلاح المحتمل :- د

jay7x في ١٨ يونيو ٢٠٢٠

👍1

حسنًا ... لقد حاولت إعادة إنتاج الخطأ في رقم 97. لم تظهر المشكلة (على جهازي المحلي - GitHub Pipeline قيد التشغيل) ...

هل يمكنك محاولة إضافة رسالة العنوان الإشكالية الخاصة بك هنا؟ https://github.com/itadventurer/kafka-backup/pull/97/files#diff -28c62e6ea255f4a9955c7be8c5d8a1cfR95
(من الواضح أنها بيانات مشفرة سداسية عشرية)

نأمل أن نتمكن من إعادة إنتاجه هنا ؛)

itadventurer في ٢٠ يونيو ٢٠٢٠

👍1

شكرا لك! سأحاول هذا الأسبوع!

jay7x في ٢١ يونيو ٢٠٢٠

لم أتمكن من إعادة إنتاجه أيضًا. لكنني أدركت أنه كان هناك عدد قليل من الالتزامات التي تلامس معالجة الرؤوس بعد الالتزام f30b9ad (وهو ما يعتمد عليه البناء). لذلك أعتقد أنني يجب أن أتطرق إلى المراجعة والمحاولة مرة أخرى في بيئتي.

jay7x في ٢ يوليو ٢٠٢٠

بعد الترقية وضبط التكوين يعمل بشكل جيد ...
أعتقد أن السبب الرئيسي كان هذا:

 connector.class=de.azapps.kafkabackup.sink.BackupSinkConnector
-key.converter=de.azapps.kafkabackup.common.AlreadyBytesConverter
-value.converter=de.azapps.kafkabackup.common.AlreadyBytesConverter
+key.converter=org.apache.kafka.connect.converters.ByteArrayConverter
+value.converter=org.apache.kafka.connect.converters.ByteArrayConverter
+header.converter=org.apache.kafka.connect.converters.ByteArrayConverter

jay7x في ٣ يوليو ٢٠٢٠

إغلاق كما تم حلها بعد ذلك.

jay7x في ٣ يوليو ٢٠٢٠

هل كانت هذه الصفحة مفيدة؟

0 / 5 - 0 التقييمات

القضايا ذات الصلة

حلقة "انتهت مهلة استطلاع رأي المستهلك" (كانت "kafka-backup قد تفشل بسبب بطء إدخال القرص")

jay7x · 18تعليقات

تعويض المستهلك

ipochi · 3تعليقات

بعد NPE آخر

jay7x · 16تعليقات

كيف يمكن نسخ جميع المواضيع احتياطيًا باستخدام regex

huyngopt1994 · 5تعليقات

قدم أمثلة للتكوينات المختلفة

itadventurer · 5تعليقات