Tedious: 숫자 유형의 값이 범위를 벗어남

에 만든 2016년 10월 31일 · 5코멘트 · 출처: tediousjs/tedious

유효한 숫자 값이 내 삽입 문을 지루하게 차단하는 문제가 발생했습니다. 동일한 숫자 값을 사용하여 데이터베이스에 수동 SQL 삽입이 작동합니다.

수동 SQL 삽입:

INSERT INTO foo (id, foo_id, timestamp, value, value2)  
VALUES ('ff3bd5e2-dbd8-424b-bb4f-455df1fe9f9c', 'b3a0a2c6-3b58-4659-8b4f-9466cede43be',  
        '2016-11-01T00:00:00+00:00', null, 66666.55);

내 코드는 다음과 같습니다.

const bluebird = require('bluebird');
const sql = require('mssql');

const db = require('./database.js');

sql.Promise = bluebird;

const COLUMNS = {
  id: 'id',
  foo_id: 'foo_id',
  timestamp: 'timestamp',
  value: 'value',
  value2: 'value2'
};

exports.create = data => {
  return db.getConnection()
    .then(conn => {
      const ps = new sql.PreparedStatement(conn);
      ps.input(COLUMNS.id, sql.UniqueIdentifier);
      ps.input(COLUMNS.foo_id, sql.UniqueIdentifier);
      ps.input(COLUMNS.timestamp, sql.DateTimeOffset(0));
      ps.input(COLUMNS.value, sql.Numeric(30, 15));
      ps.input(COLUMNS.value2, sql.Numeric(30, 15));

      // Have to convert string to JavaScript date for insert to work
      data.timestamp = new Date(data.timestamp);
      const header = Object.keys(COLUMNS).map(key => COLUMNS[key]).join();

      const query = `INSERT INTO foo (${header}) VALUES (@${COLUMNS.id},` +
        ` @${COLUMNS.foo_id}, @${COLUMNS.timestamp}, @${COLUMNS.value},` +
        ` @${COLUMNS.value2})`;
      return ps.prepare(query)
        .then(() => ps.execute(data)
          // Releases the connection back to the pool
          .then(() => ps.unprepare()))
        .then(() => bluebird.resolve());
    });
};

지루한 코드는 66666.55를 값이 66666550000000000000인 정수로 변환하는 것 같습니다. 그런 다음 해당 값의 나머지와 몫을 취하여 writeUInt32LE를 사용하여 버퍼에 쓰려고 합니다.

지루한 코드가 부동 소수점 숫자를 유지하고 버퍼에 내장 함수 writeDoubleLE를 사용하는 대신 부동 소수점 숫자를 정수로 변환하고 버퍼에 쓰는 이유는 무엇입니까?

이 문제로 인해 앞으로 나아갈 수 없습니다.

known issue

출처

ghost

👍1

가장 유용한 댓글

제 경우에는 Numeric 가 Tedious(Sequelize) 위에 라이브러리에 의해 설정되었기 때문에 다른 해결 방법을 사용해야 했습니다. 본질적으로 10진수 변환이 코드가 아닌 데이터베이스 내부에서 발생하도록 매개변수의 형식을 지정합니다. 모든 숫자에 대해 다음을 사용해야 합니다.

const value_stored = value.toFixed(desired_precision);

이는 정밀도를 잃지 않고 내가 알지 못하거나 제어하지 못하는 규모와 규모에 대한 가정을 하는 DB와 내 코드 사이에 아무 것도 방해하지 않도록 하기 위한 것입니다. 물론 이것은 올바른 유형을 사용하는 것보다 대역폭 효율성이 떨어지지만 제 경우에는 레코드당 <30바이트 페널티가 중요하지 않습니다.

jeteon 에 2019년 10월 30일

👍3

모든 5 댓글

부동 소수점 숫자를 정수로 변환하는 지루한 코드가 왜...

이것이 TDS 프로토콜이 숫자 값에 대해 요구하는 것이기 때문입니다.
2.2.5.5.1.6 10진수/숫자

sql.Numeric(30, 15) 경우 _p_는 30이고 _s_는 15입니다. 따라서 정수는 666666550000000000000(66666.55 * 10^15)이 되며 16바이트로 표시되어야 합니다.

https://github.com/tediousjs/tedious/blob/3cb8586c2be217d9b31ef72f866986d85614920d/src/data-type.js#L519

  ...
  buffer.writeUInt64LE(value);        // 8 bytes
  buffer.writeUInt32LE(0x00000000);   // 4 bytes
  buffer.writeUInt32LE(0x00000000);   // 4 bytes

첫 번째 줄은 문제가 있는 줄입니다.

https://github.com/tediousjs/tedious/blob/master/src/tracking-buffer/writable-tracking-buffer.js#L125
Buffer.writeInt64LE가 없으므로 두 개의 32비트 청크로 수행해야 합니다.

 writeUInt64LE(value) {
    this.writeInt32LE(value & -1);
    return this.writeUInt32LE(Math.floor(value * SHIFT_RIGHT_32));
  }

32비트 오른쪽 시프트는 문제가 나타나는 곳입니다.
Math.floor(66666550000000000000 * SHIFT_RIGHT_32) 는 0x39D2F2A02 15522015746 를 산출합니다. 34비트가 필요합니다.

이제 문제는 66666550000000000000이 0x39d2f2a02aed16000이고 64비트 이상이 필요하다는 것입니다. 그러나 이것은 53비트를 초과하는 모든 정수가 JavaScript의 _Number_ 유형으로 올바르게 표현될 수 있는 것은 아니라는 문제를 제기합니다. 이것을 올바르게 처리하려면 머리를 긁적이며 몇 가지 새로운 단위 테스트가 필요할 수 있습니다.

pekim 에 2016년 10월 31일

이 문제를 해결하려면 더 작은 규모를 사용하는 것이 좋습니다.

pekim 에 2016년 10월 31일

@pekim 내 질문에 답하고 정보를 제공해 주셔서 감사합니다! 앞으로 나아가기 위해 Node.js 대신 Python으로 작성하기로 결정했습니다. 나는 여전히 이 라이브러리를 다른 작업에 사용할 것이지만 숫자 유형은 포함하지 않을 것입니다. 다른 사람이 이 문제에 직면하지 않도록 솔루션을 찾을 수 있기를 바랍니다.

ghost 에 2016년 11월 01일

const value_stored = value.toFixed(desired_precision);

jeteon 에 2019년 10월 30일

👍3

제 경우에는 Numeric 가 Tedious(Sequelize) 위에 라이브러리에 의해 설정되었기 때문에 다른 해결 방법을 사용해야 했습니다. 본질적으로 10진수 변환이 코드가 아닌 데이터베이스 내부에서 발생하도록 매개변수의 형식을 지정합니다. 모든 숫자에 대해 다음을 사용해야 합니다.
const value_stored = value.toFixed(desired_precision);
이는 정밀도를 잃지 않고 내가 알지 못하거나 제어하지 못하는 규모와 규모에 대한 가정을 하는 DB와 내 코드 사이에 아무 것도 방해하지 않도록 하기 위한 것입니다. 물론 이것은 올바른 유형을 사용하는 것보다 대역폭 효율성이 떨어지지만 제 경우에는 레코드당 <30바이트 페널티가 중요하지 않습니다.

그것은 나에게도 문제를 해결했습니다.

이것을 전역적으로 적용할 수 있는 방법이 있습니까? 따라서 연속성이 .toFixed(2)를 호출하는 십진수 값을 삽입/업데이트하려고 할 때마다?

vitorbertolucci 에 2020년 01월 24일

👍2

이 페이지가 도움이 되었나요?

0 / 5 - 0 등급

Tedious: 숫자 유형의 값이 범위를 벗어남

가장 유용한 댓글

모든 5 댓글

관련 문제