Evalml: Atualizar o sinalizador de pesquisa automática "raise_errors" para o padrão para verdadeiro

Criado em 10 dez. 2019  ·  4Comentários  ·  Fonte: alteryx/evalml

Em # 252, @ angela97lin corrigiu um bug que não foi descoberto porque nossa cobertura de teste de unidade de automl fit foi configurada para não gerar erros (especificamente, o parâmetro raise_errors atualmente é falso). Seu PR atualizou os testes de unidade para definir raise_errors como verdadeiro em cada chamada para automl fit nos testes.

Eu queria criar um tíquete para discutir isso um pouco mais. Estou confuso sobre o parâmetro raise_errors . Por que existe? Por que ele se aplica apenas ao automl fit ? Se for um parâmetro necessário, existe um design melhor e, em particular, um que desencorajaria bugs como este? Estou preocupado porque, se confiarmos na equipe para lembrar de definir raise_errors como verdadeiro nos testes de unidade, poderemos ter problemas semelhantes novamente.

Idéias: Eu sei que @ kmax12 mencionou o uso de uma variável de ambiente para isso . Se esse parâmetro for necessário, mas minhas preocupações com o teste de unidade forem válidas, essa pode ser uma boa solução. Também poderíamos atualizar todos os testes para usar uma fixação de teste que de alguma forma garante que raise_errors seja definido apropriadamente, seja via env var, outra configuração global, ou envolvendo o método automl fit .

enhancement

Comentários muito úteis

Este surgiu no recente blitz de usabilidade . A decisão que tomamos foi manter raise_errors mas o padrão é verdadeiro.

Todos 4 comentários

Acho que você levantou muitos pontos válidos aqui! Minha suposição / palpite com o sinalizador raise_error é que, se apenas um pipeline falhar, um usuário pode não querer que toda a execução de Auto (*) falhe. Portanto, em vez disso, (silenciosamente) não levantamos o erro e, em vez disso, apenas definimos todas as pontuações como NaN para esse pipeline.

Eu concordo, porém, seria muito fácil cometer um deslize, esquecer de definir este sinalizador em testes mais recentes e perder bugs como este novamente, e isso justifica uma discussão mais aprofundada!

Este surgiu no recente blitz de usabilidade . A decisão que tomamos foi manter raise_errors mas o padrão é verdadeiro.

@ angela97lin está trabalhando em um PR para isso: # 638

@ angela97lin você pode por favor mover para em andamento, já que você tem um PR aberto para isso?

Esta página foi útil?
0 / 5 - 0 avaliações