Evalml: Actualizar el indicador "raise_errors" de búsqueda automática al valor predeterminado verdadero

Creado en 10 dic. 2019  ·  4Comentarios  ·  Fuente: alteryx/evalml

En # 252, @ angela97lin corrigió un error que no se descubrió porque nuestra cobertura de prueba unitaria de automl fit estaba configurada para no generar errores (específicamente, el parámetro raise_errors actualmente predeterminado es falso). Su RP actualizó las pruebas unitarias para establecer raise_errors en verdadero en cada llamada a automl fit en las pruebas.

Quería crear un ticket para discutir esto un poco más. Estoy confundido acerca del parámetro raise_errors . ¿Por qué existe? ¿Por qué solo se aplica a automl fit ? Si es un parámetro necesario, ¿hay un diseño mejor y, en particular, uno que desalentaría errores como este? Me preocupa que si confiamos en que el equipo recuerde establecer raise_errors en verdadero en las pruebas unitarias, podríamos encontrarnos nuevamente con problemas similares.

Ideas: Sé que @ kmax12 mencionó el uso de una variable de entorno para esto . Si este parámetro es necesario pero mis preocupaciones sobre las pruebas unitarias son válidas, esta podría ser una buena solución. También podríamos actualizar todas las pruebas para usar un dispositivo de prueba que de alguna manera se asegure de que raise_errors esté configurado apropiadamente, ya sea a través de env var, otra configuración global o envolviendo el método automl fit .

enhancement

Comentario más útil

Este surgió en el reciente bombardeo de usabilidad . La decisión que tomamos fue mantener raise_errors pero por defecto es verdadero.

Todos 4 comentarios

¡Creo que planteas muchos puntos válidos aquí! Mi suposición / conjetura instintiva con la bandera raise_error es que si solo falla una canalización, es posible que un usuario no quiera que falle toda la ejecución de Auto (*). Entonces, en cambio, (silenciosamente) no presentamos el error y, en su lugar, solo establecemos todas las puntuaciones en NaN para esa canalización.

Sin embargo, estoy de acuerdo, sería demasiado fácil cometer un error, olvidarse de configurar esta bandera en las pruebas más recientes y volver a perder errores como este, ¡y esto merece una mayor discusión!

Este surgió en el reciente bombardeo de usabilidad . La decisión que tomamos fue mantener raise_errors pero por defecto es verdadero.

@ angela97lin está trabajando en un PR para esto: # 638

@ angela97lin , ¿puedes mover esto a en progreso ya que tienes un PR abierto para ello?

¿Fue útil esta página
0 / 5 - 0 calificaciones