Testng: 在 BeforeClass 失败的情况下,为忽略的测试执行 Dataprovider

创建于 2019-04-03  ·  7评论  ·  资料来源: cbeust/testng

测试版

7.0.0-beta3

预期行为

@BeforeClass配置方法失败时跳过Dataprovider,跳过所有测试。

实际行为

跳过@BeforeMethod配置,执行
也许 dataprovider 缺少 alwaysRun=true 标志?
在跳过 afterClass/Methods 时运行 dataproviders 会导致一些对象被创建但没有被清理。

该问题是否可以在 runner 上重现?

  • [ ] 贝壳
  • [ ] 马文
  • [ ] 摇篮
  • [ ] 蚂蚁
  • [ ] 日蚀
  • [x] 智能
  • [ ] NetBeans

测试用例示例

https://github.com/baflQA/testNG_parallel_debug/blob/37aa3c2822996599cc25a04b03a0cce9ac020879/src/test/java/testngparallel/Class1.java
请运行“test1”测试用例。

所有7条评论

快速提问:为什么您希望在@BeforeClass出现故障时执行数据提供程序? 你能详细说明一下吗

你好!
问题是我不想在这种情况下执行数据提供者,但它们被执行了;)
所以如果这是一个错误,我会很高兴听到这个消息。 但是如果它是一个功能——alwaysRun 会让其他人仍然使用它。 出于可疑的原因。

这就是为什么我写道:

预期行为
@BeforeClass配置方法失败时跳过Dataprovider,跳过所有测试。

喔好吧! 抱歉我看错了。 让我看看这是怎么回事。 我同意。 当类级别出现配置失败时,数据提供程序仍然运行有点违反直觉。

@baflQA - 从 TestNG 方面解决这个问题会很棘手。 看起来修复这个会导致很多回归。

因此,这里有一个简单的解决方法,可确保在配置失败时不会执行数据提供程序。

import static org.testng.Assert.fail;

import com.rationaleemotions.github.issue2049.SampleTestClass.FailureDetecter;
import org.testng.IConfigurationListener;
import org.testng.ITestContext;
import org.testng.ITestResult;
import org.testng.annotations.BeforeClass;
import org.testng.annotations.DataProvider;
import org.testng.annotations.Listeners;
import org.testng.annotations.Test;

@Listeners(FailureDetecter.class)
public class SampleTestClass {
  <strong i="8">@BeforeClass</strong>
  public void beforeClass() {
    System.err.println("BEFORE CLASS");
    fail();
  }

  @Test(dataProvider = "dp1master")
  public void test1(Class<?> clazz) {
    System.err.println("Running test for class " + clazz.getSimpleName());
  }

  <strong i="9">@DataProvider</strong>
  public Object[][] dp1master(ITestContext ctx) {
    if (ctx.getAttribute(FailureDetecter.FAILURE) != null) {
      throw new RuntimeException("Failure");
    }
    return new Object[][] {new Object[] {Object.class}, {Object.class}};
  }

  public static class FailureDetecter implements IConfigurationListener {
    public static final String FAILURE = "failure";

    <strong i="10">@Override</strong>
    public void onConfigurationFailure(ITestResult itr) {
      itr.getTestContext().setAttribute(FAILURE, Boolean.TRUE.toString());
    }
  }
}

输出

BEFORE CLASS

java.lang.AssertionError: null

    at org.testng.Assert.fail(Assert.java:97)
    at org.testng.Assert.fail(Assert.java:102)
    at com.rationaleemotions.github.issue2049.SampleTestClass.beforeClass(SampleTestClass.java:20)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:498)
    at org.testng.internal.MethodInvocationHelper.invokeMethod(MethodInvocationHelper.java:131)
    at org.testng.internal.MethodInvocationHelper.invokeMethodConsideringTimeout(MethodInvocationHelper.java:61)
    at org.testng.internal.ConfigInvoker.invokeConfigurationMethod(ConfigInvoker.java:340)
    at org.testng.internal.ConfigInvoker.invokeConfigurations(ConfigInvoker.java:294)
    at org.testng.internal.TestMethodWorker.invokeBeforeClassMethods(TestMethodWorker.java:176)
    at org.testng.internal.TestMethodWorker.run(TestMethodWorker.java:122)
    at org.testng.TestRunner.privateRun(TestRunner.java:763)
    at org.testng.TestRunner.run(TestRunner.java:594)
    at org.testng.SuiteRunner.runTest(SuiteRunner.java:398)
    at org.testng.SuiteRunner.runSequentially(SuiteRunner.java:392)
    at org.testng.SuiteRunner.privateRun(SuiteRunner.java:355)
    at org.testng.SuiteRunner.run(SuiteRunner.java:304)
    at org.testng.SuiteRunnerWorker.runSuite(SuiteRunnerWorker.java:53)
    at org.testng.SuiteRunnerWorker.run(SuiteRunnerWorker.java:96)
    at org.testng.TestNG.runSuitesSequentially(TestNG.java:1146)
    at org.testng.TestNG.runSuitesLocally(TestNG.java:1067)
    at org.testng.TestNG.runSuites(TestNG.java:997)
    at org.testng.TestNG.run(TestNG.java:965)
    at org.testng.IDEARemoteTestNG.run(IDEARemoteTestNG.java:73)
    at org.testng.RemoteTestNGStarter.main(RemoteTestNGStarter.java:123)

[Utils] [ERROR] [Error] java.lang.RuntimeException: Failure

    at com.rationaleemotions.github.issue2049.SampleTestClass.dp1master(SampleTestClass.java:31)

    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:498)


Test ignored.
    at org.testng.internal.MethodInvocationHelper.invokeMethod(MethodInvocationHelper.java:131)
    at org.testng.internal.MethodInvocationHelper.invokeMethod(MethodInvocationHelper.java:76)
    at org.testng.internal.MethodInvocationHelper.invokeMethodNoCheckedException(MethodInvocationHelper.java:45)
    at org.testng.internal.MethodInvocationHelper.invokeDataProvider(MethodInvocationHelper.java:144)
    at org.testng.internal.Parameters.handleParameters(Parameters.java:794)
    at org.testng.internal.Parameters.handleParameters(Parameters.java:739)
    at org.testng.internal.ParameterHandler.handleParameters(ParameterHandler.java:60)
    at org.testng.internal.ParameterHandler.createParameters(ParameterHandler.java:39)
    at org.testng.internal.TestInvoker$MethodInvocationAgent.invoke(TestInvoker.java:757)
    at org.testng.internal.TestInvoker.invokeTestMethods(TestInvoker.java:143)
    at org.testng.internal.TestMethodWorker.invokeTestMethods(TestMethodWorker.java:146)
    at org.testng.internal.TestMethodWorker.run(TestMethodWorker.java:128)
    at org.testng.TestRunner.privateRun(TestRunner.java:763)
    at org.testng.TestRunner.run(TestRunner.java:594)
    at org.testng.SuiteRunner.runTest(SuiteRunner.java:398)
    at org.testng.SuiteRunner.runSequentially(SuiteRunner.java:392)
    at org.testng.SuiteRunner.privateRun(SuiteRunner.java:355)
    at org.testng.SuiteRunner.run(SuiteRunner.java:304)
    at org.testng.SuiteRunnerWorker.runSuite(SuiteRunnerWorker.java:53)
    at org.testng.SuiteRunnerWorker.run(SuiteRunnerWorker.java:96)
    at org.testng.TestNG.runSuitesSequentially(TestNG.java:1146)
    at org.testng.TestNG.runSuitesLocally(TestNG.java:1067)
    at org.testng.TestNG.runSuites(TestNG.java:997)
    at org.testng.TestNG.run(TestNG.java:965)
    at org.testng.IDEARemoteTestNG.run(IDEARemoteTestNG.java:73)
    at org.testng.RemoteTestNGStarter.main(RemoteTestNGStarter.java:123)


===============================================
Default Suite
Total tests run: 1, Passes: 0, Failures: 0, Skips: 1
Configuration Failures: 1, Skips: 0
===============================================


Process finished with exit code 0

@krmahadvan ! 感谢您的努力。
听到解决这个问题不是小菜一碟,我很难过;)
根据您的评论,我提出了这种方法:
https://github.com/baflQA/testNG_parallel_debug/commit/321fbcc8872df5e611c788e13dc2e62add805163
看起来它会做同样的事情,但我不需要在我拥有的每个数据提供者中实现逻辑。
所以,我很喜欢这种方法,我认为我们可以解决这个问题。

@baflQA -

根据您的评论,我正在关闭此问题。

此页面是否有帮助?
0 / 5 - 0 等级