MAX-CSP 2008 Competition: results by benchmark

Results by benchmark for category n-ary constraints in extension (N-ARY-EXT)

This page displays the results of the different solvers for each benchmark for category n-ary constraints in extension (N-ARY-EXT)

REMINDER

Keep in mind that the 'Best result' columns only provide the best result given by one of the solvers. This 'Best result' may be wrong in case of an UNSATISFIABLE or OPTIMUM FOUND answer (because there's no efficient way to check these answers).

Description of a cell contents:

Cell example	Meaning
Answer	Solver result
f=...	value of the objective function for the model reported by the solver
TT=...	Total Time (TT): this is the CPU time (in seconds) used by the solver until termination. This time is only meaningful for complete solvers because incomplete solvers will always run until they time out
T1=...	Time to get the best model (T1): this is the wall clock time (in seconds) ellapsed when the solver found its best model. This time is obtained from the 'o lines'. It is useful to compare both complete and incomplete solvers. It doesn't take into account the time to prove optimality of the solution.

Remember that CPU time and wall clock time are two very different notions. The CPU time represents the time during which the instructions of the solver were executed by the processor. The wall clock time represents how much time ellapsed on the clock. For a same event, the CPU time may be either smaller or greater than the wall clock time depending on the number of threads of execution and the number of processors.

Meaning of some abbreviations:

Abbreviation	Meaning
f=...	Value of the objective function
TO	Time Out
MO	Mem. Out (out of memory)

Meaning of the different colors:

Color	Meaning
text	the solver cannot handle this instance
text	the solver gave no answer
text	the solver could give an answer (SAT)
text	the solver gave a definitive answer (OPTIMUM FOUND or UNSAT)
text	the solver performed better than the other ones on that instance
text	the solver was ended by a signal
text	the solver gave an incomplete answer
text	the solver was disqualified in the category
text	the solver gave a wrong answer

For better readability, you may choose to hide some solvers:
AbsconMax 112 pc-d
AbsconMax 112 pc-w
Concrete + CSP4J - MCRW Engine 2008-05-30
Concrete + CSP4J - Tabu Engine 2008-05-30
Sugar v1.13+minisat
Sugar++ v1.13+minisat-inc
toulbar2 2008-06-27
toulbar2/BTD 2008-06-27

Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/aim-100/ normalized-aim-100-1-6-unsat-1_ext.xml	MOPT f=1 TT=1.798 T1=0	MSAT (TO) f=1 TT=3600.09 T1=0.58	OPTIMUM f=1 TT=32.483 T1=0.49 CHECKS=277652 NODES=15461	MSAT (TO) f=1 TT=3600.08	MSAT (TO) f=1 TT=3600.1	OPTIMUM f=1 TT=1.96 T1=1.79	OPTIMUM f=1 TT=1.798 T1=1.61	OPTIMUM f=1 TT=1.248 T1=0	OPTIMUM f=1 TT=2.029 T1=0
csp/aim-100/ normalized-aim-100-1-6-unsat-2_ext.xml	MOPT f=1 TT=0.275 T1=0.01	MSAT (TO) f=1 TT=3275.47 T1=0.59	OPTIMUM f=1 TT=32.974 T1=0.57 CHECKS=355827 NODES=18441	MSAT (TO) f=1 TT=3600.07	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=2.085 T1=1.89	OPTIMUM f=1 TT=1.943 T1=1.87	OPTIMUM f=1 TT=0.44 T1=0	OPTIMUM f=1 TT=0.275 T1=0.01
csp/aim-100/ normalized-aim-100-1-6-unsat-3_ext.xml	MOPT f=1 TT=1.859 T1=0.01	MSAT (TO) f=1 TT=3600.08 T1=0.58	OPTIMUM f=1 TT=38.019 T1=0.57 CHECKS=1555030 NODES=69058	MSAT (TO) f=1 TT=3600.02	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=1.982 T1=1.88	OPTIMUM f=1 TT=1.859 T1=1.67	OPTIMUM f=1 TT=6.363 T1=0.09	OPTIMUM f=1 TT=7.666 T1=0.01
csp/aim-100/ normalized-aim-100-1-6-unsat-4_ext.xml	MOPT f=1 TT=1.709 T1=0.02	MSAT (TO) f=1 TT=3472.06 T1=0.58	OPTIMUM f=1 TT=36.059 T1=0.57 CHECKS=821121 NODES=40404	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=1.997 T1=1.86	OPTIMUM f=1 TT=1.975 T1=1.86	OPTIMUM f=1 TT=1.084 T1=0	OPTIMUM f=1 TT=1.709 T1=0.02
csp/aim-100/ normalized-aim-100-2-0-unsat-1_ext.xml	MOPT f=1 TT=1.689 T1=0.02	MSAT (TO) f=1 TT=3600.1 T1=0.62	OPTIMUM f=1 TT=31.201 T1=0.58 CHECKS=29274 NODES=1841	MSAT (TO) f=1 TT=3600.07	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=2.485 T1=2.25	OPTIMUM f=1 TT=2.274 T1=2.08	OPTIMUM f=1 TT=0.601 T1=0	OPTIMUM f=1 TT=1.689 T1=0.02
csp/aim-100/ normalized-aim-100-2-0-unsat-2_ext.xml	MOPT f=1 TT=1.988 T1=0.01	MSAT (TO) f=1 TT=3600.09 T1=0.58	OPTIMUM f=1 TT=31.894 T1=0.58 CHECKS=126742 NODES=6833	MSAT (TO) f=1 TT=3600.02	MSAT (TO) f=1 TT=3600.01	OPTIMUM f=1 TT=2.397 T1=2.15	OPTIMUM f=1 TT=1.988 T1=1.8	OPTIMUM f=1 TT=3.662 T1=0	OPTIMUM f=1 TT=4.401 T1=0.01
csp/aim-100/ normalized-aim-100-2-0-unsat-3_ext.xml	MOPT f=1 TT=1.671 T1=0.03	MSAT (TO) f=1 TT=3584.45 T1=0.58	OPTIMUM f=1 TT=32.625 T1=0.68 CHECKS=408221 NODES=15529	MSAT (TO) f=1 TT=3600.08	MSAT (TO) f=1 TT=3600.02	OPTIMUM f=1 TT=2.426 T1=2.2	OPTIMUM f=1 TT=2.394 T1=2.21	OPTIMUM f=1 TT=2.964 T1=0	OPTIMUM f=1 TT=1.671 T1=0.03
csp/aim-100/ normalized-aim-100-2-0-unsat-4_ext.xml	MOPT f=1 TT=1.583 T1=0.02	MSAT (TO) f=1 TT=3600.13 T1=0.58	OPTIMUM f=1 TT=31.759 T1=0.56 CHECKS=198401 NODES=8471	MSAT (TO) f=1 TT=3600.05	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=1.823 T1=1.6	OPTIMUM f=1 TT=1.583 T1=1.4	OPTIMUM f=1 TT=2.339 T1=0	OPTIMUM f=1 TT=1.86 T1=0.02
csp/aim-200/ normalized-aim-200-1-6-unsat-1_ext.xml	MOPT f=1 TT=3.12 T1=0.04	MSAT (TO) f=1 TT=3600.07 T1=0.57	OPTIMUM f=1 TT=43.71 T1=0.67 CHECKS=1226560 NODES=58581	MSAT (TO) f=1 TT=3600.01	MSAT (TO) f=1 TT=3600	OPTIMUM f=1 TT=4.128 T1=3.9	OPTIMUM f=1 TT=3.12 T1=2.89	OPTIMUM f=1 TT=24.402 T1=0	OPTIMUM f=1 TT=44.179 T1=0.04
csp/aim-200/ normalized-aim-200-1-6-unsat-2_ext.xml	MOPT f=1 TT=3.073 T1=0.61	MSAT (TO) f=1 TT=3600.04 T1=0.61	OPTIMUM f=1 TT=1437.77 T1=0.65 CHECKS=303344000 NODES=9609300	MSAT (TO) f=1 TT=3600.02	MSAT (TO) f=1 TT=3600.08	OPTIMUM f=1 TT=4.002 T1=3.63	OPTIMUM f=1 TT=3.073 T1=2.9	? (TO) TT=3600.03	? (TO) f=1 TT=3600.09 T1=0.97
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/aim-200/ normalized-aim-200-1-6-unsat-3_ext.xml	MOPT f=1 TT=2.788 T1=0.03	MSAT (TO) f=1 TT=3600.1 T1=0.69	OPTIMUM f=1 TT=2486.51 T1=0.68 CHECKS=573478000 NODES=15444300	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.06	OPTIMUM f=1 TT=3.397 T1=3.08	OPTIMUM f=1 TT=2.788 T1=2.57	OPTIMUM f=1 TT=783.953 T1=11.89	OPTIMUM f=1 TT=258.687 T1=0.03
csp/aim-200/ normalized-aim-200-1-6-unsat-4_ext.xml	MOPT f=1 TT=3.043 T1=0.04	MSAT (TO) f=1 TT=3600.04 T1=0.59	OPTIMUM f=1 TT=35.38 T1=0.67 CHECKS=366488 NODES=19645	MSAT (TO) f=1 TT=3600	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=3.942 T1=3.61	OPTIMUM f=1 TT=3.043 T1=2.77	OPTIMUM f=1 TT=462.184 T1=0	OPTIMUM f=1 TT=613.418 T1=0.04
csp/aim-200/ normalized-aim-200-2-0-unsat-1_ext.xml	MOPT f=1 TT=3.177 T1=0.59	MSAT (TO) f=1 TT=3600.15 T1=0.59	OPTIMUM f=1 TT=45.585 T1=0.65 CHECKS=1472460 NODES=65282	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=4.865 T1=4.48	OPTIMUM f=1 TT=3.177 T1=2.95	OPTIMUM f=1 TT=303.014 T1=0	OPTIMUM f=1 TT=324.894 T1=0.97
csp/aim-200/ normalized-aim-200-2-0-unsat-2_ext.xml	MOPT f=1 TT=2.541 T1=0.58	MSAT (TO) f=1 TT=3600.05 T1=0.58	OPTIMUM f=1 TT=43.411 T1=0.68 CHECKS=1226880 NODES=49415	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.04	OPTIMUM f=1 TT=3.221 T1=2.92	OPTIMUM f=1 TT=2.541 T1=2.31	OPTIMUM f=1 TT=426.483 T1=0	OPTIMUM f=1 TT=1531.4 T1=1.16
csp/aim-200/ normalized-aim-200-2-0-unsat-3_ext.xml	MOPT f=1 TT=3.674 T1=0.77	MSAT (TO) f=1 TT=3600.1 T1=0.77	OPTIMUM f=1 TT=33.373 T1=0.78 CHECKS=170226 NODES=9484	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=4.891 T1=4.49	OPTIMUM f=1 TT=3.674 T1=3.45	OPTIMUM f=1 TT=72.194 T1=0	OPTIMUM f=1 TT=263.636 T1=1.07
csp/aim-200/ normalized-aim-200-2-0-unsat-4_ext.xml	MOPT f=1 TT=3.348 T1=0.05	MSAT (TO) f=1 TT=3600.09 T1=0.58	OPTIMUM f=1 TT=38.91 T1=0.77 CHECKS=648852 NODES=29753	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.01	OPTIMUM f=1 TT=4.997 T1=4.54	OPTIMUM f=1 TT=3.348 T1=3.12	OPTIMUM f=1 TT=24.864 T1=0	OPTIMUM f=1 TT=39.462 T1=0.05
csp/aim-50/ normalized-aim-50-1-6-unsat-1_ext.xml	MOPT f=1 TT=0.044 T1=0	OPTIMUM f=1 TT=32.973 T1=0.48 CHECKS=793173 NODES=39673	OPTIMUM f=1 TT=30.839 T1=0.48 CHECKS=11415 NODES=742	MSAT (TO) f=1 TT=3600.05	MSAT (TO) f=1 TT=3600.11	OPTIMUM f=1 TT=1.329 T1=1.17	OPTIMUM f=1 TT=1.402 T1=1.25	OPTIMUM f=1 TT=0.022 T1=0	OPTIMUM f=1 TT=0.044 T1=0
csp/aim-50/ normalized-aim-50-1-6-unsat-2_ext.xml	MOPT f=1 TT=0.184 T1=0	OPTIMUM f=1 TT=34.002 T1=0.49 CHECKS=1926450 NODES=75711	OPTIMUM f=1 TT=31.036 T1=0.48 CHECKS=44955 NODES=2642	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.01	OPTIMUM f=1 TT=1.356 T1=1.18	OPTIMUM f=1 TT=1.312 T1=1.14	OPTIMUM f=1 TT=0.157 T1=0	OPTIMUM f=1 TT=0.184 T1=0
csp/aim-50/ normalized-aim-50-1-6-unsat-3_ext.xml	MOPT f=1 TT=0.064 T1=0	OPTIMUM f=1 TT=30.793 T1=0.49 CHECKS=11924 NODES=803	OPTIMUM f=1 TT=30.919 T1=0.49 CHECKS=11455 NODES=782	MSAT (TO) f=1 TT=3600.01	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=1.496 T1=1.33	OPTIMUM f=1 TT=1.438 T1=1.27	OPTIMUM f=1 TT=0.029 T1=0	OPTIMUM f=1 TT=0.064 T1=0
csp/aim-50/ normalized-aim-50-1-6-unsat-4_ext.xml	MOPT f=1 TT=0.044 T1=0	OPTIMUM f=1 TT=36.364 T1=0.5 CHECKS=4157170 NODES=136597	OPTIMUM f=1 TT=30.87 T1=0.48 CHECKS=5940 NODES=452	MSAT (TO) f=1 TT=3600.02	MSAT (TO) f=1 TT=3600.06	OPTIMUM f=1 TT=1.459 T1=1.3	OPTIMUM f=1 TT=1.448 T1=1.29	OPTIMUM f=1 TT=0.017 T1=0	OPTIMUM f=1 TT=0.044 T1=0
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/aim-50/ normalized-aim-50-2-0-unsat-1_ext.xml	MOPT f=1 TT=0.059 T1=0	OPTIMUM f=1 TT=43.747 T1=0.49 CHECKS=8432010 NODES=284390	OPTIMUM f=1 TT=30.932 T1=0.48 CHECKS=24849 NODES=1332	MSAT (TO) f=1 TT=3600.07	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=1.775 T1=1.61	OPTIMUM f=1 TT=1.496 T1=1.33	OPTIMUM f=1 TT=0.026 T1=0	OPTIMUM f=1 TT=0.059 T1=0
csp/aim-50/ normalized-aim-50-2-0-unsat-2_ext.xml	MOPT f=1 TT=0.111 T1=0	OPTIMUM f=1 TT=33.113 T1=0.56 CHECKS=1044300 NODES=44216	OPTIMUM f=1 TT=30.827 T1=0.48 CHECKS=17337 NODES=1034	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.08	OPTIMUM f=1 TT=1.554 T1=1.38	OPTIMUM f=1 TT=1.506 T1=1.34	OPTIMUM f=1 TT=0.058 T1=0	OPTIMUM f=1 TT=0.111 T1=0
csp/aim-50/ normalized-aim-50-2-0-unsat-3_ext.xml	MOPT f=1 TT=0.113 T1=0	OPTIMUM f=1 TT=32.906 T1=0.58 CHECKS=1148320 NODES=44348	OPTIMUM f=1 TT=31.049 T1=0.58 CHECKS=25420 NODES=1462	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=1.556 T1=1.39	OPTIMUM f=1 TT=1.511 T1=1.34	OPTIMUM f=1 TT=0.156 T1=0	OPTIMUM f=1 TT=0.113 T1=0
csp/aim-50/ normalized-aim-50-2-0-unsat-4_ext.xml	MOPT f=1 TT=0.066 T1=0	OPTIMUM f=1 TT=32.713 T1=0.48 CHECKS=940733 NODES=30978	OPTIMUM f=1 TT=30.908 T1=0.47 CHECKS=10606 NODES=600	MSAT (TO) f=1 TT=3600.02	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=1.573 T1=1.38	OPTIMUM f=1 TT=1.444 T1=1.27	OPTIMUM f=1 TT=0.035 T1=0	OPTIMUM f=1 TT=0.066 T1=0
csp/bddLarge/ normalized-bdd-21-2713-15-79-10_ext.xml	MOPT f=88 TT=1162.19 T1=16.91	OPTIMUM f=88 TT=1285.93 T1=16.91 CHECKS=727170000 NODES=13755	OPTIMUM f=88 TT=1162.19 T1=17.01 CHECKS=675318000 NODES=12895	MSAT (TO) f=88 TT=3600.06	MSAT (TO) f=88 TT=3600.06	? TT=129.212	? TT=132.056	? (MO) TT=68.36	? (MO) TT=67.19
csp/bddLarge/ normalized-bdd-21-2713-15-79-12_ext.xml	MOPT f=125 TT=1405.93 T1=8.23	OPTIMUM f=125 TT=1591.69 T1=8.86 CHECKS=954422000 NODES=18942	OPTIMUM f=125 TT=1405.93 T1=8.23 CHECKS=889706000 NODES=17092	MSAT (TO) f=125 TT=3600.07	MSAT (TO) f=125 TT=3600.09	? TT=165.624	? TT=175.061	? (MO) TT=63.29	? (MO) TT=62.94
csp/bddLarge/ normalized-bdd-21-2713-15-79-15_ext.xml	MSAT TO f=701 TT=3600.03 T1=165.26	MSAT (TO) f=701 TT=3600.1 T1=2163.56	MSAT (TO) f=701 TT=3600.07 T1=165.26	MSAT (TO) f=701 TT=3600.08	MSAT (TO) f=701 TT=3600.03	? TT=137.243	? TT=136.944	? (MO) TT=66.85	? (MO) TT=66.75
csp/bddLarge/ normalized-bdd-21-2713-15-79-16_ext.xml	MOPT f=179 TT=1781.32 T1=3.69	OPTIMUM f=179 TT=1940.98 T1=4.22 CHECKS=1212100000 NODES=25250	OPTIMUM f=179 TT=1781.32 T1=3.69 CHECKS=1154530000 NODES=24156	MSAT (TO) f=179 TT=3600.09	MSAT (TO) f=179 TT=3600.09	? TT=123.074	? TT=125.15	? (MO) TT=66.86	? (MO) TT=62.57
csp/bddLarge/ normalized-bdd-21-2713-15-79-17_ext.xml	MOPT f=198 TT=1916.69 T1=7.25	OPTIMUM f=198 TT=2263.44 T1=8.1 CHECKS=1300620000 NODES=27073	OPTIMUM f=198 TT=1916.69 T1=7.25 CHECKS=1209160000 NODES=25489	MSAT (TO) f=198 TT=3600.02	MSAT (TO) f=198 TT=3600.05	? TT=122.619	? TT=129.684	? (MO) TT=63.08	? (MO) TT=62.68
csp/bddLarge/ normalized-bdd-21-2713-15-79-18_ext.xml	MSAT TO f=698 TT=3600.03	MSAT (TO) f=921 TT=3600.13 T1=43.09	MSAT (TO) f=921 TT=3600.15 T1=53.32	MSAT (TO) f=698 TT=3600.08	MSAT (TO) f=698 TT=3600.03	? TT=134.717	? TT=144.284	? (MO) TT=67.09	? (MO) TT=62.52
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/bddLarge/ normalized-bdd-21-2713-15-79-1_ext.xml	MSAT TO f=758 TT=3600.04 T1=5.43	MSAT (TO) f=758 TT=3600.14 T1=5.43	MSAT (TO) f=758 TT=3600.11 T1=5.7	MSAT (TO) f=758 TT=3600.06	MSAT (TO) f=758 TT=3600.04	? TT=166.049	? TT=184.804	? (MO) TT=62.58	? (MO) TT=66.87
csp/bddLarge/ normalized-bdd-21-2713-15-79-20_ext.xml	MSAT TO f=420 TT=3600 T1=33.78	MSAT (TO) f=420 TT=3600.06 T1=33.78	MSAT (TO) f=420 TT=3600.13 T1=50.69	MSAT (TO) f=420 TT=3600	MSAT (TO) f=420 TT=3600.09	? TT=144.064	? TT=149.214	? (MO) TT=62.98	? (MO) TT=63.18
csp/bddLarge/ normalized-bdd-21-2713-15-79-21_ext.xml	MSAT TO f=37 TT=3600	MSAT (TO) f=780 TT=2218.84 T1=49.44	MSAT (TO) f=780 TT=3600.1 T1=1231.21	MSAT (TO) f=37 TT=3600.05	MSAT (TO) f=37 TT=3600	? TT=89.936	? TT=83.62	? (MO) TT=66.85	? (MO) TT=66.85
csp/bddLarge/ normalized-bdd-21-2713-15-79-23_ext.xml	MSAT TO f=557 TT=3600	MSAT (TO) f=758 TT=3600.15 T1=2310.64	MSAT (TO) f=758 TT=3600.15 T1=455.52	MSAT (TO) f=557 TT=3600	MSAT (TO) f=557 TT=3600.04	? TT=148.448	? TT=177.495	? (MO) TT=67.39	? (MO) TT=67.58
csp/bddLarge/ normalized-bdd-21-2713-15-79-25_ext.xml	MSAT TO f=371 TT=3600.03	MSAT (TO) f=1231 TT=3600.14 T1=3197.77	MSAT (TO) f=1180 TT=3600.09 T1=1141.67	MSAT (TO) f=371 TT=3600.03	MSAT (TO) f=371 TT=3600.09	? TT=157.582	? TT=135.423	? (MO) TT=62.57	? (MO) TT=66.96
csp/bddLarge/ normalized-bdd-21-2713-15-79-26_ext.xml	MSAT TO f=354 TT=3600.06	MSAT (TO) f=799 TT=3600.09 T1=36.95	MSAT (TO) f=799 TT=3600.11 T1=450.2	MSAT (TO) f=354 TT=3600.09	MSAT (TO) f=354 TT=3600.06	? TT=103.603	? TT=106.23	? (MO) TT=63.03	? (MO) TT=67.59
csp/bddLarge/ normalized-bdd-21-2713-15-79-27_ext.xml	MSAT TO f=203 TT=3600.02	MSAT (TO) f=783 TT=3600.14 T1=3533.02	MSAT (TO) f=766 TT=3600.09 T1=3435.94	MSAT (TO) f=203 TT=3600.02	MSAT (TO) f=203 TT=3600.06	? TT=147.598	? TT=148.018	? (MO) TT=62.98	? (MO) TT=66.85
csp/bddLarge/ normalized-bdd-21-2713-15-79-29_ext.xml	MSAT TO f=770 TT=3600.06 T1=10.68	MSAT (TO) f=770 TT=3600.16 T1=10.98	MSAT (TO) f=770 TT=3600.15 T1=10.68	MSAT (TO) f=770 TT=3600.08	MSAT (TO) f=770 TT=3600.06	? TT=141.354	? TT=134.721	? (MO) TT=64.36	? (MO) TT=62.58
csp/bddLarge/ normalized-bdd-21-2713-15-79-2_ext.xml	MSAT TO f=500 TT=3600.03 T1=40.89	MSAT (TO) f=500 TT=3600.09 T1=1837.8	MSAT (TO) f=500 TT=3600.08 T1=40.89	MSAT (TO) f=500 TT=3600.03	MSAT (TO) f=500 TT=3600.06	? TT=155.656	? TT=133.12	? (MO) TT=63.3	? (MO) TT=62.46
csp/bddLarge/ normalized-bdd-21-2713-15-79-30_ext.xml	MOPT f=43 TT=805.326 T1=1.16	OPTIMUM f=43 TT=913.575 T1=1.16 CHECKS=530643000 NODES=10510	OPTIMUM f=43 TT=805.326 T1=1.25 CHECKS=486176000 NODES=9522	MSAT (TO) f=43 TT=3600.05	MSAT (TO) f=43 TT=3600.02	? TT=249.617	? TT=253.494	? (MO) TT=67.38	? (MO) TT=68.15
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/bddLarge/ normalized-bdd-21-2713-15-79-33_ext.xml	MSAT TO f=651 TT=3600 T1=21.67	MSAT (TO) f=651 TT=3600.16 T1=23.89	MSAT (TO) f=651 TT=3600.05 T1=21.67	MSAT (TO) f=651 TT=3600	MSAT (TO) f=651 TT=3600.05	? TT=130.197	? TT=131.351	? (MO) TT=67.54	? (MO) TT=62.57
csp/bddLarge/ normalized-bdd-21-2713-15-79-6_ext.xml	MSAT TO f=263 TT=3600	MSAT (TO) f=1216 TT=3600.1 T1=17.39	MSAT (TO) f=1216 TT=3600.16 T1=17.15	MSAT (TO) f=263 TT=3600	MSAT (TO) f=263 TT=3600.05	? TT=133.478	? TT=140.256	? (MO) TT=64.88	? (MO) TT=64.96
csp/bddLarge/ normalized-bdd-21-2713-15-79-7_ext.xml	MSAT TO f=1263 TT=3600.01 T1=2.27	MSAT (TO) f=1263 TT=3600.11 T1=2.46	MSAT (TO) f=1263 TT=3600.09 T1=2.27	MSAT (TO) f=1263 TT=3600.01	MSAT (TO) f=1263 TT=3600.07	? TT=135.655	? TT=140.934	? (MO) TT=67.17	? (MO) TT=62.64
csp/bddLarge/ normalized-bdd-21-2713-15-79-9_ext.xml	MSAT TO f=1019 TT=3600.01 T1=39.04	MSAT (TO) f=1019 TT=3600.15 T1=39.04	MSAT (TO) f=1019 TT=3600.17 T1=3106.02	MSAT (TO) f=1019 TT=3600.06	MSAT (TO) f=1019 TT=3600.01	? TT=162.275	? TT=141.368	? (MO) TT=62.92	? (MO) TT=62.81
csp/bddSmall/ normalized-bdd-21-133-18-78-12_ext.xml	MOPT f=13 TT=497.844 T1=2.19	OPTIMUM f=13 TT=497.844 T1=2.19 CHECKS=238263000 NODES=98287	OPTIMUM f=13 TT=556.707 T1=2.36 CHECKS=240477000 NODES=98142	MSAT (TO) f=13 TT=3600.04	MSAT (TO) f=13 TT=3600.05	? TT=239.56	? TT=257.314	OPTIMUM f=13 TT=361.271 T1=211.37	OPTIMUM f=13 TT=554.236 T1=483.28
csp/bddSmall/ normalized-bdd-21-133-18-78-13_ext.xml	MOPT f=10 TT=548.07 T1=301.06	OPTIMUM f=10 TT=707.319 T1=703.07 CHECKS=322155000 NODES=129852	OPTIMUM f=10 TT=629.806 T1=574.57 CHECKS=289637000 NODES=113619	MSAT (TO) f=10 TT=3600.1	MSAT (TO) f=10 TT=3600.05	? TT=131.884	? TT=133.433	OPTIMUM f=10 TT=367.155 T1=98.55	OPTIMUM f=10 TT=548.07 T1=301.06
csp/bddSmall/ normalized-bdd-21-133-18-78-14_ext.xml	MOPT f=9 TT=479.687 T1=15.77	OPTIMUM f=9 TT=498.517 T1=16.82 CHECKS=210396000 NODES=84024	OPTIMUM f=9 TT=479.687 T1=15.77 CHECKS=209514000 NODES=80607	MSAT (TO) f=9 TT=3600.07	MSAT (TO) f=9 TT=3600	? TT=256.504	? TT=255.697	OPTIMUM f=9 TT=426.437 T1=423.21	OPTIMUM f=9 TT=588.18 T1=522.57
csp/bddSmall/ normalized-bdd-21-133-18-78-15_ext.xml	MOPT f=8 TT=407.304 T1=1.19	OPTIMUM f=8 TT=431.53 T1=1.47 CHECKS=184139000 NODES=72284	OPTIMUM f=8 TT=407.304 T1=1.19 CHECKS=184780000 NODES=72034	MSAT (TO) f=8 TT=3600.04	MSAT (TO) f=8 TT=3600.09	? TT=111.841	? TT=112.011	OPTIMUM f=8 TT=321.393 T1=47.97	OPTIMUM f=8 TT=480.957 T1=212.16
csp/bddSmall/ normalized-bdd-21-133-18-78-16_ext.xml	MOPT f=10 TT=461.628 T1=2.86	OPTIMUM f=10 TT=461.628 T1=3.05 CHECKS=202086000 NODES=79141	OPTIMUM f=10 TT=497.861 T1=2.86 CHECKS=212152000 NODES=82864	MSAT (TO) f=10 TT=3600.06	MSAT (TO) f=10 TT=3600.04	? TT=174.806	? TT=181.498	OPTIMUM f=10 TT=376.045 T1=243.05	OPTIMUM f=10 TT=551.199 T1=531.21
csp/bddSmall/ normalized-bdd-21-133-18-78-19_ext.xml	MOPT f=3 TT=269.981 T1=2.88	OPTIMUM f=3 TT=269.981 T1=2.93 CHECKS=103238000 NODES=42114	OPTIMUM f=3 TT=294.533 T1=2.88 CHECKS=112806000 NODES=43098	MSAT (TO) f=3 TT=3600.02	MSAT (TO) f=3 TT=3600.05	? TT=279.408	? TT=230.52	OPTIMUM f=3 TT=221.202 T1=79.57	OPTIMUM f=3 TT=398.53 T1=257.26
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/bddSmall/ normalized-bdd-21-133-18-78-21_ext.xml	MOPT f=6 TT=358.685 T1=4.68	OPTIMUM f=6 TT=358.685 T1=4.68 CHECKS=161659000 NODES=62198	OPTIMUM f=6 TT=388.499 T1=4.68 CHECKS=161773000 NODES=60829	MSAT (TO) f=6 TT=3600.04	MSAT (TO) f=6 TT=3600.1	? TT=233.696	? TT=248.351	OPTIMUM f=6 TT=305.591 T1=69.08	OPTIMUM f=6 TT=482.844 T1=255.66
csp/bddSmall/ normalized-bdd-21-133-18-78-22_ext.xml	MOPT f=1 TT=211.044 T1=1.86	OPTIMUM f=1 TT=212.307 T1=1.86 CHECKS=82731500 NODES=30586	OPTIMUM f=1 TT=211.044 T1=2.16 CHECKS=74332000 NODES=26370	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.07	? TT=100.627	? TT=91.62	OPTIMUM f=1 TT=349.929 T1=339.09	OPTIMUM f=1 TT=470.267 T1=421.63
csp/bddSmall/ normalized-bdd-21-133-18-78-24_ext.xml	MOPT f=10 TT=407.156 T1=1.09	OPTIMUM f=10 TT=407.156 T1=1.09 CHECKS=191749000 NODES=78260	OPTIMUM f=10 TT=460.48 T1=1.38 CHECKS=196362000 NODES=75220	MSAT (TO) f=10 TT=3600.08	MSAT (TO) f=10 TT=3600.04	? TT=232.586	? TT=237.861	OPTIMUM f=10 TT=388.008 T1=261.19	OPTIMUM f=10 TT=523.401 T1=500.28
csp/bddSmall/ normalized-bdd-21-133-18-78-29_ext.xml	MOPT f=3 TT=274.533 T1=1.58	OPTIMUM f=3 TT=274.533 T1=1.58 CHECKS=117432000 NODES=45972	OPTIMUM f=3 TT=283.137 T1=1.59 CHECKS=118416000 NODES=44829	MSAT (TO) f=3 TT=3600.05	MSAT (TO) f=3 TT=3600.06	? TT=132.004	? TT=152.276	OPTIMUM f=3 TT=282.289 T1=41.98	OPTIMUM f=3 TT=458.367 T1=216.96
csp/bddSmall/ normalized-bdd-21-133-18-78-30_ext.xml	MOPT f=11 TT=541.898 T1=9.13	OPTIMUM f=11 TT=541.898 T1=9.34 CHECKS=240737000 NODES=94515	OPTIMUM f=11 TT=548.564 T1=9.13 CHECKS=231973000 NODES=90408	MSAT (TO) f=11 TT=3600.01	MSAT (TO) f=11 TT=3600.03	? TT=289.66	? TT=272.233	OPTIMUM f=11 TT=406.002 T1=357.79	OPTIMUM f=11 TT=556.368 T1=461.5
csp/bddSmall/ normalized-bdd-21-133-18-78-31_ext.xml	MOPT f=14 TT=530.231 T1=2.58	OPTIMUM f=14 TT=544.027 T1=2.58 CHECKS=262885000 NODES=104407	OPTIMUM f=14 TT=594.074 T1=2.95 CHECKS=260033000 NODES=104747	MSAT (TO) f=14 TT=3600.09	MSAT (TO) f=14 TT=3600.07	? TT=238.481	? TT=252.823	OPTIMUM f=14 TT=346.646 T1=46.73	OPTIMUM f=14 TT=530.231 T1=218.86
csp/bddSmall/ normalized-bdd-21-133-18-78-33_ext.xml	MOPT f=1 TT=223.986 T1=25.92	OPTIMUM f=1 TT=257.369 T1=28.21 CHECKS=86542900 NODES=31273	OPTIMUM f=1 TT=223.986 T1=25.92 CHECKS=77980600 NODES=27218	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.01	? TT=255.879	? TT=218.741	OPTIMUM f=1 TT=172.91 T1=42.57	OPTIMUM f=1 TT=341.502 T1=214.95
csp/bddSmall/ normalized-bdd-21-133-18-78-35_ext.xml	MOPT f=8 TT=414.723 T1=5.27	OPTIMUM f=8 TT=414.723 T1=5.82 CHECKS=180432000 NODES=70396	OPTIMUM f=8 TT=416.442 T1=5.27 CHECKS=186397000 NODES=71636	MSAT (TO) f=8 TT=3600.01	MSAT (TO) f=8 TT=3600.01	? TT=246.79	? TT=253.853	OPTIMUM f=8 TT=400.092 T1=170.25	OPTIMUM f=8 TT=587.823 T1=348.5
csp/bddSmall/ normalized-bdd-21-133-18-78-6_ext.xml	MOPT f=2 TT=253.215 T1=1.16	OPTIMUM f=2 TT=253.215 T1=1.37 CHECKS=103468000 NODES=39827	OPTIMUM f=2 TT=255.833 T1=1.16 CHECKS=97450400 NODES=36234	MSAT (TO) f=2 TT=3600.04	MSAT (TO) f=2 TT=3600.06	? TT=248.369	? TT=255.002	OPTIMUM f=2 TT=318.32 T1=313.31	OPTIMUM f=2 TT=485.986 T1=473.33
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-11.xml	MSAT TO f=9 TT=3600.04 T1=2679.66	MSAT (TO) f=10 TT=3600.16 T1=24.92	MSAT (TO) f=10 TT=3600.21 T1=25.13	MSAT (TO) f=9 TT=3600.08	MSAT (TO) f=9 TT=3600.04	? (MO) TT=23.32	? (MO) TT=22.47	? (TO) TT=3600.04	? (TO) f=9 TT=3600.01 T1=2679.66
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-12.xml	MSAT TO f=9 TT=3600.01	MSAT (TO) f=10 TT=3600.2 T1=31.39	MSAT (TO) f=10 TT=3600.21 T1=30.16	MSAT (TO) f=9 TT=3600.05	MSAT (TO) f=9 TT=3600.01	? (MO) TT=21.9	? (MO) TT=22.604	? (TO) TT=3600.01	? (TO) f=10 TT=3600 T1=374.51
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-13.xml	MSAT TO f=9 TT=3600.01 T1=187.97	MSAT (TO) f=10 TT=3600.19 T1=24.73	MSAT (TO) f=9 TT=3600.14 T1=529.59	MSAT (TO) f=9 TT=3600.05	MSAT (TO) f=9 TT=3600.01	? (MO) TT=22.686	? (MO) TT=22.39	? (TO) TT=3600.08	? (TO) f=9 TT=3600 T1=187.97
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-14.xml	MSAT TO f=9 TT=3600 T1=1457.71	MSAT (TO) f=10 TT=3600.22 T1=32.11	MSAT (TO) f=9 TT=3600.2 T1=2686.4	MSAT (TO) f=9 TT=3600.03	MSAT (TO) f=9 TT=3600	? (MO) TT=23.42	? (MO) TT=23.16	? (TO) TT=3600	? (TO) f=9 TT=3600.01 T1=1457.71
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-15.xml	MSAT TO f=9 TT=3600.04	MSAT (TO) f=10 TT=3600.24 T1=25.54	MSAT (TO) f=10 TT=3600.15 T1=24.18	MSAT (TO) f=9 TT=3600.08	MSAT (TO) f=9 TT=3600.04	? (MO) TT=22.41	? (MO) TT=21.56	? (TO) TT=3600.04	? (TO) f=10 TT=3600.03 T1=155.84
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-17.xml	MSAT TO f=9 TT=3600.03	MSAT (TO) f=10 TT=3600.14 T1=25.63	MSAT (TO) f=10 TT=3600.13 T1=29.88	MSAT (TO) f=9 TT=3600.04	MSAT (TO) f=9 TT=3600.03	? (MO) TT=23.668	? (MO) TT=22.37	? (TO) TT=3600.04	? (TO) f=10 TT=3600.01 T1=96.54
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-19.xml	MSAT TO f=9 TT=3600 T1=3331.58	MSAT (TO) f=10 TT=3600.15 T1=26.25	MSAT (TO) f=10 TT=3600.25 T1=26.32	MSAT (TO) f=9 TT=3600.09	MSAT (TO) f=9 TT=3600	? (MO) TT=23.58	? TT=107.974	? (TO) TT=3600.02	? (TO) f=9 TT=3600.08 T1=3331.58
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-21.xml	MSAT TO f=8 TT=3600.01	MSAT (TO) f=10 TT=3600.17 T1=28.79	MSAT (TO) f=10 TT=3600.2 T1=27.41	MSAT (TO) f=9 TT=3600.09	MSAT (TO) f=8 TT=3600.01	? (MO) TT=22.697	? (MO) TT=23.15	? (TO) TT=3600	? (TO) f=10 TT=3600.09 T1=131.72
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-22.xml	MSAT TO f=9 TT=3600.03	MSAT (TO) f=10 TT=3600.15 T1=34.16	MSAT (TO) f=10 TT=3600.2 T1=34.25	MSAT (TO) f=9 TT=3600.03	MSAT (TO) f=9 TT=3600.04	? TT=113.325	? (MO) TT=22.608	? (TO) TT=3600.08	? (TO) f=10 TT=3600.09 T1=500.81
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-25.xml	MSAT TO f=9 TT=3600.03 T1=2257.39	MSAT (TO) f=10 TT=3600.17 T1=30.54	MSAT (TO) f=10 TT=3600.15 T1=29.42	MSAT (TO) f=9 TT=3600.03	MSAT (TO) f=9 TT=3600.07	? (MO) TT=23.43	? (MO) TT=23.381	? (TO) TT=3600.1	? (TO) f=9 TT=3600.07 T1=2257.39
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-3.xml	MSAT TO f=9 TT=3600.08 T1=625.62	MSAT (TO) f=9 TT=3600.2 T1=625.62	MSAT (TO) f=10 TT=3600.23 T1=38.13	MSAT (TO) f=9 TT=3600.08	MSAT (TO) f=9 TT=3600.09	? (MO) TT=24.74	? (MO) TT=25.653	? (TO) TT=3600	? (TO) f=10 TT=3600 T1=111.97
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-5.xml	MSAT TO f=9 TT=3600.04 T1=2128.56	MSAT (TO) f=10 TT=3600.22 T1=25.92	MSAT (TO) f=9 TT=3600.24 T1=3041.06	MSAT (TO) f=9 TT=3600.04	MSAT (TO) f=9 TT=3600.08	? (MO) TT=23.46	? (MO) TT=22.3	? (TO) TT=3600.02	? (TO) f=9 TT=3600.01 T1=2128.56
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-6.xml	MSAT TO f=9 TT=3600.03	MSAT (TO) f=10 TT=3600.22 T1=28.81	MSAT (TO) f=10 TT=3600.2 T1=29	MSAT (TO) f=9 TT=3600.03	MSAT (TO) f=9 TT=3600.08	? (MO) TT=22.156	? (MO) TT=23.56	? (TO) TT=3600.07	? (TO) f=10 TT=3600.08 T1=819.06
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-7.xml	MSAT TO f=9 TT=3600.02	MSAT (TO) f=10 TT=3600.24 T1=30.49	MSAT (TO) f=10 TT=3600.21 T1=27.79	MSAT (TO) f=9 TT=3600.02	MSAT (TO) f=9 TT=3600.03	? (MO) TT=23.47	? (MO) TT=22.06	? (TO) TT=3600.08	? (TO) f=10 TT=3600.1 T1=112.95
csp/dag-rand/ normalized-rand-n23-d3-e16-r15-t150000-9.xml	MSAT TO f=9 TT=3600.03 T1=1765.17	MSAT (TO) f=10 TT=3600.33 T1=24.11	MSAT (TO) f=9 TT=3600.25 T1=2830.26	MSAT (TO) f=9 TT=3600.05	MSAT (TO) f=9 TT=3600.03	? (MO) TT=25.83	? (MO) TT=26.004	? (TO) TT=3600.01	? (TO) f=9 TT=3600.01 T1=1765.17
csp/dubois/ normalized-dubois-100_ext.xml	MOPT f=1 TT=0.264 T1=0.03	MSAT (TO) f=1 TT=3600.13 T1=0.58	MSAT (TO) f=1 TT=3600.11 T1=0.68	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=2.991 T1=2.71	OPTIMUM f=1 TT=2.624 T1=2.33	? (TO) TT=3600.05	OPTIMUM f=1 TT=0.264 T1=0.03
csp/dubois/ normalized-dubois-20_ext.xml	MOPT f=1 TT=0.04 T1=0	OPTIMUM f=1 TT=473.914 T1=0.39 CHECKS=343933000 NODES=24117200	OPTIMUM f=1 TT=439.551 T1=0.48 CHECKS=331908000 NODES=21559200	MSAT (TO) f=1 TT=3600.1	MSAT (TO) f=1 TT=3600.06	OPTIMUM f=1 TT=1.146 T1=0.97	OPTIMUM f=1 TT=1.126 T1=0.97	OPTIMUM f=1 TT=0.898 T1=0	OPTIMUM f=1 TT=0.04 T1=0
csp/dubois/ normalized-dubois-21_ext.xml	MOPT f=1 TT=0.042 T1=0	OPTIMUM f=1 TT=1054.95 T1=0.48 CHECKS=744489000 NODES=50331600	OPTIMUM f=1 TT=898.146 T1=0.48 CHECKS=721697000 NODES=44980600	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=1.224 T1=1.06	OPTIMUM f=1 TT=1.276 T1=1.1	OPTIMUM f=1 TT=1.453 T1=0	OPTIMUM f=1 TT=0.042 T1=0
csp/dubois/ normalized-dubois-22_ext.xml	MOPT f=1 TT=0.041 T1=0	OPTIMUM f=1 TT=2144.53 T1=0.47 CHECKS=1606420000 NODES=104858000	OPTIMUM f=1 TT=1729.86 T1=0.48 CHECKS=1461330000 NODES=87480400	MSAT (TO) f=1 TT=3600.01	MSAT (TO) f=1 TT=3600.06	OPTIMUM f=1 TT=1.22 T1=1.06	OPTIMUM f=1 TT=1.289 T1=1.13	OPTIMUM f=1 TT=2.32 T1=0	OPTIMUM f=1 TT=0.041 T1=0
csp/dubois/ normalized-dubois-23_ext.xml	MOPT f=1 TT=0.043 T1=0	MSAT (TO) f=1 TT=3600.09 T1=0.58	MSAT (TO) f=1 TT=3600.1 T1=0.48	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.11	OPTIMUM f=1 TT=1.25 T1=1.09	OPTIMUM f=1 TT=1.239 T1=1.08	OPTIMUM f=1 TT=3.795 T1=0	OPTIMUM f=1 TT=0.043 T1=0
csp/dubois/ normalized-dubois-24_ext.xml	MOPT f=1 TT=0.045 T1=0	MSAT (TO) f=1 TT=3600.11 T1=0.48	MSAT (TO) f=1 TT=3600.1 T1=0.48	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=1.177 T1=1.02	OPTIMUM f=1 TT=1.176 T1=1.02	OPTIMUM f=1 TT=6.06 T1=0	OPTIMUM f=1 TT=0.045 T1=0
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/dubois/ normalized-dubois-25_ext.xml	MOPT f=1 TT=0.048 T1=0	MSAT (TO) f=1 TT=3600.13 T1=0.48	MSAT (TO) f=1 TT=3600.04 T1=0.51	MSAT (TO) f=1 TT=3600.07	MSAT (TO) f=1 TT=3600.06	OPTIMUM f=1 TT=1.263 T1=1.1	OPTIMUM f=1 TT=1.269 T1=1.1	OPTIMUM f=1 TT=9.904 T1=0	OPTIMUM f=1 TT=0.048 T1=0
csp/dubois/ normalized-dubois-26_ext.xml	MOPT f=1 TT=0.049 T1=0	MSAT (TO) f=1 TT=3600.1 T1=0.48	MSAT (TO) f=1 TT=3600.13 T1=0.48	MSAT (TO) f=1 TT=3600.05	MSAT (TO) f=1 TT=3600	OPTIMUM f=1 TT=1.202 T1=1.05	OPTIMUM f=1 TT=1.197 T1=1.06	OPTIMUM f=1 TT=14.836 T1=0	OPTIMUM f=1 TT=0.049 T1=0
csp/dubois/ normalized-dubois-27_ext.xml	MOPT f=1 TT=0.05 T1=0	MSAT (TO) f=1 TT=3600.11 T1=0.48	MSAT (TO) f=1 TT=3600.14 T1=0.49	MSAT (TO) f=1 TT=3600.05	MSAT (TO) f=1 TT=3600.1	OPTIMUM f=1 TT=1.324 T1=1.12	OPTIMUM f=1 TT=1.292 T1=1.12	OPTIMUM f=1 TT=25.799 T1=0	OPTIMUM f=1 TT=0.05 T1=0
csp/dubois/ normalized-dubois-28_ext.xml	MOPT f=1 TT=0.051 T1=0	MSAT (TO) f=1 TT=3600.1 T1=0.48	MSAT (TO) f=1 TT=3600.09 T1=0.46	MSAT (TO) f=1 TT=3600.08	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=1.304 T1=1.13	OPTIMUM f=1 TT=1.293 T1=1.13	OPTIMUM f=1 TT=41.836 T1=0	OPTIMUM f=1 TT=0.051 T1=0
csp/dubois/ normalized-dubois-29_ext.xml	MOPT f=1 TT=0.053 T1=0	MSAT (TO) f=1 TT=3600.13 T1=0.48	MSAT (TO) f=1 TT=3600.08 T1=0.49	MSAT (TO) f=1 TT=3600.1	MSAT (TO) f=1 TT=3600.08	OPTIMUM f=1 TT=1.238 T1=1.07	OPTIMUM f=1 TT=1.244 T1=1.08	OPTIMUM f=1 TT=62.776 T1=0	OPTIMUM f=1 TT=0.053 T1=0
csp/dubois/ normalized-dubois-30_ext.xml	MOPT f=1 TT=0.055 T1=0	MSAT (TO) f=1 TT=3600.09 T1=0.57	MSAT (TO) f=1 TT=3600.13 T1=0.49	MSAT (TO) f=1 TT=3600.1	MSAT (TO) f=1 TT=3600.01	OPTIMUM f=1 TT=1.323 T1=1.15	OPTIMUM f=1 TT=1.33 T1=1.16	OPTIMUM f=1 TT=109.574 T1=0	OPTIMUM f=1 TT=0.055 T1=0
csp/dubois/ normalized-dubois-50_ext.xml	MOPT f=1 TT=0.097 T1=0.01	MSAT (TO) f=1 TT=3600.14 T1=0.57	MSAT (TO) f=1 TT=3600.12 T1=0.58	MSAT (TO) f=1 TT=3600.05	MSAT (TO) f=1 TT=3600.01	OPTIMUM f=1 TT=1.745 T1=1.53	OPTIMUM f=1 TT=1.69 T1=1.51	? (TO) TT=3600.01	OPTIMUM f=1 TT=0.097 T1=0.01
csp/jnhUnsat/ normalized-jnh02_ext.xml	MOPT f=1 TT=6.801 T1=1.17	OPTIMUM f=1 TT=34.141 T1=1.27 CHECKS=193643 NODES=3277	OPTIMUM f=1 TT=32.153 T1=1.17 CHECKS=33182 NODES=462	MSAT (TO) f=1 TT=3600	MSAT (TO) f=1 TT=3600.04	OPTIMUM f=1 TT=16.438 T1=14.92	OPTIMUM f=1 TT=6.801 T1=6.52	OPTIMUM f=1 TT=634.872 T1=634.72	OPTIMUM f=1 TT=399.335 T1=399.18
csp/jnhUnsat/ normalized-jnh04_ext.xml	MOPT f=1 TT=6.284 T1=2.76	OPTIMUM f=1 TT=37.88 T1=2.76 CHECKS=584531 NODES=9694	OPTIMUM f=1 TT=35.597 T1=3.15 CHECKS=149243 NODES=1678	MSAT (TO) f=1 TT=3600.02	MSAT (TO) f=1 TT=3600.01	OPTIMUM f=1 TT=16.814 T1=15.49	OPTIMUM f=1 TT=6.284 T1=6.01	OPTIMUM f=1 TT=374.24 T1=373.82	OPTIMUM f=1 TT=355.704 T1=355.39
csp/jnhUnsat/ normalized-jnh06_ext.xml	MOPT f=1 TT=6.794 T1=0.75	OPTIMUM f=1 TT=45.314 T1=0.75 CHECKS=1991010 NODES=28840	OPTIMUM f=1 TT=34.831 T1=0.78 CHECKS=287795 NODES=2919	MSAT (TO) f=1 TT=3600	MSAT (TO) f=1 TT=3600.06	OPTIMUM f=1 TT=15.62 T1=14.34	OPTIMUM f=1 TT=6.794 T1=6.53	OPTIMUM f=1 TT=74.196 T1=73.65	OPTIMUM f=1 TT=128.151 T1=127.57
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/jnhUnsat/ normalized-jnh14_ext.xml	MOPT f=2 TT=7.228 T1=0.97	MSAT (TO) f=2 TT=2402.45 T1=0.97	MSAT (TO) f=2 TT=2340.22 T1=0.97	MSAT (TO) f=2 TT=3600.09	MSAT (TO) f=2 TT=3600.06	OPTIMUM f=2 TT=16.975 T1=16.72	OPTIMUM f=2 TT=7.228 T1=6.95	OPTIMUM f=2 TT=710.679 T1=647.02	OPTIMUM f=2 TT=669.129 T1=648.13
csp/jnhUnsat/ normalized-jnh19_ext.xml	MOPT f=2 TT=8.746 T1=0.75	MSAT (TO) f=2 TT=2428.03 T1=0.88	OPTIMUM f=2 TT=2158.22 T1=0.75 CHECKS=268241000 NODES=1434910	MSAT (TO) f=2 TT=3600.07	MSAT (TO) f=2 TT=3600.08	OPTIMUM f=2 TT=17.158 T1=16.92	OPTIMUM f=2 TT=8.746 T1=8.47	Wrong Opt. f=4 TT=570.474 T1=507.15	OPTIMUM f=2 TT=883.8 T1=722.08
csp/jnhUnsat/ normalized-jnh203_ext.xml	MOPT f=1 TT=7.679 T1=0.78	OPTIMUM f=1 TT=38.941 T1=0.78 CHECKS=713883 NODES=12131	OPTIMUM f=1 TT=33.858 T1=0.98 CHECKS=147232 NODES=1659	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.04	OPTIMUM f=1 TT=15.154 T1=13.95	OPTIMUM f=1 TT=7.679 T1=7.24	OPTIMUM f=1 TT=64.528 T1=64.33	OPTIMUM f=1 TT=133.747 T1=133.53
csp/jnhUnsat/ normalized-jnh206_ext.xml	MOPT f=1 TT=4.883 T1=0.76	OPTIMUM f=1 TT=46.575 T1=0.76 CHECKS=2096430 NODES=30150	OPTIMUM f=1 TT=34.904 T1=0.77 CHECKS=301987 NODES=3181	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.01	OPTIMUM f=1 TT=9.59 T1=8.56	OPTIMUM f=1 TT=4.883 T1=4.61	OPTIMUM f=1 TT=13.176 T1=12.96	OPTIMUM f=1 TT=14.953 T1=14.7
csp/jnhUnsat/ normalized-jnh211_ext.xml	MOPT f=2 TT=7.678 T1=0.74	MSAT (TO) f=2 TT=2207.96 T1=0.87	OPTIMUM f=2 TT=462.304 T1=0.74 CHECKS=53909000 NODES=282453	MSAT (TO) f=2 TT=3600.07	MSAT (TO) f=2 TT=3600.05	OPTIMUM f=2 TT=14.5 T1=14.25	OPTIMUM f=2 TT=7.678 T1=7.41	OPTIMUM f=2 TT=52.902 T1=36.06	OPTIMUM f=2 TT=26.357 T1=16.72
csp/jnhUnsat/ normalized-jnh214_ext.xml	MOPT f=1 TT=4.658 T1=1.56	OPTIMUM f=1 TT=56.143 T1=1.56 CHECKS=2983620 NODES=39726	OPTIMUM f=1 TT=35.25 T1=1.66 CHECKS=263045 NODES=2599	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=9.234 T1=8.11	OPTIMUM f=1 TT=4.658 T1=4.4	OPTIMUM f=1 TT=165.401 T1=164.8	OPTIMUM f=1 TT=141.71 T1=141.02
csp/jnhUnsat/ normalized-jnh216_ext.xml	MOPT f=1 TT=6.424 T1=0.86	OPTIMUM f=1 TT=35.44 T1=0.86 CHECKS=398501 NODES=6514	OPTIMUM f=1 TT=33.784 T1=0.97 CHECKS=169129 NODES=1746	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=13.716 T1=12.72	OPTIMUM f=1 TT=6.424 T1=6.28	OPTIMUM f=1 TT=40.103 T1=39.74	OPTIMUM f=1 TT=36.067 T1=35.63
csp/jnhUnsat/ normalized-jnh219_ext.xml	MOPT f=1 TT=6.487 T1=5.24	OPTIMUM f=1 TT=40.232 T1=5.24 CHECKS=409685 NODES=7219	OPTIMUM f=1 TT=37.515 T1=5.52 CHECKS=112319 NODES=1383	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=9.365 T1=8.25	OPTIMUM f=1 TT=6.487 T1=6.22	OPTIMUM f=1 TT=79.319 T1=79.05	OPTIMUM f=1 TT=99.31 T1=98.91
csp/jnhUnsat/ normalized-jnh302_ext.xml	MOPT f=4 TT=17.65 T1=1.05	MSAT (TO) f=4 TT=2452.14 T1=1.16	MSAT (TO) f=4 TT=2248.2 T1=1.05	MSAT (TO) f=4 TT=3600.07	MSAT (TO) f=4 TT=3600.04	OPTIMUM f=4 TT=22.955 T1=22.7	OPTIMUM f=4 TT=17.65 T1=17.36	? (TO) TT=3600.08	OPTIMUM f=4 TT=2752.53 T1=2039.53
csp/jnhUnsat/ normalized-jnh303_ext.xml	MOPT f=3 TT=18.853 T1=1.68	MSAT (TO) f=3 TT=2329.44 T1=1.68	MSAT (TO) f=3 TT=2279.97 T1=1.77	MSAT (TO) f=3 TT=3600.03	MSAT (TO) f=3 TT=3600.06	OPTIMUM f=3 TT=31.837 T1=31.58	OPTIMUM f=3 TT=18.853 T1=18.57	OPTIMUM f=3 TT=573.152 T1=96.47	OPTIMUM f=3 TT=757.63 T1=324.48
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/jnhUnsat/ normalized-jnh309_ext.xml	MOPT f=2 TT=7.258 T1=0.88	MSAT (TO) f=2 TT=2318.55 T1=0.88	MSAT (TO) f=2 TT=2267.96 T1=0.88	MSAT (TO) f=2 TT=3600.03	MSAT (TO) f=2 TT=3600.01	OPTIMUM f=2 TT=18.779 T1=18.53	OPTIMUM f=2 TT=7.258 T1=7	? (TO) TT=3600.02	OPTIMUM f=2 TT=2773.5 T1=2751.61
csp/jnhUnsat/ normalized-jnh310_ext.xml	MOPT f=3 TT=28.292 T1=1.08	MSAT (TO) f=3 TT=2243.08 T1=1.08	MSAT (TO) f=3 TT=2211.11 T1=1.27	MSAT (TO) f=3 TT=3600.02	MSAT (TO) f=3 TT=3600.02	OPTIMUM f=3 TT=36.987 T1=36.86	OPTIMUM f=3 TT=28.292 T1=27.74	OPTIMUM f=3 TT=414.702 T1=295.87	OPTIMUM f=3 TT=322.618 T1=174.02
csp/lexVg/ normalized-crossword-m1c-lex-vg10-11_ext.xml	MSAT TO f=11 TT=3600.02 T1=188.45	MSAT (TO) f=21 TT=3600.1 T1=0.57	MSAT (TO) f=21 TT=3600.11 T1=0.48	? (TO) TT=3600.09	? (TO) TT=3600.09	MSAT (TO) f=11 TT=3600.02 T1=188.45	MSAT (TO) f=11 TT=3600.09 T1=892.24	? (TO) TT=3600.11	? (TO) f=21 TT=3600.05 T1=1.06
csp/lexVg/ normalized-crossword-m1c-lex-vg11-15_ext.xml	MSAT TO f=13 TT=3600.02 T1=51.14	MSAT (TO) f=26 TT=3600.07 T1=0.48	MSAT (TO) f=26 TT=3600.16 T1=0.66	? (TO) TT=3600.02	? (TO) TT=3600.04	MSAT (TO) f=13 TT=3600.02 T1=53.5	MSAT (TO) f=13 TT=3600.16 T1=51.14	? (TO) TT=3600.07	? (TO) f=26 TT=3600.08 T1=0.33
csp/lexVg/ normalized-crossword-m1c-lex-vg12-14_ext.xml	MSAT TO f=13 TT=3600.09 T1=83.86	MSAT (TO) f=26 TT=3600.03 T1=0.47	MSAT (TO) f=26 TT=3600.12 T1=0.48	? (TO) TT=3600.02	? (TO) TT=3600.04	MSAT (TO) f=13 TT=3600.09 T1=766.7	MSAT (TO) f=13 TT=3600.12 T1=83.86	? (exit code) TT=0.015	? (exit code) TT=0.03
csp/lexVg/ normalized-crossword-m1c-lex-vg13-15_ext.xml	MSAT TO f=14 TT=3600.08 T1=25.19	MSAT (TO) f=28 TT=3600.07 T1=0.48	MSAT (TO) f=28 TT=3600.07 T1=0.48	? (TO) TT=3600.05	? (TO) TT=3600.07	MSAT (TO) f=14 TT=3600.08 T1=25.19	MSAT (TO) f=14 TT=3600.09 T1=128.21	? (TO) TT=3600.06	? (TO) f=28 TT=3600.04 T1=0.14
csp/lexVg/ normalized-crossword-m1c-lex-vg13-16_ext.xml	MSAT TO f=15 TT=3600.06 T1=32.64	MSAT (TO) f=29 TT=3600.09 T1=0.57	MSAT (TO) f=29 TT=3600.08 T1=0.57	? (TO) TT=3600.08	? (TO) TT=3600.07	MSAT (TO) f=15 TT=3600.06 T1=130.92	MSAT (TO) f=15 TT=3600.15 T1=32.64	? (TO) TT=3600.08	? (TO) f=29 TT=3600.03 T1=0.15
csp/lexVg/ normalized-crossword-m1c-lex-vg15-18_ext.xml	MOPT f=14 TT=16.424 T1=16.15	MSAT (TO) f=33 TT=3600.13 T1=0.48	MSAT (TO) f=33 TT=3600.11 T1=0.53	? (TO) TT=3600.09	? (TO) TT=3600.02	OPTIMUM f=14 TT=26.685 T1=26.43	OPTIMUM f=14 TT=16.424 T1=16.15	? (TO) TT=3600.03	? (TO) f=33 TT=3600.11 T1=0.09
csp/lexVg/ normalized-crossword-m1c-lex-vg16-20_ext.xml	MOPT f=16 TT=2.466 T1=2.24	MSAT (TO) f=36 TT=3600.18 T1=0.69	MSAT (TO) f=36 TT=3600.05 T1=0.58	? (TO) TT=3600.08	? (TO) TT=3600.07	OPTIMUM f=16 TT=3.523 T1=2.75	OPTIMUM f=16 TT=2.466 T1=2.24	? (exit code) TT=0.043	? (exit code) TT=0.084
csp/lexVg/ normalized-crossword-m1c-lex-vg5-7_ext.xml	MSAT TO f=1 TT=3600.03 T1=108.1	MSAT (TO) f=4 TT=3600.06 T1=3.25	MSAT (TO) f=4 TT=3600.08 T1=3.26	MSAT (TO) f=2 TT=3600.07	MSAT (TO) f=9 TT=3600.01	MSAT (TO) f=1 TT=3600.03 T1=108.1	MSAT (TO) f=1 TT=3600.13 T1=256.78	? (TO) TT=3600.06	? (TO) f=12 TT=3600.12 T1=0.96
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/lexVg/ normalized-crossword-m1c-lex-vg5-9_ext.xml	MSAT TO f=3 TT=3600.06 T1=47.53	MSAT (TO) f=5 TT=3600.11 T1=1.47	MSAT (TO) f=5 TT=3600.09 T1=1.47	MSAT (TO) f=5 TT=3600.03	MSAT (TO) f=11 TT=3600	MSAT (TO) f=3 TT=3600.06 T1=49.15	MSAT (TO) f=3 TT=3600.14 T1=47.53	? (TO) TT=3600.11	? (TO) f=14 TT=3600.09 T1=0.67
csp/lexVg/ normalized-crossword-m1c-lex-vg6-10_ext.xml	MSAT TO f=4 TT=3600.05 T1=123.72	MSAT (TO) f=6 TT=3600.05 T1=11.44	MSAT (TO) f=6 TT=3600.11 T1=12.23	MSAT (TO) f=6 TT=3600.03	MSAT (TO) f=14 TT=3600.05	MSAT (TO) f=4 TT=3600.05 T1=342.93	MSAT (TO) f=4 TT=3600.12 T1=123.72	? (TO) TT=3600.04	? (TO) f=16 TT=3600.08 T1=1.15
csp/lexVg/ normalized-crossword-m1c-lex-vg6-8_ext.xml	MSAT TO f=3 TT=3600.05 T1=322.17	MSAT (TO) f=6 TT=3600.08 T1=12.08	MSAT (TO) f=6 TT=3600.06 T1=13.07	MSAT (TO) f=5 TT=3600.1	MSAT (TO) f=12 TT=3600.09	MSAT (TO) f=3 TT=3600.05 T1=641.59	MSAT (TO) f=3 TT=3600.09 T1=322.17	? (TO) TT=3600.05	? (TO) f=14 TT=3600.09 T1=1.16
csp/lexVg/ normalized-crossword-m1c-lex-vg7-10_ext.xml	MSAT TO f=9 TT=3600.06 T1=73.13	MSAT (TO) f=15 TT=3600.14 T1=29.17	MSAT (TO) f=15 TT=3600.13 T1=31.68	MSAT (TO) f=12 TT=3600.04	MSAT (TO) f=16 TT=3600.05	MSAT (TO) f=9 TT=3600.06 T1=73.13	MSAT (TO) f=9 TT=3600.17 T1=85.19	? (TO) TT=3600.04	? (TO) f=17 TT=3600.04 T1=1.25
csp/lexVg/ normalized-crossword-m1c-lex-vg9-10_ext.xml	MSAT TO f=10 TT=3600.02 T1=123.48	MSAT (TO) f=19 TT=3600.12 T1=0.48	MSAT (TO) f=19 TT=3600.08 T1=0.67	? (TO) TT=3600.08	? (TO) TT=3600.01	MSAT (TO) f=10 TT=3600.02 T1=123.48	MSAT (TO) f=10 TT=3600.09 T1=415.6	? (TO) TT=3600.08	? (TO) f=19 TT=3600.08 T1=1.36
csp/lexVg/ normalized-crossword-m1c-lex-vg9-12_ext.xml	MSAT TO f=11 TT=3600.01 T1=90.27	MSAT (TO) f=21 TT=3600.11 T1=0.69	MSAT (TO) f=21 TT=3600.1 T1=0.57	? (TO) TT=3600.05	? (TO) TT=3600.04	MSAT (TO) f=11 TT=3600.01 T1=129.47	MSAT (TO) f=11 TT=3600.12 T1=90.27	? (exit code) TT=0.189	? (exit code) TT=0.376
csp/lexVg/ normalized-crossword-m1c-lex-vg9-9_ext.xml	MSAT TO f=9 TT=3600.01 T1=254.56	MSAT (TO) f=18 TT=3600.13 T1=0.68	MSAT (TO) f=18 TT=3600.16 T1=0.57	? (TO) TT=3600.07	? (TO) TT=3600.06	MSAT (TO) f=9 TT=3600.01 T1=255.63	MSAT (TO) f=9 TT=3600.08 T1=254.56	? (TO) TT=3600.04	? (TO) f=18 TT=3600.08 T1=1.36
csp/modifiedRenault/ normalized-renault-mod-10_ext.xml	MOPT f=1 TT=6.824 T1=6.61	MSAT (TO) f=2 TT=3083.95 T1=3083.89	MSAT (TO) f=2 TT=3600.16 T1=91.13	MSAT (TO) f=1 TT=3600	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=9.333 T1=9.08	OPTIMUM f=1 TT=9.11 T1=8.91	OPTIMUM f=1 TT=28.716 T1=22.11	OPTIMUM f=1 TT=6.824 T1=6.61
csp/modifiedRenault/ normalized-renault-mod-12_ext.xml	MOPT f=1 TT=5.752 T1=5.58	MSAT (TO) f=2 TT=3597.77 T1=3597.69	MSAT (TO) f=2 TT=3600.12 T1=95.85	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=9.303 T1=9.05	OPTIMUM f=1 TT=8.212 T1=8.03	OPTIMUM f=1 TT=2.229 T1=1.87	OPTIMUM f=1 TT=5.752 T1=5.58
csp/modifiedRenault/ normalized-renault-mod-14_ext.xml	MOPT f=1 TT=5.637 T1=5.5	MSAT (TO) f=1 TT=2073.02 T1=40.49	OPTIMUM f=1 TT=1473.99 T1=40.58 CHECKS=4788940000 NODES=1199	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=9.106 T1=8.9	OPTIMUM f=1 TT=9.243 T1=9.01	OPTIMUM f=1 TT=3.706 T1=1.56	OPTIMUM f=1 TT=5.637 T1=5.5
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/modifiedRenault/ normalized-renault-mod-16_ext.xml	MOPT f=1 TT=9.001 T1=8.71	MSAT (TO) f=1 TT=2394.46 T1=2394.42	OPTIMUM f=1 TT=561.232 T1=561.19 CHECKS=1916160000 NODES=3410	MSAT (TO) f=1 TT=3600.08	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=9.406 T1=9.13	OPTIMUM f=1 TT=9.001 T1=8.71	OPTIMUM f=1 TT=21.796 T1=2.26	OPTIMUM f=1 TT=24.524 T1=24.35
csp/modifiedRenault/ normalized-renault-mod-17_ext.xml	MOPT f=1 TT=7.291 T1=7.11	MSAT (TO) f=4 TT=2807.57 T1=1.86	MSAT (TO) f=2 TT=3600.1 T1=964.97	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=2 TT=3600.03	OPTIMUM f=1 TT=9.156 T1=8.93	OPTIMUM f=1 TT=8.895 T1=8.71	OPTIMUM f=1 TT=2.349 T1=1.98	OPTIMUM f=1 TT=7.291 T1=7.11
csp/modifiedRenault/ normalized-renault-mod-18_ext.xml	MOPT f=1 TT=8.906 T1=8.7	MSAT (TO) f=1 TT=2392.33 T1=2392.29	OPTIMUM f=1 TT=885.875 T1=92.9 CHECKS=2891810000 NODES=2555	MSAT (TO) f=1 TT=3600.08	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=9.264 T1=9.01	OPTIMUM f=1 TT=8.906 T1=8.7	OPTIMUM f=1 TT=4.719 T1=1.67	OPTIMUM f=1 TT=296.932 T1=296.8
csp/modifiedRenault/ normalized-renault-mod-1_ext.xml	MOPT f=1 TT=8.823 T1=8.64	OPTIMUM f=1 TT=731.303 T1=27.52 CHECKS=2162300000 NODES=15375	OPTIMUM f=1 TT=1206.97 T1=27.42 CHECKS=3778460000 NODES=1056	MSAT (TO) f=1 TT=3600.02	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=9.121 T1=8.89	OPTIMUM f=1 TT=8.823 T1=8.64	OPTIMUM f=1 TT=2.161 T1=1.87	OPTIMUM f=1 TT=10.111 T1=9.98
csp/modifiedRenault/ normalized-renault-mod-20_ext.xml	MOPT f=4 TT=17.509 T1=15.08	MSAT (TO) f=5 TT=3600.09 T1=21.78	MSAT (TO) f=5 TT=3600.13 T1=21.5	MSAT (TO) f=4 TT=3600.07	MSAT (TO) f=4 TT=3600.06	OPTIMUM f=4 TT=17.509 T1=15.08	OPTIMUM f=4 TT=22.265 T1=20.67	OPTIMUM f=4 TT=403.828 T1=164.84	OPTIMUM f=4 TT=70.16 T1=70.02
csp/modifiedRenault/ normalized-renault-mod-21_ext.xml	MOPT f=3 TT=12.088 T1=11.85	MSAT (TO) f=6 TT=3600.04 T1=57.92	MSAT (TO) f=4 TT=3600.11 T1=3600.07	MSAT (TO) f=3 TT=3600.07	MSAT (TO) f=4 TT=3600	OPTIMUM f=3 TT=12.704 T1=12.52	OPTIMUM f=3 TT=12.088 T1=11.85	OPTIMUM f=3 TT=74.249 T1=25.95	OPTIMUM f=3 TT=44.655 T1=44.49
csp/modifiedRenault/ normalized-renault-mod-22_ext.xml	MOPT f=3 TT=7.366 T1=7.21	MSAT (TO) f=4 TT=3062.41 T1=33.29	MSAT (TO) f=4 TT=3600.12 T1=30.07	MSAT (TO) f=4 TT=3600.03	MSAT (TO) f=4 TT=3600.09	OPTIMUM f=3 TT=10.684 T1=10.6	OPTIMUM f=3 TT=10.11 T1=9.57	OPTIMUM f=3 TT=29.403 T1=6.13	OPTIMUM f=3 TT=7.366 T1=7.21
csp/modifiedRenault/ normalized-renault-mod-23_ext.xml	MOPT f=4 TT=21.571 T1=21.34	MSAT (TO) f=5 TT=3267.65 T1=13.92	MSAT (TO) f=5 TT=3600.07 T1=13.84	MSAT (TO) f=4 TT=3600.09	MSAT (TO) f=5 TT=3600.02	OPTIMUM f=4 TT=22.256 T1=22.08	OPTIMUM f=4 TT=21.571 T1=21.34	OPTIMUM f=4 TT=253.987 T1=107.88	OPTIMUM f=4 TT=75.658 T1=75.52
csp/modifiedRenault/ normalized-renault-mod-27_ext.xml	MOPT f=6 TT=16.156 T1=16.04	MSAT (TO) f=7 TT=3537.16 T1=72.42	MSAT (TO) f=7 TT=3600.15 T1=3600.08	MSAT (TO) f=7 TT=3600.1	MSAT (TO) f=6 TT=3600.06	OPTIMUM f=6 TT=16.156 T1=16.04	OPTIMUM f=6 TT=17.953 T1=17.71	OPTIMUM f=6 TT=149.565 T1=8.78	OPTIMUM f=6 TT=141.002 T1=140.86
csp/modifiedRenault/ normalized-renault-mod-35_ext.xml	MOPT f=1 TT=6.633 T1=6.51	OPTIMUM f=1 TT=1869.36 T1=25.4 CHECKS=5838970000 NODES=120836	OPTIMUM f=1 TT=744.901 T1=25.07 CHECKS=2532550000 NODES=818	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=9.369 T1=9.12	OPTIMUM f=1 TT=9.087 T1=8.9	OPTIMUM f=1 TT=2.277 T1=1.46	OPTIMUM f=1 TT=6.633 T1=6.51
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/modifiedRenault/ normalized-renault-mod-37_ext.xml	MOPT f=1 TT=6.656 T1=6.51	MSAT (TO) f=2 TT=3101.16 T1=18.5	OPTIMUM f=1 TT=3005.77 T1=3001.05 CHECKS=10194300000 NODES=1708	MSAT (TO) f=1 TT=3600	MSAT (TO) f=1 TT=3600	OPTIMUM f=1 TT=9.381 T1=9.15	OPTIMUM f=1 TT=9.009 T1=8.81	OPTIMUM f=1 TT=1.704 T1=1.46	OPTIMUM f=1 TT=6.656 T1=6.51
csp/modifiedRenault/ normalized-renault-mod-3_ext.xml	MOPT f=1 TT=8.493 T1=8.26	MSAT (TO) f=1 TT=2397.97 T1=36.48	OPTIMUM f=1 TT=1155.63 T1=55.92 CHECKS=3853470000 NODES=1062	MSAT (TO) f=1 TT=3600	MSAT (TO) f=2 TT=3600.07	OPTIMUM f=1 TT=9.012 T1=8.77	OPTIMUM f=1 TT=8.493 T1=8.26	OPTIMUM f=1 TT=7.115 T1=6.23	OPTIMUM f=1 TT=61.971 T1=61.82
csp/modifiedRenault/ normalized-renault-mod-40_ext.xml	MOPT f=1 TT=8.518 T1=8.28	OPTIMUM f=1 TT=437.289 T1=36.83 CHECKS=1414420000 NODES=2421	OPTIMUM f=1 TT=610.857 T1=63.92 CHECKS=2169990000 NODES=905	MSAT (TO) f=1 TT=3600.07	MSAT (TO) f=1 TT=3600.06	OPTIMUM f=1 TT=8.61 T1=8.43	OPTIMUM f=1 TT=8.518 T1=8.28	OPTIMUM f=1 TT=2.33 T1=1.97	OPTIMUM f=1 TT=20.025 T1=19.9
csp/modifiedRenault/ normalized-renault-mod-42_ext.xml	MOPT f=1 TT=8.272 T1=8.07	OPTIMUM f=1 TT=2285.82 T1=2285.78 CHECKS=5994670000 NODES=1233960	OPTIMUM f=1 TT=1691.77 T1=118.38 CHECKS=6040610000 NODES=6603	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.02	OPTIMUM f=1 TT=8.582 T1=8.36	OPTIMUM f=1 TT=8.272 T1=8.07	OPTIMUM f=1 TT=2.965 T1=2.66	OPTIMUM f=1 TT=131.676 T1=131.5
csp/ogdVg/ normalized-crossword-m1c-ogd-vg12-15_ext.xml	MSAT TO f=27 TT=3600.07 T1=1.08	MSAT (TO) f=27 TT=3600.12 T1=1.08	MSAT (TO) f=27 TT=3600.07 T1=1.17	? (TO) TT=3600.09	? (TO) TT=3600.07	? (TO) TT=3600.16	? (TO) TT=3600.09	? (exit code) TT=0.266	? (exit code) TT=0.529
csp/ogdVg/ normalized-crossword-m1c-ogd-vg13-14_ext.xml	MSAT TO f=27 TT=3600.08 T1=0.98	MSAT (TO) f=27 TT=3600.14 T1=0.99	MSAT (TO) f=27 TT=3600.08 T1=0.98	? (TO) TT=3600.08	? (TO) TT=3600.07	? (TO) TT=3600.21	? (TO) TT=3600.16	? (TO) TT=3600.04	? (TO) f=27 TT=3600.01 T1=20.15
csp/ogdVg/ normalized-crossword-m1c-ogd-vg13-15_ext.xml	MSAT TO f=28 TT=3600.03 T1=0.81	MSAT (TO) f=28 TT=3600.08 T1=0.88	MSAT (TO) f=28 TT=3600.03 T1=0.81	? (TO) TT=3600.02	? (TO) TT=3600.04	? (TO) TT=3600.16	? (TO) TT=3600.21	? (TO) TT=3600.04	? (TO) f=28 TT=3600.07 T1=18.28
csp/ogdVg/ normalized-crossword-m1c-ogd-vg13-16_ext.xml	MSAT TO f=29 TT=3600.09 T1=0.77	MSAT (TO) f=29 TT=3600.12 T1=0.77	MSAT (TO) f=29 TT=3600.09 T1=0.82	? (TO) TT=3600	? (TO) TT=3600.01	? (TO) TT=3600.12	? (TO) TT=3600.1	? (TO) TT=3600.02	? (TO) f=29 TT=3600.09 T1=16.51
csp/ogdVg/ normalized-crossword-m1c-ogd-vg14-15_ext.xml	MSAT TO f=29 TT=3600.08 T1=0.77	MSAT (TO) f=29 TT=3600.08 T1=0.77	MSAT (TO) f=29 TT=3600.08 T1=0.77	? (TO) TT=3600	? (TO) TT=3600.09	? (TO) TT=3600.13	? (TO) TT=3600.2	? (TO) TT=3600.07	? (TO) f=29 TT=3600.02 T1=13.95
csp/ogdVg/ normalized-crossword-m1c-ogd-vg14-17_ext.xml	MSAT TO f=31 TT=3600.08 T1=0.87	MSAT (TO) f=31 TT=3600.14 T1=0.87	MSAT (TO) f=31 TT=3600.08 T1=0.91	? (TO) TT=3600.06	? (TO) TT=3600.1	? (TO) TT=3600.17	? (TO) TT=3600.05	? (TO) TT=3600.09	? (TO) f=31 TT=3600.1 T1=10.94
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/ogdVg/ normalized-crossword-m1c-ogd-vg15-16_ext.xml	MSAT TO f=31 TT=3600.08 T1=0.63	MSAT (TO) f=31 TT=3600.08 T1=0.68	MSAT (TO) f=31 TT=3600.08 T1=0.63	? (TO) TT=3600.05	? (TO) TT=3600.05	? (TO) TT=3600.06	? (TO) TT=3600.14	? (TO) TT=3600.03	? (TO) f=31 TT=3600.12 T1=7.78
csp/ogdVg/ normalized-crossword-m1c-ogd-vg15-19_ext.xml	MSAT TO f=34 TT=3600.05 T1=0.69	MSAT (TO) f=34 TT=3600.05 T1=0.74	MSAT (TO) f=34 TT=3600.13 T1=0.69	? (TO) TT=3600	? (TO) TT=3600.08	? (TO) TT=3600.19	? (TO) TT=3600.02	? (TO) TT=3600.12	? (TO) f=34 TT=3600.05 T1=8.39
csp/ogdVg/ normalized-crossword-m1c-ogd-vg16-16_ext.xml	MSAT TO f=32 TT=3600.1 T1=0.57	MSAT (TO) f=32 TT=3600.11 T1=0.57	MSAT (TO) f=32 TT=3600.1 T1=0.57	? (TO) TT=3600.01	? (TO) TT=3600.1	? (TO) TT=3600.15	? (TO) TT=3600.31	? (TO) TT=3600.1	? (TO) f=32 TT=3600.07 T1=3.05
csp/ogdVg/ normalized-crossword-m1c-ogd-vg16-18_ext.xml	MSAT TO f=34 TT=3600.07 T1=0.57	MSAT (TO) f=34 TT=3600.14 T1=0.57	MSAT (TO) f=34 TT=3600.07 T1=0.68	? (TO) TT=3600.09	? (TO) TT=3600.02	? (TO) TT=3600.14	? (TO) TT=3600.28	? (TO) TT=3600.11	? (TO) f=34 TT=3600.08 T1=2.47
csp/ogdVg/ normalized-crossword-m1c-ogd-vg16-20_ext.xml	MSAT TO f=36 TT=3600.08 T1=0.6	MSAT (TO) f=36 TT=3600.11 T1=0.68	MSAT (TO) f=36 TT=3600.08 T1=0.6	? (TO) TT=3600.01	? (TO) TT=3600.06	? (TO) TT=3600.12	? (TO) TT=3600.21	? (exit code) TT=0.3	? (exit code) TT=0.591
csp/pret/ normalized-pret-150-25_ext.xml	MOPT f=1 TT=0.536 T1=0	MSAT (TO) f=1 TT=3600.05 T1=0.58	MSAT (TO) f=1 TT=3600.08 T1=0.58	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=1.699 T1=1.51	OPTIMUM f=1 TT=1.859 T1=1.65	OPTIMUM f=1 TT=1290.9 T1=0	OPTIMUM f=1 TT=0.536 T1=0
csp/pret/ normalized-pret-150-40_ext.xml	MOPT f=1 TT=0.694 T1=0	MSAT (TO) f=1 TT=3600.03 T1=0.58	MSAT (TO) f=1 TT=3600.11 T1=0.5	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=1.673 T1=1.49	OPTIMUM f=1 TT=1.607 T1=1.42	OPTIMUM f=1 TT=1221.15 T1=0	OPTIMUM f=1 TT=0.694 T1=0
csp/pret/ normalized-pret-150-60_ext.xml	MOPT f=1 TT=0.684 T1=0.02	MSAT (TO) f=1 TT=3600.15 T1=0.48	MSAT (TO) f=1 TT=3600.13 T1=0.47	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=1.751 T1=1.55	OPTIMUM f=1 TT=1.705 T1=1.52	OPTIMUM f=1 TT=1205.16 T1=0	OPTIMUM f=1 TT=0.684 T1=0.02
csp/pret/ normalized-pret-150-75_ext.xml	MOPT f=1 TT=0.697 T1=0.02	MSAT (TO) f=1 TT=3600.08 T1=0.58	MSAT (TO) f=1 TT=3600.15 T1=0.68	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.04	OPTIMUM f=1 TT=1.66 T1=1.46	OPTIMUM f=1 TT=1.588 T1=1.4	OPTIMUM f=1 TT=1192.52 T1=3.89	OPTIMUM f=1 TT=0.697 T1=0.02
csp/pret/ normalized-pret-60-25_ext.xml	MOPT f=1 TT=0.045 T1=0	OPTIMUM f=1 TT=384.516 T1=0.49 CHECKS=249237000 NODES=13284000	OPTIMUM f=1 TT=468.309 T1=0.48 CHECKS=312887000 NODES=18680900	MSAT (TO) f=1 TT=3600.07	MSAT (TO) f=1 TT=3600.02	OPTIMUM f=1 TT=1.161 T1=1	OPTIMUM f=1 TT=1.154 T1=1	OPTIMUM f=1 TT=0.166 T1=0	OPTIMUM f=1 TT=0.045 T1=0
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/pret/ normalized-pret-60-40_ext.xml	MOPT f=1 TT=0.049 T1=0	OPTIMUM f=1 TT=412.084 T1=0.48 CHECKS=249204000 NODES=13284000	OPTIMUM f=1 TT=458.51 T1=0.45 CHECKS=310714000 NODES=19744500	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=1.195 T1=1.02	OPTIMUM f=1 TT=1.216 T1=1.05	OPTIMUM f=1 TT=0.17 T1=0	OPTIMUM f=1 TT=0.049 T1=0
csp/pret/ normalized-pret-60-60_ext.xml	MOPT f=1 TT=0.048 T1=0	OPTIMUM f=1 TT=413.198 T1=0.48 CHECKS=249197000 NODES=13284000	OPTIMUM f=1 TT=489.43 T1=0.49 CHECKS=299840000 NODES=20414000	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=1.177 T1=1.03	OPTIMUM f=1 TT=1.196 T1=1.05	OPTIMUM f=1 TT=0.212 T1=0	OPTIMUM f=1 TT=0.048 T1=0
csp/pret/ normalized-pret-60-75_ext.xml	MOPT f=1 TT=0.049 T1=0	OPTIMUM f=1 TT=411.692 T1=0.48 CHECKS=248673000 NODES=13284000	OPTIMUM f=1 TT=479.618 T1=0.5 CHECKS=282443000 NODES=18925700	MSAT (TO) f=1 TT=3600.07	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=1.168 T1=1.03	OPTIMUM f=1 TT=1.219 T1=1.06	OPTIMUM f=1 TT=0.169 T1=0	OPTIMUM f=1 TT=0.049 T1=0
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-0_ext.xml	MSAT TO f=3 TT=3600.02 T1=7.66	MSAT (TO) f=3 TT=3600.02 T1=7.67	MSAT (TO) f=3 TT=3600.06 T1=7.66	MSAT (TO) f=4 TT=3600.02	MSAT (TO) f=4 TT=3600.06	MSAT (TO) f=3 TT=3600.05 T1=807.65	MSAT (TO) f=3 TT=3600.15 T1=784.18	? (TO) TT=3600.11	? (TO) f=3 TT=3600.13 T1=458.14
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-10_ext.xml	MOPT f=2 TT=2106.58 T1=2106.43	MSAT (TO) f=3 TT=3600.14 T1=2.28	MSAT (TO) f=3 TT=3600.08 T1=2.27	MSAT (TO) f=4 TT=3600.02	MSAT (TO) f=4 TT=3600.09	OPTIMUM f=2 TT=2106.58 T1=2106.43	OPTIMUM f=2 TT=2457.49 T1=2457.32	? (TO) TT=3600.06	? (TO) TT=3600.07
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-11_ext.xml	MOPT f=2 TT=1231.77 T1=1231.6	MSAT (TO) f=4 TT=3600.15 T1=5.96	MSAT (TO) f=3 TT=3600.11 T1=349.85	MSAT (TO) f=3 TT=3600.01	MSAT (TO) f=4 TT=3600.08	OPTIMUM f=2 TT=1252.53 T1=1252.38	OPTIMUM f=2 TT=1231.77 T1=1231.6	? (TO) TT=3600.08	? (TO) f=4 TT=3600.09 T1=2970.45
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-13_ext.xml	MOPT f=2 TT=3394.82 T1=3394.64	MSAT (TO) f=3 TT=3600.1 T1=19.11	MSAT (TO) f=3 TT=3600.09 T1=20.43	MSAT (TO) f=4 TT=3600.03	MSAT (TO) f=4 TT=3600.08	MSAT (TO) f=3 TT=3600.01 T1=805.31	OPTIMUM f=2 TT=3394.82 T1=3394.64	? (TO) TT=3600.07	? (TO) TT=3600.1
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-15_ext.xml	MOPT f=2 TT=1421.45 T1=1421.3	MSAT (TO) f=3 TT=3600.11 T1=4.26	MSAT (TO) f=3 TT=3600.11 T1=4.73	MSAT (TO) f=3 TT=3600.07	MSAT (TO) f=4 TT=3600.02	OPTIMUM f=2 TT=1421.45 T1=1421.3	OPTIMUM f=2 TT=1498.24 T1=1498.07	? (TO) TT=3600.07	? (TO) f=3 TT=3600.04 T1=134.64
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-17_ext.xml	MOPT f=2 TT=1256.31 T1=1256.17	MSAT (TO) f=3 TT=3600.14 T1=6.38	MSAT (TO) f=3 TT=3600.14 T1=6.69	MSAT (TO) f=4 TT=3600.08	MSAT (TO) f=4 TT=3600.01	OPTIMUM f=2 TT=1256.31 T1=1256.17	OPTIMUM f=2 TT=1397.03 T1=1396.86	? (TO) TT=3600.1	? (TO) TT=3600.08
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-1_ext.xml	MOPT f=2 TT=1514.23 T1=1514.09	MSAT (TO) f=3 TT=3600.09 T1=28.41	MSAT (TO) f=3 TT=3600.08 T1=26.26	MSAT (TO) f=3 TT=3600.07	MSAT (TO) f=4 TT=3600.03	OPTIMUM f=2 TT=1514.23 T1=1514.09	OPTIMUM f=2 TT=1783.57 T1=1783.4	? (TO) TT=3600.06	? (TO) TT=3600.04
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-2_ext.xml	MOPT f=3 TT=3497.44 T1=756.74	MSAT (TO) f=4 TT=3600.1 T1=2.51	MSAT (TO) f=4 TT=3600.1 T1=2.38	MSAT (TO) f=4 TT=3600.06	MSAT (TO) f=4 TT=3600.05	MSAT (TO) f=3 TT=3600.04 T1=809.66	OPTIMUM f=3 TT=3497.44 T1=756.74	? (TO) TT=3600.04	? (TO) TT=3600.08
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-3_ext.xml	MSAT TO f=3 TT=3600.04 T1=18.31	MSAT (TO) f=3 TT=3600.13 T1=18.31	MSAT (TO) f=3 TT=3600.16 T1=19.5	MSAT (TO) f=4 TT=3600.08	MSAT (TO) f=4 TT=3600.01	MSAT (TO) f=3 TT=3600.04 T1=782.72	MSAT (TO) f=3 TT=3600.09 T1=838.92	? (TO) TT=3600.04	? (TO) TT=3600.12
csp/rand-10-20-10/ normalized-rand-10-20-10-5-10000-5_ext.xml	MOPT f=2 TT=2161.02 T1=2160.87	MSAT (TO) f=3 TT=3600.08 T1=7.82	MSAT (TO) f=3 TT=3600.09 T1=8.27	MSAT (TO) f=4 TT=3600.03	MSAT (TO) f=4 TT=3600.04	OPTIMUM f=2 TT=2161.02 T1=2160.87	OPTIMUM f=2 TT=2627.98 T1=2627.82	? (TO) TT=3600.1	? (TO) f=3 TT=3600.1 T1=171.7
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-16_ext.xml	MOPT f=1 TT=869.964 T1=19.63	OPTIMUM f=1 TT=1796.3 T1=19.63 CHECKS=4390250000 NODES=4705310	OPTIMUM f=1 TT=869.964 T1=21.47 CHECKS=1902160000 NODES=1825040	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.1	MSAT (TO) f=1 TT=3600.1 T1=1486.93	MSAT (TO) f=1 TT=3600.1 T1=200.68	OPTIMUM f=1 TT=1451.7 T1=717.33	OPTIMUM f=1 TT=1200.38 T1=570.24
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-2_ext.xml	MOPT f=1 TT=129.316 T1=23.12	MSAT (TO) f=1 TT=3600.09 T1=23.14	OPTIMUM f=1 TT=129.316 T1=23.12 CHECKS=196127000 NODES=154410	MSAT (TO) f=1 TT=3600.07	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=436.432 T1=220.04	OPTIMUM f=1 TT=386.558 T1=136.37	OPTIMUM f=1 TT=150.715 T1=57.06	OPTIMUM f=1 TT=151.885 T1=47.03
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-30_ext.xml	MOPT f=1 TT=354.653 T1=12.67	MSAT (TO) f=1 TT=3600.11 T1=12.67	OPTIMUM f=1 TT=2843.9 T1=14.07 CHECKS=7021930000 NODES=5052550	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.07	OPTIMUM f=1 TT=1649.62 T1=997.55	OPTIMUM f=1 TT=679.259 T1=43.37	OPTIMUM f=1 TT=315.912 T1=120	OPTIMUM f=1 TT=354.653 T1=109.11
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-35_ext.xml	MOPT f=1 TT=202.107 T1=40.3	MSAT (TO) f=2 TT=3600.16 T1=3.95	OPTIMUM f=1 TT=231.383 T1=40.3 CHECKS=593613000 NODES=392662	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.04	OPTIMUM f=1 TT=544.719 T1=255.67	OPTIMUM f=1 TT=2050.38 T1=1690.69	OPTIMUM f=1 TT=185.649 T1=122.48	OPTIMUM f=1 TT=202.107 T1=125.46
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-38_ext.xml	MOPT f=1 TT=84.163 T1=34.86	MSAT (TO) f=2 TT=3600.08 T1=0.97	OPTIMUM f=1 TT=92.662 T1=48.65 CHECKS=163448000 NODES=118219	MSAT (TO) f=1 TT=3600.01	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=89.576 T1=38.34	OPTIMUM f=1 TT=104.067 T1=34.86	OPTIMUM f=1 TT=39.039 T1=7.68	OPTIMUM f=1 TT=84.163 T1=54.25
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-39_ext.xml	MOPT f=1 TT=538.048 T1=149.19	OPTIMUM f=1 TT=2933.65 T1=421.83 CHECKS=6845740000 NODES=6192730	OPTIMUM f=1 TT=1433.78 T1=172.38 CHECKS=3803710000 NODES=2848540	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.03 T1=1289.27	OPTIMUM f=1 TT=2509.78 T1=149.19	OPTIMUM f=1 TT=526.404 T1=208.64	OPTIMUM f=1 TT=538.048 T1=300.61
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-3_ext.xml	MOPT f=1 TT=603.887 T1=7.21	MSAT (TO) f=1 TT=3600.07 T1=7.31	OPTIMUM f=1 TT=603.887 T1=7.21 CHECKS=1444270000 NODES=1053740	MSAT (TO) f=1 TT=3600.01	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=1575.12 T1=158.85	MSAT (TO) f=1 TT=3600.1 T1=2894.69	OPTIMUM f=1 TT=565.237 T1=160.85	OPTIMUM f=1 TT=643.875 T1=218.29
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-43_ext.xml	MOPT f=1 TT=69.542 T1=27.61	OPTIMUM f=1 TT=1962.66 T1=200.86 CHECKS=5337540000 NODES=4166590	OPTIMUM f=1 TT=339.653 T1=54.94 CHECKS=881547000 NODES=666607	MSAT (TO) f=1 TT=3600	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=238.082 T1=108.89	OPTIMUM f=1 TT=199.091 T1=93.31	OPTIMUM f=1 TT=48.702 T1=9.23	OPTIMUM f=1 TT=69.542 T1=27.61
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-45_ext.xml	MOPT f=1 TT=134.882 T1=1.07	MSAT (TO) f=1 TT=3600.03 T1=1.07	OPTIMUM f=1 TT=197.025 T1=1.09 CHECKS=468613000 NODES=284425	MSAT (TO) f=1 TT=3600.06	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=335.835 T1=146.19	OPTIMUM f=1 TT=263.015 T1=31.2	OPTIMUM f=1 TT=117.176 T1=46.64	OPTIMUM f=1 TT=134.882 T1=63.2
csp/rand-3-20-20/ normalized-rand-3-20-20-60-632-6_ext.xml	MOPT f=1 TT=228.629 T1=168.14	MSAT (TO) f=2 TT=3600.13 T1=7.22	OPTIMUM f=1 TT=2395.7 T1=1165.7 CHECKS=5985920000 NODES=3761020	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=547.464 T1=432.26	OPTIMUM f=1 TT=641.437 T1=497.3	OPTIMUM f=1 TT=178.494 T1=104.36	OPTIMUM f=1 TT=228.629 T1=168.14
csp/rand-3-24-24/ normalized-rand-3-24-24-76-632-22_ext.xml	MOPT f=1 TT=1716.21 T1=114.59	MSAT (TO) f=2 TT=3600.09 T1=17.8	OPTIMUM f=1 TT=1716.21 T1=114.59 CHECKS=4217300000 NODES=2403540	MSAT (TO) f=1 TT=3600.05	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.02 T1=652.96	MSAT (TO) f=1 TT=3600.12 T1=1699.74	OPTIMUM f=1 TT=2307.24 T1=618.48	OPTIMUM f=1 TT=2540.66 T1=776.81
csp/rand-3-24-24/ normalized-rand-3-24-24-76-632-4_ext.xml	MOPT f=1 TT=1284.61 T1=465.05	MSAT (TO) f=2 TT=3600.15 T1=23.77	MSAT (TO) f=1 TT=3600.14 T1=690.9	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600.05	MSAT (TO) f=2 TT=3600.02 T1=1316.92	MSAT (TO) f=2 TT=3600.11 T1=449.98	OPTIMUM f=1 TT=1101.05 T1=268.94	OPTIMUM f=1 TT=1284.61 T1=465.05
csp/ssa/ normalized-ssa-0432-003_ext.xml	MOPT f=1 TT=1.244 T1=0.76	MSAT (TO) f=1 TT=2096.75 T1=0.76	OPTIMUM f=1 TT=391.659 T1=0.84 CHECKS=17547500 NODES=138946	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.06	OPTIMUM f=1 TT=12.529 T1=11.49	OPTIMUM f=1 TT=6.462 T1=6.17	OPTIMUM f=1 TT=0.171 T1=0	OPTIMUM f=1 TT=1.244 T1=1.16
csp/ssa/ normalized-ssa-2670-130_ext.xml	MOPT f=1 TT=26.901 T1=4.09	MSAT (TO) f=1 TT=3600.15 T1=4.09	MSAT (TO) f=1 TT=2219.9 T1=4.52	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=31 TT=3600.08	OPTIMUM f=1 TT=275.081 T1=254.41	OPTIMUM f=1 TT=26.901 T1=26.37	? (TO) TT=3600.04	? (TO) TT=3600.07
csp/ukVg/ normalized-crossword-m1c-uk-vg11-15_ext.xml	MSAT TO f=26 TT=3600.09 T1=0.78	MSAT (TO) f=26 TT=3600.09 T1=0.78	MSAT (TO) f=26 TT=3600.1 T1=0.78	? (TO) TT=3600.03	? (TO) TT=3600.05	? (TO) TT=3600.17	? (TO) TT=3600.16	? (TO) TT=3600.01	? (TO) f=26 TT=3600.13 T1=9.72
csp/ukVg/ normalized-crossword-m1c-uk-vg12-16_ext.xml	MSAT TO f=28 TT=3600.11 T1=0.69	MSAT (TO) f=28 TT=3600.12 T1=0.78	MSAT (TO) f=28 TT=3600.11 T1=0.69	? (TO) TT=3600.08	? (TO) TT=3600.06	? (TO) TT=3600.09	? (TO) TT=3600.18	? (exit code) TT=0.083	? (exit code) TT=0.167
csp/ukVg/ normalized-crossword-m1c-uk-vg13-17_ext.xml	MSAT TO f=30 TT=3600.08 T1=0.69	MSAT (TO) f=30 TT=3600.13 T1=0.69	MSAT (TO) f=30 TT=3600.08 T1=0.78	? (TO) TT=3600.02	? (TO) TT=3600.1	? (TO) TT=3600.1	? (TO) TT=3600.35	? (TO) TT=3600.05	? (TO) f=30 TT=3600.09 T1=5.91
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/ukVg/ normalized-crossword-m1c-uk-vg14-14_ext.xml	MSAT TO f=28 TT=3600.07 T1=0.57	MSAT (TO) f=28 TT=3600.08 T1=0.57	MSAT (TO) f=28 TT=3600.07 T1=0.59	? (TO) TT=3600.06	? (TO) TT=3600.01	? (TO) TT=3600.29	? (TO) TT=3600.4	? (TO) TT=3600.1	? (TO) f=28 TT=3600.13 T1=5.61
csp/ukVg/ normalized-crossword-m1c-uk-vg14-15_ext.xml	MSAT TO f=29 TT=3600.05 T1=0.67	MSAT (TO) f=29 TT=3600.12 T1=0.67	MSAT (TO) f=29 TT=3600.05 T1=0.78	? (TO) TT=3600.09	? (TO) TT=3600.07	? (TO) TT=3600.19	? (TO) TT=3600.38	? (TO) TT=3600.05	? (TO) f=29 TT=3600.06 T1=4.82
csp/ukVg/ normalized-crossword-m1c-uk-vg14-17_ext.xml	MSAT TO f=31 TT=3600.08 T1=0.67	MSAT (TO) f=31 TT=3600.12 T1=0.68	MSAT (TO) f=31 TT=3600.08 T1=0.67	? (TO) TT=3600.04	? (TO) TT=3600.05	? (TO) TT=3600.2	? (TO) TT=3600.28	? (TO) TT=3600.11	? (TO) f=31 TT=3600.07 T1=4.43
csp/ukVg/ normalized-crossword-m1c-uk-vg14-18_ext.xml	MSAT TO f=16 TT=3600.32 T1=3431.63	MSAT (TO) f=32 TT=3600.24 T1=0.58	MSAT (TO) f=32 TT=3600.06 T1=0.67	? (TO) TT=3600.02	? (TO) TT=3600.08	? (TO) TT=3600.19	MSAT (TO) f=16 TT=3600.32 T1=3431.63	? (TO) TT=3600.07	? (TO) f=32 TT=3600.06 T1=4.25
csp/ukVg/ normalized-crossword-m1c-uk-vg15-17_ext.xml	MSAT TO f=32 TT=3600.09 T1=0.67	MSAT (TO) f=32 TT=3600.12 T1=0.67	MSAT (TO) f=32 TT=3600.09 T1=0.68	? (TO) TT=3600.02	? (TO) TT=3600.05	? (TO) TT=3600.19	? (TO) TT=3600.28	? (TO) TT=3600.1	? (TO) f=32 TT=3600.07 T1=3.24
csp/ukVg/ normalized-crossword-m1c-uk-vg15-18_ext.xml	MSAT TO f=33 TT=3600.06 T1=0.59	MSAT (TO) f=33 TT=3600.06 T1=0.79	MSAT (TO) f=33 TT=3600.08 T1=0.59	? (TO) TT=3600.03	? (TO) TT=3600.01	? (TO) TT=3600.15	? (TO) TT=3600.29	? (TO) TT=3600.08	? (TO) f=33 TT=3600.04 T1=3.24
csp/ukVg/ normalized-crossword-m1c-uk-vg15-19_ext.xml	MSAT TO f=34 TT=3600.09 T1=0.57	MSAT (TO) f=34 TT=3600.09 T1=0.58	MSAT (TO) f=34 TT=3600.13 T1=0.57	? (TO) TT=3600.07	? (TO) TT=3600.03	? (TO) TT=3600.17	? (TO) TT=3600.2	? (TO) TT=3600.12	? (TO) f=34 TT=3600.04 T1=3.44
csp/ukVg/ normalized-crossword-m1c-uk-vg16-16_ext.xml	MSAT TO f=32 TT=3600.06 T1=0.68	MSAT (TO) f=32 TT=3600.06 T1=0.68	MSAT (TO) f=32 TT=3600.08 T1=0.68	? (TO) TT=3600.08	? (TO) TT=3600.07	? (TO) TT=3600.14	? (TO) TT=3600.23	? (TO) TT=3600.11	? (TO) f=32 TT=3600.15 T1=2.75
csp/ukVg/ normalized-crossword-m1c-uk-vg16-17_ext.xml	MSAT TO f=33 TT=3600.08 T1=0.58	MSAT (TO) f=33 TT=3600.08 T1=0.58	MSAT (TO) f=33 TT=3600.16 T1=0.59	? (TO) TT=3600	? (TO) TT=3600.07	? (TO) TT=3600.09	? (TO) TT=3600.27	? (TO) TT=3600.03	? (TO) f=33 TT=3600.13 T1=2.54
csp/ukVg/ normalized-crossword-m1c-uk-vg16-18_ext.xml	MSAT TO f=34 TT=3600.14 T1=0.68	MSAT (TO) f=34 TT=3600.14 T1=0.87	MSAT (TO) f=34 TT=3600.14 T1=0.68	? (TO) TT=3600.05	? (TO) TT=3600.01	? (TO) TT=3600.12	? (TO) TT=3600.22	? (TO) TT=3600.05	? (TO) f=34 TT=3600.04 T1=2.54
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/ukVg/ normalized-crossword-m1c-uk-vg16-19_ext.xml	MSAT TO f=35 TT=3600.07 T1=0.58	MSAT (TO) f=35 TT=3600.12 T1=0.58	MSAT (TO) f=35 TT=3600.07 T1=0.67	? (TO) TT=3600.02	? (TO) TT=3600.03	? (TO) TT=3600.13	? (TO) TT=3600.19	? (TO) TT=3600.04	? (TO) f=35 TT=3600.11 T1=2.64
csp/varDimacs/ normalized-hole-06_ext.xml	MOPT f=1 TT=0.215 T1=0	OPTIMUM f=1 TT=33.729 T1=0.48 CHECKS=256657 NODES=4552	OPTIMUM f=1 TT=43.981 T1=0.48 CHECKS=778301 NODES=5992	MSAT (TO) f=1 TT=3600.1	MSAT (TO) f=1 TT=3600.02	OPTIMUM f=1 TT=1.76 T1=1.55	OPTIMUM f=1 TT=1.654 T1=1.44	OPTIMUM f=1 TT=0.205 T1=0	OPTIMUM f=1 TT=0.215 T1=0
csp/varDimacs/ normalized-hole-07_ext.xml	MOPT f=1 TT=1.574 T1=0	OPTIMUM f=1 TT=51.947 T1=0.54 CHECKS=2598640 NODES=32099	OPTIMUM f=1 TT=124.141 T1=0.46 CHECKS=6417830 NODES=55671	MSAT (TO) f=1 TT=3600.09	MSAT (TO) f=1 TT=3600.05	OPTIMUM f=1 TT=2.471 T1=2.15	OPTIMUM f=1 TT=2.33 T1=1.99	OPTIMUM f=1 TT=1.648 T1=0	OPTIMUM f=1 TT=1.574 T1=0
csp/varDimacs/ normalized-hole-08_ext.xml	MOPT f=1 TT=4.127 T1=0.02	OPTIMUM f=1 TT=230.975 T1=0.59 CHECKS=28817600 NODES=257651	OPTIMUM f=1 TT=488.148 T1=0.58 CHECKS=36534800 NODES=450022	MSAT (TO) f=1 TT=3600.02	MSAT (TO) f=1 TT=3600.01	OPTIMUM f=1 TT=4.212 T1=3.14	OPTIMUM f=1 TT=4.127 T1=2.37	OPTIMUM f=1 TT=16.089 T1=0	OPTIMUM f=1 TT=15.686 T1=0.02
csp/varDimacs/ normalized-hole-09_ext.xml	MOPT f=1 TT=6.776 T1=0.02	MSAT (TO) f=1 TT=1667.93 T1=0.59	MSAT (TO) f=1 TT=1684.89 T1=0.78	MSAT (TO) f=1 TT=3600.04	MSAT (TO) f=1 TT=3600	OPTIMUM f=1 TT=6.776 T1=3.06	OPTIMUM f=1 TT=20.089 T1=2.15	OPTIMUM f=1 TT=168.138 T1=0	OPTIMUM f=1 TT=164.619 T1=0.02
csp/varDimacs/ normalized-hole-10_ext.xml	MOPT f=1 TT=63.061 T1=0.03	MSAT (TO) f=1 TT=1678.4 T1=0.58	MSAT (TO) f=1 TT=1661.41 T1=0.57	MSAT (TO) f=1 TT=3600.08	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=63.061 T1=6.91	OPTIMUM f=1 TT=312.215 T1=4.02	OPTIMUM f=1 TT=2215.09 T1=0	OPTIMUM f=1 TT=2117.91 T1=0.03
csp/wordsVg/ normalized-crossword-m1c-words-vg10-10_ext.xml	MSAT TO f=10 TT=3600 T1=284.73	MSAT (TO) f=20 TT=3600.11 T1=0.54	MSAT (TO) f=20 TT=3600.07 T1=0.47	? (TO) TT=3600.06	? (TO) TT=3600	MSAT (TO) f=10 TT=3600 T1=284.73	MSAT (TO) f=10 TT=3600.17 T1=721.98	? (TO) TT=3600.1	? (TO) f=20 TT=3600.07 T1=2.26
csp/wordsVg/ normalized-crossword-m1c-words-vg10-14_ext.xml	MSAT TO f=12 TT=3600.04 T1=413.81	MSAT (TO) f=24 TT=3600.06 T1=0.68	MSAT (TO) f=24 TT=3600.16 T1=0.69	? (TO) TT=3600.09	? (TO) TT=3600.05	MSAT (TO) f=12 TT=3600.04 T1=413.81	MSAT (TO) f=12 TT=3600.17 T1=948.9	? (TO) TT=3600.09	? (TO) f=24 TT=3600.09 T1=1.17
csp/wordsVg/ normalized-crossword-m1c-words-vg11-14_ext.xml	MSAT TO f=13 TT=3600.05 T1=275.94	MSAT (TO) f=25 TT=3600.06 T1=0.68	MSAT (TO) f=25 TT=3600.14 T1=0.68	? (TO) TT=3600.05	? (TO) TT=3600.03	MSAT (TO) f=13 TT=3600.05 T1=275.94	MSAT (TO) f=13 TT=3600.17 T1=671.82	? (TO) TT=3600.04	? (TO) f=25 TT=3600.03 T1=1.57
csp/wordsVg/ normalized-crossword-m1c-words-vg12-16_ext.xml	MSAT TO f=14 TT=3600.01 T1=119.79	MSAT (TO) f=28 TT=3600.09 T1=0.49	MSAT (TO) f=28 TT=3600.05 T1=0.58	? (TO) TT=3600.06	? (TO) TT=3600.03	MSAT (TO) f=14 TT=3600.01 T1=186.68	MSAT (TO) f=14 TT=3600.11 T1=119.79	? (exit code) TT=0.02	? (exit code) TT=0.04
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/wordsVg/ normalized-crossword-m1c-words-vg13-17_ext.xml	MSAT TO f=15 TT=3600.04 T1=83.8	MSAT (TO) f=30 TT=3600.12 T1=0.57	MSAT (TO) f=30 TT=3600.17 T1=0.68	? (TO) TT=3600.1	? (TO) TT=3600.03	MSAT (TO) f=15 TT=3600.04 T1=83.8	MSAT (TO) f=15 TT=3600.14 T1=1037.67	? (TO) TT=3600.04	? (TO) f=30 TT=3600.03 T1=1.27
csp/wordsVg/ normalized-crossword-m1c-words-vg14-14_ext.xml	MSAT TO f=28 TT=3600.09 T1=0.35	MSAT (TO) f=28 TT=3600.14 T1=0.47	MSAT (TO) f=28 TT=3600.09 T1=0.66	? (TO) TT=3600.09	? (TO) TT=3600.05	? (TO) TT=3600.01	? (TO) TT=3600.16	? (TO) TT=3600.03	? (TO) f=28 TT=3600.07 T1=0.35
csp/wordsVg/ normalized-crossword-m1c-words-vg15-15_ext.xml	MSAT TO f=30 TT=3600.06 T1=0.47	MSAT (TO) f=30 TT=3600.06 T1=0.54	MSAT (TO) f=30 TT=3600.11 T1=0.47	? (TO) TT=3600.09	? (TO) TT=3600.01	? (TO) TT=3600.02	? (TO) TT=3600.09	? (TO) TT=3600.11	? (TO) f=30 TT=3600.12 T1=0.96
csp/wordsVg/ normalized-crossword-m1c-words-vg15-16_ext.xml	MSAT TO f=31 TT=3600.09 T1=0.58	MSAT (TO) f=31 TT=3600.09 T1=0.67	MSAT (TO) f=31 TT=3600.13 T1=0.58	? (TO) TT=3600	? (TO) TT=3600.06	? (TO) TT=3600.06	? (TO) TT=3600.07	? (TO) TT=3600.03	? (TO) f=31 TT=3600.08 T1=0.97
csp/wordsVg/ normalized-crossword-m1c-words-vg15-19_ext.xml	MOPT f=14 TT=263.821 T1=263.51	MSAT (TO) f=34 TT=3600.14 T1=0.57	MSAT (TO) f=34 TT=3600.08 T1=0.6	? (TO) TT=3600.08	? (TO) TT=3600.02	OPTIMUM f=14 TT=393.872 T1=393.64	OPTIMUM f=14 TT=263.821 T1=263.51	? (TO) TT=3600.02	? (TO) f=34 TT=3600.04 T1=1.26
csp/wordsVg/ normalized-crossword-m1c-words-vg5-9_ext.xml	MSAT TO f=3 TT=3600.08 T1=99.41	MSAT (TO) f=4 TT=3600.13 T1=13.42	MSAT (TO) f=4 TT=3600.11 T1=12.74	MSAT (TO) f=4 TT=3600.05	MSAT (TO) f=10 TT=3600	MSAT (TO) f=3 TT=3600.09 T1=99.41	MSAT (TO) f=3 TT=3600.08 T1=100.11	? (TO) TT=3600.03	? (TO) f=14 TT=3600.06 T1=1.06
csp/wordsVg/ normalized-crossword-m1c-words-vg6-10_ext.xml	MSAT TO f=4 TT=3600.05 T1=1106.87	MSAT (TO) f=6 TT=3600.1 T1=19.28	MSAT (TO) f=6 TT=3600.08 T1=17.99	MSAT (TO) f=6 TT=3600.06	MSAT (TO) f=14 TT=3600.01	MSAT (TO) f=4 TT=3600.05 T1=1199.85	MSAT (TO) f=4 TT=3600.13 T1=1106.87	? (TO) TT=3600.05	? (TO) f=16 TT=3600.12 T1=1.31
csp/wordsVg/ normalized-crossword-m1c-words-vg8-11_ext.xml	MSAT TO f=10 TT=3600.01 T1=276.55	MSAT (TO) f=19 TT=3600.1 T1=0.78	MSAT (TO) f=19 TT=3600.13 T1=0.68	MSAT (TO) f=18 TT=3600.08	MSAT (TO) f=18 TT=3600.08	MSAT (TO) f=10 TT=3600.01 T1=276.55	MSAT (TO) f=10 TT=3600.11 T1=313.73	? (TO) TT=3600.03	? (TO) f=19 TT=3600.09 T1=2.37
csp/wordsVg/ normalized-crossword-m1c-words-vg8-8_ext.xml	MSAT TO f=8 TT=3600.06 T1=240.4	MSAT (TO) f=16 TT=3600.08 T1=0.68	MSAT (TO) f=16 TT=3600.15 T1=0.68	? (TO) TT=3600.05	? (TO) TT=3600.08	MSAT (TO) f=8 TT=3600.06 T1=240.4	MSAT (TO) f=8 TT=3600.17 T1=251.41	? (TO) TT=3600.05	? (TO) f=16 TT=3600.08 T1=2.46
csp/wordsVg/ normalized-crossword-m1c-words-vg9-10_ext.xml	MSAT TO f=10 TT=3600.03 T1=355.72	MSAT (TO) f=19 TT=3600.14 T1=0.58	MSAT (TO) f=19 TT=3600.07 T1=0.61	? (TO) TT=3600.07	? (TO) TT=3600.05	MSAT (TO) f=10 TT=3600.03 T1=445.54	MSAT (TO) f=10 TT=3600.19 T1=355.72	? (TO) TT=3600.05	? (TO) f=19 TT=3600.13 T1=2.27
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
csp/wordsVg/ normalized-crossword-m1c-words-vg9-11_ext.xml	MSAT TO f=10 TT=3600.06 T1=375.22	MSAT (TO) f=20 TT=3600.07 T1=0.58	MSAT (TO) f=20 TT=3600.12 T1=0.68	? (TO) TT=3600.01	? (TO) TT=3600.05	MSAT (TO) f=10 TT=3600.06 T1=445.87	MSAT (TO) f=10 TT=3600.15 T1=375.22	? (TO) TT=3600.09	? (TO) f=20 TT=3600.07 T1=2.27
maxcsp/cnf/3-40-100-1000/ normalized-cnf-3-40-1000-261925_ext.xml	MOPT f=60 TT=47.602 T1=5.2	MSAT (TO) f=60 TT=3600.11 T1=5.31	MSAT (TO) f=60 TT=3600.08 T1=5.2	MSAT (TO) f=60 TT=3600.03	MSAT (TO) f=60 TT=3600.07	MSAT (TO) f=108 TT=3600.06 T1=7.39	MSAT (TO) f=94 TT=3600.06 T1=45.9	OPTIMUM f=60 TT=43.937 T1=0	OPTIMUM f=60 TT=47.602 T1=11.51
maxcsp/cnf/3-40-100-1000/ normalized-cnf-3-40-1000-261927_ext.xml	MOPT f=62 TT=49.134 T1=0.67	MSAT (TO) f=62 TT=3600.11 T1=0.74	MSAT (TO) f=62 TT=3600.15 T1=0.67	MSAT (TO) f=62 TT=3600.01	MSAT (TO) f=62 TT=3600.08	MSAT (TO) f=114 TT=3600.01 T1=18.95	MSAT (TO) f=115 TT=3600.07 T1=17.61	OPTIMUM f=62 TT=54.694 T1=44.48	OPTIMUM f=62 TT=49.134 T1=30.41
maxcsp/cnf/3-40-100-1000/ normalized-cnf-3-40-1000-261929_ext.xml	MOPT f=62 TT=48.414 T1=1.05	MSAT (TO) f=62 TT=3600.09 T1=1.27	MSAT (TO) f=62 TT=3600.14 T1=1.05	MSAT (TO) f=62 TT=3600.06	MSAT (TO) f=62 TT=3600.08	MSAT (TO) f=113 TT=3600.01 T1=6.82	MSAT (TO) f=119 TT=3600.11 T1=6.52	OPTIMUM f=62 TT=49.244 T1=17.76	OPTIMUM f=62 TT=48.414 T1=15.56
maxcsp/cnf/3-40-100-1000/ normalized-cnf-3-40-100-730623_ext.xml	MOPT f=0 TT=0.043 T1=0	OPTIMUM f=0 TT=1.773 T1=0.48 CHECKS=0 NODES=0	OPTIMUM f=0 TT=1.667 T1=0.49 CHECKS=0 NODES=0	OPTIMUM f=0 TT=0.344 CHECKS=1460 NODES=5	OPTIMUM f=0 TT=0.357 CHECKS=1422 NODES=6	OPTIMUM f=0 TT=1.709 T1=1.56	OPTIMUM f=0 TT=1.652 T1=1.48	OPTIMUM f=0 TT=0.016 T1=0	OPTIMUM f=0 TT=0.043 T1=0
maxcsp/cnf/3-40-100-1000/ normalized-cnf-3-40-100-730629_ext.xml	MOPT f=0 TT=0.044 T1=0	OPTIMUM f=0 TT=1.782 T1=0.48 CHECKS=0 NODES=0	OPTIMUM f=0 TT=1.651 T1=0.49 CHECKS=0 NODES=0	OPTIMUM f=0 TT=0.349 CHECKS=1854 NODES=20	OPTIMUM f=0 TT=0.364 CHECKS=1911 NODES=20	OPTIMUM f=0 TT=1.809 T1=1.66	OPTIMUM f=0 TT=1.65 T1=1.49	OPTIMUM f=0 TT=0.016 T1=0	OPTIMUM f=0 TT=0.044 T1=0
maxcsp/cnf/3-40-100-1000/ normalized-cnf-3-40-800-810522_ext.xml	MOPT f=42 TT=29.152 T1=1.18	OPTIMUM f=42 TT=3004.63 T1=1.27 CHECKS=1490440000 NODES=5038460	OPTIMUM f=42 TT=1578.24 T1=1.18 CHECKS=818403000 NODES=2894090	MSAT (TO) f=42 TT=3600.03	MSAT (TO) f=42 TT=3600.01	MSAT (TO) f=72 TT=3600.05 T1=7.5	MSAT (TO) f=85 TT=3600.11 T1=15.92	OPTIMUM f=42 TT=33.263 T1=31.42	OPTIMUM f=42 TT=29.152 T1=17.9
maxcsp/cnf/3-40-100-1000/ normalized-cnf-3-40-900-536226_ext.xml	MOPT f=54 TT=53.436 T1=1.97	MSAT (TO) f=54 TT=3600.1 T1=2.17	MSAT (TO) f=54 TT=3600.09 T1=1.97	MSAT (TO) f=54 TT=3600.07	MSAT (TO) f=54 TT=3600.09	MSAT (TO) f=100 TT=3600.07 T1=6.43	MSAT (TO) f=111 TT=3600.12 T1=4.24	OPTIMUM f=54 TT=49.988 T1=39.68	OPTIMUM f=54 TT=53.436 T1=35.17
maxcsp/cnf/3-40-100-1000/ normalized-cnf-3-40-900-536230_ext.xml	MOPT f=48 TT=46.447 T1=1.27	OPTIMUM f=48 TT=2603.68 T1=1.27 CHECKS=1195180000 NODES=3835530	OPTIMUM f=48 TT=1874.03 T1=1.37 CHECKS=847847000 NODES=2840190	MSAT (TO) f=48 TT=3600.09	MSAT (TO) f=48 TT=3600.02	MSAT (TO) f=95 TT=3600.03 T1=8.16	MSAT (TO) f=100 TT=3600.08 T1=4.38	OPTIMUM f=48 TT=42.489 T1=39.44	OPTIMUM f=48 TT=46.447 T1=39.75
maxcsp/cnf/3-40-1100-2000/ normalized-cnf-3-40-1200-713329_ext.xml	MOPT f=79 TT=93.708 T1=0.87	MSAT (TO) f=79 TT=3600.11 T1=0.87	MSAT (TO) f=79 TT=3600.12 T1=0.95	MSAT (TO) f=79 TT=3600.06	MSAT (TO) f=79 TT=3600.07	MSAT (TO) f=140 TT=3600 T1=89.79	MSAT (TO) f=139 TT=3600.14 T1=8.73	OPTIMUM f=79 TT=64.057 T1=41.61	OPTIMUM f=79 TT=93.708 T1=63.82
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
maxcsp/cnf/3-40-1100-2000/ normalized-cnf-3-40-1500-890427_ext.xml	MOPT f=109 TT=130.778 T1=0.87	MSAT (TO) f=109 TT=3600.07 T1=0.87	MSAT (TO) f=109 TT=3600.07 T1=1.06	MSAT (TO) f=109 TT=3600.05	MSAT (TO) f=109 TT=3600.04	MSAT (TO) f=198 TT=3600.02 T1=14.68	MSAT (TO) f=188 TT=3600.13 T1=8.78	OPTIMUM f=109 TT=129.379 T1=15.15	OPTIMUM f=109 TT=130.778 T1=17.52
maxcsp/cnf/3-40-1100-2000/ normalized-cnf-3-40-1600-616125_ext.xml	MOPT f=122 TT=232.084 T1=1.76	MSAT (TO) f=122 TT=3600.15 T1=1.76	MSAT (TO) f=122 TT=3600.1 T1=1.83	MSAT (TO) f=122 TT=3600.01	MSAT (TO) f=122 TT=3600.03	MSAT (TO) f=179 TT=3600.09 T1=20.31	MSAT (TO) f=194 TT=3600.15 T1=13.22	OPTIMUM f=122 TT=251.06 T1=126.3	OPTIMUM f=122 TT=232.084 T1=66.53
maxcsp/cnf/3-40-1100-2000/ normalized-cnf-3-40-1700-341821_ext.xml	MOPT f=128 TT=188.577 T1=16.56	MSAT (TO) f=128 TT=3600.11 T1=18.2	MSAT (TO) f=128 TT=3600.05 T1=16.56	MSAT (TO) f=128 TT=3600.03	MSAT (TO) f=128 TT=3600.04	MSAT (TO) f=171 TT=3600.03 T1=189.65	MSAT (TO) f=177 TT=3600.18 T1=2062.58	OPTIMUM f=128 TT=197.083 T1=83.94	OPTIMUM f=128 TT=188.577 T1=99.79
maxcsp/cnf/3-40-1100-2000/ normalized-cnf-3-40-1700-341823_ext.xml	MOPT f=139 TT=461.862 T1=1.04	MSAT (TO) f=139 TT=3600.11 T1=1.04	MSAT (TO) f=139 TT=3600.12 T1=1.38	MSAT (TO) f=139 TT=3600.07	MSAT (TO) f=139 TT=3600.04	MSAT (TO) f=206 TT=3600.05 T1=19.66	MSAT (TO) f=222 TT=3600.15 T1=11	OPTIMUM f=139 TT=468.467 T1=378.69	OPTIMUM f=139 TT=461.862 T1=448.39
maxcsp/cnf/3-40-1100-2000/ normalized-cnf-3-40-1700-341827_ext.xml	MOPT f=129 TT=140.874 T1=2.76	MSAT (TO) f=129 TT=3600.07 T1=2.76	MSAT (TO) f=129 TT=3600.1 T1=2.8	MSAT (TO) f=129 TT=3600	MSAT (TO) f=129 TT=3600.06	MSAT (TO) f=190 TT=3600.03 T1=386.43	MSAT (TO) f=196 TT=3600.12 T1=62.82	OPTIMUM f=129 TT=142.766 T1=105.55	OPTIMUM f=129 TT=140.874 T1=74.66
maxcsp/cnf/3-40-1100-2000/ normalized-cnf-3-40-1900-793223_ext.xml	MOPT f=146 TT=201.079 T1=3.77	MSAT (TO) f=146 TT=3600.06 T1=3.77	MSAT (TO) f=146 TT=3600.11 T1=3.95	MSAT (TO) f=146 TT=3600.01	MSAT (TO) f=146 TT=3600.03	MSAT (TO) f=213 TT=3600.07 T1=183.92	MSAT (TO) f=219 TT=3600.12 T1=324.51	OPTIMUM f=146 TT=206.596 T1=195.32	OPTIMUM f=146 TT=201.079 T1=113.84
maxcsp/cnf/3-40-1100-2000/ normalized-cnf-3-40-1900-793224_ext.xml	MOPT f=151 TT=231.85 T1=2.76	MSAT (TO) f=151 TT=3600.08 T1=2.76	MSAT (TO) f=151 TT=3600.04 T1=3.07	MSAT (TO) f=151 TT=3600.05	MSAT (TO) f=151 TT=3600.06	MSAT (TO) f=223 TT=3600.03 T1=23.05	MSAT (TO) f=226 TT=3600.19 T1=12.8	OPTIMUM f=151 TT=241.943 T1=101.01	OPTIMUM f=151 TT=231.85 T1=90.66
maxcsp/cnf/3-40-2100-3000/ normalized-cnf-3-40-2100-244628_ext.xml	MOPT f=161 TT=211.045 T1=5.71	MSAT (TO) f=161 TT=3600.05 T1=5.71	MSAT (TO) f=161 TT=3600.16 T1=6.35	MSAT (TO) f=161 TT=3600.05	MSAT (TO) f=161 TT=3600.09	MSAT (TO) f=208 TT=3600.05 T1=291.97	MSAT (TO) f=237 TT=3600.17 T1=13.47	OPTIMUM f=161 TT=219.512 T1=182.32	OPTIMUM f=161 TT=211.045 T1=137.16
maxcsp/cnf/3-40-2100-3000/ normalized-cnf-3-40-2400-421722_ext.xml	MOPT f=194 TT=236.737 T1=174.63	MSAT (TO) f=195 TT=3600.11 T1=19.9	MSAT (TO) f=195 TT=3600.11 T1=18.6	MSAT (TO) f=194 TT=3600.05	MSAT (TO) f=194 TT=3600.01	MSAT (TO) f=249 TT=3600.01 T1=2785.49	MSAT (TO) f=279 TT=3600.19 T1=62.01	OPTIMUM f=194 TT=254.984 T1=187.85	OPTIMUM f=194 TT=236.737 T1=174.63
maxcsp/cnf/3-40-2100-3000/ normalized-cnf-3-40-2500-147422_ext.xml	MOPT f=210 TT=353.787 T1=25.65	MSAT (TO) f=210 TT=3600.08 T1=25.65	MSAT (TO) f=210 TT=3600.12 T1=29.44	MSAT (TO) f=210 TT=3600	MSAT (TO) f=210 TT=3600.02	MSAT (TO) f=284 TT=3600.09 T1=70.14	MSAT (TO) f=252 TT=3600.18 T1=599.91	OPTIMUM f=210 TT=375.191 T1=149.18	OPTIMUM f=210 TT=353.787 T1=107.54
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
maxcsp/cnf/3-40-2100-3000/ normalized-cnf-3-40-2500-147426_ext.xml	MOPT f=215 TT=534.227 T1=23.23	MSAT (TO) f=215 TT=3600.09 T1=23.84	MSAT (TO) f=215 TT=3600.12 T1=23.23	MSAT (TO) f=215 TT=3600.04	MSAT (TO) f=215 TT=3600.05	MSAT (TO) f=306 TT=3600.02 T1=46.56	MSAT (TO) f=323 TT=3600.18 T1=21.48	OPTIMUM f=215 TT=476.634 T1=167.8	OPTIMUM f=215 TT=534.227 T1=221.34
maxcsp/cnf/3-40-2100-3000/ normalized-cnf-3-40-2500-147429_ext.xml	MOPT f=195 TT=155.146 T1=7.94	MSAT (TO) f=195 TT=3600.09 T1=9.41	MSAT (TO) f=195 TT=3600.15 T1=7.94	MSAT (TO) f=195 TT=3600	MSAT (TO) f=195 TT=3600.07	MSAT (TO) f=277 TT=3600.05 T1=2438.79	MSAT (TO) f=319 TT=3600.14 T1=20.36	OPTIMUM f=195 TT=125.462 T1=30.15	OPTIMUM f=195 TT=155.146 T1=52.04
maxcsp/cnf/3-40-2100-3000/ normalized-cnf-3-40-2800-324527_ext.xml	MOPT f=244 TT=572.623 T1=1.41	MSAT (TO) f=244 TT=3600.08 T1=1.46	MSAT (TO) f=244 TT=3600.12 T1=1.41	MSAT (TO) f=244 TT=3600.07	MSAT (TO) f=244 TT=3600.08	MSAT (TO) f=305 TT=3600.13 T1=1592.27	MSAT (TO) f=304 TT=3600.19 T1=839.98	OPTIMUM f=244 TT=602.02 T1=513.72	OPTIMUM f=244 TT=572.623 T1=375.12
maxcsp/cnf/3-40-2100-3000/ normalized-cnf-3-40-2900-050222_ext.xml	MOPT f=252 TT=543.269 T1=208.29	MSAT (TO) f=257 TT=3600.13 T1=16.11	MSAT (TO) f=257 TT=3600.07 T1=18.41	MSAT (TO) f=252 TT=3600.06	MSAT (TO) f=252 TT=3600.02	MSAT (TO) f=352 TT=3600.05 T1=38.27	MSAT (TO) f=312 TT=3600.2 T1=1638.8	OPTIMUM f=252 TT=447.36 T1=38.29	OPTIMUM f=252 TT=543.269 T1=208.29
maxcsp/cnf/3-40-2100-3000/ normalized-cnf-3-40-3000-775927_ext.xml	MOPT f=269 TT=756.145 T1=30.84	MSAT (TO) f=269 TT=3600.04 T1=30.84	MSAT (TO) f=270 TT=3600.14 T1=18.59	MSAT (TO) f=269 TT=3600	MSAT (TO) f=269 TT=3600.09	MSAT (TO) f=367 TT=3600.09 T1=71.58	MSAT (TO) f=317 TT=3600.2 T1=1224	OPTIMUM f=269 TT=659.506 T1=249.55	OPTIMUM f=269 TT=756.145 T1=460.64
maxcsp/cnf/3-80-100-1000/ normalized-cnf-3-80-1000-266847_ext.xml	MSAT TO f=43 TT=3600.02 T1=10.74	MSAT (TO) f=43 TT=3600.12 T1=16.42	MSAT (TO) f=43 TT=3600.06 T1=10.74	MSAT (TO) f=43 TT=3600.06	MSAT (TO) f=43 TT=3600.02	MSAT (TO) f=85 TT=3600 T1=1860.68	MSAT (TO) f=98 TT=3600.16 T1=47.13	? (TO) TT=3600.07	? (TO) f=48 TT=3600.03 T1=1262.88
maxcsp/cnf/3-80-100-1000/ normalized-cnf-3-80-1000-266849_ext.xml	MSAT TO f=45 TT=3600.07 T1=4.12	MSAT (TO) f=45 TT=3600.12 T1=4.12	MSAT (TO) f=45 TT=3600.08 T1=4.24	MSAT (TO) f=45 TT=3600.07	MSAT (TO) f=45 TT=3600.07	MSAT (TO) f=83 TT=3600.02 T1=89.73	MSAT (TO) f=72 TT=3600.15 T1=12.07	? (TO) TT=3600.08	? (TO) f=54 TT=3600.04 T1=3543.84
maxcsp/cnf/3-80-100-1000/ normalized-cnf-3-80-100-735548_ext.xml	MOPT f=0 TT=0.063 T1=0	OPTIMUM f=0 TT=1.928 T1=0.48 CHECKS=0 NODES=0	OPTIMUM f=0 TT=1.929 T1=0.48 CHECKS=0 NODES=0	OPTIMUM f=0 TT=0.342 CHECKS=1330 NODES=5	OPTIMUM f=0 TT=0.37 CHECKS=1443 NODES=11	OPTIMUM f=0 TT=1.707 T1=1.55	OPTIMUM f=0 TT=1.608 T1=1.45	OPTIMUM f=0 TT=0.016 T1=0	OPTIMUM f=0 TT=0.063 T1=0
maxcsp/cnf/3-80-100-1000/ normalized-cnf-3-80-200-461248_ext.xml	MOPT f=0 TT=0.107 T1=0.02	OPTIMUM f=0 TT=2.166 T1=0.48 CHECKS=0 NODES=0	OPTIMUM f=0 TT=2.179 T1=0.49 CHECKS=0 NODES=0	OPTIMUM f=0 TT=0.546 CHECKS=3522 NODES=30	OPTIMUM f=0 TT=0.438 CHECKS=4209 NODES=59	OPTIMUM f=0 TT=2.833 T1=2.66	OPTIMUM f=0 TT=2.333 T1=2.15	OPTIMUM f=0 TT=0.023 T1=0	OPTIMUM f=0 TT=0.107 T1=0.02
maxcsp/cnf/3-80-100-1000/ normalized-cnf-3-80-400-912642_ext.xml	MOPT f=3 TT=10.377 T1=0.88	OPTIMUM f=3 TT=2429.26 T1=1.02 CHECKS=945554000 NODES=9225760	OPTIMUM f=3 TT=1099.49 T1=0.88 CHECKS=404837000 NODES=4164460	MSAT (TO) f=3 TT=3600.03	MSAT (TO) f=3 TT=3600.05	OPTIMUM f=3 TT=10.377 T1=7.51	OPTIMUM f=3 TT=13.047 T1=10.51	OPTIMUM f=3 TT=29.58 T1=20.71	OPTIMUM f=3 TT=25.294 T1=15.92
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
maxcsp/cnf/3-80-100-1000/ normalized-cnf-3-80-400-912648_ext.xml	MOPT f=3 TT=7.635 T1=0.66	OPTIMUM f=3 TT=2757.41 T1=0.78 CHECKS=984493000 NODES=10406600	OPTIMUM f=3 TT=1436.68 T1=0.66 CHECKS=463786000 NODES=4912990	MSAT (TO) f=3 TT=3600.06	MSAT (TO) f=3 TT=3600.06	OPTIMUM f=3 TT=7.635 T1=4.32	OPTIMUM f=3 TT=8.523 T1=5.2	OPTIMUM f=3 TT=15.082 T1=5.47	OPTIMUM f=3 TT=18.263 T1=9.29
maxcsp/cnf/3-80-100-1000/ normalized-cnf-3-80-600-364044_ext.xml	MOPT f=13 TT=3350.04 T1=1.55	MSAT (TO) f=13 TT=3600.05 T1=1.55	MSAT (TO) f=13 TT=3600.06 T1=1.63	MSAT (TO) f=13 TT=3600.06	MSAT (TO) f=13 TT=3600.09	MSAT (TO) f=34 TT=3600.1 T1=4.37	MSAT (TO) f=18 TT=3600.11 T1=2361.04	? (TO) TT=3600.07	OPTIMUM f=13 TT=3350.04 T1=2755.02
maxcsp/cnf/3-80-100-1000/ normalized-cnf-3-80-700-089745_ext.xml	MSAT TO f=22 TT=3600 T1=1.67	MSAT (TO) f=22 TT=3600.13 T1=1.96	MSAT (TO) f=22 TT=3600.12 T1=1.67	MSAT (TO) f=22 TT=3600	MSAT (TO) f=22 TT=3600.03	MSAT (TO) f=52 TT=3600.09 T1=5.83	MSAT (TO) f=69 TT=3600.08 T1=4.08	? (TO) TT=3600.09	? (TO) f=24 TT=3600.08 T1=733.72
maxcsp/cnf/3-80-1100-2000/ normalized-cnf-3-80-1200-718245_ext.xml	MSAT TO f=56 TT=3600.04 T1=17.23	MSAT (TO) f=56 TT=3600.07 T1=18.02	MSAT (TO) f=56 TT=3600.04 T1=17.23	MSAT (TO) f=56 TT=3600.06	MSAT (TO) f=56 TT=3600.05	MSAT (TO) f=105 TT=3600.06 T1=14.52	MSAT (TO) f=121 TT=3600.17 T1=7.98	? (TO) TT=3600.1	? (TO) f=73 TT=3600.09 T1=1747.17
maxcsp/cnf/3-80-1100-2000/ normalized-cnf-3-80-1200-718249_ext.xml	MSAT TO f=55 TT=3600.09	MSAT (TO) f=56 TT=3600.08 T1=17.84	MSAT (TO) f=56 TT=3600.06 T1=19.04	MSAT (TO) f=55 TT=3600.09	MSAT (TO) f=55 TT=3600.09	MSAT (TO) f=101 TT=3600.02 T1=38.14	MSAT (TO) f=124 TT=3600.1 T1=12.13	? (TO) TT=3600.11	? (TO) f=63 TT=3600.08 T1=3283.92
maxcsp/cnf/3-80-1100-2000/ normalized-cnf-3-80-1200-718250_ext.xml	MSAT TO f=58 TT=3600.03 T1=1.16	MSAT (TO) f=58 TT=3600.13 T1=1.16	MSAT (TO) f=58 TT=3600.14 T1=1.22	MSAT (TO) f=58 TT=3600.03	MSAT (TO) f=58 TT=3600.09	MSAT (TO) f=163 TT=3600.05 T1=7.19	MSAT (TO) f=155 TT=3600.21 T1=6.42	? (TO) TT=3600.07	? (TO) f=70 TT=3600.08 T1=3301.33
maxcsp/cnf/3-80-1100-2000/ normalized-cnf-3-80-1300-443942-ext.xml	MSAT TO f=70 TT=3600.06 T1=2.47	MSAT (TO) f=70 TT=3600.09 T1=2.76	MSAT (TO) f=70 TT=3600.09 T1=2.47	MSAT (TO) f=70 TT=3600.07	MSAT (TO) f=70 TT=3600.06	MSAT (TO) f=152 TT=3600.03 T1=19.47	MSAT (TO) f=133 TT=3600.14 T1=16.74	? (TO) TT=3600.07	? (TO) f=82 TT=3600.03 T1=231.52
maxcsp/cnf/3-80-1100-2000/ normalized-cnf-3-80-1300-443943_ext.xml	MSAT TO f=68 TT=3600.03	MSAT (TO) f=69 TT=3600.1 T1=2.17	MSAT (TO) f=69 TT=3600.11 T1=1.57	MSAT (TO) f=68 TT=3600.07	MSAT (TO) f=68 TT=3600.03	MSAT (TO) f=124 TT=3600.04 T1=103.56	MSAT (TO) f=127 TT=3600.13 T1=10.91	? (TO) TT=3600.07	? (TO) f=80 TT=3600.11 T1=336.55
maxcsp/cnf/3-80-1100-2000/ normalized-cnf-3-80-1500-895345_ext.xml	MSAT TO f=87 TT=3600.04 T1=43.85	MSAT (TO) f=87 TT=3600.1 T1=43.85	MSAT (TO) f=89 TT=3600.12 T1=3.58	MSAT (TO) f=87 TT=3600.04	MSAT (TO) f=87 TT=3600.08	MSAT (TO) f=152 TT=3600.04 T1=27.61	MSAT (TO) f=166 TT=3600.12 T1=18.99	? (TO) TT=3600.07	? (TO) f=106 TT=3600.05 T1=2093.29
maxcsp/cnf/3-80-1100-2000/ normalized-cnf-3-80-1600-621045_ext.xml	MSAT TO f=92 TT=3600.02 T1=26.87	MSAT (TO) f=92 TT=3600.09 T1=27.53	MSAT (TO) f=92 TT=3600.11 T1=26.87	MSAT (TO) f=92 TT=3600.07	MSAT (TO) f=92 TT=3600.02	MSAT (TO) f=163 TT=3600.03 T1=176.41	MSAT (TO) f=160 TT=3600.14 T1=54.52	? (TO) TT=3600.04	? (TO) f=104 TT=3600.06 T1=3472.5
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
maxcsp/cnf/3-80-1100-2000/ normalized-cnf-3-80-1600-621048_ext.xml	MSAT TO f=85 TT=3600.02 T1=29.87	MSAT (TO) f=85 TT=3600.09 T1=30	MSAT (TO) f=85 TT=3600.04 T1=29.87	MSAT (TO) f=85 TT=3600.04	MSAT (TO) f=85 TT=3600.02	MSAT (TO) f=178 TT=3600.06 T1=19.34	MSAT (TO) f=198 TT=3600.1 T1=13.43	? (TO) TT=3600.06	? (TO) f=103 TT=3600.09 T1=1003.33
maxcsp/pedigree/ normalized-connell_ext.xml	MOPT f=1 TT=0.03 T1=0	OPTIMUM f=1 TT=30.739 T1=0.48 CHECKS=402 NODES=9	OPTIMUM f=1 TT=30.647 T1=0.47 CHECKS=431 NODES=7	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600	OPTIMUM f=1 TT=0.601 T1=0.47	OPTIMUM f=1 TT=0.615 T1=0.48	OPTIMUM f=1 TT=0.011 T1=0	OPTIMUM f=1 TT=0.03 T1=0
maxcsp/pedigree/ normalized-eye_ext.xml	MOPT f=1 TT=1.553 T1=0.54	OPTIMUM f=1 TT=30.872 T1=0.58 CHECKS=7651 NODES=17	OPTIMUM f=1 TT=30.803 T1=0.54 CHECKS=13218 NODES=20	MSAT (TO) f=1 TT=3600.05	MSAT (TO) f=1 TT=3600.09	OPTIMUM f=1 TT=1.71 T1=1.54	OPTIMUM f=1 TT=1.67 T1=1.5	OPTIMUM f=1 TT=0.065 T1=0	OPTIMUM f=1 TT=1.553 T1=1.23
maxcsp/pedigree/ normalized-pedck1000_ext.xml	MOPT f=19 TT=13.497 T1=1.81	MSAT (TO) f=19 TT=2392.19 T1=1.81	MSAT (TO) f=19 TT=2194.42 T1=1.93	MSAT (TO) f=19 TT=3600.06	MSAT (TO) f=19 TT=3600.09	MSAT (TO) f=20 TT=3600.08 T1=1429.48	MSAT (TO) f=22 TT=3600.07 T1=2597.24	OPTIMUM f=19 TT=0.266 T1=0	OPTIMUM f=19 TT=13.497 T1=13.45
maxcsp/pedigree/ normalized-pedck350_ext.xml	MOPT f=2 TT=1.749 T1=0.87	OPTIMUM f=2 TT=43.265 T1=0.96 CHECKS=688051 NODES=291	OPTIMUM f=2 TT=95.838 T1=0.87 CHECKS=4481730 NODES=5148	MSAT (TO) f=2 TT=3600.1	MSAT (TO) f=2 TT=3600.08	OPTIMUM f=2 TT=9.44 T1=8.85	OPTIMUM f=2 TT=5.351 T1=5.06	OPTIMUM f=2 TT=0.122 T1=0	OPTIMUM f=2 TT=1.749 T1=1.49
maxcsp/pedigree/ normalized-pedck350l2_ext.xml	MOPT f=1 TT=1.723 T1=0.79	OPTIMUM f=1 TT=31.308 T1=0.87 CHECKS=4522 NODES=45	OPTIMUM f=1 TT=31.244 T1=0.79 CHECKS=5455 NODES=181	MSAT (TO) f=1 TT=3600.03	MSAT (TO) f=1 TT=3600.02	OPTIMUM f=1 TT=9.994 T1=9.46	OPTIMUM f=1 TT=5.757 T1=5.34	OPTIMUM f=1 TT=0.123 T1=0	OPTIMUM f=1 TT=1.723 T1=1.47
maxcsp/pedigree/ normalized-pedck60-L12_ext.xml	MOPT f=6 TT=0.343 T1=0.25	OPTIMUM f=6 TT=92.534 T1=0.6 CHECKS=7144910 NODES=8730	OPTIMUM f=6 TT=144.251 T1=0.58 CHECKS=16524300 NODES=28346	MSAT (TO) f=6 TT=3600.08	MSAT (TO) f=6 TT=3600.07	OPTIMUM f=6 TT=1.572 T1=1.35	OPTIMUM f=6 TT=1.463 T1=1.28	OPTIMUM f=6 TT=0.031 T1=0	OPTIMUM f=6 TT=0.343 T1=0.25
maxcsp/pedigree/ normalized-pedck60-L1_ext.xml	MOPT f=2 TT=0.324 T1=0.28	OPTIMUM f=2 TT=30.921 T1=0.54 CHECKS=3853 NODES=5	OPTIMUM f=2 TT=31.058 T1=0.49 CHECKS=22029 NODES=52	MSAT (TO) f=2 TT=3600.08	MSAT (TO) f=2 TT=3600.03	OPTIMUM f=2 TT=1.791 T1=1.63	OPTIMUM f=2 TT=1.702 T1=1.52	OPTIMUM f=2 TT=0.028 T1=0	OPTIMUM f=2 TT=0.324 T1=0.28
maxcsp/pedigree/ normalized-pedck60-L2_ext.xml	MOPT f=2 TT=0.325 T1=0.24	OPTIMUM f=2 TT=31.143 T1=0.58 CHECKS=24799 NODES=28	OPTIMUM f=2 TT=32.156 T1=0.58 CHECKS=110939 NODES=214	MSAT (TO) f=2 TT=3600.09	MSAT (TO) f=2 TT=3600.07	OPTIMUM f=2 TT=1.814 T1=1.73	OPTIMUM f=2 TT=1.695 T1=1.52	OPTIMUM f=2 TT=0.029 T1=0	OPTIMUM f=2 TT=0.325 T1=0.24
maxcsp/pedigree/ normalized-sheep4nr_ext.xml	MSAT TO f=41 TT=3600	? TT=183.764	? TT=176.941	MSAT (TO) f=41 TT=3600	MSAT (TO) f=139 TT=3600.08	? TT=218.64	? TT=210.341	OPTIMUM f=23 TT=157.089 T1=156.82	? (TO) TT=3600.1
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
maxcsp/pedigree/ normalized-sheep4r-4-2_ext.xml	MOPT f=1 TT=24.325 T1=24.2	MSAT (TO) f=3 TT=3190.96 T1=13.67	? f=3 TT=51.311 T1=13.58	MSAT (TO) f=1 TT=3600.08	MSAT (TO) f=11 TT=3600.04	OPTIMUM f=1 TT=357.119 T1=350.86	MSAT (TO) f=287 TT=3600.29 T1=93.49	OPTIMUM f=1 TT=0.706 T1=0	OPTIMUM f=1 TT=24.325 T1=24.2
maxcsp/pedigree/ normalized-sheep4r-4-3_ext.xml	MOPT f=1 TT=51.703 T1=17.6	OPTIMUM f=1 TT=54.208 T1=17.6 CHECKS=166624 NODES=994	OPTIMUM f=1 TT=51.703 T1=17.77 CHECKS=634202 NODES=59	MSAT (TO) f=1 TT=3600	MSAT (TO) f=17 TT=3600	OPTIMUM f=1 TT=496.304 T1=486.48	MSAT (TO) f=352 TT=3600.36 T1=57.48	OPTIMUM f=1 TT=0.909 T1=0	OPTIMUM f=1 TT=51.797 T1=51.68
maxcsp/pedigree/ normalized-sheep4r_ext.xml	MSAT TO f=6 TT=3600.03	? TT=182.427	? TT=182.19	MSAT (TO) f=6 TT=3600.03	MSAT (TO) f=110 TT=3600.06	? TT=197.076	? TT=186.143	OPTIMUM f=2 TT=13.121 T1=12.83	? (TO) TT=3600.04
maxcsp/pedigree/ normalized-simple_ext.xml	MOPT f=1 TT=0.028 T1=0	OPTIMUM f=1 TT=30.629 T1=0.44 CHECKS=73 NODES=0	OPTIMUM f=1 TT=30.687 T1=0.46 CHECKS=73 NODES=0	MSAT (TO) f=1 TT=3600.1	MSAT (TO) f=1 TT=3600.03	OPTIMUM f=1 TT=0.679 T1=0.56	OPTIMUM f=1 TT=0.733 T1=0.6	OPTIMUM f=1 TT=0.008 T1=0	OPTIMUM f=1 TT=0.028 T1=0
maxcsp/pedigree/ normalized-wijsmanguo_ext.xml	MOPT f=1 TT=2.957 T1=0.48	OPTIMUM f=1 TT=30.871 T1=0.48 CHECKS=37817 NODES=30	OPTIMUM f=1 TT=30.842 T1=0.49 CHECKS=43572 NODES=17	MSAT (TO) f=1 TT=3600.08	MSAT (TO) f=1 TT=3600	OPTIMUM f=1 TT=3.777 T1=3.52	OPTIMUM f=1 TT=2.957 T1=2.78	OPTIMUM f=1 TT=0.437 T1=0	OPTIMUM f=1 TT=9.703 T1=9.25
maxcsp/spot5/ normalized-spot5-1401_ext.xml	MSAT TO f=330 TT=3600.04	MSAT (TO) f=371 TT=1934.25 T1=1.43	MSAT (TO) f=354 TT=1673.48 T1=1673.44	MSAT (TO) f=342 TT=3600.05	MSAT (TO) f=330 TT=3600.04	? TT=192.652	? TT=194.927	? (TO) TT=3600.02	? (TO) TT=3600.04
maxcsp/spot5/ normalized-spot5-1403_ext.xml	MSAT TO f=428 TT=3600.08	MSAT (TO) f=481 TT=1799.78 T1=2.02	MSAT (TO) f=476 TT=1697.16 T1=1697.12	MSAT (TO) f=447 TT=3600.05	MSAT (TO) f=428 TT=3600.08	? TT=169.402	? TT=168.047	? (TO) TT=3600.02	? (TO) TT=3600.1
maxcsp/spot5/ normalized-spot5-1405_ext.xml	MSAT TO f=564 TT=3600.1	MSAT (TO) f=623 TT=2604.95 T1=2.92	MSAT (TO) f=623 TT=2606.99 T1=2.72	MSAT (TO) f=595 TT=3600.08	MSAT (TO) f=564 TT=3600.1	? TT=256.473	? TT=255.94	? (TO) TT=3600.07	? (TO) TT=3600.12
maxcsp/spot5/ normalized-spot5-1407_ext.xml	MSAT TO f=692 TT=3600	MSAT (TO) f=777 TT=1886.23 T1=3.33	MSAT (TO) f=777 TT=1701.51 T1=3.29	MSAT (TO) f=736 TT=3600.01	MSAT (TO) f=692 TT=3600	? TT=242.273	? TT=252.535	? (TO) TT=3600.03	? (TO) TT=3600.12
maxcsp/spot5/ normalized-spot5-1506_ext.xml	MSAT TO f=587 TT=3600.07	MSAT (TO) f=669 TT=2259.71 T1=2.58	MSAT (TO) f=662 TT=1757.25 T1=1757.2	MSAT (TO) f=618 TT=3600.06	MSAT (TO) f=587 TT=3600.07	? TT=209.948	? TT=202.581	? (TO) TT=3600.08	? (TO) TT=3600.05
Bench name	Best results on this instance	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2 2008-06-27	toulbar2/BTD 2008-06-27
maxcsp/spot5/ normalized-spot5-28_ext.xml	MSAT TO f=180 TT=3600.03	MSAT (TO) f=194 TT=1854.77 T1=0.96	MSAT (TO) f=194 TT=1665.45 T1=0.96	MSAT (TO) f=183 TT=3600.09	MSAT (TO) f=180 TT=3600.03	? (MO) TT=82.1	? (MO) TT=81.117	? (TO) TT=3600.01	? (TO) TT=3600.03
maxcsp/spot5/ normalized-spot5-404_ext.xml	MOPT f=65 TT=3.626 T1=3.56	MSAT (TO) f=69 TT=1634.54 T1=5.21	MSAT (TO) f=68 TT=1633.3 T1=1633.25	MSAT (TO) f=65 TT=3600.03	MSAT (TO) f=65 TT=3600.01	MSAT (TO) f=75 TT=3600.02 T1=529.85	MSAT (TO) f=81 TT=3600.14 T1=21.95	? (TO) TT=3600.11	OPTIMUM f=65 TT=3.626 T1=3.56
maxcsp/spot5/ normalized-spot5-408_ext.xml	MSAT TO f=134 TT=3600.04	MSAT (TO) f=142 TT=1691.19 T1=15.58	MSAT (TO) f=141 TT=1649.69 T1=1649.65	MSAT (TO) f=134 TT=3600.04	MSAT (TO) f=134 TT=3600.07	MSAT (TO) f=166 TT=3600.07 T1=160.14	MSAT (TO) f=181 TT=3600.16 T1=24.62	? (TO) TT=3600.12	? (TO) TT=3600.09
maxcsp/spot5/ normalized-spot5-414_ext.xml	MSAT TO f=260 TT=3600.05	MSAT (TO) f=280 TT=2299.12 T1=1.38	MSAT (TO) f=277 TT=1808.95 T1=1808.8	MSAT (TO) f=265 TT=3600.04	MSAT (TO) f=260 TT=3600.05	? TT=218.555	? TT=207.177	? (TO) TT=3600.12	? (TO) TT=3600.07
maxcsp/spot5/ normalized-spot5-503_ext.xml	MOPT f=69 TT=2.562 T1=2.47	MSAT (TO) f=72 TT=1667.92 T1=30.86	MSAT (TO) f=72 TT=1660.32 T1=30.88	MSAT (TO) f=69 TT=3600.07	MSAT (TO) f=69 TT=3600.06	MSAT (TO) f=93 TT=3600.05 T1=4.1	MSAT (TO) f=93 TT=3600.08 T1=3.09	? (TO) TT=3600.07	OPTIMUM f=69 TT=2.562 T1=2.47
maxcsp/spot5/ normalized-spot5-505_ext.xml	MSAT TO f=151 TT=3600.05	MSAT (TO) f=163 TT=1668.97 T1=0.79	MSAT (TO) f=161 TT=1639.83 T1=31.34	MSAT (TO) f=151 TT=3600.05	MSAT (TO) f=151 TT=3600.07	MSAT (TO) f=212 TT=3600.1 T1=45.37	MSAT (TO) f=197 TT=3600.16 T1=22.83	? (TO) TT=3600.06	? (TO) TT=3600.13
maxcsp/spot5/ normalized-spot5-509_ext.xml	MSAT TO f=245 TT=3600.08	MSAT (TO) f=265 TT=1860.87 T1=1.36	MSAT (TO) f=263 TT=1713.12 T1=1713.08	MSAT (TO) f=250 TT=3600	MSAT (TO) f=245 TT=3600.08	? TT=183.542	? TT=169.153	? (TO) TT=3600.08	? (TO) TT=3600.12
maxcsp/spot5/ normalized-spot5-54_ext.xml	MOPT f=22 TT=0.372 T1=0.02	MSAT (TO) f=22 TT=1635.99 T1=3.26	MSAT (TO) f=22 TT=1740.37 T1=3.35	MSAT (TO) f=22 TT=3600.02	MSAT (TO) f=22 TT=3600.04	MSAT (TO) f=23 TT=3600.09 T1=11.99	MSAT (TO) f=32 TT=3600.08 T1=1.29	OPTIMUM f=22 TT=2.744 T1=1.97	OPTIMUM f=22 TT=0.372 T1=0.02

Some statistics...

	AbsconMax 112 pc-d	AbsconMax 112 pc-w	Concrete + CSP4J - MCRW Engine 2008-05-30	Concrete + CSP4J - Tabu Engine 2008-05-30	Sugar v1.13+minisat	Sugar++ v1.13+minisat-inc	toulbar2/BTD 2008-06-27
Number of times the solver is able to give the best known answer	118	152	48	55	144	145	153
Number of times the solver is able to give the best known answer from an incomplete solver point of view (i.e. without considering optimality proof)	188	195	202	203	148	148	153
Number of times the solver is the best solver from a complete solver point of view (i.e. best known answer and best TT time)	56	63	44	51	37	71	93
Number of times the solver is the best solver from an incomplete solver point of view (i.e. best known answer and best T1 time)	65	64	0	0	19	29	72