2019 XCSP3 competition: main track (CSP and COP, sequential and parallel solvers): results by benchmark

Results by benchmark for category all categories

This page displays the results of the different solvers for each benchmark for category all categories

REMINDER

Keep in mind that the 'Best result' columns only provide the best result given by one of the solvers. This 'Best result' may be wrong in case of an UNSATISFIABLE or OPTIMUM FOUND answer (because there's no efficient way to check these answers).

Description of a cell contents:

Cell example	Meaning
Answer	Solver result
f=...	value of the objective function for the model reported by the solver
TT=...	Total Time (TT): this is the CPU time (in seconds) used by the solver until termination. This time is only meaningful for complete solvers because incomplete solvers will always run until they time out

Remember that CPU time and wall clock time are two very different notions. The CPU time represents the time during which the instructions of the solver were executed by the processor. The wall clock time represents how much time ellapsed on the clock. For a same event, the CPU time may be either smaller or greater than the wall clock time depending on the number of threads of execution and the number of processors.

Meaning of some abbreviations:

Abbreviation	Meaning
f=...	Value of the objective function
TO	Time Out
MO	Mem. Out (out of memory)

Meaning of the different colors:

Color	Meaning
text	the solver cannot handle this instance
text	the solver gave no answer
text	the solver could give an answer (SAT)
text	the solver gave a definitive answer (OPTIMUM FOUND or UNSAT)
text	the solver performed better than the other ones on that instance (complete solvers point of view)
text	the solver performed better than the other ones on that instance (incomplete solvers point of view)
text	the solver was ended by a signal or other problem
text	the solver gave an incomplete answer
text	the solver gave a wrong answer

For better readability, you may choose to hide some solvers:
AbsCon 2019-07-23 (complete)
BTD 19.07.01 (complete)
choco-solver 2019-06-14 (complete)
choco-solver 2019-06-14 parallel (complete)
choco-solver 2019-09-16 (complete)
choco-solver 2019-09-16 parallel (complete)
choco-solver 2019-09-20 (complete)
choco-solver 2019-09-20 parallel (complete)
choco-solver 2019-09-24 (complete)
choco-solver 2019-09-24 parallel (complete)
Concrete 3.10 (complete)
Concrete 3.12.2 (complete)
Concrete 3.12.2 (complete)
Concrete 3.12.3 (complete)
cosoco 2 (complete)
cosoco 2.0 (complete)
cosoco 2.0 (complete)
cosoco 2.0 parallel (complete)
cosoco 2.O parallel (complete)
Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)
Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)
Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)
Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)
Fun-sCOP order+ManyGlucose (2019-06-15) (complete)
Fun-sCOP order+ManyGlucose (2019-09-22) (complete)
PicatSAT 2019-09-12 (complete)

Bench name	Best results on this instance	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
AllInterval/ AllInterval-m1-s1/ AllInterval-035.xml	SAT TT=0.031	SAT TT=3.653	SAT TT=0.031	SAT TT=1.604	SAT TT=2.325	SAT TT=1.511	SAT TT=2.344	SAT TT=1.524	SAT TT=2.069	SAT TT=69.122	SAT TT=2.23	SAT TT=81.215	? (TO) TT=2520.08	SAT TT=519.439	SAT TT=9.81	SAT TT=14.919	SAT TT=14.874	SAT TT=14.877	SAT TT=0.153	SAT TT=0.133	SAT TT=11.694	SAT TT=16.513	SAT TT=16.204	SAT TT=14.149	SAT TT=16.557	SAT TT=16.325	SAT TT=228.644
AllInterval/ AllInterval-m1-s1/ AllInterval-040.xml	SAT TT=0.045	SAT TT=3.771	SAT TT=0.045	SAT TT=1.689	SAT TT=2.585	SAT TT=1.753	SAT TT=2.574	SAT TT=1.579	SAT TT=2.203	SAT TT=46.751	SAT TT=2.036	SAT TT=127.241	SAT TT=93.539	? (TO) TT=2520.1	SAT TT=189.841	SAT TT=0.348	SAT TT=0.348	SAT TT=0.349	SAT TT=0.194	SAT TT=0.192	SAT TT=14.883	SAT TT=25.122	SAT TT=23.845	SAT TT=14.602	SAT TT=24.214	SAT TT=23.517	SAT TT=290.328
Auction/Auction-sum/ Auction-sum-decay300_c18.xml	SAT TO f=2106819 TT=2520.13 T1=2239.7	SAT (TO) f=996914 TT=2520.04 T1=1239.49	No data	SAT (TO) f=1316362 TT=2520.14 T1=2493.79	Wrong Opt. f=1410475 TT=130.522 T1=130.24	SAT (TO) f=2048907 TT=2520.78 T1=2477.48	SAT (TO) f=2003378 TT=19266.5 T1=19028.2	SAT (TO) f=2054470 TT=2520.33 T1=2315.86	SAT (TO) f=2043084 TT=19835.8 T1=17636.7	SAT (TO) f=2106819 TT=2520.13 T1=2239.7	SAT (TO) f=2042294 TT=19196.2 T1=17796.9	SAT (TO) f=1470312 TT=2520.06 T1=369.14	SAT (TO) f=1347428 TT=2520.13 T1=186.03	SAT (TO) f=1428805 TT=2520.12 T1=2453.47	SAT (TO) f=1447732 TT=2520.11 T1=2428.7	SAT (TO) f=1695417 TT=2519.96 T1=145.79	SAT (TO) f=1695417 TT=2519.76 T1=143.57	SAT (TO) f=1695417 TT=2519.72 T1=145.98	SAT (TO) f=1870470 TT=20122.4 T1=13100	SAT (TO) f=1870470 TT=20121.3 T1=13174	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.87
Auction/Auction-sum/ Auction-sum-matching040_c18.xml	SAT TO f=12968875 TT=2520.12 T1=40.39	SAT (TO) f=8495504 TT=2520.11 T1=1984.16	No data	SAT (TO) f=12968875 TT=2520.67 T1=197.62	SAT (TO) f=12965081 TT=17020 T1=16068.4	SAT (TO) f=12913358 TT=2520.47 T1=130.46	SAT (TO) f=12968875 TT=19928.9 T1=9147.35	SAT (TO) f=12968875 TT=2520.62 T1=457.2	SAT (TO) f=12968875 TT=19912 T1=671.6	SAT (TO) f=12968875 TT=2520.12 T1=40.39	SAT (TO) f=12968875 TT=19887.3 T1=16836.1	SAT (TO) f=11430624 TT=2520.06 T1=1734.7	SAT (TO) f=10708954 TT=2520.08 T1=240.75	SAT (TO) f=11624961 TT=2520.13 T1=449.68	SAT (TO) f=11364899 TT=2520.1 T1=1919.68	SAT (TO) f=11182902 TT=2519.83 T1=25.09	SAT (TO) f=11182902 TT=2519.47 T1=24.88	SAT (TO) f=11182902 TT=2520.02 T1=25	SAT (TO) f=11614409 TT=20122.7 T1=145.56	SAT (TO) f=10507282 TT=20124.2 T1=284.53	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.7
Bacp/Bacp-m2/ Bacp-m2-12b_c18.xml	SAT TO f=17 TT=2520.02 T1=0	SAT (TO) f=17 TT=2520.09 T1=5.12	No data	SAT (TO) f=17 TT=2520.47 T1=4.19	SAT (TO) f=17 TT=17572.6 T1=7.24	SAT (TO) f=17 TT=2520.64 T1=3.89	SAT (TO) f=17 TT=20035.2 T1=6.48	SAT (TO) f=17 TT=2520.46 T1=4.54	SAT (TO) f=17 TT=20019 T1=6.62	SAT (TO) f=18 TT=2520.04 T1=1.99	SAT (TO) f=17 TT=20038.1 T1=6.64	SAT (TO) f=17 TT=2520.05 T1=12.83	SAT (TO) f=17 TT=2520.06 T1=14.04	SAT (TO) f=17 TT=2520.08 T1=11.54	SAT (TO) f=17 TT=2520.13 T1=11.9	SAT (TO) f=17 TT=2520.08 T1=0	SAT (TO) f=17 TT=2520.06 T1=0	SAT (TO) f=17 TT=2520.02 T1=0	SAT (TO) f=17 TT=20125.5 T1=0	SAT (TO) f=17 TT=20123.7 T1=0.32	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.94
Bibd/Bibd-sc-open/ Bibd-sc-85-085-36-36-15.xml		? (TO) TT=2520.04	? (TO) TT=2519.91	? (TO) TT=2520.42	? (TO) TT=19402.4	? (TO) TT=2520.66	? (TO) TT=19340.5	? (TO) TT=2520.74	? (TO) TT=19380.1	? (TO) TT=2520.05	? (TO) TT=19271.9	? (TO) TT=2520.16	? (TO) TT=2520.44	? (TO) TT=2520.14	? (TO) TT=2520.2	? (MO) TT=140.442	? (MO) TT=120.215	? (MO) TT=119.782	? (MO) TT=48.47	? (MO) TT=49.634	? (TO) TT=2520.44	? (TO) TT=4488.1	? (TO) TT=4525.37	? (TO) TT=2520.28	? (TO) TT=6325.04	? (TO) TT=6125.75	? (TO) TT=2520.07
Bibd/Bibd-sc-stab1/ Bibd-sc-25-05-01.xml	SAT TT=21.175	? (TO) TT=2520.1	? (TO) TT=2519.89	? (TO) TT=2520.63	? (TO) TT=20073.8	SAT TT=1666.8	SAT TT=1367.89	SAT TT=1680.89	SAT TT=1274.01	SAT TT=379.265	SAT TT=1596.31	? (TO) TT=2520.11	? (TO) TT=2520.09	? (TO) TT=2520.1	? (TO) TT=2520.12	? (TO) TT=2519.75	? (TO) TT=2519.73	? (TO) TT=2520.08	? (TO) TT=20036.7	? (TO) TT=20037.8	SAT TT=45.027	SAT TT=39.221	SAT TT=40.793	SAT TT=43.3	SAT TT=38.891	SAT TT=38.062	SAT TT=21.175
Bibd/Bibd-sc-stab1/ Bibd-sc-25-09-03.xml	SAT TT=137.506	? (TO) TT=2520.11	? (TO) TT=2519.77	SAT TT=137.506	SAT TT=294.378	SAT TT=260.369	SAT TT=438.017	SAT TT=211.421	SAT TT=430.111	? (TO) TT=2520.11	SAT TT=446.248	? (TO) TT=2520.1	? (TO) TT=2520.09	? (TO) TT=2520.11	? (TO) TT=2520.07	? (TO) TT=2520.02	? (TO) TT=2519.65	? (TO) TT=2519.96	? (TO) TT=20046.3	? (TO) TT=20047	SAT TT=1689.17	? (TO) TT=18675.2	? (TO) TT=18853.6	? (TO) TT=2520.14	SAT TT=16513.1	SAT TT=16599.1	SAT TT=515.664
Bibd/Bibd-sc-stab2/ Bibd-sc-21-06-02.xml		? (TO) TT=2520.12	? (TO) TT=2519.99	? (TO) TT=2520.59	? (TO) TT=20073.8	? (TO) TT=2520.62	? (TO) TT=20088.6	? (TO) TT=2520.67	? (TO) TT=20077	? (TO) TT=2520.04	? (TO) TT=20086.1	? (TO) TT=2520.13	? (TO) TT=2520.12	? (TO) TT=2520.14	? (TO) TT=2520.05	? (TO) TT=2520.04	? (TO) TT=2519.89	? (TO) TT=2519.91	? (TO) TT=20064.8	? (TO) TT=20062.2	? (TO) TT=2520.14	? (TO) TT=18339.6	? (TO) TT=18319.9	? (TO) TT=2520.14	? (TO) TT=18065.5	? (TO) TT=17944.3	? (TO) TT=2520
Bibd/Bibd-sum-lex/ Bibd-sum-09-120-40-03-10.xml	SAT TT=34.124	? (TO) TT=2520.06	? (TO) TT=2519.93	SAT TT=1795.65	SAT TT=4039.16	SAT TT=1366.78	SAT TT=25.136	SAT TT=1402.42	SAT TT=37.73	? (TO) TT=2520.03	SAT TT=34.124	? (TO) TT=2520.09	? (TO) TT=2520.14	? (TO) TT=2520.08	? (TO) TT=2520.14	? (MO) TT=2300.04	? (MO) TT=2038.52	? (MO) TT=1992.96	? (TO) TT=2520.88	? (TO) TT=2520.59	SAT TT=38.633	SAT TT=53.218	SAT TT=51.854	SAT TT=48.753	SAT TT=55.223	SAT TT=55.262	SAT TT=70.406
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Bibd/Bibd-sum-open/ Bibd-sum-22-033-12-08-04.xml		? (TO) TT=2520.03	? (TO) TT=2519.99	? (TO) TT=2520.57	? (TO) TT=20092.8	? (TO) TT=2520.53	? (TO) TT=20096.6	? (TO) TT=2520.67	? (TO) TT=20096.2	? (TO) TT=2520.08	? (TO) TT=20095.4	? (TO) TT=2520.08	? (TO) TT=2520.12	? (TO) TT=2520.05	? (TO) TT=2520.14	? (MO) TT=1391.02	? (MO) TT=1386.57	? (MO) TT=1389.9	? (TO) TT=2521.1	? (TO) TT=2520.73	? (TO) TT=2520.14	? (TO) TT=19475.9	? (TO) TT=19374.7	? (TO) TT=2520.09	? (TO) TT=18713.8	? (TO) TT=18650.1	? (TO) TT=2519.8
Bibd/Bibd-sum-open/ Bibd-sum-40-052-13-10-03.xml		? (TO) TT=2520.02	? (TO) TT=2519.9	? (TO) TT=2520.42	? (TO) TT=20060.5	? (TO) TT=2520.34	? (TO) TT=19934.2	? (TO) TT=2520.74	? (TO) TT=19933.3	? (TO) TT=2520.03	? (TO) TT=19936.6	? (TO) TT=2520.14	? (TO) TT=2520.13	? (TO) TT=2520.09	? (TO) TT=2520.14	? (MO) TT=1669.37	? (MO) TT=1659.26	? (MO) TT=1666.14	? (TO) TT=2520.95	? (TO) TT=2520.83	? (TO) TT=2520.11	? (TO) TT=18285.7	? (TO) TT=18087.7	? (TO) TT=2520.11	? (TO) TT=17595.3	? (TO) TT=17487.4	? (TO) TT=2519.54
Bibd/Bibd-sum-open/ Bibd-sum-57-076-20-15-05.xml		? (TO) TT=2520.06	? (TO) TT=2519.93	? (TO) TT=2520.35	? (TO) TT=20047.8	? (TO) TT=2520.53	? (TO) TT=20041.1	? (TO) TT=2520.74	? (TO) TT=20043.3	? (TO) TT=2520.09	? (TO) TT=20039.4	? (TO) TT=2520.06	? (TO) TT=2520.14	? (TO) TT=2520.12	? (TO) TT=2520.16	? (MO) TT=2065.37	? (MO) TT=1786.62	? (MO) TT=1766.87	? (TO) TT=2520.85	? (TO) TT=2521	? (TO) TT=2520.21	? (TO) TT=17223.3	? (TO) TT=17215.9	? (TO) TT=2520.18	? (TO) TT=18621.1	? (TO) TT=18015.3	? (TO) TT=2519.86
Bibd/Bibd-sum-open/ Bibd-sum-85-085-36-36-15.xml		? (TO) TT=2520.02	? (TO) TT=2519.88	? (TO) TT=2520.73	? (TO) TT=20009.7	? (TO) TT=2520.51	? (TO) TT=19994.2	? (TO) TT=2520.43	? (TO) TT=19996.2	? (TO) TT=2520.09	? (TO) TT=20000.1	? (TO) TT=2520.09	? (TO) TT=2520.8	? (TO) TT=2520.16	? (TO) TT=2520.23	? (MO) TT=2323.2	? (MO) TT=2038.5	? (MO) TT=2032.29	? (TO) TT=2520.67	? (TO) TT=2520.6	? (TO) TT=2520.29	? (TO) TT=4654.85	? (TO) TT=4645.94	? (TO) TT=2520.35	? (TO) TT=6040.58	? (TO) TT=6261.07	? (TO) TT=2519.51
Bibd/Bibd-sum-stab1/ Bibd-sum-25-05-01.xml	SAT TT=21.199	SAT TT=353.876	? (TO) TT=2519.57	? (TO) TT=2520.32	SAT TT=5698.28	SAT TT=234.585	SAT TT=546.432	SAT TT=243.264	SAT TT=545.734	SAT TT=63.736	SAT TT=539.82	? (TO) TT=2520.04	? (TO) TT=2520.1	? (TO) TT=2520.14	? (TO) TT=2520.04	? (MO) TT=1436.17	? (MO) TT=1276.41	? (MO) TT=1432.35	? (TO) TT=2520.94	? (TO) TT=2520.79	SAT TT=24.881	SAT TT=34.396	SAT TT=34.47	SAT TT=26.684	SAT TT=28.545	SAT TT=27.717	SAT TT=21.199
BinPacking/BinPacking-mdd-fu/ BinPacking-mdd-fu0120-05.xml	SAT TO f=18 TT=2520.1 T1=133.61	SAT (TO) f=18 TT=2520.1 T1=133.61	No data	? (TO) TT=2520.53	? (TO) TT=20042.4	? (TO) TT=2520.65	? (TO) TT=20039.8	? (TO) TT=2520.43	? (TO) TT=20015.8	? (TO) TT=2520.05	? (TO) TT=20026.8	? (TO) TT=2520.06	? (TO) TT=2520.08	? (TO) TT=2520.08	? (TO) TT=2520.14	SAT (TO) f=6 TT=2519.89 T1=380.77	SAT (TO) f=6 TT=2519.89 T1=378.17	SAT (TO) f=6 TT=2520.04 T1=381.52	? (TO) TT=20120.4	? (TO) TT=20118.2	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.99
BinPacking/BinPacking-mdd-fu/ BinPacking-mdd-fu1000-02.xml		? (TO) TT=2520.06	No data	? (TO) TT=2521.23	? (TO) TT=18661.2	? (TO) TT=2521.09	? (TO) TT=18865	? (TO) TT=2520.84	? (TO) TT=18795.9	? (TO) TT=2520.06	? (TO) TT=18880.5	? (TO) TT=2520.27	? (TO) TT=2520.26	? (TO) TT=2520.16	? (TO) TT=2520.17	? (TO) TT=2519.76	? (TO) TT=2519.77	? (TO) TT=2520.04	? (TO) TT=20109.8	? (TO) TT=20109.3	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.71
BinPacking/ BinPacking-sum-s28/ BinPacking-sum-s28-195.xml		? (TO) TT=2520.04	No data	? (TO) TT=2520.45	? (TO) TT=19872.8	? (TO) TT=2520.7	? (TO) TT=19912.6	? (TO) TT=2520.37	? (TO) TT=20032.2	? (TO) TT=2520.02	? (TO) TT=19967.8	? (TO) TT=2520.06	? (TO) TT=2520.32	? (TO) TT=2520.15	? (TO) TT=2520.12	? (TO) TT=2519.95	? (TO) TT=2519.82	? (TO) TT=2520.04	? (TO) TT=20113.6	? (TO) TT=20109.3	No data	No data	No data	No data	No data	No data	? (MO) TT=65.498
BinPacking/ BinPacking-sum-skj1/ BinPacking-sum-n1c1w4k.xml	OPT f=3 TT=5.325 T1=5.15	OPT f=3 TT=5.325 T1=5.15	No data	OPT f=3 TT=21.744 T1=7.97	OPT f=3 TT=24.021 T1=15.8	OPT f=3 TT=27.755 T1=5.49	OPT f=3 TT=39.183 T1=12.71	OPT f=3 TT=19.746 T1=5.56	OPT f=3 TT=27.334 T1=10.96	OPT f=3 TT=409.274 T1=274.51	OPT f=3 TT=48.075 T1=11.55	OPT f=3 TT=1734.04 T1=357.95	SAT (TO) f=3 TT=2520.06 T1=19.07	SAT (TO) f=3 TT=2520.07 T1=329.89	OPT f=3 TT=2306.09 T1=23.28	? (TO) TT=2520.04	? (TO) TT=2520.05	? (TO) TT=2520.03	OPT f=3 TT=55.92 T1=55.8	OPT f=3 TT=37.88 T1=37.36	No data	No data	No data	No data	No data	No data	OPT f=3 TT=43.393 T1=43.29
BinPacking/ BinPacking-sum-skj1/ BinPacking-sum-n1c1w4m.xml	OPT f=2 TT=6.113 T1=4.75	OPT f=2 TT=6.113 T1=5.82	No data	OPT f=2 TT=71.865 T1=4.75	OPT f=2 TT=150.894 T1=12.72	OPT f=2 TT=71.49 T1=10.4	OPT f=2 TT=167.722 T1=18.56	OPT f=2 TT=70.07 T1=4.68	OPT f=2 TT=146.07 T1=16.7	SAT (TO) f=2 TT=2520.13 T1=1091.39	OPT f=2 TT=133.058 T1=8.75	SAT (TO) f=2 TT=2520.09 T1=778.17	? (TO) TT=2520.12	? (TO) TT=2520.09	SAT (TO) f=2 TT=2520.15 T1=147.56	? (TO) TT=2519.81	? (TO) TT=2520.07	? (TO) TT=2519.89	OPT f=2 TT=51.495 T1=50.13	OPT f=2 TT=162.721 T1=122.01	No data	No data	No data	No data	No data	No data	OPT f=2 TT=91.646 T1=91.57
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
BinPacking/ BinPacking-sum-skj1/ BinPacking-sum-n1c1w4n.xml	OPT f=3 TT=8.212 T1=8.13	OPT f=3 TT=8.212 T1=8.13	No data	OPT f=3 TT=109.016 T1=25.81	OPT f=3 TT=174.684 T1=16.5	OPT f=3 TT=75.065 T1=12.75	OPT f=3 TT=179.468 T1=19.44	OPT f=3 TT=78.293 T1=34.09	OPT f=3 TT=182.968 T1=16.58	SAT (TO) f=3 TT=2520.05 T1=76.13	OPT f=3 TT=132.994 T1=15.81	? (TO) TT=2520.14	? (TO) TT=2520.33	? (TO) TT=2520.09	? (TO) TT=2520.06	? (TO) TT=2520.06	? (TO) TT=2520.07	? (TO) TT=2519.96	OPT f=3 TT=1105.13 T1=533.34	OPT f=3 TT=1090.52 T1=1089.87	No data	No data	No data	No data	No data	No data	OPT f=3 TT=105.158 T1=105.09
BinPacking/ BinPacking-sum-skj1/ BinPacking-sum-n2c3w1r.xml	SAT TO f=9 TT=20074.5 T1=6150.98	? (TO) TT=2520.07	No data	? (TO) TT=2520.41	SAT (TO) f=9 TT=20062.3 T1=5961.77	? (TO) TT=2520.58	SAT (TO) f=9 TT=20074.5 T1=6150.98	? (TO) TT=2520.4	SAT (TO) f=9 TT=20078 T1=6180.58	? (TO) TT=2520.12	? (TO) TT=20083.9	? (TO) TT=2520.08	? (TO) TT=2520.16	? (TO) TT=2520.06	? (TO) TT=2520.1	? (TO) TT=2520.03	? (TO) TT=2520.04	? (TO) TT=2520.06	? (TO) TT=20117.2	? (TO) TT=20118.7	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.77
BinPacking/ BinPacking-sum-skj1/ BinPacking-sum-n3c3w2d.xml		? (TO) TT=2520.07	No data	? (TO) TT=2520.3	? (TO) TT=20073.7	? (TO) TT=2520.56	? (TO) TT=20084.9	? (TO) TT=2520.38	? (TO) TT=20084	? (TO) TT=2520.06	? (TO) TT=20084.4	? (TO) TT=2520.06	? (TO) TT=2520.16	? (TO) TT=2520.11	? (TO) TT=2520.14	? (TO) TT=2519.97	? (TO) TT=2520.01	? (TO) TT=2520.08	? (TO) TT=20119.1	? (TO) TT=20121.6	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.93
BinPacking/ BinPacking-sum-skj1/ BinPacking-sum-n4c1w2b.xml		? (TO) TT=2520.12	No data	? (TO) TT=2520.57	? (TO) TT=19999.6	? (TO) TT=2520.59	? (TO) TT=20049.7	? (TO) TT=2520.89	? (TO) TT=20035.2	? (TO) TT=2520.11	? (TO) TT=20048.6	? (TO) TT=2520.13	? (TO) TT=2520.28	? (TO) TT=2520.14	? (TO) TT=2520.11	? (TO) TT=2520.03	? (TO) TT=2519.93	? (TO) TT=2519.88	? (TO) TT=20115.9	? (TO) TT=20114.4	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.6
BinPacking/ BinPacking-sum-skj2/ BinPacking-sum-n1w1b1r5.xml	OPT f=3 TT=3.292 T1=2.39	OPT f=3 TT=21.056 T1=21.01	No data	OPT f=3 TT=18.877 T1=18.72	OPT f=3 TT=34.247 T1=33.43	OPT f=3 TT=18.139 T1=17.97	OPT f=3 TT=21.123 T1=20.89	OPT f=3 TT=16.293 T1=16.25	OPT f=3 TT=29.858 T1=29.62	? (TO) TT=2520.08	OPT f=3 TT=32.437 T1=31.91	OPT f=3 TT=1167.04 T1=1166.75	? (TO) TT=2520.08	OPT f=3 TT=225.998 T1=225.69	? (TO) TT=2520.07	? (TO) TT=2519.8	? (TO) TT=2520.08	? (TO) TT=2519.94	OPT f=3 TT=3.292 T1=2.39	OPT f=3 TT=1.622 T1=0.74	No data	No data	No data	No data	No data	No data	OPT f=3 TT=83.178 T1=83.09
BinPacking/ BinPacking-sum-skj2/ BinPacking-sum-n1w4b1r5.xml	UNSAT TT=5.177	UNSAT TT=5.177	No data	UNSAT TT=671.169	UNSAT TT=791.187	UNSAT TT=655.221	UNSAT TT=850.052	UNSAT TT=673.543	UNSAT TT=773.333	? (TO) TT=2520.13	UNSAT TT=781.817	? (TO) TT=2520.09	? (TO) TT=2520.1	? (TO) TT=2520.07	? (TO) TT=2520.08	? (TO) TT=2519.93	? (TO) TT=2520.05	? (TO) TT=2519.93	UNSAT TT=5784.63	UNSAT TT=4518.5	No data	No data	No data	No data	No data	No data	UNSAT TT=6.546
BinPacking/ BinPacking-sum-skj2/ BinPacking-sum-n2w4b2r1.xml	SAT TO f=0 TT=2520.44 T1=148.68	? (TO) TT=2520.07	No data	? (TO) TT=2520.56	SAT (TO) f=0 TT=20036 T1=7362.54	SAT (TO) f=0 TT=2520.44 T1=148.68	SAT (TO) f=0 TT=20050.1 T1=299.11	SAT (TO) f=0 TT=2520.53 T1=142.28	SAT (TO) f=0 TT=20043 T1=294.81	? (TO) TT=2520.04	SAT (TO) f=0 TT=20047.2 T1=1988.85	? (TO) TT=2520.09	? (TO) TT=2520.13	? (TO) TT=2520.12	? (TO) TT=2520.08	? (TO) TT=2519.78	? (TO) TT=2520.03	? (TO) TT=2519.94	SAT (TO) f=0 TT=20126.3 T1=335.17	? (TO) TT=20129	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.04
BinPacking/ BinPacking-sum-sw100/ BinPacking-sum-sw100-01.xml	SAT TO f=0 TT=20012.7 T1=1783.83	? (TO) TT=2520.08	No data	? (TO) TT=2520.66	SAT (TO) f=0 TT=20007.6 T1=7615.12	? (TO) TT=2520.55	SAT (TO) f=0 TT=20012.7 T1=13634.2	? (TO) TT=2520.61	SAT (TO) f=0 TT=20011.2 T1=13688	? (TO) TT=2520.05	SAT (TO) f=0 TT=20017.4 T1=1783.83	? (TO) TT=2520.03	? (TO) TT=2520.11	? (TO) TT=2520.06	? (TO) TT=2520.08	? (TO) TT=2520.09	? (TO) TT=2519.79	? (TO) TT=2519.74	? (TO) TT=20129.8	SAT (TO) f=0 TT=20124.5 T1=10675.4	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.77
BinPacking/BinPacking-tab-fu/ BinPacking-tab-fu0120-04.xml	SAT TO f=18 TT=2520.03 T1=330.69	SAT (TO) f=18 TT=2520.03 T1=330.69	No data	? (TO) TT=2520.73	? (TO) TT=20040.9	? (TO) TT=2520.55	? (TO) TT=20067.2	? (TO) TT=2520.66	? (TO) TT=20066.8	? (TO) TT=2520.1	? (TO) TT=20066.6	? (TO) TT=2520.14	? (TO) TT=2520.13	? (TO) TT=2520.12	? (TO) TT=2520.05	? (TO) TT=2519.96	? (TO) TT=2520.02	? (TO) TT=2519.62	? (TO) TT=20116.9	? (TO) TT=20118.9	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.06
BinPacking/ BinPacking-tab-sw120/ BinPacking-tab-sw120-75.xml	SAT TO f=0 TT=2520.02 T1=58.09	SAT (TO) f=0 TT=2520.04 T1=58.09	No data	? TT=136.874	? TT=861.928	? TT=114.826	? TT=670.06	? TT=156.311	? TT=605.613	? TT=128.11	? TT=559.353	? (TO) TT=2520.13	? (TO) TT=2520.12	? (TO) TT=2520.11	? (TO) TT=2520.13	SAT (TO) f=0 TT=2520.05 T1=256.39	SAT (TO) f=0 TT=2520.02 T1=255.09	SAT (TO) f=0 TT=2520.04 T1=254.27	SAT (TO) f=0 TT=19828 T1=11503	SAT (TO) f=0 TT=19862.1 T1=9255.74	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.93
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Blackhole/ Blackhole-m1-s13/ Blackhole-13-3-04.xml	SAT TT=0.02	SAT TT=4.912	SAT TT=0.02	SAT TT=2.104	SAT TT=4.025	SAT TT=2.095	SAT TT=3.562	SAT TT=2.062	SAT TT=3.796	SAT TT=1.481	SAT TT=3.437	SAT TT=8.09	SAT TT=9.649	SAT TT=7.418	SAT TT=7.65	? (TO) TT=2520.04	? (TO) TT=2519.94	? (TO) TT=2519.57	? (TO) TT=20091.4	? (TO) TT=20092.9	SAT TT=17.361	SAT TT=17.845	SAT TT=17.02	SAT TT=16.927	SAT TT=16.719	SAT TT=16.73	SAT TT=13.666
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07-1_X2.xml	UNSAT TT=168.634	? (TO) TT=2520.08	? (TO) TT=2519.75	? (TO) TT=2520.5	? (TO) TT=20048	? (TO) TT=2520.58	? (TO) TT=20044.7	? (TO) TT=2520.42	? (TO) TT=20041.8	? (TO) TT=2520.07	? (TO) TT=20035.9	? (TO) TT=2520.09	? (TO) TT=2520.14	? (TO) TT=2520.12	? (TO) TT=2520.13	? (TO) TT=2519.93	? (TO) TT=2520.06	? (TO) TT=2520.07	? (TO) TT=20110.5	? (TO) TT=20110.2	UNSAT TT=168.634	UNSAT TT=1015.34	UNSAT TT=1014.24	UNSAT TT=318.635	UNSAT TT=1023.17	UNSAT TT=1029.52	UNSAT TT=377.818
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07-2_X2.xml	UNSAT TT=165.879	? (TO) TT=2520.09	? TT=2520.03	? (TO) TT=2520.59	? (TO) TT=20043.9	? (TO) TT=2520.68	? (TO) TT=20045.5	? (TO) TT=2520.43	? (TO) TT=20040.8	? (TO) TT=2520.12	? (TO) TT=20046.5	? (TO) TT=2520.11	? (TO) TT=2520.13	? (TO) TT=2520.07	? (TO) TT=2520.07	? (TO) TT=2519.47	? (TO) TT=2520.02	? (TO) TT=2520.04	? (TO) TT=20107.5	? (TO) TT=20107.9	UNSAT TT=165.879	UNSAT TT=944.572	UNSAT TT=937.691	UNSAT TT=403.59	UNSAT TT=958.174	UNSAT TT=943.171	UNSAT TT=523.057
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07-3_X2.xml	UNSAT TT=165.887	? (TO) TT=2520.08	? TT=2520.03	? (TO) TT=2520.48	? (TO) TT=20052.8	? (TO) TT=2520.6	? (TO) TT=20045.3	? (TO) TT=2520.55	? (TO) TT=20043.9	? (TO) TT=2520.07	? (TO) TT=20046.6	? (TO) TT=2520.08	? (TO) TT=2520.1	? (TO) TT=2520.14	? (TO) TT=2520.1	? (TO) TT=2519.78	? (TO) TT=2520.06	? (TO) TT=2519.63	? (TO) TT=20107.9	? (TO) TT=20106.4	UNSAT TT=165.887	UNSAT TT=1001.34	UNSAT TT=949.946	UNSAT TT=445.11	UNSAT TT=947.615	UNSAT TT=955.609	UNSAT TT=525.37
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07-7_X2.xml	UNSAT TT=164.594	? (TO) TT=2520.08	? TT=2520.03	? (TO) TT=2520.34	? (TO) TT=20055.2	? (TO) TT=2520.64	? (TO) TT=20041.8	? (TO) TT=2520.32	? (TO) TT=20041.8	? (TO) TT=2520.06	? (TO) TT=20049.7	? (TO) TT=2520.06	? (TO) TT=2520.09	? (TO) TT=2520.05	? (TO) TT=2520.07	? (TO) TT=2520.02	? (TO) TT=2519.9	? (TO) TT=2520.03	? (TO) TT=20109.7	? (TO) TT=20108.5	UNSAT TT=164.594	UNSAT TT=887.448	UNSAT TT=877.408	UNSAT TT=375.342	UNSAT TT=874.681	UNSAT TT=875.5	UNSAT TT=516.57
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07-8_X2.xml	UNSAT TT=166.47	? (TO) TT=2520.05	? (TO) TT=2519.94	? (TO) TT=2520.66	? (TO) TT=20053	? (TO) TT=2520.56	? (TO) TT=20038.8	? (TO) TT=2520.31	? (TO) TT=20044.7	? (TO) TT=2520.15	? (TO) TT=20043.1	? (TO) TT=2520.06	? (TO) TT=2520.12	? (TO) TT=2520.07	? (TO) TT=2520.11	? (TO) TT=2519.94	? (TO) TT=2520.05	? (TO) TT=2519.91	? (TO) TT=20107.7	? (TO) TT=20107.7	UNSAT TT=166.47	UNSAT TT=937.958	UNSAT TT=922.212	UNSAT TT=419.472	UNSAT TT=929.764	UNSAT TT=934.114	UNSAT TT=484.472
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07-9_X2.xml	UNSAT TT=170.678	? (TO) TT=2520.08	? (TO) TT=2520.02	? (TO) TT=2520.45	? (TO) TT=20049.8	? (TO) TT=2520.65	? (TO) TT=20045.5	? (TO) TT=2520.29	? (TO) TT=20048.2	? (TO) TT=2520.11	? (TO) TT=20057.4	? (TO) TT=2520.07	? (TO) TT=2520.11	? (TO) TT=2520.13	? (TO) TT=2520.12	? (TO) TT=2520.09	? (TO) TT=2520.08	? (TO) TT=2519.7	? (TO) TT=20109.5	? (TO) TT=20107.4	UNSAT TT=170.678	UNSAT TT=1073.54	UNSAT TT=1068.38	UNSAT TT=371.33	UNSAT TT=1076.85	UNSAT TT=1072.34	UNSAT TT=580.943
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07h-0_X2.xml	UNSAT TT=163.179	? (TO) TT=2520.03	? (TO) TT=2519.63	? (TO) TT=2520.58	? (TO) TT=20053.5	? (TO) TT=2520.71	? (TO) TT=20040.8	? (TO) TT=2520.32	? (TO) TT=20047	? (TO) TT=2520.05	? (TO) TT=20045.7	? (TO) TT=2520.09	? (TO) TT=2520.1	? (TO) TT=2520.13	? (TO) TT=2520.12	? (TO) TT=2520.02	? (TO) TT=2520.01	? (TO) TT=2519.95	? (TO) TT=20108.3	? (TO) TT=20109.6	UNSAT TT=163.179	UNSAT TT=1177.89	UNSAT TT=1186.69	UNSAT TT=283.192	UNSAT TT=1187.33	UNSAT TT=1180.49	UNSAT TT=513.726
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07h-1_X2.xml	UNSAT TT=174.931	? (TO) TT=2520.06	? (TO) TT=2519.8	? (TO) TT=2520.38	? (TO) TT=20058.1	? (TO) TT=2520.7	? (TO) TT=20038.6	? (TO) TT=2520.41	? (TO) TT=20037.1	? (TO) TT=2520.16	? (TO) TT=20042.3	? (TO) TT=2520.11	? (TO) TT=2520.11	? (TO) TT=2520.13	? (TO) TT=2520.11	? (TO) TT=2520.02	? (TO) TT=2520.07	? (TO) TT=2520.04	? (TO) TT=20108.6	? (TO) TT=20111.2	UNSAT TT=174.931	UNSAT TT=940.947	UNSAT TT=951.052	UNSAT TT=372.924	UNSAT TT=987.085	UNSAT TT=938.791	UNSAT TT=548.384
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07h-4_X2.xml	UNSAT TT=170.824	? (TO) TT=2520.09	? (TO) TT=2519.9	? (TO) TT=2520.34	? (TO) TT=20059.8	? (TO) TT=2520.38	? (TO) TT=20042	? (TO) TT=2520.54	? (TO) TT=20035.8	? (TO) TT=2520.09	? (TO) TT=20042.1	? (TO) TT=2520.14	? (TO) TT=2520.11	? (TO) TT=2520.05	? (TO) TT=2520.09	? (TO) TT=2520.02	? (TO) TT=2519.94	? (TO) TT=2520.01	? (TO) TT=20107.3	? (TO) TT=20110.2	UNSAT TT=170.824	UNSAT TT=1175.27	UNSAT TT=1195.35	UNSAT TT=337.065	UNSAT TT=1152.66	UNSAT TT=1170.31	UNSAT TT=487.832
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07h-5_X2.xml	UNSAT TT=165.955	? (TO) TT=2520.09	? (TO) TT=2519.89	? (TO) TT=2520.4	? (TO) TT=20049.7	? (TO) TT=2520.4	? (TO) TT=20042.2	? (TO) TT=2520.61	? (TO) TT=20042.9	? (TO) TT=2520.08	? (TO) TT=20043	? (TO) TT=2520.06	? (TO) TT=2520.07	? (TO) TT=2520.13	? (TO) TT=2520.13	? (TO) TT=2520.03	? (TO) TT=2520.01	? (TO) TT=2519.94	? (TO) TT=20108.7	? (TO) TT=20108	UNSAT TT=165.955	UNSAT TT=1114.2	UNSAT TT=1159.08	UNSAT TT=382.657	UNSAT TT=1111.72	UNSAT TT=1117.83	UNSAT TT=465.142
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07h-6_X2.xml	UNSAT TT=169.632	? (TO) TT=2520.06	? (TO) TT=2519.92	? (TO) TT=2520.41	? (TO) TT=20052.7	? (TO) TT=2520.37	? (TO) TT=20046.9	? (TO) TT=2520.29	? (TO) TT=20048.5	? (TO) TT=2520.09	? (TO) TT=20045.9	? (TO) TT=2520.14	? (TO) TT=2520.12	? (TO) TT=2520.07	? (TO) TT=2520.11	? (TO) TT=2520.05	? (TO) TT=2519.76	? (TO) TT=2519.93	? (TO) TT=20108.3	? (TO) TT=20108.2	UNSAT TT=169.632	UNSAT TT=1157.39	UNSAT TT=1125.17	UNSAT TT=424.807	UNSAT TT=1114.07	UNSAT TT=1095.88	UNSAT TT=503.638
Blackhole/ Blackhole-xcsp2-s07/ Blackhole-4-07h-7_X2.xml	UNSAT TT=159.215	? (TO) TT=2520.05	? (TO) TT=2519.84	? (TO) TT=2520.62	? (TO) TT=20048.1	? (TO) TT=2520.45	? (TO) TT=20045	? (TO) TT=2520.78	? (TO) TT=20041.2	? (TO) TT=2520.06	? (TO) TT=20046.7	? (TO) TT=2520.08	? (TO) TT=2520.1	? (TO) TT=2520.11	? (TO) TT=2520.11	? (TO) TT=2520.02	? (TO) TT=2520.07	? (TO) TT=2520.05	? (TO) TT=20108.7	? (TO) TT=20108.2	UNSAT TT=159.215	UNSAT TT=1036.39	UNSAT TT=1044.1	UNSAT TT=242.84	UNSAT TT=1040.93	UNSAT TT=1039.67	UNSAT TT=540.243
Blackhole/ Blackhole-xcsp2-s13/ Blackhole-4-13-2_X2.xml		? (TO) TT=2520.1	? (TO) TT=2519.57	? (TO) TT=2520.55	? (TO) TT=20078.2	? (TO) TT=2520.66	? (TO) TT=20084.7	? (TO) TT=2520.48	? (TO) TT=20087.7	? (TO) TT=2520.02	? (TO) TT=20082	? (TO) TT=2520.06	? (TO) TT=2520.09	? (TO) TT=2520.13	? (TO) TT=2520.07	? (TO) TT=2520.01	? (TO) TT=2520.07	? (TO) TT=2519.92	? (TO) TT=20105.8	? (TO) TT=20104.5	? (TO) TT=2520.08	? (TO) TT=17573.4	? (TO) TT=17512.8	? (TO) TT=2520.06	? (TO) TT=17443.9	? (TO) TT=17684.5	? (TO) TT=2519.93
BusScheduling/ BusScheduling-cnt-s1/ BusScheduling-cnt-r2.xml	SAT TO f=14 TT=2520.05 T1=29.72	SAT (TO) f=14 TT=2520.05 T1=46.55	No data	SAT (TO) f=14 TT=2520.36 T1=560.48	SAT (TO) f=14 TT=20061.3 T1=821.94	SAT (TO) f=15 TT=2520.66 T1=55.24	SAT (TO) f=14 TT=19841.4 T1=3369.73	SAT (TO) f=15 TT=2520.3 T1=56.43	SAT (TO) f=14 TT=19934 T1=18490.4	SAT (TO) f=16 TT=2520.1 T1=113.02	SAT (TO) f=14 TT=19870.8 T1=196.57	SAT (TO) f=14 TT=2520.07 T1=34.08	SAT (TO) f=14 TT=2520.11 T1=594.23	SAT (TO) f=14 TT=2520.13 T1=33.13	SAT (TO) f=14 TT=2520.06 T1=29.72	SAT (TO) f=17 TT=2520.05 T1=1.69	SAT (TO) f=17 TT=2520.01 T1=1.69	SAT (TO) f=17 TT=2519.94 T1=1.69	SAT (TO) f=14 TT=20119.3 T1=139.95	SAT (TO) f=14 TT=20121.5 T1=121.05	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.73
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-16-81.xml	SAT TT=27.946	? (TO) TT=2520.04	? (TO) TT=2519.91	? (TO) TT=2520.25	? (TO) TT=20055.7	? (TO) TT=2520.33	? (TO) TT=20023	? (TO) TT=2520.34	? (TO) TT=20015.1	? (TO) TT=2520.11	? (TO) TT=20027	? (TO) TT=2520.15	? (TO) TT=2520.07	? (TO) TT=2520.08	? (TO) TT=2520.07	? (TO) TT=2520.02	? (TO) TT=2520.05	? (TO) TT=2519.9	? (TO) TT=20114	? (TO) TT=20114.5	SAT TT=614.615	SAT TT=4202.02	SAT TT=4102.93	SAT TT=1306.56	SAT TT=1850.78	SAT TT=1857.83	SAT TT=27.946
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-36-92.xml	UNSAT TT=67.6	UNSAT TT=1551.79	? (TO) TT=2520.03	? (TO) TT=2520.43	? (TO) TT=20051	? (TO) TT=2520.34	? (TO) TT=20042.5	? (TO) TT=2520.36	? (TO) TT=20038.7	? (TO) TT=2520.07	? (TO) TT=20036.3	? (TO) TT=2520.08	? (TO) TT=2520.06	? (TO) TT=2520.16	? (TO) TT=2520.09	? (TO) TT=2520.02	? (TO) TT=2520.01	? (TO) TT=2520	? (TO) TT=20112.3	? (TO) TT=20113.5	? (TO) TT=2520.13	? (TO) TT=19445.1	? (TO) TT=19321.5	? (TO) TT=2520.13	? (TO) TT=18974	? (TO) TT=18515.7	UNSAT TT=67.6
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-60-01.xml	SAT TT=3.471	SAT TT=79.076	? (TO) TT=2520.01	SAT TT=62.77	SAT TT=140.08	SAT TT=51.395	SAT TT=102.32	SAT TT=49.976	SAT TT=100.599	SAT TT=429.175	SAT TT=102.433	SAT TT=100.841	SAT TT=711.076	SAT TT=41.645	SAT TT=38.647	SAT TT=10.696	SAT TT=10.943	SAT TT=10.709	SAT TT=3.563	SAT TT=3.471	SAT TT=202.176	SAT TT=74.824	SAT TT=72.225	SAT TT=42.918	SAT TT=50.395	SAT TT=54.511	SAT TT=38.601
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-60-03.xml	SAT TT=14.782	SAT TT=53.676	? (TO) TT=2519.93	SAT TT=29.772	SAT TT=59.383	SAT TT=115.474	SAT TT=223.55	SAT TT=120.037	SAT TT=224.398	SAT TT=281.345	SAT TT=109.973	SAT TT=27.477	SAT TT=272.624	SAT TT=31.611	SAT TT=29.932	? (TO) TT=2520.01	? (TO) TT=2519.9	? (TO) TT=2519.87	SAT TT=14.782	SAT TT=14.84	SAT TT=109.43	SAT TT=216.229	SAT TT=214.34	SAT TT=44.883	SAT TT=52.344	SAT TT=54.195	SAT TT=31.727
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-65-10.xml	SAT TT=1.894	SAT TT=15.932	? (TO) TT=2520.07	SAT TT=33.08	SAT TT=72.615	SAT TT=36.524	SAT TT=77.162	SAT TT=38.159	SAT TT=72.9	SAT TT=31.84	SAT TT=71.209	SAT TT=27.362	SAT TT=37.936	SAT TT=27.203	SAT TT=25.256	SAT TT=1.892	SAT TT=1.899	SAT TT=1.894	SAT TT=24.364	SAT TT=23.629	SAT TT=46.386	SAT TT=119.299	SAT TT=117.837	SAT TT=45.088	SAT TT=53.743	SAT TT=51.212	SAT TT=35.932
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-70-05.xml	SAT TT=31.723	SAT TT=196.73	? (TO) TT=2520.06	SAT TT=49.909	SAT TT=112.939	SAT TT=53.437	SAT TT=106.636	SAT TT=63.651	SAT TT=67.734	SAT TT=267.56	SAT TT=66.41	SAT TT=31.723	SAT TT=2109.07	SAT TT=37.383	SAT TT=33.021	SAT TT=2147.1	SAT TT=1885.24	SAT TT=1878.35	SAT TT=32.007	SAT TT=32.224	SAT TT=126.614	SAT TT=183.747	SAT TT=182.851	SAT TT=45.652	SAT TT=76.176	SAT TT=72.07	SAT TT=46.845
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-70-08.xml	SAT TT=7.387	SAT TT=27.248	? (TO) TT=2519.92	SAT TT=39.48	SAT TT=88.881	SAT TT=44.023	SAT TT=90.744	SAT TT=42.401	SAT TT=87.969	SAT TT=36.276	SAT TT=81.464	SAT TT=106.761	SAT TT=32.684	SAT TT=554.535	SAT TT=25.007	SAT TT=8.441	SAT TT=7.399	SAT TT=7.387	SAT TT=26.58	SAT TT=26.542	SAT TT=221.543	SAT TT=334.984	SAT TT=336.121	SAT TT=47.178	SAT TT=57.732	SAT TT=62.269	SAT TT=45.377
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-75-03.xml	SAT TT=6.327	SAT TT=1374.88	? (TO) TT=2520.08	SAT TT=48.411	SAT TT=98.536	SAT TT=73.183	SAT TT=20.049	SAT TT=72.195	SAT TT=19.303	? (TO) TT=2520.03	SAT TT=20.544	SAT TT=46.888	SAT TT=1953.82	SAT TT=31.567	SAT TT=34.52	SAT TT=269.189	SAT TT=233.492	SAT TT=236.738	SAT TT=6.845	SAT TT=6.327	SAT TT=108.678	SAT TT=128.588	SAT TT=133.053	SAT TT=46.812	SAT TT=107.514	SAT TT=109.84	SAT TT=57.843
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-75-09.xml	SAT TT=15.545	SAT TT=15.545	? (TO) TT=2520.08	SAT TT=63.168	SAT TT=133.321	SAT TT=53.714	SAT TT=103.532	SAT TT=57.346	SAT TT=105.665	SAT TT=750.65	SAT TT=201.387	SAT TT=261.522	? (TO) TT=2520.15	SAT TT=35.632	SAT TT=59.695	SAT TT=443.997	SAT TT=431.53	SAT TT=444.943	SAT TT=44.596	SAT TT=42.077	SAT TT=283.568	SAT TT=825.983	SAT TT=807.422	SAT TT=108.291	SAT TT=104.032	SAT TT=115.112	SAT TT=47.306
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-80-07.xml	SAT TT=53.429	? (TO) TT=2520.09	? (TO) TT=2520.09	SAT TT=80.922	SAT TT=184.466	SAT TT=61.063	SAT TT=121.828	SAT TT=63.869	SAT TT=124.658	? (TO) TT=2520.08	SAT TT=130.826	? (TO) TT=2520.08	? (TO) TT=2520.09	? (TO) TT=2520.15	? (TO) TT=2520.08	? (TO) TT=2519.93	? (TO) TT=2520.05	? (TO) TT=2520.05	SAT TT=972.235	SAT TT=1055.32	SAT TT=201.898	SAT TT=706.279	SAT TT=730.628	SAT TT=67.076	SAT TT=69.494	SAT TT=69.635	SAT TT=53.429
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-85-05.xml	SAT TT=78.5	? (TO) TT=2520.02	? (TO) TT=2520.03	SAT TT=416.836	SAT TT=879.72	? (TO) TT=2520.51	SAT TT=7970.92	? (TO) TT=2520.49	SAT TT=8537.51	? (TO) TT=2520.06	SAT TT=3566.26	? (TO) TT=2520.08	? (TO) TT=2520.13	? (TO) TT=2520.11	? (TO) TT=2520.14	? (TO) TT=2520.02	? (TO) TT=2520.01	? (TO) TT=2520.03	? (TO) TT=20116.2	? (TO) TT=20116.9	SAT TT=1870.03	? (TO) TT=18335.3	? (TO) TT=18326.3	SAT TT=1253.94	SAT TT=1401.13	SAT TT=1402.32	SAT TT=78.5
CarSequencing/ CarSequencing-m1-jcr/ CarSequencing-90-07.xml	SAT TT=78.807	SAT TT=1284.44	? (TO) TT=2520.11	? (TO) TT=2520.38	? (TO) TT=20059.2	? (TO) TT=2520.54	? (TO) TT=20020.7	? (TO) TT=2520.67	? (TO) TT=20025.4	? (TO) TT=2520.08	? (TO) TT=20022.9	? (TO) TT=2520.07	? (TO) TT=2520.08	? (TO) TT=2520.13	? (TO) TT=2520.12	? (TO) TT=2520.02	? (TO) TT=2520.01	? (TO) TT=2520.02	? (TO) TT=20117.6	? (TO) TT=20115.5	? (TO) TT=2520.15	? (TO) TT=18166.2	? (TO) TT=18568.1	? (TO) TT=2520.17	? (TO) TT=19021.8	? (TO) TT=18805.2	SAT TT=78.807
ChessboardColoration/ ChessboardColoration-int-s1/ ChessboardColoration-int-09-09.xml	OPT f=2 TT=9.613 T1=8.69	OPT f=2 TT=29.444 T1=28.32	No data	SAT (TO) f=3 TT=2520.44 T1=310.82	Wrong Opt. f=3 TT=352.764 T1=352.42	SAT (TO) f=3 TT=2520.57 T1=261.83	SAT (TO) f=3 TT=20056.1 T1=330.16	SAT (TO) f=3 TT=2520.61 T1=259.52	SAT (TO) f=3 TT=19948.6 T1=364.54	SAT (TO) f=3 TT=2520.09 T1=454.36	SAT (TO) f=3 TT=19940.3 T1=365.12	OPT f=2 TT=108.703 T1=107.62	SAT (TO) f=3 TT=2520.08 T1=149.61	OPT f=2 TT=1703.62 T1=1699.87	OPT f=2 TT=394.182 T1=393.05	OPT f=2 TT=9.652 T1=8.69	OPT f=2 TT=9.626 T1=8.69	OPT f=2 TT=9.613 T1=8.69	OPT f=2 TT=92.633 T1=84.66	OPT f=2 TT=84.673 T1=76.61	No data	No data	No data	No data	No data	No data	OPT f=2 TT=15.843 T1=15.79
ChessboardColoration/ ChessboardColoration-int-s2/ ChessboardColoration-int-05-07.xml	OPT f=2 TT=0.311 T1=0.2	OPT f=2 TT=4.144 T1=3.81	No data	? TT=356.718	? (TO) TT=18758.5	? (TO) TT=2527.61	? TT=16546.9	? TT=374.69	? TT=1169.43	? (TO) TT=2528.43	? TT=1303.42	OPT f=2 TT=10.275 T1=9.7	OPT f=2 TT=17.448 T1=16.76	OPT f=2 TT=10.943 T1=10.51	OPT f=2 TT=9.695 T1=9.22	OPT f=2 TT=0.311 T1=0.21	OPT f=2 TT=0.312 T1=0.2	OPT f=2 TT=0.311 T1=0.21	OPT f=2 TT=1.023 T1=0.41	OPT f=2 TT=0.93 T1=0.42	No data	No data	No data	No data	No data	No data	OPT f=2 TT=4.541 T1=4.49
ChessboardColoration/ ChessboardColoration-int-s2/ ChessboardColoration-int-08-10.xml	OPT f=2 TT=18.325 T1=17.75	OPT f=2 TT=18.325 T1=17.75	No data	SAT (TO) f=3 TT=2520.72 T1=161.21	OPT f=2 TT=2031.62 T1=2030.36	SAT (TO) f=3 TT=2520.41 T1=162.28	OPT f=2 TT=9399.53 T1=9398.83	SAT (TO) f=3 TT=2520.35 T1=138.64	SAT (TO) f=3 TT=19969.7 T1=335.03	SAT (TO) f=3 TT=2520.07 T1=326.73	SAT (TO) f=3 TT=20013.7 T1=354.03	OPT f=2 TT=74.523 T1=70.73	SAT (TO) f=3 TT=2520.1 T1=77.87	OPT f=2 TT=543.003 T1=542.7	OPT f=2 TT=155.466 T1=154.99	SAT (TO) f=3 TT=2520.03 T1=2.1	SAT (TO) f=3 TT=2520.06 T1=2.1	SAT (TO) f=3 TT=2519.79 T1=2.1	OPT f=2 TT=196.942 T1=184.91	OPT f=2 TT=71.486 T1=59.43	No data	No data	No data	No data	No data	No data	OPT f=2 TT=19.622 T1=19.59
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
ChessboardColoration/ ChessboardColoration-int-s2/ ChessboardColoration-int-11-13.xml	OPT f=3 TT=84.616 T1=84.59	SAT (TO) f=3 TT=2520.1 T1=17.09	No data	SAT (TO) f=6 TT=2520.46 T1=345.25	SAT (TO) f=3 TT=17397.5 T1=4546.53	SAT (TO) f=6 TT=2520.65 T1=169.91	SAT (TO) f=3 TT=16134.9 T1=8812.73	SAT (TO) f=6 TT=2520.68 T1=185.56	SAT (TO) f=3 TT=17341.6 T1=8439.05	? (TO) TT=2520.13	SAT (TO) f=3 TT=16401.5 T1=9968.7	SAT (TO) f=3 TT=2520.09 T1=1492.73	SAT (TO) f=3 TT=2520.08 T1=645.24	SAT (TO) f=3 TT=2520.08 T1=101.14	SAT (TO) f=3 TT=2520.09 T1=80.79	SAT (TO) f=3 TT=2520.04 T1=16.69	SAT (TO) f=3 TT=2520.01 T1=16.48	SAT (TO) f=3 TT=2520.09 T1=16.2	SAT (TO) f=3 TT=20053.5 T1=71.15	SAT (TO) f=3 TT=20064.5 T1=134.47	No data	No data	No data	No data	No data	No data	OPT f=3 TT=84.616 T1=84.59
ChessboardColoration/ ChessboardColoration-m1-s1/ ChessboardColoration-09-09.xml	OPT f=2 TT=0.278 T1=0.1	OPT f=2 TT=4.785 T1=4.29	No data	OPT f=2 TT=89.404 T1=76.54	OPT f=2 TT=22.63 T1=10.58	OPT f=2 TT=361.896 T1=356.9	OPT f=2 TT=75.527 T1=68.57	OPT f=2 TT=376.842 T1=371.52	OPT f=2 TT=410.953 T1=403.22	SAT (TO) f=3 TT=2520.11 T1=2.81	OPT f=2 TT=271.909 T1=261.96	OPT f=2 TT=166.901 T1=18.72	OPT f=2 TT=587.38 T1=525.18	OPT f=2 TT=118.128 T1=24.7	OPT f=2 TT=54.655 T1=18.79	OPT f=2 TT=0.278 T1=0.1	OPT f=2 TT=0.283 T1=0.1	OPT f=2 TT=0.319 T1=0.11	OPT f=2 TT=0.969 T1=0.1	OPT f=2 TT=1.046 T1=0.1	No data	No data	No data	No data	No data	No data	OPT f=2 TT=495.574 T1=495.48
ChessboardColoration/ ChessboardColoration-m1-s2/ ChessboardColoration-08-10.xml	OPT f=2 TT=0.254 T1=0.1	OPT f=2 TT=5.028 T1=4.64	No data	OPT f=2 TT=53.195 T1=50.08	OPT f=2 TT=24.966 T1=17.31	OPT f=2 TT=585.989 T1=582.5	OPT f=2 TT=716.08 T1=709.97	OPT f=2 TT=92.89 T1=89.9	OPT f=2 TT=1041.02 T1=1029.98	SAT (TO) f=3 TT=2520.08 T1=2.64	OPT f=2 TT=401.451 T1=394.18	OPT f=2 TT=38.722 T1=31.77	OPT f=2 TT=1434.68 T1=1382.32	OPT f=2 TT=45.138 T1=27.62	OPT f=2 TT=36.191 T1=31.79	OPT f=2 TT=0.254 T1=0.1	OPT f=2 TT=0.254 T1=0.1	OPT f=2 TT=0.286 T1=0.1	OPT f=2 TT=0.875 T1=0.1	OPT f=2 TT=0.877 T1=0.1	No data	No data	No data	No data	No data	No data	OPT f=2 TT=452.8 T1=452.7
Crossword/ Crossword-m1c-lex-herald/ Crossword-m1c-lex-h2101.xml	SAT TT=193.944	? (TO) TT=2520.15	SAT TT=193.944	? (TO) TT=2520.3	SAT TT=15043.6	? (TO) TT=2520.39	SAT TT=13166.1	? (TO) TT=2520.54	SAT TT=14035.9	? (TO) TT=2520.1	SAT TT=4104.95	? (TO) TT=2520.14	? (TO) TT=2520.07	? (TO) TT=2520.12	? (TO) TT=2520.12	SAT TT=1935.96	SAT TT=1944.55	SAT TT=1944.71	? (TO) TT=20107.1	SAT TT=5528.81	? (TO) TT=2520.1	? (TO) TT=17018	? (TO) TT=16987.4	? (TO) TT=2520.14	? (TO) TT=16980	? (TO) TT=16991.5	? (TO) TT=2520.12
Crossword/ Crossword-m1c-lex-herald/ Crossword-m1c-lex-h2307.xml	SAT TT=0.988	SAT TT=5.964	SAT TT=2.494	SAT TT=8.641	SAT TT=17.689	SAT TT=8.964	SAT TT=15.22	SAT TT=9.769	SAT TT=11.574	SAT TT=2.858	SAT TT=8.298	SAT TT=14.303	SAT TT=72.472	SAT TT=15.478	SAT TT=16.732	SAT TT=0.99	SAT TT=0.999	SAT TT=0.988	SAT TT=7.714	SAT TT=7.91	? (TO) TT=2520.13	? (TO) TT=17148.6	? (TO) TT=17209.1	? (TO) TT=2520.09	? (TO) TT=17278.8	? (TO) TT=17153.6	SAT TT=794.255
Crossword/ Crossword-m1c-ogd2008-herald/ Crossword-m1c-ogd2008-h1506.xml	SAT TT=0.985	SAT TT=6.237	SAT TT=0.985	SAT TT=11.994	SAT TT=30.467	SAT TT=11.456	SAT TT=31.264	SAT TT=11.754	SAT TT=29.022	SAT TT=4.084	SAT TT=30.828	SAT TT=15.224	SAT TT=18.483	SAT TT=15.429	SAT TT=14.707	SAT TT=2.543	SAT TT=2.548	SAT TT=2.544	SAT TT=6.001	SAT TT=5.998	? (TO) TT=2528.25	SAT TT=1198.4	SAT TT=1190.75	? (TO) TT=2527.9	SAT TT=1183.18	SAT TT=1199.59	SAT TT=404.925
Crossword/ Crossword-m1c-ogd2008-herald/ Crossword-m1c-ogd2008-h1509.xml	SAT TT=0.427	SAT TT=4.914	SAT TT=0.427	SAT TT=7.844	SAT TT=14.044	SAT TT=7.512	SAT TT=13.974	SAT TT=7.499	SAT TT=14.758	SAT TT=2.86	SAT TT=14.023	SAT TT=13.048	SAT TT=14.811	SAT TT=11.948	SAT TT=10.909	SAT TT=0.908	SAT TT=0.913	SAT TT=0.907	SAT TT=2.511	SAT TT=2.54	SAT TT=577.503	SAT TT=599.627	SAT TT=584.373	SAT TT=556.865	SAT TT=567.859	SAT TT=567.004	SAT TT=60.341
Crossword/ Crossword-m1c-ogd2008-herald/ Crossword-m1c-ogd2008-h1905.xml	SAT TT=0.588	SAT TT=5.249	SAT TT=0.588	SAT TT=7.782	SAT TT=21.687	SAT TT=7.513	SAT TT=22.086	SAT TT=9.033	SAT TT=23.977	SAT TT=3	SAT TT=22.384	SAT TT=13.968	SAT TT=16.707	SAT TT=13.368	SAT TT=13.263	SAT TT=1.397	SAT TT=1.404	SAT TT=1.397	SAT TT=3.576	SAT TT=3.606	SAT TT=1032.16	SAT TT=827.449	SAT TT=818.526	SAT TT=945.982	SAT TT=823.773	SAT TT=808.783	SAT TT=161.245
Crossword/ Crossword-m1c-ogd-herald/ Crossword-m1c-ogd-h1502.xml	SAT TT=0.441	SAT TT=4.954	SAT TT=0.441	SAT TT=6.031	SAT TT=10.856	SAT TT=5.935	SAT TT=11.561	SAT TT=6.875	SAT TT=11.384	SAT TT=2.703	SAT TT=11.428	SAT TT=12.07	SAT TT=13.515	SAT TT=12.623	SAT TT=10.806	SAT TT=1.353	SAT TT=1.358	SAT TT=1.351	SAT TT=2.71	SAT TT=2.824	SAT TT=394.418	SAT TT=392.167	SAT TT=415.796	SAT TT=355.411	SAT TT=393.741	SAT TT=391.116	SAT TT=155.817
Crossword/ Crossword-m1c-ogd-herald/ Crossword-m1c-ogd-h2105.xml	SAT TT=0.519	SAT TT=5.182	SAT TT=0.519	SAT TT=6.804	SAT TT=16.394	SAT TT=6.952	SAT TT=15.374	SAT TT=7.149	SAT TT=15.892	SAT TT=3.297	SAT TT=15.215	SAT TT=12.408	SAT TT=17.966	SAT TT=12.036	SAT TT=11.91	SAT TT=0.739	SAT TT=0.734	SAT TT=0.709	SAT TT=3.595	SAT TT=3.578	? (TO) TT=2520.19	SAT TT=1038.88	SAT TT=1021.15	SAT TT=917.053	SAT TT=1055.09	SAT TT=1040.99	SAT TT=82.258
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Crossword/ Crossword-m1c-ogd-herald/ Crossword-m1c-ogd-h2107.xml	SAT TT=0.643	SAT TT=5.398	SAT TT=0.643	SAT TT=8.218	SAT TT=22.006	SAT TT=8.019	SAT TT=21.756	SAT TT=8.546	SAT TT=24.848	SAT TT=2.926	SAT TT=22.706	SAT TT=13.044	SAT TT=17.829	SAT TT=13.509	SAT TT=13.016	SAT TT=1.387	SAT TT=1.393	SAT TT=1.389	SAT TT=4.691	SAT TT=4.678	SAT TT=1509.6	SAT TT=950.754	SAT TT=956.709	SAT TT=998.986	SAT TT=1023.7	SAT TT=929.945	SAT TT=323.651
Crossword/Crossword-m1c-ogd-vg/ Crossword-m1c-ogd-vg-14-15.xml	UNSAT TT=4.057	UNSAT TT=6.471	UNSAT TT=4.057	UNSAT TT=20.812	UNSAT TT=31.174	UNSAT TT=21.8	UNSAT TT=33.661	UNSAT TT=21.857	UNSAT TT=34.144	UNSAT TT=5.831	UNSAT TT=36.339	UNSAT TT=93.779	UNSAT TT=241.348	UNSAT TT=90.621	UNSAT TT=151.712	UNSAT TT=17.69	UNSAT TT=18.263	UNSAT TT=18.553	UNSAT TT=139.666	UNSAT TT=128.954	? (TO) TT=2520.17	UNSAT TT=9185.51	UNSAT TT=9222.59	? (TO) TT=2520.12	UNSAT TT=9201.5	UNSAT TT=9151.65	UNSAT TT=1247.15
Crossword/Crossword-m1c-ogd-vg/ Crossword-m1c-ogd-vg-15-19.xml	UNSAT TT=0.204	UNSAT TT=4.057	UNSAT TT=0.204	UNSAT TT=3.356	UNSAT TT=7.192	UNSAT TT=3.383	UNSAT TT=7.125	UNSAT TT=3.375	UNSAT TT=7.384	UNSAT TT=1.879	UNSAT TT=7.359	UNSAT TT=9.545	UNSAT TT=9.413	UNSAT TT=9.889	UNSAT TT=8.589	UNSAT TT=0.292	UNSAT TT=0.303	UNSAT TT=0.292	UNSAT TT=0.986	UNSAT TT=0.991	UNSAT TT=260.591	UNSAT TT=286.133	UNSAT TT=291.595	UNSAT TT=270.138	UNSAT TT=287.308	UNSAT TT=289.702	UNSAT TT=146.508
Crossword/Crossword-m1c-ogd-vg/ Crossword-m1c-ogd-vg-16-16.xml	UNSAT TT=0.088	UNSAT TT=3.793	UNSAT TT=0.088	UNSAT TT=2.633	UNSAT TT=4.233	UNSAT TT=2.402	UNSAT TT=3.984	UNSAT TT=2.478	UNSAT TT=4.393	UNSAT TT=1.53	UNSAT TT=3.325	UNSAT TT=9.247	UNSAT TT=9.696	UNSAT TT=9.705	UNSAT TT=9.113	UNSAT TT=0.108	UNSAT TT=0.109	UNSAT TT=0.109	UNSAT TT=0.549	UNSAT TT=0.548	UNSAT TT=181.108	UNSAT TT=224.745	UNSAT TT=224.754	UNSAT TT=197.764	UNSAT TT=223.004	UNSAT TT=224.923	UNSAT TT=125.121
Crossword/Crossword-m1c-uk-vg/ Crossword-m1c-uk-vg-10-13.xml	UNSAT TT=183.225	UNSAT TT=183.225	UNSAT TT=561.575	UNSAT TT=1402.97	UNSAT TT=2480.71	UNSAT TT=1045.02	UNSAT TT=2264.29	UNSAT TT=1039.41	UNSAT TT=2500.67	UNSAT TT=448.91	UNSAT TT=2631.96	? (TO) TT=2520.09	? (TO) TT=2520.13	? (TO) TT=2520.05	? (TO) TT=2520.06	? (TO) TT=2520.05	? (TO) TT=2519.84	? (TO) TT=2519.97	? (TO) TT=20113.9	? (TO) TT=20117.8	? (TO) TT=2520.09	? (TO) TT=16740.3	? (TO) TT=16902.7	? (TO) TT=2520.15	? (TO) TT=16438.6	? (TO) TT=16775.5	? (TO) TT=2519.75
Crossword/ Crossword-m1c-words-herald/ Crossword-m1c-words-h2303.xml	SAT TT=4.324	SAT TT=6.636	SAT TT=45.287	SAT TT=25.927	SAT TT=15.136	SAT TT=24.207	SAT TT=14.735	SAT TT=24.628	SAT TT=15.554	SAT TT=4.324	SAT TT=12.334	SAT TT=17.811	SAT TT=54.756	SAT TT=16.933	SAT TT=20.496	SAT TT=4.465	SAT TT=4.449	SAT TT=4.432	SAT TT=22.58	SAT TT=17.992	? (TO) TT=2520.25	? (TO) TT=15689.7	? (TO) TT=15661.7	? (TO) TT=2520.18	? (TO) TT=15498.9	? (TO) TT=15684.8	SAT TT=677.981
Crossword/Crossword-m1c-words-vg/ Crossword-m1c-words-vg-7-7.xml	SAT TT=0.094	SAT TT=40.856	SAT TT=0.094	SAT TT=39.527	SAT TT=79.024	SAT TT=68.639	SAT TT=126.056	SAT TT=65.277	SAT TT=122.86	SAT TT=4.028	SAT TT=15.836	SAT TT=53.935	SAT TT=312.947	SAT TT=48.482	SAT TT=55.173	SAT TT=85.487	SAT TT=90.004	SAT TT=85.265	SAT TT=36.349	SAT TT=154.597	? (TO) TT=2520.07	? (TO) TT=19306.8	? (TO) TT=19244.9	? (TO) TT=2520.1	? (TO) TT=19180.1	? (TO) TT=19454.6	SAT TT=316.931
Crossword/Crossword-m1c-words-vg/ Crossword-m1c-words-vg-8-10.xml	UNSAT TT=10.046	UNSAT TT=10.046	UNSAT TT=14.469	UNSAT TT=33.496	UNSAT TT=69.538	UNSAT TT=34.059	UNSAT TT=69.334	UNSAT TT=35.562	UNSAT TT=71.85	UNSAT TT=17.314	UNSAT TT=87.164	UNSAT TT=439.811	UNSAT TT=411.442	UNSAT TT=307.002	UNSAT TT=207.147	UNSAT TT=94.523	UNSAT TT=95.068	UNSAT TT=95.306	UNSAT TT=117.385	UNSAT TT=125.437	? (TO) TT=2520.11	UNSAT TT=7871.64	UNSAT TT=7725.57	? (TO) TT=2520.09	UNSAT TT=7795.47	UNSAT TT=8266.68	UNSAT TT=208.54
Cutstock/ Cutstock-zinc-s1/ Cutstock-t03-4.xml	SAT TO f=19 TT=2519.47 T1=0.88	SAT (TO) f=19 TT=2520.07 T1=8.12	No data	SAT (TO) f=19 TT=2520.37 T1=21.22	SAT (TO) f=19 TT=20048.9 T1=35.42	SAT (TO) f=19 TT=2520.4 T1=12.66	SAT (TO) f=19 TT=20018.4 T1=19.44	SAT (TO) f=19 TT=2520.41 T1=11.16	SAT (TO) f=19 TT=19990.7 T1=22.52	SAT (TO) f=19 TT=2520.11 T1=5.05	SAT (TO) f=19 TT=20034.1 T1=20.34	SAT (TO) f=19 TT=2520.14 T1=9.48	SAT (TO) f=19 TT=2520.05 T1=18.21	SAT (TO) f=19 TT=2520.12 T1=10.13	SAT (TO) f=19 TT=2520.04 T1=10.02	SAT (TO) f=19 TT=2519.67 T1=0.88	SAT (TO) f=19 TT=2519.67 T1=0.89	SAT (TO) f=19 TT=2519.47 T1=0.89	SAT (TO) f=19 TT=20126.4 T1=1.4	SAT (TO) f=19 TT=20125.8 T1=0.67	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.69
Cutstock/ Cutstock-zinc-s1/ Cutstock-t08-0.xml	OPT f=579 TT=18.783 T1=18.4	OPT f=579 TT=18.783 T1=18.4	No data	OPT f=579 TT=818.745 T1=818.26	OPT f=579 TT=1863.18 T1=1862.91	OPT f=579 TT=824.921 T1=824.76	OPT f=579 TT=2243.11 T1=2242.52	OPT f=579 TT=869.567 T1=869.4	OPT f=579 TT=1990.35 T1=1989.68	OPT f=579 TT=837.966 T1=538.46	OPT f=579 TT=1984.38 T1=1984.17	OPT f=579 TT=1228.96 T1=958.89	SAT (TO) f=579 TT=2520.12 T1=1018.04	OPT f=579 TT=1297.37 T1=685.76	OPT f=579 TT=352.418 T1=341.49	? (TO) TT=2520.04	? (TO) TT=2519.77	? (TO) TT=2519.31	OPT f=579 TT=408.231 T1=407.35	OPT f=579 TT=409.246 T1=363.63	No data	No data	No data	No data	No data	No data	OPT f=579 TT=1337.45 T1=1230.2
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Cutstock/ Cutstock-zinc-s1/ Cutstock-t08-9.xml	OPT f=476 TT=47.106 T1=46.83	OPT f=476 TT=47.106 T1=46.83	No data	OPT f=476 TT=2019.56 T1=2017.67	OPT f=476 TT=4393.45 T1=4385.28	OPT f=476 TT=1872.88 T1=1870.35	OPT f=476 TT=5557.85 T1=5551.84	OPT f=476 TT=1896.76 T1=1894.02	OPT f=476 TT=4989.62 T1=4983.71	OPT f=476 TT=574.357 T1=567.52	OPT f=476 TT=5155.8 T1=5148.38	SAT (TO) f=476 TT=2520.09 T1=111.48	SAT (TO) f=477 TT=2520.07 T1=1304.29	SAT (TO) f=477 TT=2520.06 T1=301.06	SAT (TO) f=476 TT=2520.14 T1=102.89	SAT (TO) f=490 TT=2520.08 T1=2510.76	SAT (TO) f=502 TT=2520.05 T1=2504.43	SAT (TO) f=508 TT=2519.5 T1=2514.18	OPT f=476 TT=505.867 T1=504.53	OPT f=476 TT=384.291 T1=383.79	No data	No data	No data	No data	No data	No data	OPT f=476 TT=730.89 T1=730.86
Cutstock/ Cutstock-zinc-s1/ Cutstock-t09-2.xml	OPT f=102 TT=7.943 T1=7.65	OPT f=102 TT=7.943 T1=7.65	No data	OPT f=102 TT=206.541 T1=199.56	OPT f=102 TT=416.533 T1=403.83	OPT f=102 TT=229.477 T1=216.77	OPT f=102 TT=402.314 T1=380.13	OPT f=102 TT=221.404 T1=209.3	OPT f=102 TT=400.836 T1=378.68	OPT f=102 TT=1588.57 T1=332.42	OPT f=102 TT=400.024 T1=377.81	OPT f=102 TT=44.485 T1=36.49	OPT f=102 TT=455.201 T1=87.65	OPT f=102 TT=43.613 T1=27.27	OPT f=102 TT=69.237 T1=39.11	OPT f=102 TT=2197.12 T1=153.2	OPT f=102 TT=1981.41 T1=136.89	OPT f=102 TT=1899.37 T1=131.18	OPT f=102 TT=112.719 T1=87.8	OPT f=102 TT=82.885 T1=53.91	No data	No data	No data	No data	No data	No data	OPT f=102 TT=569.006 T1=568.99
Cutstock/ Cutstock-zinc-s1/ Cutstock-t09-6.xml	OPT f=89 TT=7.392 T1=7.24	OPT f=89 TT=7.392 T1=7.24	No data	OPT f=89 TT=282.452 T1=282.24	OPT f=89 TT=623.28 T1=623.12	OPT f=89 TT=258.585 T1=258.29	OPT f=89 TT=549.083 T1=548.29	OPT f=89 TT=314.937 T1=314.7	OPT f=89 TT=529.718 T1=529.28	SAT (TO) f=89 TT=2520.06 T1=715.28	OPT f=89 TT=581.599 T1=580.79	OPT f=89 TT=446.513 T1=28.97	OPT f=89 TT=232.913 T1=170.28	OPT f=89 TT=50.139 T1=21.61	OPT f=89 TT=63.155 T1=35.9	OPT f=89 TT=333.318 T1=123.99	OPT f=89 TT=346.207 T1=126.7	OPT f=89 TT=319.68 T1=119.37	OPT f=89 TT=98.546 T1=97.75	OPT f=89 TT=63.203 T1=61.86	No data	No data	No data	No data	No data	No data	OPT f=89 TT=519.005 T1=518.9
Cutstock/ Cutstock-zinc-s1/ Cutstock-t09-7.xml	OPT f=161 TT=9.754 T1=9.46	OPT f=161 TT=9.754 T1=9.46	No data	OPT f=161 TT=59.069 T1=58	OPT f=161 TT=96.995 T1=96.58	OPT f=161 TT=51.549 T1=51.14	OPT f=161 TT=113.505 T1=112.81	OPT f=161 TT=58.465 T1=58.15	OPT f=161 TT=98.708 T1=98.49	SAT (TO) f=161 TT=2520.03 T1=1200	OPT f=161 TT=103.71 T1=102.35	SAT (TO) f=161 TT=2520.1 T1=64.39	SAT (TO) f=161 TT=2520.1 T1=2346.73	OPT f=161 TT=348.028 T1=60.13	SAT (TO) f=161 TT=2520.14 T1=32.46	SAT (TO) f=161 TT=2519.76 T1=112.77	SAT (TO) f=161 TT=2519.75 T1=94.07	SAT (TO) f=161 TT=2519.92 T1=100.88	OPT f=161 TT=2782.26 T1=1023.13	OPT f=161 TT=524.819 T1=151.98	No data	No data	No data	No data	No data	No data	OPT f=161 TT=533.677 T1=533.63
Cutstock/ Cutstock-zinc-s1/ Cutstock-t10-4.xml	SAT TO f=867 TT=2520.15 T1=1960.99	? (TO) TT=2520.09	No data	? (TO) TT=2520.37	? (TO) TT=20086.9	? (TO) TT=2520.55	? (TO) TT=20087	? (TO) TT=2520.65	? (TO) TT=20086.5	? (TO) TT=2520.06	? (TO) TT=20084.9	? (TO) TT=2520.12	? (TO) TT=2520.22	SAT (TO) f=867 TT=2520.15 T1=1960.99	? (TO) TT=2520.38	? (TO) TT=2519.94	? (TO) TT=2520.08	? (TO) TT=2520.02	? (TO) TT=20102.3	? (TO) TT=20102.9	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.82
Cutstock/ Cutstock-zinc-s1/ Cutstock-t13-0.xml	OPT f=65 TT=2.699 T1=0.69	OPT f=65 TT=5.206 T1=5.08	No data	OPT f=65 TT=8.505 T1=8.36	OPT f=65 TT=18.306 T1=18.14	OPT f=65 TT=9.723 T1=9.54	OPT f=65 TT=14.209 T1=13.93	OPT f=65 TT=8.128 T1=7.91	OPT f=65 TT=6.483 T1=6.09	OPT f=65 TT=17.11 T1=8.51	OPT f=65 TT=7.692 T1=6.8	OPT f=65 TT=16.99 T1=15.54	OPT f=65 TT=24.323 T1=15.27	OPT f=65 TT=14.513 T1=12.23	OPT f=65 TT=16.491 T1=14.79	OPT f=65 TT=4.643 T1=0.69	OPT f=65 TT=4.639 T1=0.69	OPT f=65 TT=5.305 T1=0.79	OPT f=65 TT=2.699 T1=2.2	OPT f=65 TT=2.495 T1=2.18	No data	No data	No data	No data	No data	No data	OPT f=65 TT=113.677 T1=113.58
Cutstock/ Cutstock-zinc-s1/ Cutstock-t13-3.xml	OPT f=88 TT=3.4 T1=2.91	OPT f=88 TT=4.712 T1=4.47	No data	OPT f=88 TT=3.4 T1=3.27	OPT f=88 TT=7.127 T1=6.16	OPT f=88 TT=3.732 T1=3.63	OPT f=88 TT=7.02 T1=5.86	OPT f=88 TT=3.732 T1=3.48	OPT f=88 TT=6.296 T1=5.58	OPT f=88 TT=7.487 T1=6.08	OPT f=88 TT=5.928 T1=5.35	OPT f=88 TT=54.39 T1=15.3	OPT f=88 TT=47.077 T1=20.12	OPT f=88 TT=14.711 T1=11.65	OPT f=88 TT=27.317 T1=8.99	OPT f=88 TT=19.879 T1=14.09	OPT f=88 TT=19.855 T1=14.1	OPT f=88 TT=22.396 T1=15.89	OPT f=88 TT=5.705 T1=2.91	OPT f=88 TT=7.298 T1=2.7	No data	No data	No data	No data	No data	No data	OPT f=88 TT=215.624 T1=215.58
Cutstock/ Cutstock-zinc-s1/ Cutstock-t13-4.xml	OPT f=48 TT=16.765 T1=1.79	OPT f=48 TT=16.765 T1=5.1	No data	OPT f=48 TT=59.282 T1=16.05	OPT f=48 TT=88.302 T1=25.09	OPT f=48 TT=41.216 T1=11.02	OPT f=48 TT=86.596 T1=18.04	OPT f=48 TT=46.792 T1=10.74	OPT f=48 TT=97.57 T1=11.76	OPT f=48 TT=419.582 T1=10.18	OPT f=48 TT=76.538 T1=10.83	OPT f=48 TT=94.726 T1=9.73	SAT (TO) f=48 TT=2520.07 T1=19.61	SAT (TO) f=48 TT=2520.08 T1=11.63	OPT f=48 TT=1235.23 T1=14.21	SAT (TO) f=48 TT=2520.02 T1=21.99	SAT (TO) f=48 TT=2520.03 T1=22.99	SAT (TO) f=48 TT=2520.08 T1=21.49	OPT f=48 TT=453.964 T1=1.79	OPT f=48 TT=647.332 T1=0.63	No data	No data	No data	No data	No data	No data	OPT f=48 TT=70.247 T1=70.18
Cutstock/ Cutstock-zinc-s1/ Cutstock-t13-5.xml	OPT f=67 TT=3.079 T1=2.81	OPT f=67 TT=4.803 T1=4.75	No data	OPT f=67 TT=3.079 T1=2.84	OPT f=67 TT=10.182 T1=9.67	OPT f=67 TT=3.203 T1=2.81	OPT f=67 TT=6.329 T1=6.02	OPT f=67 TT=3.614 T1=3.5	OPT f=67 TT=6.326 T1=5.44	OPT f=67 TT=32.064 T1=26.72	OPT f=67 TT=7.231 T1=6.99	OPT f=67 TT=17.524 T1=15.4	OPT f=67 TT=50.411 T1=18.9	OPT f=67 TT=15.645 T1=11.18	OPT f=67 TT=14.129 T1=12.84	OPT f=67 TT=10.906 T1=7.19	OPT f=67 TT=11.058 T1=7.28	OPT f=67 TT=10.908 T1=3.09	OPT f=67 TT=3.408 T1=2.97	OPT f=67 TT=2.157 T1=1.44	No data	No data	No data	No data	No data	No data	OPT f=67 TT=125.055 T1=124.99
Cutstock/ Cutstock-zinc-s1/ Cutstock-t13-8.xml	OPT f=60 TT=1.139 T1=0.51	OPT f=60 TT=5.18 T1=5.1	No data	OPT f=60 TT=8.035 T1=7.6	OPT f=60 TT=14.113 T1=14	OPT f=60 TT=7.487 T1=7.19	OPT f=60 TT=14.09 T1=13.71	OPT f=60 TT=8.71 T1=8.23	OPT f=60 TT=11.61 T1=10.88	OPT f=60 TT=27.499 T1=10.1	OPT f=60 TT=13.218 T1=12.6	OPT f=60 TT=26.075 T1=22.58	OPT f=60 TT=1165.7 T1=123.96	OPT f=60 TT=16.24 T1=15.52	OPT f=60 TT=14.365 T1=13.34	OPT f=60 TT=1.147 T1=0.51	OPT f=60 TT=1.194 T1=0.51	OPT f=60 TT=1.139 T1=0.51	OPT f=60 TT=2.599 T1=2.25	OPT f=60 TT=3.619 T1=3	No data	No data	No data	No data	No data	No data	OPT f=60 TT=136.852 T1=136.79
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Cutstock/ Cutstock-zinc-s1/ Cutstock-t14-9.xml	OPT f=669 TT=32.111 T1=31.63	OPT f=669 TT=32.111 T1=31.63	No data	OPT f=669 TT=307.231 T1=306.94	OPT f=669 TT=739.396 T1=739.09	OPT f=669 TT=305.874 T1=305.72	OPT f=669 TT=812.599 T1=812.11	OPT f=669 TT=330.228 T1=330.11	OPT f=669 TT=818.483 T1=817.8	SAT (TO) f=787 TT=2520.08 T1=1439.69	OPT f=669 TT=836.385 T1=836.21	OPT f=669 TT=1653.49 T1=845.29	SAT (TO) f=742 TT=2520.12 T1=989.53	OPT f=669 TT=1719.02 T1=768.52	SAT (TO) f=669 TT=2520.09 T1=1664.56	? (TO) TT=2519.92	? (TO) TT=2520.04	? (TO) TT=2519.94	OPT f=669 TT=1254.82 T1=1253.96	OPT f=669 TT=493.475 T1=416.83	No data	No data	No data	No data	No data	No data	OPT f=669 TT=1214.84 T1=1214.74
Cutstock/ Cutstock-zinc-s1/ Cutstock-t15-0.xml	OPT f=130 TT=9.169 T1=8.79	OPT f=130 TT=9.169 T1=8.79	No data	OPT f=130 TT=157.731 T1=157.37	OPT f=130 TT=331.805 T1=330.66	OPT f=130 TT=274.059 T1=273.6	OPT f=130 TT=610.725 T1=610.56	OPT f=130 TT=266.954 T1=266.6	OPT f=130 TT=605.368 T1=604.87	SAT (TO) f=130 TT=2520.08 T1=455.51	OPT f=130 TT=647.402 T1=647.26	OPT f=130 TT=81.256 T1=63.23	SAT (TO) f=130 TT=2520.16 T1=185.3	OPT f=130 TT=288.945 T1=63.7	OPT f=130 TT=118.394 T1=110.68	SAT (TO) f=139 TT=2520.03 T1=185.13	SAT (TO) f=139 TT=2519.71 T1=186.46	SAT (TO) f=139 TT=2519.55 T1=180.25	OPT f=130 TT=470.852 T1=138.54	OPT f=130 TT=334.505 T1=148.88	No data	No data	No data	No data	No data	No data	OPT f=130 TT=657.175 T1=657.09
Cutstock/ Cutstock-zinc-s1/ Cutstock-t15-1.xml	OPT f=123 TT=11.585 T1=11.22	OPT f=123 TT=11.585 T1=11.22	No data	OPT f=123 TT=206.935 T1=194.35	OPT f=123 TT=407.748 T1=385.38	OPT f=123 TT=195.78 T1=181.68	OPT f=123 TT=431.549 T1=405.08	OPT f=123 TT=200.842 T1=188.37	OPT f=123 TT=384.389 T1=357.63	SAT (TO) f=148 TT=2520.06 T1=2016.87	OPT f=123 TT=447.029 T1=418.17	OPT f=123 TT=73.377 T1=59.57	OPT f=123 TT=2102.99 T1=671.43	OPT f=123 TT=185.077 T1=113.73	OPT f=123 TT=150.916 T1=42.23	SAT (TO) f=125 TT=2520.02 T1=1567.38	SAT (TO) f=125 TT=2520.12 T1=1652.87	SAT (TO) f=125 TT=2519.96 T1=1607.55	OPT f=123 TT=323.32 T1=236.59	OPT f=123 TT=184.401 T1=156.21	No data	No data	No data	No data	No data	No data	OPT f=123 TT=515.964 T1=515.57
DeBruijnSequence/ DeBruijnSequence-m1-s1/ DeBruijnSequence-02-09.xml	SAT TT=2.882	SAT TT=11.155	SAT TT=1117.4	SAT TT=32.937	SAT TT=73.89	SAT TT=31.138	SAT TT=62.112	SAT TT=32.973	SAT TT=62.075	SAT TT=20.323	SAT TT=56.986	SAT TT=41.839	SAT TT=199.724	SAT TT=84.83	SAT TT=83.361	SAT TT=2.87	SAT TT=3.003	SAT TT=2.882	SAT TT=6.326	SAT TT=6.412	? (MO) TT=734.734	? (TO) TT=745.335	SAT TT=1714.88	? (MO) TT=651.679	? (TO) TT=700.449	SAT TT=738.252	SAT TT=1744.41
DeBruijnSequence/ DeBruijnSequence-m1-s1/ DeBruijnSequence-03-05.xml	SAT TT=0.252	SAT TT=6.595	SAT TT=35.185	SAT TT=9.271	SAT TT=22.013	SAT TT=10.24	SAT TT=19.791	SAT TT=10.157	SAT TT=18.69	SAT TT=8.315	SAT TT=22.502	SAT TT=21.229	SAT TT=34.803	SAT TT=24.622	SAT TT=24.695	SAT TT=0.253	SAT TT=0.255	SAT TT=0.252	SAT TT=0.836	SAT TT=0.851	SAT TT=136.909	SAT TT=171.275	SAT TT=166.796	SAT TT=100.615	SAT TT=112.836	SAT TT=115.628	SAT TT=243.788
Domino/Domino-m1-s1/ Domino-9000-9000.xml	SAT TT=1.392	SAT TT=53.15	SAT TT=187.833	? (TO) TT=2520.54	SAT TT=2370.44	? (TO) TT=2520.7	SAT TT=732.399	? (TO) TT=2520.34	SAT TT=846.297	? (TO) TT=2520.1	SAT TT=1004.86	SAT TT=7.281	SAT TT=7.767	SAT TT=7.433	SAT TT=7.551	SAT TT=135.813	SAT TT=131.012	SAT TT=128.109	SAT TT=38.761	SAT TT=40.422	SAT TT=114.155	SAT TT=139.055	SAT TT=140.2	? (TO) TT=2528.1	? (MO) TT=656.239	? (MO) TT=652.304	SAT TT=1.392
Dubois/ Dubois-m1-s1/ Dubois-028.xml	UNSAT TT=0.008	? (TO) TT=2520.08	UNSAT TT=0.009	UNSAT TT=550.152	UNSAT TT=18.526	UNSAT TT=142.428	UNSAT TT=309.942	UNSAT TT=125.202	UNSAT TT=298.979	? (TO) TT=2520.08	UNSAT TT=286.146	? (TO) TT=2520.1	? (TO) TT=2520.05	? (TO) TT=2520.14	? (TO) TT=2520.11	? (TO) TT=2520.02	? (TO) TT=2520.01	? (TO) TT=2520.05	? (TO) TT=19842	? (TO) TT=19839.4	UNSAT TT=4.918	UNSAT TT=5.011	UNSAT TT=5.024	UNSAT TT=4.893	UNSAT TT=5.016	UNSAT TT=5.002	UNSAT TT=0.008
Dubois/ Dubois-m1-s1/ Dubois-050.xml	UNSAT TT=0.009	? (TO) TT=2520.11	UNSAT TT=0.012	? (TO) TT=2520.72	UNSAT TT=26.668	? (TO) TT=2520.58	? (TO) TT=19930.3	? (TO) TT=2520.67	? (TO) TT=19955.1	? (TO) TT=2520.11	? (TO) TT=19949	? (TO) TT=2520.06	? (TO) TT=2520.07	? (TO) TT=2520.08	? (TO) TT=2520.07	? (TO) TT=2520.02	? (TO) TT=2520.06	? (TO) TT=2519.36	? (TO) TT=20015.5	? (TO) TT=20010.3	UNSAT TT=5.614	UNSAT TT=5.988	UNSAT TT=6.008	UNSAT TT=5.755	UNSAT TT=5.909	UNSAT TT=5.846	UNSAT TT=0.009
Fapp/Fapp-ext/ Fapp-ext-05-0350_c18.xml	SAT TO f=521763705 TT=2520.1 T1=2508.53	? (problem) TT=532.356	No data	? TT=1841.18	? TT=6479.24	? TT=1676.7	? TT=5967.11	? TT=1686.35	? TT=6220.7	SAT (TO) f=521763705 TT=2520.1 T1=2508.53	? TT=6079.37	SAT (TO) f=528581723 TT=2520.31 T1=805.99	? (TO) TT=2520.35	SAT (TO) f=527166403 TT=2520.25 T1=1003.48	SAT (TO) f=525554465 TT=2520.41 T1=886.28	SAT (TO) f=529692396 TT=2519.97 T1=1808.82	SAT (TO) f=529692396 TT=2519.58 T1=1729.19	SAT (TO) f=529692396 TT=2519.72 T1=1733.18	SAT (TO) f=529365630 TT=18235.9 T1=8938.48	SAT (TO) f=529365630 TT=18254 T1=9479.08	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.98
Fapp/Fapp-m2s/ Fapp-m2s-17-0300_c18.xml	OPT f=130971634 TT=90.559 T1=90.16	? (TO) TT=2520.09	No data	SAT (TO) f=380950884 TT=2520.14 T1=2509.72	OPT f=130971634 TT=2313.73 T1=2299.16	SAT (TO) f=380932794 TT=2520.13 T1=2489.68	SAT (TO) f=381023284 TT=2799.96 T1=2217.5	SAT (TO) f=381005184 TT=2520.06 T1=2501.02	SAT (TO) f=381095684 TT=2817.28 T1=2202.65	SAT (TO) f=360841782 TT=2520.12 T1=817.61	SAT (TO) f=381077591 TT=2824.1 T1=2399.29	OPT f=130971634 TT=99.334 T1=96.62	OPT f=130971634 TT=124.133 T1=123.8	OPT f=130971634 TT=90.559 T1=90.16	OPT f=130971634 TT=96.649 T1=96.4	SAT (TO) f=374253920 TT=2519.98 T1=306.07	SAT (TO) f=374253920 TT=2519.78 T1=298.27	SAT (TO) f=374253920 TT=2519.68 T1=289.67	OPT f=130971634 TT=5264.62 T1=5250.98	OPT f=130971634 TT=9704.92 T1=9694.61	No data	No data	No data	No data	No data	No data	? (TO) TT=2520
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Fapp/Fapp-m2s/ Fapp-m2s-18-0350_c18.xml	OPT f=162507055 TT=67.497 T1=67.16	? (TO) TT=2520.09	No data	SAT (TO) f=225550661 TT=2520.52 T1=2288.7	OPT f=162507055 TT=1939.36 T1=1934.33	SAT (TO) f=234063858 TT=2520.13 T1=2435.01	OPT f=162507055 TT=1266.25 T1=1264.16	SAT (TO) f=225807374 TT=2520.2 T1=2333.94	OPT f=162507055 TT=1457.1 T1=1454.91	SAT (TO) f=223939309 TT=2520.07 T1=1162.43	OPT f=162507055 TT=970.689 T1=968.56	OPT f=162507055 TT=82.855 T1=82.49	OPT f=162507055 TT=98.453 T1=98.24	OPT f=162507055 TT=68.958 T1=68.67	OPT f=162507055 TT=67.497 T1=67.16	SAT (TO) f=229229905 TT=2519.85 T1=457.11	SAT (TO) f=229229905 TT=2519.38 T1=482.42	SAT (TO) f=229229905 TT=2519.43 T1=477.87	OPT f=162507055 TT=4277.69 T1=4258.3	SAT (TO) f=228488315 TT=19712.7 T1=9542.26	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.88
Fapp/Fapp-m2s/ Fapp-m2s-20-0420_c18.xml	OPT f=506362597 TT=126.294 T1=125.71	? (TO) TT=2520.11	No data	SAT (TO) f=589041888 TT=2520.17 T1=1953.56	SAT (TO) f=588996896 TT=2950.96 T1=2245.97	SAT (TO) f=589019405 TT=2520.13 T1=1805.29	SAT (TO) f=589019388 TT=2937.87 T1=2204.01	SAT (TO) f=589199478 TT=2520.13 T1=1993.89	SAT (TO) f=589154455 TT=2860.23 T1=2096.23	SAT (TO) f=558946160 TT=2521.64 T1=1828.37	SAT (TO) f=589064416 TT=2935.15 T1=2216.71	OPT f=506362597 TT=132.797 T1=132.62	OPT f=506362597 TT=243.523 T1=243.38	OPT f=506362597 TT=126.294 T1=125.71	OPT f=506362597 TT=168.541 T1=168.04	SAT (TO) f=578394884 TT=2520.07 T1=1831.26	SAT (TO) f=578394884 TT=2519.85 T1=1813.85	SAT (TO) f=578394884 TT=2520.07 T1=1801.48	OPT f=506362597 TT=13331 T1=13311.9	OPT f=506362597 TT=9304.71 T1=9287	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.03
Fapp/Fapp-m2s/ Fapp-m2s-21-0500_c18.xml	OPT f=63832030 TT=59.687 T1=59.39	? (TO) TT=2520.08	No data	SAT (TO) f=188829162 TT=2520.05 T1=2197.2	SAT (TO) f=188740673 TT=2794.93 T1=2418.33	SAT (TO) f=188791243 TT=2520.07 T1=2188.96	SAT (TO) f=188803881 TT=2723.97 T1=2721.01	SAT (TO) f=188879719 TT=2520.12 T1=2397.69	SAT (TO) f=188829153 TT=2701.13 T1=2431.68	SAT (TO) f=176024801 TT=2520.1 T1=2261.18	SAT (TO) f=188753321 TT=2719.37 T1=2581.5	SAT (TO) f=177781852 TT=2520.1 T1=61.46	OPT f=63832030 TT=141.977 T1=141.73	OPT f=63832030 TT=60.836 T1=60.61	OPT f=63832030 TT=59.687 T1=59.39	SAT (TO) f=181624473 TT=2520.01 T1=1567.06	SAT (TO) f=181624473 TT=2520.04 T1=1551.69	SAT (TO) f=181624473 TT=2519.88 T1=1545.89	SAT (TO) f=181232554 TT=19848.7 T1=8703.15	SAT (TO) f=180878675 TT=19850.7 T1=17386.6	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.08
Fastfood/ Fastfood-m1-s1/ Fastfood-ff18.xml	OPT f=1143 TT=8.94 T1=8.61	OPT f=1143 TT=8.94 T1=8.61	No data	SAT (MO) f=1364 TT=7.872 T1=7.27	OPT f=1143 TT=35.876 T1=31.68	OPT f=1143 TT=17.348 T1=15.3	OPT f=1143 TT=39.841 T1=36.27	OPT f=1143 TT=17.075 T1=15.29	OPT f=1143 TT=35.241 T1=31.35	OPT f=1143 TT=781.283 T1=10.92	OPT f=1143 TT=31.092 T1=27.9	OPT f=1143 TT=248.218 T1=31.26	OPT f=1143 TT=761.323 T1=17.01	OPT f=1143 TT=386.679 T1=27.36	OPT f=1143 TT=300.753 T1=15.53	OPT f=1143 TT=39.168 T1=21.69	OPT f=1143 TT=34.072 T1=15.79	OPT f=1143 TT=38.927 T1=21.49	OPT f=1143 TT=25.816 T1=23.69	Wrong Opt. f=1186 TT=10.233 T1=2.25	No data	No data	No data	No data	No data	No data	OPT f=1143 TT=576.339 T1=576.32
Fastfood/ Fastfood-m1-s1/ Fastfood-ff21.xml	OPT f=583 TT=12.531 T1=12.27	OPT f=583 TT=12.531 T1=12.27	No data	SAT (MO) f=2284 TT=3.9 T1=3.84	OPT f=583 TT=59.08 T1=54.82	OPT f=583 TT=23.318 T1=20.84	OPT f=583 TT=45.203 T1=41.46	OPT f=583 TT=22.442 T1=20.31	OPT f=583 TT=44.551 T1=41.02	OPT f=583 TT=1007.78 T1=185.14	OPT f=583 TT=38.785 T1=35.6	OPT f=583 TT=345.054 T1=17.27	OPT f=583 TT=949.804 T1=15.88	OPT f=583 TT=287.032 T1=16.49	OPT f=583 TT=284.274 T1=13.14	OPT f=583 TT=69.008 T1=15.79	OPT f=583 TT=32.362 T1=18.19	OPT f=583 TT=68.368 T1=15.69	OPT f=583 TT=37.482 T1=31.65	Wrong Opt. f=616 TT=11.788 T1=5.25	No data	No data	No data	No data	No data	No data	OPT f=583 TT=449.628 T1=449.52
Fastfood/ Fastfood-m1-s1/ Fastfood-ff34.xml	OPT f=2 TT=0.059 T1=0	OPT f=2 TT=4.692 T1=4.39	No data	OPT f=2 TT=6.468 T1=6.15	OPT f=2 TT=18.638 T1=17.46	OPT f=2 TT=6.449 T1=6.13	OPT f=2 TT=16.051 T1=15.39	OPT f=2 TT=6.755 T1=6.59	OPT f=2 TT=18.043 T1=16.37	OPT f=2 TT=2.243 T1=2	OPT f=2 TT=17.778 T1=16	OPT f=2 TT=10.668 T1=10.63	OPT f=2 TT=11.248 T1=11.22	OPT f=2 TT=10.251 T1=10.08	OPT f=2 TT=9.678 T1=9.26	OPT f=2 TT=0.06 T1=0	OPT f=2 TT=0.06 T1=0	OPT f=2 TT=0.059 T1=0	OPT f=2 TT=0.567 T1=0.35	OPT f=2 TT=0.471 T1=0.33	No data	No data	No data	No data	No data	No data	OPT f=2 TT=56.391 T1=56.28
Fastfood/ Fastfood-m1-s1/ Fastfood-ff50.xml	OPT f=624 TT=11.728 T1=1.49	OPT f=624 TT=11.728 T1=11.51	No data	OPT f=624 TT=20.203 T1=18.36	Wrong Opt. f=802 TT=37.88 T1=37.04	OPT f=624 TT=21.767 T1=19.96	OPT f=624 TT=43.58 T1=40.45	OPT f=624 TT=19.282 T1=17.49	OPT f=624 TT=42.486 T1=38.47	OPT f=624 TT=324.327 T1=4.17	OPT f=624 TT=41.557 T1=37.13	OPT f=624 TT=322.106 T1=16.99	OPT f=624 TT=410.592 T1=16.74	OPT f=624 TT=320.235 T1=14.3	OPT f=624 TT=176.148 T1=13.12	OPT f=624 TT=29.616 T1=5.69	OPT f=624 TT=30.874 T1=1.49	OPT f=624 TT=29.242 T1=5.59	OPT f=624 TT=26.062 T1=17.21	Wrong Opt. f=638 TT=5.264 T1=0.56	No data	No data	No data	No data	No data	No data	OPT f=624 TT=338.352 T1=235.88
Fastfood/ Fastfood-m1-s1/ Fastfood-ff56.xml	OPT f=1664 TT=11.817 T1=11.38	OPT f=1664 TT=11.817 T1=11.38	No data	OPT f=1664 TT=27.365 T1=24.8	OPT f=1664 TT=54.302 T1=49.02	SAT (MO) f=1845 TT=18.122 T1=17.88	OPT f=1664 TT=54.566 T1=48.97	OPT f=1664 TT=29.979 T1=26.96	OPT f=1664 TT=52.614 T1=46.51	OPT f=1664 TT=2154.83 T1=164.96	OPT f=1664 TT=42.878 T1=37.19	OPT f=1664 TT=312.625 T1=17.12	OPT f=1664 TT=1260.95 T1=23.31	OPT f=1664 TT=379.622 T1=16.67	OPT f=1664 TT=468.784 T1=15.89	OPT f=1664 TT=80.517 T1=41.19	OPT f=1664 TT=90.093 T1=29.29	OPT f=1664 TT=80.2 T1=41	OPT f=1664 TT=42.174 T1=21.21	Wrong Opt. f=1692 TT=15.257 T1=13.22	No data	No data	No data	No data	No data	No data	OPT f=1664 TT=832.113 T1=616.98
Fastfood/ Fastfood-m1-s1/ Fastfood-ff59.xml	OPT f=242 TT=15.312 T1=0.69	OPT f=242 TT=15.312 T1=14.69	No data	OPT f=242 TT=76.293 T1=60.85	Wrong Opt. f=314 TT=45.745 T1=44.46	OPT f=242 TT=90.511 T1=73.28	OPT f=242 TT=125.208 T1=74.64	OPT f=242 TT=82.477 T1=66.36	OPT f=242 TT=125.706 T1=31.85	OPT f=242 TT=48.461 T1=4.09	OPT f=242 TT=65.484 T1=32.37	OPT f=242 TT=135.282 T1=14.24	OPT f=242 TT=435.938 T1=31.44	OPT f=242 TT=101.258 T1=19.79	OPT f=242 TT=100.145 T1=25.61	OPT f=242 TT=29.552 T1=0.69	OPT f=242 TT=34.317 T1=8.79	OPT f=242 TT=29.197 T1=0.69	OPT f=242 TT=53.853 T1=38.02	Wrong Opt. f=245 TT=51.649 T1=49.98	No data	No data	No data	No data	No data	No data	OPT f=242 TT=324.042 T1=134.89
Fastfood/ Fastfood-m1-s1/ Fastfood-ff60.xml	OPT f=192 TT=18.739 T1=3.94	OPT f=192 TT=18.739 T1=18.46	No data	OPT f=192 TT=63.879 T1=45.27	OPT f=192 TT=55.689 T1=45.64	OPT f=192 TT=52.28 T1=15.28	OPT f=192 TT=64.511 T1=32.2	OPT f=192 TT=51.659 T1=14.9	OPT f=192 TT=113.95 T1=43.23	OPT f=192 TT=33.09 T1=3.94	OPT f=192 TT=88.125 T1=29.09	OPT f=192 TT=77.32 T1=12.55	OPT f=192 TT=309.857 T1=25.08	OPT f=192 TT=154.486 T1=58.29	OPT f=192 TT=81.489 T1=13.49	OPT f=192 TT=23.403 T1=5.99	OPT f=192 TT=44.502 T1=19.49	OPT f=192 TT=23.249 T1=5.99	OPT f=192 TT=49.282 T1=15.67	OPT f=192 TT=33.175 T1=15.68	No data	No data	No data	No data	No data	No data	OPT f=192 TT=301.194 T1=279.91
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Fastfood/ Fastfood-m1-s1/ Fastfood-ff61.xml	OPT f=152 TT=16.556 T1=6.19	OPT f=152 TT=16.556 T1=16.4	No data	OPT f=152 TT=99.843 T1=85.69	Wrong Opt. f=201 TT=28.219 T1=27.52	OPT f=152 TT=43.262 T1=26.55	OPT f=152 TT=59.54 T1=35.53	OPT f=152 TT=61.752 T1=12.55	OPT f=152 TT=59.764 T1=31.34	OPT f=152 TT=17.302 T1=10.29	OPT f=152 TT=67.101 T1=39.67	OPT f=152 TT=94.465 T1=16.91	OPT f=152 TT=241.201 T1=43.17	OPT f=152 TT=59.609 T1=12.94	OPT f=152 TT=93.005 T1=14.62	OPT f=152 TT=20.875 T1=8.29	OPT f=152 TT=22.225 T1=6.19	OPT f=152 TT=20.89 T1=8.29	OPT f=152 TT=53.398 T1=30.77	Wrong Opt. f=175 TT=22.651 T1=9.22	No data	No data	No data	No data	No data	No data	OPT f=152 TT=314.636 T1=99.87
Fastfood/ Fastfood-m1-s1/ Fastfood-ff62.xml	OPT f=125 TT=15.19 T1=1.1	OPT f=125 TT=17.959 T1=17.77	No data	OPT f=125 TT=121.331 T1=113.01	Wrong Opt. f=171 TT=24.003 T1=22.44	OPT f=125 TT=59.591 T1=16.47	OPT f=125 TT=36.013 T1=26.28	OPT f=125 TT=51.994 T1=16.04	OPT f=125 TT=35.333 T1=23.6	OPT f=125 TT=21.953 T1=10.11	OPT f=125 TT=65.672 T1=34.05	OPT f=125 TT=87.108 T1=14.16	OPT f=125 TT=270.995 T1=18.79	OPT f=125 TT=70.865 T1=16.03	OPT f=125 TT=84.336 T1=12.51	OPT f=125 TT=15.236 T1=5.1	OPT f=125 TT=26.705 T1=1.1	OPT f=125 TT=15.19 T1=5.1	OPT f=125 TT=70.957 T1=40.41	OPT f=125 TT=18.904 T1=2.92	No data	No data	No data	No data	No data	No data	OPT f=125 TT=284.338 T1=199.9
Fastfood/ Fastfood-m1-s1/ Fastfood-ff65.xml	OPT f=63 TT=10.036 T1=2.19	OPT f=63 TT=11.089 T1=10.84	No data	OPT f=63 TT=41.426 T1=39.04	OPT f=63 TT=36.956 T1=31.13	OPT f=63 TT=24.765 T1=11.97	OPT f=63 TT=30.726 T1=25.09	OPT f=63 TT=25.222 T1=11.66	OPT f=63 TT=31.333 T1=23.22	OPT f=63 TT=14.701 T1=6.32	OPT f=63 TT=29.692 T1=21.68	OPT f=63 TT=38.623 T1=14.23	OPT f=63 TT=145.387 T1=20.17	OPT f=63 TT=37.703 T1=13.65	OPT f=63 TT=66.371 T1=20.08	OPT f=63 TT=10.251 T1=2.19	OPT f=63 TT=10.036 T1=4.19	OPT f=63 TT=10.266 T1=2.19	OPT f=63 TT=46.185 T1=44.08	OPT f=63 TT=21.147 T1=6.74	No data	No data	No data	No data	No data	No data	OPT f=63 TT=137.423 T1=137.39
Fastfood/ Fastfood-m1-s1/ Fastfood-ff73.xml	OPT f=582 TT=7.914 T1=0.1	OPT f=582 TT=7.914 T1=7.76	No data	OPT f=582 TT=15.461 T1=14.59	Wrong Opt. f=903 TT=13.051 T1=12.26	OPT f=582 TT=13.82 T1=12.97	OPT f=582 TT=28.839 T1=26.01	OPT f=582 TT=13.887 T1=12.95	OPT f=582 TT=30.25 T1=25.83	OPT f=582 TT=93.102 T1=76.98	OPT f=582 TT=29.07 T1=27.33	OPT f=582 TT=53.075 T1=14.75	OPT f=582 TT=132.328 T1=63.92	OPT f=582 TT=84.67 T1=12.16	OPT f=582 TT=80.676 T1=22.08	OPT f=582 TT=9.283 T1=0.1	OPT f=582 TT=29.253 T1=1.19	OPT f=582 TT=9.235 T1=0.1	OPT f=582 TT=19.772 T1=8.6	Wrong Opt. f=590 TT=9.341 T1=3.08	No data	No data	No data	No data	No data	No data	OPT f=582 TT=348.106 T1=282.08
Fastfood/ Fastfood-m1-s1/ Fastfood-ff76.xml	OPT f=310 TT=15.204 T1=6.19	OPT f=310 TT=15.204 T1=14.29	No data	OPT f=310 TT=58.797 T1=44.34	Wrong Opt. f=405 TT=28.61 T1=21.77	OPT f=310 TT=72.627 T1=52.01	OPT f=310 TT=153.64 T1=107	OPT f=310 TT=68.512 T1=48.08	OPT f=310 TT=114.881 T1=66.43	OPT f=310 TT=73.358 T1=42.59	OPT f=310 TT=109.936 T1=72.58	OPT f=310 TT=207.318 T1=17.43	OPT f=310 TT=428.732 T1=30.7	OPT f=310 TT=164.94 T1=13.61	OPT f=310 TT=191.027 T1=18.8	OPT f=310 TT=40.769 T1=6.19	OPT f=310 TT=47.273 T1=9.89	OPT f=310 TT=40.682 T1=6.19	OPT f=310 TT=43.304 T1=25.25	OPT f=310 TT=39.429 T1=15.71	No data	No data	No data	No data	No data	No data	OPT f=310 TT=348.731 T1=322.55
Fastfood/ Fastfood-m1-s1/ Fastfood-ff82.xml	OPT f=7 TT=0.104 T1=0	OPT f=7 TT=4.678 T1=4.32	No data	OPT f=7 TT=3.718 T1=3.49	OPT f=7 TT=10.806 T1=10.41	OPT f=7 TT=4.226 T1=3.85	OPT f=7 TT=10.472 T1=10.26	OPT f=7 TT=3.757 T1=3.57	OPT f=7 TT=10.671 T1=9.81	OPT f=7 TT=1.978 T1=1.63	OPT f=7 TT=9.55 T1=8.88	OPT f=7 TT=10.078 T1=9.5	OPT f=7 TT=12.416 T1=12.13	OPT f=7 TT=11.122 T1=10.74	OPT f=7 TT=10.364 T1=10	OPT f=7 TT=0.104 T1=0	OPT f=7 TT=0.105 T1=0	OPT f=7 TT=0.104 T1=0	OPT f=7 TT=0.509 T1=0	OPT f=7 TT=0.703 T1=0.58	No data	No data	No data	No data	No data	No data	OPT f=7 TT=22.326 T1=22.3
Fastfood/ Fastfood-m1-s1/ Fastfood-ff85.xml	OPT f=566 TT=1.345 T1=0	OPT f=566 TT=4.996 T1=4.82	No data	OPT f=566 TT=4.165 T1=3.87	OPT f=566 TT=10.362 T1=9.17	OPT f=566 TT=4.041 T1=4.02	OPT f=566 TT=7.46 T1=7.09	OPT f=566 TT=4.058 T1=3.58	OPT f=566 TT=7.395 T1=6.12	OPT f=566 TT=23.225 T1=2.96	OPT f=566 TT=8.71 T1=7.41	OPT f=566 TT=36.023 T1=9.68	OPT f=566 TT=62.423 T1=14.7	OPT f=566 TT=33.762 T1=11.44	OPT f=566 TT=32.039 T1=10.11	OPT f=566 TT=1.408 T1=0	OPT f=566 TT=1.424 T1=0	OPT f=566 TT=1.416 T1=0	OPT f=566 TT=1.345 T1=0.7	OPT f=566 TT=1.304 T1=0.71	No data	No data	No data	No data	No data	No data	OPT f=566 TT=155.061 T1=117.18
Fastfood/ Fastfood-m1-s1/ Fastfood-ff87.xml	OPT f=307 TT=1.782 T1=0	OPT f=307 TT=6.002 T1=5.44	No data	OPT f=307 TT=5.375 T1=4.67	OPT f=307 TT=16.282 T1=14.99	OPT f=307 TT=6.124 T1=5.5	OPT f=307 TT=12.596 T1=12.57	OPT f=307 TT=6.761 T1=5.89	OPT f=307 TT=13.366 T1=12.68	OPT f=307 TT=9.1 T1=3.49	OPT f=307 TT=12.429 T1=11.86	OPT f=307 TT=43.815 T1=16.25	OPT f=307 TT=73.253 T1=15.2	OPT f=307 TT=46.419 T1=12.18	OPT f=307 TT=38.021 T1=9.91	OPT f=307 TT=2.513 T1=0	OPT f=307 TT=1.782 T1=1.29	OPT f=307 TT=2.524 T1=0	OPT f=307 TT=6.055 T1=2.31	Wrong Opt. f=328 TT=0.78 T1=0.69	No data	No data	No data	No data	No data	No data	OPT f=307 TT=184.108 T1=87.06
Fischer/Fischer-m1-s1/ Fischer-06-08-fair.xml	UNSAT TT=13.516	? (problem) TT=75.608	? (MO) TT=31.741	? (TO) TT=2520.38	? (TO) TT=20014.1	? (TO) TT=2520.61	? (TO) TT=20010.1	? (TO) TT=2520.35	? (TO) TT=20013.5	? (TO) TT=2520.08	? (TO) TT=20009.3	UNSAT TT=2512.91	? (TO) TT=2520.14	? (TO) TT=2520.12	UNSAT TT=1816.35	Signal TT=2.636	Signal TT=2.651	Signal TT=2.603	Signal TT=18.392	Signal TT=18.217	UNSAT TT=69.458	UNSAT TT=70.641	UNSAT TT=71.016	? (MO) TT=383.55	? (TO) TT=473.716	UNSAT TT=628.472	UNSAT TT=13.516
Fischer/Fischer-m1-s1/ Fischer-07-07-fair.xml	UNSAT TT=12.085	? (problem) TT=99.375	? (MO) TT=32.215	? (TO) TT=2520.65	? (TO) TT=20014.9	? (TO) TT=2520.43	? (TO) TT=20011.7	? (TO) TT=2520.63	? (TO) TT=20019.3	? (TO) TT=2520.07	? (TO) TT=20016.4	UNSAT TT=2062.8	? (TO) TT=2520.13	UNSAT TT=1608.86	UNSAT TT=1600.39	Signal TT=2.697	Signal TT=2.734	Signal TT=2.71	Signal TT=18.665	Signal TT=18.83	UNSAT TT=64.986	UNSAT TT=53.213	UNSAT TT=54.063	? (MO) TT=381.953	? (MO) TT=486.456	? (MO) TT=470.182	UNSAT TT=12.085
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Fischer/Fischer-m1-s1/ Fischer-08-07-fair.xml	UNSAT TT=13.97	? (problem) TT=83.985	? (MO) TT=31.737	? (TO) TT=2520.37	? (TO) TT=20006.9	? (TO) TT=2520.54	? (TO) TT=20008.6	? (TO) TT=2520.44	? (TO) TT=20002.8	? (TO) TT=2520.05	? (TO) TT=20013.7	? (TO) TT=2520.06	? (TO) TT=2520.13	? (TO) TT=2520.13	? (TO) TT=2520.14	Signal TT=3.155	Signal TT=3.191	Signal TT=3.152	Signal TT=20.82	Signal TT=21.151	UNSAT TT=83.26	UNSAT TT=58.094	UNSAT TT=60.701	? (MO) TT=461.124	? (MO) TT=544.041	? (MO) TT=543.5	UNSAT TT=13.97
Fischer/Fischer-m1-s1/ Fischer-09-06-fair.xml	UNSAT TT=14.604	? (problem) TT=67.984	? (MO) TT=32.207	? (TO) TT=2520.47	UNSAT TT=14184.1	? (TO) TT=2520.37	UNSAT TT=16683.2	? (TO) TT=2520.69	UNSAT TT=7549.03	UNSAT TT=1483.98	UNSAT TT=8075.83	UNSAT TT=1081.04	? (TO) TT=2520.13	? (TO) TT=2520.06	UNSAT TT=1614.58	Signal TT=3.027	Signal TT=3.065	Signal TT=3.066	Signal TT=20.259	Signal TT=20.26	UNSAT TT=73.235	UNSAT TT=49.843	UNSAT TT=50.565	? (MO) TT=431.978	? (MO) TT=527.577	? (MO) TT=529.368	UNSAT TT=14.604
Fischer/Fischer-m1-s1/ Fischer-10-06-fair.xml	UNSAT TT=15.417	? (problem) TT=86.788	? (MO) TT=31.686	? (TO) TT=2520.39	UNSAT TT=7991.9	? (TO) TT=2520.32	? (TO) TT=20004	? (TO) TT=2520.72	? (TO) TT=19983.9	? (TO) TT=2520.05	? (TO) TT=19997.7	? (TO) TT=2520.14	? (TO) TT=2520.14	? (TO) TT=2520.06	? (TO) TT=2520.1	Signal TT=3.446	Signal TT=3.486	Signal TT=3.425	Signal TT=22.351	Signal TT=22.215	UNSAT TT=77.328	UNSAT TT=54.106	UNSAT TT=54.612	? (MO) TT=484.638	? (MO) TT=558.804	? (MO) TT=584.137	UNSAT TT=15.417
Fischer/Fischer-m1-s1/ Fischer-11-05-fair.xml	UNSAT TT=14.114	? (problem) TT=82.285	? (MO) TT=31.596	UNSAT TT=2515.61	UNSAT TT=1041.51	UNSAT TT=2142.56	UNSAT TT=3722.76	UNSAT TT=2181.18	UNSAT TT=3719.97	UNSAT TT=704.607	UNSAT TT=3477.41	UNSAT TT=1316.9	? (TO) TT=2520.18	UNSAT TT=1163.78	UNSAT TT=1183.9	Signal TT=3.183	Signal TT=3.181	Signal TT=3.221	Signal TT=21.551	Signal TT=21.16	UNSAT TT=59.659	UNSAT TT=47.707	UNSAT TT=48.091	? (MO) TT=438.477	? (MO) TT=553.679	? (MO) TT=554.197	UNSAT TT=14.114
GolombRuler/ GolombRuler-a3-s1/ GolombRuler-10-a3.xml	OPT f=55 TT=17.392 T1=6.72	SAT (TO) f=61 TT=2520.02 T1=512.15	No data	OPT f=55 TT=17.392 T1=6.72	OPT f=55 TT=61.677 T1=38.08	OPT f=55 TT=18.152 T1=9.02	OPT f=55 TT=35.813 T1=17.38	OPT f=55 TT=19.044 T1=8.6	OPT f=55 TT=37.234 T1=16.3	OPT f=55 TT=390.519 T1=353.71	OPT f=55 TT=33.756 T1=16.96	OPT f=55 TT=59.826 T1=21.54	OPT f=55 TT=109.635 T1=58.01	OPT f=55 TT=69.265 T1=27.85	OPT f=55 TT=90.94 T1=61.59	OPT f=55 TT=74.544 T1=45.29	OPT f=55 TT=64.11 T1=38.89	OPT f=55 TT=64.572 T1=39.28	OPT f=55 TT=73.021 T1=52.54	OPT f=55 TT=91.069 T1=71.71	No data	No data	No data	No data	No data	No data	OPT f=55 TT=190.301 T1=179.58
GolombRuler/ GolombRuler-a3-s1/ GolombRuler-14-a3.xml	SAT TO f=133 TT=19981 T1=13177.5	SAT (TO) f=162 TT=2520.08 T1=1475.71	No data	SAT (TO) f=134 TT=2520.61 T1=1230.94	Wrong Opt. f=135 TT=362.889 T1=362.12	SAT (TO) f=134 TT=2520.65 T1=1393.08	SAT (TO) f=133 TT=19981 T1=14045.8	SAT (TO) f=134 TT=2520.35 T1=1336.98	SAT (TO) f=133 TT=19945.1 T1=13521.1	SAT (TO) f=138 TT=2520.05 T1=724.38	SAT (TO) f=133 TT=19986 T1=13177.5	SAT (TO) f=137 TT=2520.06 T1=2272.65	SAT (TO) f=140 TT=2520.13 T1=2105.78	SAT (TO) f=135 TT=2520.07 T1=2288.95	SAT (TO) f=141 TT=2520.05 T1=1927.99	SAT (TO) f=137 TT=2519.51 T1=1066.93	SAT (TO) f=137 TT=2519.24 T1=1055.68	SAT (TO) f=137 TT=2519.92 T1=1055.15	SAT (TO) f=138 TT=20127 T1=11782.9	SAT (TO) f=137 TT=20124.2 T1=5483.48	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.86
GolombRuler/ GolombRuler-a3-s1/ GolombRuler-28-a3.xml	SAT TO f=914 TT=19852.1 T1=7100.78	? (TO) TT=2520.1	No data	SAT (TO) f=935 TT=2520.47 T1=2140.56	SAT (TO) f=927 TT=19913.2 T1=19596.8	SAT (TO) f=935 TT=2520.44 T1=2506.79	SAT (TO) f=914 TT=19852.1 T1=7100.78	SAT (TO) f=935 TT=2520.39 T1=2463.42	SAT (TO) f=946 TT=19945.6 T1=3681.01	? (TO) TT=2520.11	SAT (TO) f=946 TT=19902 T1=3659.22	SAT (TO) f=963 TT=2520.14 T1=2333.39	? (TO) TT=2520.08	SAT (TO) f=993 TT=2520.05 T1=2119.36	SAT (TO) f=952 TT=2520.1 T1=1237.77	? (TO) TT=2520.03	? (TO) TT=2520.08	? (TO) TT=2519.92	SAT (TO) f=973 TT=20119 T1=18264.9	SAT (TO) f=992 TT=20120.7 T1=15369.5	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.71
GolombRuler/ GolombRuler-a3v18-09_c18.xml	OPT f=44 TT=5.283 T1=1.48	OPT f=44 TT=15.65 T1=10.49	No data	OPT f=44 TT=8.893 T1=1.95	OPT f=44 TT=25.537 T1=6.72	OPT f=44 TT=10.146 T1=2.34	OPT f=44 TT=17.29 T1=6.16	OPT f=44 TT=9.825 T1=2.36	OPT f=44 TT=20.786 T1=3.67	OPT f=44 TT=67.186 T1=10.48	OPT f=44 TT=15.785 T1=3.74	OPT f=44 TT=18.136 T1=10.83	OPT f=44 TT=18.517 T1=11.18	OPT f=44 TT=19.937 T1=11.28	OPT f=44 TT=19.579 T1=11.92	OPT f=44 TT=5.468 T1=1.48	OPT f=44 TT=5.289 T1=1.79	OPT f=44 TT=5.286 T1=1.79	OPT f=44 TT=5.283 T1=1.6	OPT f=44 TT=3.598 T1=1.6	No data	No data	No data	No data	No data	No data	OPT f=44 TT=92.98 T1=92.87
GolombRuler/ GolombRuler-a3v18-10_c18.xml	OPT f=55 TT=29.8 T1=6.65	OPT f=55 TT=95.756 T1=65.25	No data	OPT f=55 TT=29.8 T1=6.65	OPT f=55 TT=62.802 T1=16.82	OPT f=55 TT=32.616 T1=8.27	OPT f=55 TT=60.182 T1=12.51	OPT f=55 TT=35.696 T1=8.93	OPT f=55 TT=65.094 T1=15.16	OPT f=55 TT=2154.7 T1=1904.94	OPT f=55 TT=66.918 T1=16.32	OPT f=55 TT=51.952 T1=21.49	OPT f=55 TT=183.681 T1=158.21	OPT f=55 TT=91.401 T1=75.72	OPT f=55 TT=75.188 T1=49.85	OPT f=55 TT=63.636 T1=47.25	OPT f=55 TT=62.787 T1=46.59	OPT f=55 TT=72.337 T1=53.79	OPT f=55 TT=57.158 T1=39.82	OPT f=55 TT=87.826 T1=69.3	No data	No data	No data	No data	No data	No data	OPT f=55 TT=293.032 T1=292.96
GolombRuler/ GolombRuler-a3v18-11_c18.xml	OPT f=72 TT=885.287 T1=15.84	SAT (TO) f=76 TT=2520.09 T1=1448.02	No data	OPT f=72 TT=885.287 T1=15.84	OPT f=72 TT=1838.63 T1=46.66	OPT f=72 TT=886.724 T1=17	OPT f=72 TT=1845.01 T1=34.87	OPT f=72 TT=926.68 T1=14.9	OPT f=72 TT=2102.11 T1=37.46	SAT (TO) f=74 TT=2520.08 T1=307.17	OPT f=72 TT=1831.42 T1=32.89	OPT f=72 TT=2025.3 T1=472.17	SAT (TO) f=72 TT=2520.11 T1=893.65	SAT (TO) f=72 TT=2520.1 T1=1225.36	OPT f=72 TT=2125.65 T1=103.1	OPT f=72 TT=1795.24 T1=91.99	OPT f=72 TT=1786.91 T1=92.28	OPT f=72 TT=1784.01 T1=91.39	OPT f=72 TT=2287.67 T1=468.27	OPT f=72 TT=2389.89 T1=612.81	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.65
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
GolombRuler/ GolombRuler-a3v18-13_c18.xml	SAT TO f=106 TT=20009.2 T1=19653.8	SAT (TO) f=130 TT=2520.06 T1=2075.71	No data	SAT (TO) f=110 TT=2520.29 T1=459.57	SAT (TO) f=106 TT=20012.8 T1=17329.1	SAT (TO) f=110 TT=2520.57 T1=504.64	SAT (TO) f=106 TT=20009.2 T1=19653.8	SAT (TO) f=110 TT=2520.31 T1=509.98	SAT (TO) f=109 TT=20025.8 T1=11304.1	SAT (TO) f=115 TT=2520.09 T1=697.44	SAT (TO) f=109 TT=20025.3 T1=10927.1	SAT (TO) f=112 TT=2520.13 T1=541.88	SAT (TO) f=115 TT=2520.06 T1=2144.15	SAT (TO) f=114 TT=2520.13 T1=509.6	SAT (TO) f=112 TT=2520.05 T1=730.77	SAT (TO) f=113 TT=2520.08 T1=317.88	SAT (TO) f=113 TT=2519.86 T1=315.27	SAT (TO) f=113 TT=2519.91 T1=315.98	SAT (TO) f=112 TT=20125.8 T1=17551.5	SAT (TO) f=112 TT=20125.9 T1=5313.69	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.03
GolombRuler/ GolombRuler-a3v18-nodv-09_c18.xml	OPT f=44 TT=9.407 T1=1.54	OPT f=44 TT=15.817 T1=10.55	No data	OPT f=44 TT=9.5 T1=1.54	OPT f=44 TT=13.304 T1=5.35	OPT f=44 TT=9.407 T1=2.08	OPT f=44 TT=17.916 T1=3.07	OPT f=44 TT=12.711 T1=1.5	OPT f=44 TT=24.055 T1=3.91	OPT f=44 TT=66.983 T1=10.05	OPT f=44 TT=18.61 T1=4.54	OPT f=44 TT=109.313 T1=47.46	OPT f=44 TT=215.14 T1=74.69	OPT f=44 TT=154.539 T1=86.07	OPT f=44 TT=123.59 T1=27.28	OPT f=44 TT=26.175 T1=11.26	OPT f=44 TT=25.889 T1=11.1	OPT f=44 TT=29.789 T1=12.79	OPT f=44 TT=13.506 T1=4.69	OPT f=44 TT=10.921 T1=3.16	No data	No data	No data	No data	No data	No data	OPT f=44 TT=92.841 T1=92.79
GolombRuler/ GolombRuler-a3v18-nodv-10_c18.xml	OPT f=55 TT=31 T1=7.89	OPT f=55 TT=97.484 T1=66.23	No data	OPT f=55 TT=32.408 T1=7.89	OPT f=55 TT=63.94 T1=14.69	OPT f=55 TT=31 T1=8.64	OPT f=55 TT=65.249 T1=13.84	OPT f=55 TT=35.288 T1=8.98	OPT f=55 TT=64.135 T1=16.12	OPT f=55 TT=2124.21 T1=1878.16	OPT f=55 TT=61.489 T1=14.7	OPT f=55 TT=1179.94 T1=278.42	OPT f=55 TT=2323.09 T1=255.98	OPT f=55 TT=2415.36 T1=1237.94	OPT f=55 TT=1327.61 T1=186.48	OPT f=55 TT=872.077 T1=807.53	OPT f=55 TT=861.564 T1=798.01	OPT f=55 TT=862.817 T1=799.13	OPT f=55 TT=188.014 T1=124.97	OPT f=55 TT=102.828 T1=27.37	No data	No data	No data	No data	No data	No data	OPT f=55 TT=298.632 T1=298.6
GolombRuler/ GolombRuler-a4-s1/ GolombRuler-09-a4.xml	OPT f=44 TT=38.027 T1=18.56	OPT f=44 TT=38.027 T1=24.49	No data	OPT f=44 TT=554.927 T1=55.64	Wrong Opt. f=50 TT=26.533 T1=25.61	OPT f=44 TT=448.098 T1=57.41	OPT f=44 TT=584.758 T1=129.3	OPT f=44 TT=524.546 T1=59.97	OPT f=44 TT=618.416 T1=133.68	OPT f=44 TT=391.07 T1=379.9	OPT f=44 TT=705.691 T1=121.32	OPT f=44 TT=60.274 T1=35.99	OPT f=44 TT=125.752 T1=23.54	OPT f=44 TT=63.427 T1=19.07	OPT f=44 TT=63.596 T1=18.56	? (MO) TT=329.651	? (MO) TT=286.032	? (MO) TT=286.935	? TT=629.171	? TT=583.85	No data	No data	No data	No data	No data	No data	OPT f=44 TT=155.774 T1=155.69
GolombRuler/ GolombRuler-a4-s1/ GolombRuler-11-a4.xml	SAT TO f=72 TT=2520.03 T1=1447.08	SAT (TO) f=72 TT=2520.03 T1=2245.61	No data	SAT (TO) f=77 TT=2520.5 T1=419.06	Wrong Opt. f=81 TT=377.463 T1=377.36	SAT (TO) f=74 TT=2520.29 T1=2205.92	SAT (TO) f=72 TT=19824.5 T1=17790.4	SAT (TO) f=77 TT=2520.71 T1=942.94	SAT (TO) f=72 TT=19767.1 T1=19411.7	SAT (TO) f=74 TT=2520.08 T1=1160.28	SAT (TO) f=74 TT=19755.7 T1=17035.4	SAT (TO) f=72 TT=2520.1 T1=287.85	SAT (TO) f=72 TT=2520.13 T1=1447.08	SAT (TO) f=72 TT=2520.05 T1=1543.1	SAT (TO) f=74 TT=2520.08 T1=132.39	? (MO) TT=330.934	? (MO) TT=285.262	? (MO) TT=291.075	? TT=581.936	? TT=585.566	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.05
GracefulGraph/ GracefulGraph-K05-P02_c18.xml	SAT TT=0.285	SAT TT=118.681	SAT TT=31.434	SAT TT=75.356	SAT TT=174.681	SAT TT=62.319	SAT TT=128.597	SAT TT=63.878	SAT TT=142.787	SAT TT=165.944	SAT TT=25.068	SAT TT=58.939	SAT TT=1043.25	SAT TT=16.272	SAT TT=337.333	SAT TT=18.53	SAT TT=18.505	SAT TT=18.615	SAT TT=0.29	SAT TT=0.285	SAT TT=7.58	SAT TT=8.153	SAT TT=8.225	SAT TT=6.943	SAT TT=7.982	SAT TT=8.167	SAT TT=15.62
GracefulGraph/ GracefulGraph-m1-s1/ GracefulGraph-K03-P07.xml	SAT TT=5.041	SAT TT=73.257	SAT TT=81.842	SAT TT=9.664	SAT TT=31.511	SAT TT=10.651	SAT TT=20.09	SAT TT=11.973	SAT TT=25.261	SAT TT=7.381	SAT TT=15.496	SAT TT=11.997	SAT TT=41.125	SAT TT=7.448	SAT TT=10.793	SAT TT=19.662	SAT TT=19.649	SAT TT=19.559	SAT TT=5.129	SAT TT=5.041	SAT TT=12.185	SAT TT=17.593	SAT TT=16.232	SAT TT=10.359	SAT TT=17.061	SAT TT=17.295	SAT TT=58.472
GracefulGraph/ GracefulGraph-m1-s1/ GracefulGraph-K05-P02.xml	SAT TT=0.275	SAT TT=110.359	SAT TT=31.389	SAT TT=75.096	SAT TT=165.175	SAT TT=63.424	SAT TT=144.11	SAT TT=62.033	SAT TT=131.781	SAT TT=164.74	SAT TT=16.116	SAT TT=39.02	? (TO) TT=2520.05	SAT TT=1002.44	SAT TT=82.744	SAT TT=18.6	SAT TT=18.674	SAT TT=18.68	SAT TT=0.284	SAT TT=0.275	SAT TT=7.508	SAT TT=8.117	SAT TT=8.09	SAT TT=7.054	SAT TT=8.095	SAT TT=7.984	SAT TT=15.656
GracefulGraph/ GracefulGraph-m1-s1/ GracefulGraph-K09-P07.xml		? (TO) TT=2520.01	? (TO) TT=2520.03	? (TO) TT=2520.38	? (TO) TT=20048.7	? (TO) TT=2520.54	? (TO) TT=20017.2	? (TO) TT=2520.52	? (TO) TT=20020	? (TO) TT=2520.06	? (TO) TT=19855.4	? (TO) TT=2520.14	? TT=117.256	? (TO) TT=2520.16	? (TO) TT=2520.17	? (TO) TT=2520.02	? (TO) TT=2520.08	? (TO) TT=2520.04	? (TO) TT=20118.3	? (TO) TT=20119.7	? (TO) TT=2520.22	? (TO) TT=9308.46	? (TO) TT=8755.11	? (MO) TT=336.068	? (TO) TT=2539.23	? (TO) TT=2540.41	? (TO) TT=2519.95
GracefulGraph/ GracefulGraph-m1-s1/ GracefulGraph-K13-P08.xml		? (TO) TT=2520.11	? (TO) TT=2519.9	? (TO) TT=2520.64	? (TO) TT=19953.7	? (TO) TT=2520.62	? (TO) TT=20095.9	? (TO) TT=2520.46	? (TO) TT=20100.5	? (TO) TT=2520.03	? (TO) TT=20091.7	? (TO) TT=2520.12	? TT=25.664	? (TO) TT=2520.1	? (TO) TT=2520.15	? (TO) TT=2519.91	? (TO) TT=2520.01	? (TO) TT=2519.61	? (TO) TT=20115.4	? (TO) TT=20113.9	? (MO) TT=339.969	? (TO) TT=396.25	? (TO) TT=2590.09	? TT=1337.81	? TT=1465.78	? TT=1498.76	? (TO) TT=2520.06
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
GraphColoring/GraphColoring-m1-fixed/ GraphColoring-qwhopt-o33-h381-bal-1.xml	SAT TO f=33 TT=2519.82 T1=3.09	SAT (TO) f=33 TT=2520.08 T1=12.98	No data	SAT (TO) f=33 TT=2520.42 T1=36.71	SAT (TO) f=33 TT=20018.7 T1=55.86	SAT (TO) f=33 TT=2520.57 T1=27.18	SAT (TO) f=33 TT=20033.3 T1=90.57	SAT (TO) f=33 TT=2520.2 T1=60.3	SAT (TO) f=33 TT=20008.4 T1=112.29	SAT (TO) f=33 TT=2520.04 T1=13.68	SAT (TO) f=33 TT=20023.7 T1=96.58	SAT (TO) f=33 TT=2520.12 T1=100.01	SAT (TO) f=33 TT=2520.07 T1=296.64	SAT (TO) f=33 TT=2520.06 T1=88.27	SAT (TO) f=33 TT=2520.17 T1=81.21	SAT (TO) f=33 TT=2520.09 T1=7.08	SAT (TO) f=33 TT=2519.82 T1=6.58	SAT (TO) f=33 TT=2520.05 T1=3.09	SAT (TO) f=33 TT=20066.9 T1=78.13	SAT (TO) f=33 TT=20067.5 T1=80.75	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.98
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-2-fullins-5.xml	OPT f=6 TT=58.278 T1=1.49	OPT f=6 TT=93.489 T1=9.2	No data	OPT f=6 TT=189.662 T1=11.84	OPT f=6 TT=353.01 T1=19.97	OPT f=6 TT=193.17 T1=12.56	OPT f=6 TT=367.293 T1=19.54	OPT f=6 TT=172.721 T1=12.88	OPT f=6 TT=382.635 T1=19.68	OPT f=6 TT=507.923 T1=6.47	OPT f=6 TT=392.902 T1=21.31	OPT f=6 TT=2007.68 T1=49.51	SAT (TO) f=701 TT=2520.09 T1=2498.02	SAT (TO) f=6 TT=2520.1 T1=63.17	OPT f=6 TT=2382.72 T1=54.65	OPT f=6 TT=327.064 T1=1.89	OPT f=6 TT=320.376 T1=1.89	OPT f=6 TT=308.565 T1=1.89	OPT f=6 TT=4152.28 T1=1.49	OPT f=6 TT=4098.51 T1=10.76	No data	No data	No data	No data	No data	No data	OPT f=6 TT=58.278 T1=58.2
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-4-insertions-3.xml	OPT f=3 TT=4.94 T1=1.29	OPT f=3 TT=487.723 T1=3.21	No data	OPT f=3 TT=226.618 T1=1.53	OPT f=3 TT=484.944 T1=1.93	OPT f=3 TT=226.222 T1=1.33	OPT f=3 TT=640.84 T1=2.04	OPT f=3 TT=277.487 T1=1.58	OPT f=3 TT=511.257 T1=1.94	OPT f=3 TT=692.829 T1=1.29	OPT f=3 TT=641.703 T1=1.97	OPT f=3 TT=1316.13 T1=8.18	SAT (TO) f=3 TT=2520.08 T1=11.87	OPT f=3 TT=1437.01 T1=9.01	OPT f=3 TT=1919.81 T1=6.66	SAT (TO) f=3 TT=2520.02 T1=0	SAT (TO) f=3 TT=2520.11 T1=0	SAT (TO) f=3 TT=2519.36 T1=0	SAT (TO) f=3 TT=20127.1 T1=0	SAT (TO) f=3 TT=20125.6 T1=0	No data	No data	No data	No data	No data	No data	OPT f=3 TT=4.94 T1=4.89
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-5-fullins-4.xml	OPT f=8 TT=75.437 T1=1.69	OPT f=8 TT=101.042 T1=9.01	No data	OPT f=8 TT=258.606 T1=14.9	OPT f=8 TT=560.693 T1=33.14	OPT f=8 TT=276.667 T1=15.42	OPT f=8 TT=530.628 T1=18.35	OPT f=8 TT=438.589 T1=14.72	OPT f=8 TT=1135.61 T1=21.27	OPT f=8 TT=1848.68 T1=6.91	OPT f=8 TT=521.705 T1=21.19	OPT f=8 TT=2068.92 T1=71.95	SAT (TO) f=979 TT=2520.14 T1=2505.4	SAT (TO) f=8 TT=2520.08 T1=84.96	SAT (TO) f=8 TT=2520.16 T1=97.86	OPT f=8 TT=153.816 T1=1.69	OPT f=8 TT=132.341 T1=1.79	OPT f=8 TT=126.821 T1=1.79	OPT f=8 TT=3538.53 T1=20.1	OPT f=8 TT=3992.2 T1=20.78	No data	No data	No data	No data	No data	No data	OPT f=8 TT=75.437 T1=75.37
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-ash608GPIA.xml	OPT f=3 TT=1.34 T1=1.28	OPT f=3 TT=8.034 T1=7.81	No data	OPT f=3 TT=10.92 T1=10.58	OPT f=3 TT=22.522 T1=22.17	OPT f=3 TT=12.447 T1=12.17	OPT f=3 TT=17.55 T1=16.91	OPT f=3 TT=10.598 T1=10.05	OPT f=3 TT=14.398 T1=13.58	OPT f=3 TT=5.008 T1=4.72	OPT f=3 TT=14.691 T1=14.21	OPT f=3 TT=82.199 T1=81.95	SAT (TO) f=1097 TT=2520.12 T1=2506.35	OPT f=3 TT=123.618 T1=123.28	OPT f=3 TT=139.14 T1=138.75	OPT f=3 TT=1.34 T1=1.29	OPT f=3 TT=1.351 T1=1.29	OPT f=3 TT=1.35 T1=1.28	OPT f=3 TT=1177.66 T1=1177	OPT f=3 TT=34.363 T1=33.69	No data	No data	No data	No data	No data	No data	OPT f=3 TT=25.506 T1=25.49
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-david.xml	OPT f=10 TT=8.864 T1=0	OPT f=10 TT=82.418 T1=3.62	No data	OPT f=10 TT=530.859 T1=2.28	OPT f=10 TT=942.434 T1=2.72	OPT f=10 TT=482.211 T1=2.19	OPT f=10 TT=1163.98 T1=3.02	OPT f=10 TT=475.977 T1=1.88	OPT f=10 TT=978.27 T1=2.84	OPT f=10 TT=285.693 T1=1.47	OPT f=10 TT=1092.55 T1=2.72	OPT f=10 TT=10.961 T1=10.87	OPT f=10 TT=17.173 T1=17.03	OPT f=10 TT=10.2 T1=10.05	OPT f=10 TT=9.383 T1=9.09	OPT f=10 TT=84.181 T1=0	OPT f=10 TT=84.155 T1=0	OPT f=10 TT=83.412 T1=0	OPT f=10 TT=846.606 T1=0	OPT f=10 TT=814.041 T1=0	No data	No data	No data	No data	No data	No data	OPT f=10 TT=8.864 T1=8.79
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-homer.xml	OPT f=12 TT=28.077 T1=27.57	SAT (TO) f=12 TT=2520.1 T1=5.21	No data	SAT (TO) f=12 TT=2520.57 T1=4.46	SAT (TO) f=12 TT=20037.8 T1=8.46	SAT (TO) f=12 TT=2520.46 T1=4.82	SAT (TO) f=12 TT=20021 T1=9.25	SAT (TO) f=12 TT=2520.32 T1=5.18	SAT (TO) f=12 TT=20023.8 T1=9.97	SAT (TO) f=12 TT=2520.07 T1=2.37	SAT (TO) f=12 TT=20044 T1=10.33	OPT f=12 TT=25.25 T1=24.85	OPT f=12 TT=247.669 T1=246.84	OPT f=12 TT=28.077 T1=27.57	OPT f=12 TT=30.922 T1=30.39	SAT (TO) f=12 TT=2520.02 T1=0.21	SAT (TO) f=12 TT=2519.81 T1=0.21	SAT (TO) f=12 TT=2519.93 T1=0.2	SAT (TO) f=12 TT=20124.2 T1=1.99	SAT (TO) f=12 TT=20123.2 T1=1.92	No data	No data	No data	No data	No data	No data	OPT f=12 TT=33.138 T1=33.09
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-lei450-05b.xml	OPT f=4 TT=238.735 T1=238.69	? (exit code) TT=-1	No data	OPT f=4 TT=2299.63 T1=2292.49	OPT f=4 TT=2035.36 T1=2035.09	SAT (TO) f=7 TT=2520.59 T1=40.85	OPT f=4 TT=5971.39 T1=5971.19	OPT f=4 TT=1699.36 T1=1699.12	OPT f=4 TT=1872 T1=1871.86	SAT (TO) f=7 TT=2520.03 T1=25.31	OPT f=4 TT=1736.19 T1=1735.92	SAT (TO) f=7 TT=2520.07 T1=69.46	SAT (TO) f=8 TT=2520.1 T1=653.6	SAT (TO) f=8 TT=2520.05 T1=26.24	SAT (TO) f=7 TT=2520.09 T1=1770.4	OPT f=4 TT=238.735 T1=238.69	OPT f=4 TT=246.902 T1=246.79	OPT f=4 TT=240.443 T1=240.35	OPT f=4 TT=2370.61 T1=2369.85	OPT f=4 TT=4829.17 T1=4828.7	No data	No data	No data	No data	No data	No data	OPT f=4 TT=736.776 T1=736.68
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-lei450-05c.xml	OPT f=4 TT=1.94 T1=1.89	OPT f=4 TT=9.851 T1=9.79	No data	OPT f=4 TT=15.152 T1=15.11	OPT f=4 TT=25.171 T1=24.45	OPT f=4 TT=12.949 T1=12.63	OPT f=4 TT=20.167 T1=19.95	OPT f=4 TT=13.283 T1=12.94	OPT f=4 TT=19.088 T1=18.3	OPT f=4 TT=7.798 T1=7.71	OPT f=4 TT=14.394 T1=13.69	OPT f=4 TT=39.828 T1=39.78	OPT f=4 TT=1925.57 T1=1925.48	OPT f=4 TT=92.206 T1=92.07	OPT f=4 TT=35.215 T1=35.07	OPT f=4 TT=2.236 T1=2.19	OPT f=4 TT=1.94 T1=1.89	OPT f=4 TT=2.048 T1=1.99	OPT f=4 TT=7.5 T1=7.06	OPT f=4 TT=15.051 T1=14.3	No data	No data	No data	No data	No data	No data	OPT f=4 TT=24.037 T1=23.98
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-lei450-05d.xml	OPT f=4 TT=2.212 T1=0.69	OPT f=4 TT=9.953 T1=9.85	No data	OPT f=4 TT=11.936 T1=7.89	OPT f=4 TT=11.867 T1=10.9	OPT f=4 TT=8.607 T1=8.07	OPT f=4 TT=11.194 T1=9.92	OPT f=4 TT=8.283 T1=7.81	OPT f=4 TT=11.516 T1=10.65	OPT f=4 TT=8.956 T1=8.89	OPT f=4 TT=11.261 T1=10.29	OPT f=4 TT=137.395 T1=137.26	OPT f=4 TT=2090.88 T1=2090.82	OPT f=4 TT=84.07 T1=83.95	OPT f=4 TT=46.767 T1=46.65	OPT f=4 TT=2.271 T1=0.69	OPT f=4 TT=2.224 T1=2.22	OPT f=4 TT=2.212 T1=2.19	OPT f=4 TT=11.566 T1=11.13	OPT f=4 TT=4.5 T1=4.09	No data	No data	No data	No data	No data	No data	OPT f=4 TT=23.18 T1=23.1
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-lei450-25a.xml	OPT f=24 TT=29.679 T1=28.83	SAT (TO) f=24 TT=2520.05 T1=7.02	No data	SAT (TO) f=24 TT=2520.7 T1=8.36	SAT (TO) f=24 TT=20034.1 T1=14.01	SAT (TO) f=24 TT=2520.62 T1=8.05	SAT (TO) f=24 TT=20042.2 T1=10.85	SAT (TO) f=24 TT=2520.65 T1=9.34	SAT (TO) f=24 TT=20032.5 T1=12.26	SAT (TO) f=24 TT=2520.09 T1=3.98	SAT (TO) f=24 TT=20057.7 T1=12.5	OPT f=24 TT=28.403 T1=28.09	OPT f=24 TT=343.39 T1=342.75	OPT f=24 TT=29.679 T1=28.83	OPT f=24 TT=31.456 T1=30.58	SAT (TO) f=24 TT=2520.01 T1=1.29	SAT (TO) f=24 TT=2519.9 T1=1.29	SAT (TO) f=24 TT=2520.02 T1=1.29	SAT (TO) f=24 TT=20109.6 T1=2.74	SAT (TO) f=24 TT=20110.4 T1=2.13	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.87
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-myciel5.xml	OPT f=5 TT=19.538 T1=0	OPT f=5 TT=29.424 T1=3.34	No data	OPT f=5 TT=42.276 T1=1.56	OPT f=5 TT=96.539 T1=2	OPT f=5 TT=53.593 T1=1.61	OPT f=5 TT=105.159 T1=1.93	OPT f=5 TT=44.986 T1=1.59	OPT f=5 TT=106.608 T1=2.01	OPT f=5 TT=82.891 T1=1.32	OPT f=5 TT=86.197 T1=1.97	OPT f=5 TT=340.013 T1=7.2	OPT f=5 TT=1257.94 T1=9.81	OPT f=5 TT=301.061 T1=7.13	OPT f=5 TT=302.947 T1=6.43	OPT f=5 TT=728.663 T1=0	OPT f=5 TT=638.305 T1=0	OPT f=5 TT=634.914 T1=0	OPT f=5 TT=4115.96 T1=0	OPT f=5 TT=3323.72 T1=0	No data	No data	No data	No data	No data	No data	OPT f=5 TT=19.538 T1=19.49
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-school1.xml	OPT f=13 TT=68.329 T1=68.09	SAT (TO) f=13 TT=2520.11 T1=20.37	No data	SAT (TO) f=13 TT=2520.58 T1=12.15	SAT (TO) f=13 TT=17603.6 T1=14.81	SAT (TO) f=13 TT=2520.34 T1=9.97	SAT (TO) f=13 TT=20067.2 T1=14.76	SAT (TO) f=13 TT=2520.54 T1=11.73	SAT (TO) f=13 TT=20069 T1=15.34	SAT (TO) f=13 TT=2520.1 T1=6.25	SAT (TO) f=13 TT=20046.2 T1=19.07	OPT f=13 TT=75.166 T1=74.99	OPT f=13 TT=2043.14 T1=2042.94	OPT f=13 TT=92.75 T1=92.51	OPT f=13 TT=68.329 T1=68.09	SAT (TO) f=13 TT=2520 T1=3.19	SAT (TO) f=13 TT=2520.05 T1=3.28	SAT (TO) f=13 TT=2519.55 T1=3.29	SAT (TO) f=13 TT=20093.7 T1=4.26	SAT (TO) f=13 TT=20093.6 T1=5.69	No data	No data	No data	No data	No data	No data	OPT f=13 TT=488.222 T1=488.14
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-will199GPIA.xml	OPT f=6 TT=1.182 T1=1	OPT f=6 TT=7.406 T1=7.13	No data	OPT f=6 TT=15.399 T1=9.88	OPT f=6 TT=27.399 T1=16.66	OPT f=6 TT=17.382 T1=10.81	OPT f=6 TT=25.574 T1=15.61	OPT f=6 TT=14.742 T1=9.85	OPT f=6 TT=33.85 T1=13.01	OPT f=6 TT=6.613 T1=3.74	OPT f=6 TT=34.397 T1=17.19	OPT f=6 TT=43.452 T1=39.41	OPT f=6 TT=1587.56 T1=1561.54	OPT f=6 TT=46.132 T1=40.81	OPT f=6 TT=53.325 T1=49.02	OPT f=6 TT=1.367 T1=1.19	OPT f=6 TT=1.182 T1=1	OPT f=6 TT=1.208 T1=1	OPT f=6 TT=11.739 T1=6	OPT f=6 TT=20.689 T1=15.61	No data	No data	No data	No data	No data	No data	OPT f=6 TT=29.336 T1=29.29
GraphColoring/ GraphColoring-m1-mono/ GraphColoring-zeroin-i-1.xml	OPT f=48 TT=28.401 T1=28.22	SAT (TO) f=48 TT=2520.04 T1=5.49	No data	SAT (TO) f=48 TT=2520.47 T1=4.9	SAT (TO) f=48 TT=20029 T1=8.76	SAT (TO) f=48 TT=2520.33 T1=5.2	SAT (TO) f=48 TT=20025 T1=7.45	SAT (TO) f=48 TT=2520.74 T1=5.22	SAT (TO) f=48 TT=20031 T1=7.95	SAT (TO) f=48 TT=2520.11 T1=3.05	SAT (TO) f=48 TT=20019.5 T1=7.65	OPT f=48 TT=30.457 T1=30.33	OPT f=48 TT=144.803 T1=144.46	OPT f=48 TT=28.401 T1=28.22	OPT f=48 TT=32.569 T1=32.37	SAT (TO) f=48 TT=2520.03 T1=0.69	SAT (TO) f=48 TT=2520.1 T1=0.6	SAT (TO) f=48 TT=2519.79 T1=0.6	SAT (TO) f=48 TT=20118.2 T1=0.84	SAT (TO) f=48 TT=20118.3 T1=0.84	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.1
Hanoi/ Hanoi-m1-s1/ Hanoi-07.xml	SAT TT=0.777	SAT TT=4.22	SAT TT=1.778	SAT TT=29.396	SAT TT=57.593	SAT TT=31.109	SAT TT=56.762	SAT TT=29.624	SAT TT=60.343	SAT TT=16.645	SAT TT=55.013	SAT TT=10.302	SAT TT=13.271	SAT TT=10.119	SAT TT=11.357	SAT TT=0.779	SAT TT=0.781	SAT TT=0.777	SAT TT=5.777	SAT TT=6.119	SAT TT=159.939	SAT TT=168.309	SAT TT=167.682	SAT TT=161.299	SAT TT=169.23	SAT TT=167.174	SAT TT=5.322
Haystacks/ Haystacks-m1-s1/ Haystacks-39.xml		? (TO) TT=2520.08	? (TO) TT=2519.84	? (TO) TT=2520.44	? (TO) TT=19588	? (TO) TT=2520.64	? (TO) TT=19620.2	? (TO) TT=2521.09	? (TO) TT=19618.1	? (TO) TT=2520.05	? (TO) TT=19627.4	? (TO) TT=2520.08	? (TO) TT=2520.1	? (TO) TT=2520.13	? (TO) TT=2520.13	? (TO) TT=2485.06	? (TO) TT=2449.72	? (TO) TT=2520.01	? (TO) TT=19886	? (TO) TT=19874.7	? (TO) TT=2520.16	? (TO) TT=18910.3	? (TO) TT=19195.4	? (TO) TT=2520.15	? (TO) TT=19227.9	? (TO) TT=19261.5	? (TO) TT=2519.97
Knapsack/ Knapsack-m1-s40/ Knapsack-40-150-01.xml	OPT f=1128 TT=7.23 T1=1.6	OPT f=1128 TT=31.69 T1=31.59	No data	OPT f=1128 TT=7.23 T1=2.85	OPT f=1128 TT=17.223 T1=4.37	OPT f=1128 TT=12.906 T1=3.11	OPT f=1128 TT=16.48 T1=2.29	OPT f=1128 TT=8.999 T1=2.47	OPT f=1128 TT=18.007 T1=3.03	OPT f=1128 TT=121.688 T1=1.6	OPT f=1128 TT=19.301 T1=2.94	OPT f=1128 TT=104.666 T1=6.62	OPT f=1128 TT=252.867 T1=9.48	OPT f=1128 TT=72.219 T1=7.24	OPT f=1128 TT=75.231 T1=9.43	OPT f=1128 TT=11.5 T1=2	OPT f=1128 TT=10.007 T1=1.69	OPT f=1128 TT=10.023 T1=1.69	OPT f=1128 TT=68.849 T1=10.33	OPT f=1128 TT=41.318 T1=6.29	No data	No data	No data	No data	No data	No data	OPT f=1128 TT=83.99 T1=83.87
Knapsack/ Knapsack-m1-s40/ Knapsack-40-150-08.xml	OPT f=887 TT=6.931 T1=0.3	OPT f=887 TT=43.44 T1=42.99	No data	OPT f=887 TT=7.702 T1=3.15	OPT f=887 TT=17.769 T1=2.85	OPT f=887 TT=9.255 T1=3.8	OPT f=887 TT=16.586 T1=3.04	OPT f=887 TT=8.663 T1=2.74	OPT f=887 TT=14.903 T1=3.77	OPT f=887 TT=190.039 T1=1.32	OPT f=887 TT=17.856 T1=6.87	OPT f=887 TT=120.399 T1=10.02	OPT f=887 TT=426.208 T1=12.47	OPT f=887 TT=123.982 T1=8.49	OPT f=887 TT=142.403 T1=9.17	OPT f=887 TT=7.911 T1=0.41	OPT f=887 TT=6.934 T1=0.31	OPT f=887 TT=6.931 T1=0.3	OPT f=887 TT=26.91 T1=2.45	OPT f=887 TT=33.781 T1=0	No data	No data	No data	No data	No data	No data	OPT f=887 TT=122.118 T1=122.07
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-00.xml	OPT f=960 TT=22.401 T1=1.34	OPT f=960 TT=222.655 T1=222.6	No data	OPT f=960 TT=22.401 T1=4.63	OPT f=960 TT=55.366 T1=4.46	OPT f=960 TT=26.099 T1=7.11	OPT f=960 TT=55.861 T1=3.59	OPT f=960 TT=27.174 T1=4.03	OPT f=960 TT=57.623 T1=4.19	OPT f=960 TT=951.997 T1=1.34	OPT f=960 TT=60.708 T1=9.21	OPT f=960 TT=1265.17 T1=7.04	OPT f=960 TT=2480.62 T1=8.9	OPT f=960 TT=571.789 T1=14.33	OPT f=960 TT=680.926 T1=8.9	OPT f=960 TT=33.765 T1=7.29	OPT f=960 TT=29.371 T1=6.29	OPT f=960 TT=29.36 T1=6.29	OPT f=960 TT=175.768 T1=3.25	OPT f=960 TT=178.628 T1=43.84	No data	No data	No data	No data	No data	No data	OPT f=960 TT=213.037 T1=212.99
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-02.xml	OPT f=1003 TT=90.376 T1=1.35	OPT f=1003 TT=2095.79 T1=2073.93	No data	OPT f=1003 TT=104.87 T1=3.56	OPT f=1003 TT=221.582 T1=12.08	OPT f=1003 TT=90.376 T1=3.54	OPT f=1003 TT=204.397 T1=10.06	OPT f=1003 TT=81.133 T1=5.15	OPT f=1003 TT=200.877 T1=5.23	OPT f=1003 TT=1730.99 T1=1.35	OPT f=1003 TT=201.269 T1=12.62	SAT (TO) f=1003 TT=2520.1 T1=70.01	SAT (TO) f=1003 TT=2520.05 T1=10.23	SAT (TO) f=1003 TT=2520.09 T1=13.12	SAT (TO) f=1003 TT=2520.12 T1=9.22	OPT f=1003 TT=244.192 T1=8.29	OPT f=1003 TT=243.476 T1=8.29	OPT f=1003 TT=245.418 T1=8.29	OPT f=1003 TT=921.539 T1=276.26	OPT f=1003 TT=887.281 T1=102.93	No data	No data	No data	No data	No data	No data	OPT f=1003 TT=625.852 T1=184.29
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-03.xml	OPT f=1109 TT=88.331 T1=1.35	OPT f=1109 TT=615.374 T1=615.19	No data	OPT f=1109 TT=88.331 T1=3.96	OPT f=1109 TT=221.872 T1=6.26	OPT f=1109 TT=89.462 T1=5.46	OPT f=1109 TT=235.564 T1=3.51	OPT f=1109 TT=93.923 T1=5.9	OPT f=1109 TT=174.944 T1=5.98	OPT f=1109 TT=1125.3 T1=1.35	OPT f=1109 TT=213.999 T1=6.79	OPT f=1109 TT=1903.94 T1=20.78	SAT (TO) f=1109 TT=2520.06 T1=7.32	OPT f=1109 TT=1772.52 T1=8.05	OPT f=1109 TT=1574.15 T1=11.04	OPT f=1109 TT=142.028 T1=14.49	OPT f=1109 TT=123.317 T1=12.59	OPT f=1109 TT=123.318 T1=12.59	OPT f=1109 TT=650.171 T1=7.96	OPT f=1109 TT=712.063 T1=0.81	No data	No data	No data	No data	No data	No data	OPT f=1109 TT=431.237 T1=370.89
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-04.xml	OPT f=1289 TT=48.13 T1=1.6	OPT f=1289 TT=1948.86 T1=1948.11	No data	OPT f=1289 TT=88.626 T1=86.91	OPT f=1289 TT=124.706 T1=4.9	OPT f=1289 TT=48.13 T1=5.85	OPT f=1289 TT=130.412 T1=5.62	OPT f=1289 TT=53.841 T1=5.59	OPT f=1289 TT=125.221 T1=4.37	OPT f=1289 TT=1516.51 T1=1.6	OPT f=1289 TT=142.402 T1=3.71	SAT (TO) f=1289 TT=2520.13 T1=6.45	SAT (TO) f=1289 TT=2520.07 T1=12.2	SAT (TO) f=1289 TT=2520.07 T1=10.39	SAT (TO) f=1289 TT=2520.14 T1=15.7	OPT f=1289 TT=124.644 T1=5.29	OPT f=1289 TT=108.187 T1=4.59	OPT f=1289 TT=108.69 T1=4.58	OPT f=1289 TT=528.084 T1=20.66	OPT f=1289 TT=447.942 T1=24.75	No data	No data	No data	No data	No data	No data	OPT f=1289 TT=491.669 T1=491.64
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-05.xml	OPT f=1105 TT=20.411 T1=1.29	OPT f=1105 TT=479.049 T1=477.5	No data	OPT f=1105 TT=20.411 T1=3.18	OPT f=1105 TT=54.556 T1=3.27	OPT f=1105 TT=24.874 T1=4.25	OPT f=1105 TT=52.951 T1=3.49	OPT f=1105 TT=23.095 T1=6.76	OPT f=1105 TT=55.234 T1=4.13	OPT f=1105 TT=1438.35 T1=1.29	OPT f=1105 TT=50.506 T1=5.33	SAT (TO) f=1105 TT=2520.14 T1=18.45	SAT (TO) f=1105 TT=2520.07 T1=47.05	OPT f=1105 TT=1636.63 T1=11.2	OPT f=1105 TT=1219.17 T1=10.66	OPT f=1105 TT=37.702 T1=22.09	OPT f=1105 TT=38.015 T1=22.19	OPT f=1105 TT=37.468 T1=21.89	OPT f=1105 TT=243.452 T1=11.09	OPT f=1105 TT=199.395 T1=98.93	No data	No data	No data	No data	No data	No data	OPT f=1105 TT=200.76 T1=200.67
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-06.xml	OPT f=1079 TT=30.479 T1=0	OPT f=1079 TT=700.855 T1=700.26	No data	OPT f=1079 TT=30.479 T1=3.57	OPT f=1079 TT=72.89 T1=4.64	OPT f=1079 TT=36.16 T1=5.48	OPT f=1079 TT=73.614 T1=2.79	OPT f=1079 TT=30.427 T1=3.97	OPT f=1079 TT=64.197 T1=3.66	OPT f=1079 TT=1230.51 T1=1.05	OPT f=1079 TT=82.394 T1=3.69	OPT f=1079 TT=1433.68 T1=8.93	SAT (TO) f=1079 TT=2520.09 T1=15.25	OPT f=1079 TT=1111.69 T1=8.56	OPT f=1079 TT=1862.66 T1=8.44	OPT f=1079 TT=85.874 T1=0	OPT f=1079 TT=74.381 T1=0	OPT f=1079 TT=74.62 T1=0	OPT f=1079 TT=264.903 T1=28.61	OPT f=1079 TT=367.355 T1=43.84	No data	No data	No data	No data	No data	No data	OPT f=1079 TT=426.179 T1=168.98
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-07.xml	OPT f=1070 TT=24.822 T1=1.31	OPT f=1070 TT=508.304 T1=453.19	No data	OPT f=1070 TT=24.822 T1=4.74	OPT f=1070 TT=53.254 T1=7.31	OPT f=1070 TT=25.69 T1=5.15	OPT f=1070 TT=51.756 T1=3.52	OPT f=1070 TT=22.423 T1=3.61	OPT f=1070 TT=52.57 T1=5.98	OPT f=1070 TT=1315.02 T1=1.31	OPT f=1070 TT=51.4 T1=2.2	OPT f=1070 TT=1142.71 T1=6.8	SAT (TO) f=1070 TT=2520.09 T1=13.47	OPT f=1070 TT=1668.83 T1=9.87	OPT f=1070 TT=1721.48 T1=13.02	OPT f=1070 TT=55.042 T1=11.1	OPT f=1070 TT=48.012 T1=9.69	OPT f=1070 TT=47.749 T1=9.69	OPT f=1070 TT=250.161 T1=12.68	OPT f=1070 TT=258.212 T1=93.35	No data	No data	No data	No data	No data	No data	OPT f=1070 TT=143.244 T1=143.18
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-09.xml	OPT f=1241 TT=37.345 T1=1	OPT f=1241 TT=1049.67 T1=1049	No data	OPT f=1241 TT=39.624 T1=4.72	OPT f=1241 TT=89.28 T1=8.32	OPT f=1241 TT=37.345 T1=3.58	OPT f=1241 TT=87.999 T1=8.87	OPT f=1241 TT=37.554 T1=2.82	OPT f=1241 TT=102.356 T1=4.15	OPT f=1241 TT=1196.75 T1=1	OPT f=1241 TT=92.331 T1=4.45	OPT f=1241 TT=1992.87 T1=9.92	SAT (TO) f=1241 TT=2520.08 T1=27.34	OPT f=1241 TT=1449.85 T1=9.34	OPT f=1241 TT=2131.41 T1=6.27	OPT f=1241 TT=87.01 T1=14.1	OPT f=1241 TT=86.894 T1=14.1	OPT f=1241 TT=86.194 T1=14	OPT f=1241 TT=491.636 T1=3.24	OPT f=1241 TT=434.11 T1=78.17	No data	No data	No data	No data	No data	No data	OPT f=1241 TT=204.925 T1=204.85
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-11.xml	OPT f=1049 TT=35.81 T1=1.6	OPT f=1049 TT=679.106 T1=679.02	No data	OPT f=1049 TT=35.81 T1=3.61	OPT f=1049 TT=156.733 T1=6.15	OPT f=1049 TT=42.708 T1=3.56	OPT f=1049 TT=107.33 T1=7.46	OPT f=1049 TT=40.488 T1=3.54	OPT f=1049 TT=132.484 T1=11.97	OPT f=1049 TT=1239.19 T1=1.6	OPT f=1049 TT=118.723 T1=9.8	SAT (TO) f=1049 TT=2520.06 T1=9.77	SAT (TO) f=1049 TT=2520.11 T1=17.02	SAT (TO) f=1049 TT=2520.1 T1=18.15	OPT f=1049 TT=2402.57 T1=8.06	OPT f=1049 TT=100.55 T1=20.79	OPT f=1049 TT=87.264 T1=18.1	OPT f=1049 TT=88.195 T1=18.29	OPT f=1049 TT=413.535 T1=36.65	OPT f=1049 TT=471.734 T1=3.24	No data	No data	No data	No data	No data	No data	OPT f=1049 TT=272.666 T1=131.68
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-13.xml	OPT f=1427 TT=122.558 T1=5.81	OPT f=1427 TT=1618.21 T1=1618.15	No data	OPT f=1427 TT=153.752 T1=146.73	OPT f=1427 TT=127.327 T1=98.16	OPT f=1427 TT=122.558 T1=5.81	OPT f=1427 TT=232.966 T1=5.82	OPT f=1427 TT=84.588 T1=4.63	OPT f=1427 TT=215.538 T1=7.9	SAT (TO) f=1427 TT=2520.03 T1=1.61	OPT f=1427 TT=182.874 T1=8.35	SAT (TO) f=1427 TT=2520.07 T1=8.78	SAT (TO) f=1427 TT=2520.1 T1=26.89	SAT (TO) f=1427 TT=2520.13 T1=12.47	SAT (TO) f=1427 TT=2520.09 T1=12.02	OPT f=1427 TT=318.294 T1=14.49	OPT f=1427 TT=317.923 T1=14.49	OPT f=1427 TT=318.678 T1=14.49	OPT f=1427 TT=1158.79 T1=43.84	OPT f=1427 TT=1197.97 T1=94.13	No data	No data	No data	No data	No data	No data	OPT f=1427 TT=310.595 T1=310.51
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-14.xml	OPT f=1121 TT=88.513 T1=1.36	OPT f=1121 TT=1560.71 T1=1560.64	No data	OPT f=1121 TT=88.513 T1=3.96	OPT f=1121 TT=197.612 T1=3.34	OPT f=1121 TT=90.436 T1=5.15	OPT f=1121 TT=181.476 T1=4.15	OPT f=1121 TT=84.322 T1=5.92	OPT f=1121 TT=179.248 T1=4.42	OPT f=1121 TT=1651.62 T1=1.36	OPT f=1121 TT=192.082 T1=4.26	SAT (TO) f=1121 TT=2520.08 T1=13.21	SAT (TO) f=1121 TT=2520.05 T1=14.25	SAT (TO) f=1121 TT=2520.09 T1=9.36	SAT (TO) f=1121 TT=2520.12 T1=8.04	OPT f=1121 TT=206.783 T1=12	OPT f=1121 TT=179.932 T1=10.49	OPT f=1121 TT=179.468 T1=10.39	OPT f=1121 TT=984.595 T1=2.43	OPT f=1121 TT=970.998 T1=34.23	No data	No data	No data	No data	No data	No data	OPT f=1121 TT=845.76 T1=445.05
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-16.xml	OPT f=1429 TT=70.38 T1=1.6	OPT f=1429 TT=1626.66 T1=1626.08	No data	OPT f=1429 TT=71.748 T1=5.15	OPT f=1429 TT=213.379 T1=4.86	OPT f=1429 TT=70.38 T1=3.55	OPT f=1429 TT=173.172 T1=5.87	OPT f=1429 TT=78.724 T1=3.91	OPT f=1429 TT=194.619 T1=4.36	OPT f=1429 TT=1461.64 T1=1.6	OPT f=1429 TT=157.208 T1=5.95	OPT f=1429 TT=2178.94 T1=6.76	SAT (TO) f=1429 TT=2520.14 T1=23.8	OPT f=1429 TT=1815.38 T1=12.13	SAT (TO) f=1429 TT=2520.09 T1=10.21	OPT f=1429 TT=356.73 T1=14.79	OPT f=1429 TT=310.713 T1=12.89	OPT f=1429 TT=309.034 T1=12.79	OPT f=1429 TT=1044.29 T1=11.09	OPT f=1429 TT=1007.9 T1=47.9	No data	No data	No data	No data	No data	No data	OPT f=1429 TT=698.587 T1=640.96
Knapsack/ Knapsack-m1-s50/ Knapsack-50-200-17.xml	OPT f=992 TT=115.926 T1=1.3	OPT f=992 TT=1114.44 T1=1112.37	No data	OPT f=992 TT=115.926 T1=5.59	OPT f=992 TT=308.558 T1=7.34	OPT f=992 TT=122.87 T1=3.09	OPT f=992 TT=309.114 T1=3.52	OPT f=992 TT=114.281 T1=5.53	OPT f=992 TT=309.111 T1=4.85	OPT f=992 TT=1351.97 T1=1.3	OPT f=992 TT=295.525 T1=5.82	SAT (TO) f=992 TT=2520.13 T1=12.46	SAT (TO) f=992 TT=2520.05 T1=13.14	SAT (TO) f=992 TT=2520.13 T1=11.03	OPT f=992 TT=2435.73 T1=11.28	OPT f=992 TT=254.426 T1=1.59	OPT f=992 TT=222.248 T1=1.39	OPT f=992 TT=221.664 T1=1.39	OPT f=992 TT=899.206 T1=8.75	OPT f=992 TT=1249.46 T1=0.81	No data	No data	No data	No data	No data	No data	OPT f=992 TT=414.178 T1=414.15
Knights/ Knights-m1-s1/ Knights-015-09.xml	UNSAT TT=0.089	UNSAT TT=6.258	UNSAT TT=1.159	UNSAT TT=3.476	UNSAT TT=7.442	UNSAT TT=3.358	UNSAT TT=5.902	UNSAT TT=3.165	UNSAT TT=5.009	UNSAT TT=2.324	UNSAT TT=4.993	UNSAT TT=8.846	UNSAT TT=8.586	UNSAT TT=8.325	UNSAT TT=7.55	UNSAT TT=0.091	UNSAT TT=0.089	UNSAT TT=0.089	UNSAT TT=0.154	UNSAT TT=0.151	UNSAT TT=39.158	UNSAT TT=54.807	UNSAT TT=52.907	UNSAT TT=18.795	UNSAT TT=53.918	UNSAT TT=56.655	UNSAT TT=11.158
Knights/ Knights-m1-s1/ Knights-080-25.xml	UNSAT TT=51.522	? (TO) TT=2520.1	? (TO) TT=2519.87	? (TO) TT=2520.36	? (TO) TT=19759.4	? (TO) TT=2520.43	? (TO) TT=19994.6	? (TO) TT=2520.55	? (TO) TT=19995.6	? (TO) TT=2520.04	? (TO) TT=19990.5	? (TO) TT=2520.04	? (TO) TT=2520.08	? (TO) TT=2520.09	? (TO) TT=2520.04	? (TO) TT=2520.1	? (TO) TT=2520.03	? (TO) TT=2520.02	? (TO) TT=20124.3	? (TO) TT=20121.6	UNSAT TT=51.522	UNSAT TT=205.635	UNSAT TT=205.959	? (TO) TT=2520.11	? (TO) TT=18363.5	? (TO) TT=18135.8	UNSAT TT=152.615
KnightTour/ KnightTour-ext-s1/ KnightTour-08-ext03.xml	SAT TT=2.538	SAT TT=4.662	SAT TT=2.682	SAT TT=2.538	SAT TT=4.246	SAT TT=2.601	SAT TT=4.094	SAT TT=2.612	SAT TT=5.253	SAT TT=2.882	SAT TT=4.615	SAT TT=12.366	SAT TT=19.061	SAT TT=13.081	SAT TT=14.547	SAT TT=220.128	SAT TT=189.329	SAT TT=190.531	SAT TT=316.131	SAT TT=289.397	SAT TT=60.346	SAT TT=554.119	SAT TT=567.623	SAT TT=59.161	SAT TT=565.545	SAT TT=552.241	SAT TT=798.236
KnightTour/ KnightTour-ext-s1/ KnightTour-12-ext04.xml	SAT TT=46.925	SAT TT=274.582	? (TO) TT=2520.03	? (TO) TT=2520.67	SAT TT=6475.94	SAT TT=52.41	SAT TT=101.049	SAT TT=46.925	SAT TT=105.319	? (TO) TT=2520.05	SAT TT=5262.69	? (TO) TT=2520.13	? (TO) TT=2520.1	? (TO) TT=2520.07	? (TO) TT=2520.08	? (TO) TT=2520.1	? (TO) TT=2520.08	? (TO) TT=2519.82	? (TO) TT=20115	? (TO) TT=20116.4	? (TO) TT=2520.09	? (TO) TT=18884.7	? (TO) TT=18889.3	? (TO) TT=2520.16	? (TO) TT=18782.9	? (TO) TT=18892.9	? (TO) TT=2519.95
KnightTour/ KnightTour-ext-s1/ KnightTour-15-ext06.xml	UNSAT TT=17.359	? (problem) TT=62.95	UNSAT TT=72.916	? TT=1474.95	? TT=1444.5	? TT=140.585	? TT=371.929	? TT=127.7	? TT=4677.65	? TT=118.042	? TT=406.131	UNSAT TT=69.283	UNSAT TT=67.426	UNSAT TT=60.097	UNSAT TT=62.701	UNSAT TT=19.91	UNSAT TT=17.41	UNSAT TT=17.359	UNSAT TT=51.291	UNSAT TT=50.348	UNSAT TT=2381.93	UNSAT TT=1317.65	UNSAT TT=1307.97	UNSAT TT=2392.3	UNSAT TT=1294.49	UNSAT TT=1352.86	? (TO) TT=2519.82
KnightTour/ KnightTour-ext-s1/ KnightTour-17-ext02.xml	UNSAT TT=0.031	UNSAT TT=4.264	UNSAT TT=0.233	UNSAT TT=5.522	UNSAT TT=15.168	UNSAT TT=5.595	UNSAT TT=11.072	UNSAT TT=7.09	UNSAT TT=11.273	UNSAT TT=2.489	UNSAT TT=11.826	UNSAT TT=18.152	UNSAT TT=19.026	UNSAT TT=17.815	UNSAT TT=17.097	UNSAT TT=0.037	UNSAT TT=0.031	UNSAT TT=0.031	UNSAT TT=0.416	UNSAT TT=0.418	UNSAT TT=38.588	UNSAT TT=38.756	UNSAT TT=38.167	UNSAT TT=38.54	UNSAT TT=38.16	UNSAT TT=38.542	UNSAT TT=1.262
KnightTour/ KnightTour-int-s1/ KnightTour-05-int.xml	UNSAT TT=0.033	UNSAT TT=3.361	UNSAT TT=0.033	UNSAT TT=1.684	UNSAT TT=2.56	UNSAT TT=1.697	UNSAT TT=2.275	UNSAT TT=1.664	UNSAT TT=2.132	UNSAT TT=1.243	UNSAT TT=2.18	UNSAT TT=7.101	UNSAT TT=6.96	UNSAT TT=7.338	UNSAT TT=6.562	UNSAT TT=0.069	UNSAT TT=0.062	UNSAT TT=0.061	UNSAT TT=0.066	UNSAT TT=0.065	UNSAT TT=7.652	UNSAT TT=23.163	UNSAT TT=23.723	UNSAT TT=8.308	UNSAT TT=25.123	UNSAT TT=23.048	UNSAT TT=5.501
KnightTour/ KnightTour-int-s1/ KnightTour-08-int.xml	SAT TT=8.591	SAT TT=9.621	SAT TT=154.63	SAT TT=18.816	SAT TT=41.107	SAT TT=34.34	SAT TT=64.829	SAT TT=39.9	SAT TT=62.126	SAT TT=8.591	SAT TT=39.428	SAT TT=51.682	? (TO) TT=2520.13	? (TO) TT=2520.13	SAT TT=71.33	SAT TT=2318.51	SAT TT=2283.4	SAT TT=2284.83	SAT TT=210.097	SAT TT=516.435	SAT TT=222.623	SAT TT=1930.15	SAT TT=1947.63	? (TO) TT=2520.11	SAT TT=1952.34	SAT TT=1930.19	SAT TT=80.063
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
KnightTour/ KnightTour-int-s1/ KnightTour-17-int.xml	UNSAT TT=0.736	UNSAT TT=8.222	UNSAT TT=1.847	UNSAT TT=41.013	UNSAT TT=82.682	UNSAT TT=40.752	UNSAT TT=80.979	UNSAT TT=45.167	UNSAT TT=80.928	UNSAT TT=12.442	UNSAT TT=80.809	UNSAT TT=29.975	UNSAT TT=30.677	UNSAT TT=29.068	UNSAT TT=30.413	UNSAT TT=0.744	UNSAT TT=0.736	UNSAT TT=0.745	UNSAT TT=1.083	UNSAT TT=1.132	? (TO) TT=2520.35	? (TO) TT=9427.53	? (TO) TT=9615.46	? (TO) TT=2520.19	? (TO) TT=9387.07	? (TO) TT=9423.45	? (TO) TT=2519.87
Langford/ Langford-m1-k3/ Langford-3-14.xml	UNSAT TT=45.4	UNSAT TT=233.213	UNSAT TT=1764.21	UNSAT TT=187.471	UNSAT TT=315.704	UNSAT TT=194.722	UNSAT TT=318.222	UNSAT TT=201.655	UNSAT TT=323.886	UNSAT TT=45.4	UNSAT TT=321.406	UNSAT TT=266.4	UNSAT TT=1130.6	UNSAT TT=739.906	UNSAT TT=623.751	UNSAT TT=565.24	UNSAT TT=551.319	UNSAT TT=549.748	UNSAT TT=4513.49	UNSAT TT=4198.88	UNSAT TT=163.051	UNSAT TT=599.728	UNSAT TT=596.78	UNSAT TT=366.333	UNSAT TT=602.58	UNSAT TT=604.198	UNSAT TT=169.69
Langford/ Langford-m1-k3/ Langford-3-30.xml		? (TO) TT=2520.1	? TT=2520.02	? (TO) TT=2520.78	? (TO) TT=20046.6	? (TO) TT=2520.51	? (TO) TT=20010.8	? (TO) TT=2520.63	? (TO) TT=20016.2	? (TO) TT=2520.13	? (TO) TT=20006.6	? (TO) TT=2520.09	? (TO) TT=2520.09	? (TO) TT=2520.12	? (TO) TT=2520.06	? (TO) TT=2520.05	? (TO) TT=2519.92	? (TO) TT=2520.02	? (TO) TT=20120.3	? (TO) TT=20120.9	? (TO) TT=2520.11	? (TO) TT=19516.1	? (TO) TT=19567.3	? (TO) TT=2520.15	? (TO) TT=19546.3	? (TO) TT=19638.8	? (TO) TT=2519.69
Langford/ Langford-m1-k3/ Langford-3-35.xml	SAT TT=46.149	SAT TT=112.438	? (TO) TT=2519.97	SAT TT=228.882	SAT TT=466.965	SAT TT=126.391	SAT TT=257.603	SAT TT=131.499	SAT TT=255.074	SAT TT=67.612	SAT TT=152.412	SAT TT=1321.56	? (TO) TT=2520.12	SAT TT=2010.75	SAT TT=1078.42	? (TO) TT=2519.82	? (TO) TT=2519.91	? (TO) TT=2519.83	? (TO) TT=20119.8	SAT TT=1917.01	SAT TT=372.927	SAT TT=731.001	SAT TT=761.468	SAT TT=46.149	SAT TT=757.869	SAT TT=759.803	SAT TT=337.942
Langford/ Langford-m1-k3/ Langford-3-45.xml	SAT TT=185.253	SAT TT=433.86	? (TO) TT=2519.61	SAT TT=524.666	SAT TT=1119.45	SAT TT=182.519	SAT TT=371.555	SAT TT=185.253	SAT TT=407.669	? (TO) TT=2520.1	SAT TT=231.877	? (TO) TT=2520.08	? (TO) TT=2520.07	? (TO) TT=2520.09	? (TO) TT=2520.11	? (TO) TT=2520.03	? (TO) TT=2520.08	? (TO) TT=2520.02	? (TO) TT=20119	? (TO) TT=20114.6	SAT TT=450.54	SAT TT=2253.19	SAT TT=2234.13	? (TO) TT=2520.11	SAT TT=2265.44	SAT TT=2285.34	? (TO) TT=2519.86
Langford/ Langford-m1-k4/ Langford-4-15.xml	UNSAT TT=22.394	UNSAT TT=161.114	UNSAT TT=1872.92	UNSAT TT=84.617	UNSAT TT=123.97	UNSAT TT=83.31	UNSAT TT=127.86	UNSAT TT=88.818	UNSAT TT=140.578	UNSAT TT=22.394	UNSAT TT=119.171	UNSAT TT=104.289	UNSAT TT=366.467	UNSAT TT=246.188	UNSAT TT=203.632	UNSAT TT=339.809	UNSAT TT=332.641	UNSAT TT=332.798	UNSAT TT=2068.93	UNSAT TT=1913.03	UNSAT TT=54.56	UNSAT TT=193.722	UNSAT TT=196.008	UNSAT TT=59.491	UNSAT TT=194.353	UNSAT TT=195.751	UNSAT TT=40.57
Langford/ Langford-m1-k4/ Langford-4-16.xml	UNSAT TT=85.547	UNSAT TT=681.784	? (TO) TT=2519.83	UNSAT TT=323.639	UNSAT TT=469.046	UNSAT TT=336.253	UNSAT TT=472.048	UNSAT TT=357.206	UNSAT TT=493.88	UNSAT TT=86.993	UNSAT TT=507.451	UNSAT TT=331.139	UNSAT TT=1688.68	UNSAT TT=1018.23	UNSAT TT=842.612	UNSAT TT=1752.39	UNSAT TT=1497.89	UNSAT TT=1500.24	UNSAT TT=13977.5	UNSAT TT=11356.6	UNSAT TT=172.898	UNSAT TT=521.533	UNSAT TT=531.108	UNSAT TT=115.741	UNSAT TT=522.385	UNSAT TT=531.741	UNSAT TT=85.547
Langford/ Langford-m2-s1/ LangfordBin-25.xml		? (TO) TT=2520.09	? TT=2520.02	? (TO) TT=2520.27	? (TO) TT=20057.4	? (TO) TT=2520.32	? (TO) TT=20058.7	? (TO) TT=2520.59	? (TO) TT=20048.9	? (TO) TT=2520.08	? (TO) TT=20059.5	? (TO) TT=2520.1	? (TO) TT=2520.13	? (TO) TT=2520.04	? (TO) TT=2520.07	? (TO) TT=2519.9	? (TO) TT=2520.04	? (TO) TT=2519.76	? (TO) TT=20083.6	? (TO) TT=20035.5	? (TO) TT=2520.08	? (TO) TT=17086.9	? (TO) TT=17050.4	? (TO) TT=2520.1	? (TO) TT=17213.6	? (TO) TT=17080.5	? (TO) TT=2519.92
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h374-01.xml	SAT TT=8.472	SAT TT=22.142	? (TO) TT=2519.97	SAT TT=152.175	SAT TT=318.435	SAT TT=7.63	SAT TT=18.701	SAT TT=8.472	SAT TT=14.093	SAT TT=113.018	SAT TT=459.664	SAT TT=47.828	SAT TT=38.967	SAT TT=44	SAT TT=39.318	? (TO) TT=2519.92	? (TO) TT=2520.08	? (TO) TT=2519.58	? (TO) TT=20117.9	? (TO) TT=20115.1	SAT TT=82.314	SAT TT=136.273	SAT TT=132.542	SAT TT=49.92	SAT TT=133.067	SAT TT=131.005	SAT TT=12.182
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h374-02.xml	SAT TT=10.202	SAT TT=13.603	? TT=2520.03	SAT TT=374.188	SAT TT=797.45	? (TO) TT=2520.47	SAT TT=1230.11	? (TO) TT=2520.39	SAT TT=1171.99	SAT TT=775.063	SAT TT=782.498	SAT TT=10.202	SAT TT=86.598	SAT TT=11.086	SAT TT=35.507	? (TO) TT=2520.06	? (TO) TT=2520.1	? (TO) TT=2519.95	? (TO) TT=20118.7	? (TO) TT=20113.6	SAT TT=42.883	SAT TT=125.818	SAT TT=123.315	SAT TT=35.104	SAT TT=120.131	SAT TT=119.806	SAT TT=13.417
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h374-05.xml	SAT TT=10.488	SAT TT=36.155	? (TO) TT=2519.93	SAT TT=161.792	SAT TT=311.71	SAT TT=1088.67	SAT TT=2334.93	SAT TT=1064.68	SAT TT=2067.09	SAT TT=331.32	SAT TT=3068.55	SAT TT=44.147	SAT TT=234.513	SAT TT=287.633	SAT TT=90.58	? (TO) TT=2520.05	? (TO) TT=2520.04	? (TO) TT=2520.08	? (TO) TT=20113.2	? (TO) TT=20116.3	SAT TT=87.137	SAT TT=160.333	SAT TT=161.584	SAT TT=119.809	SAT TT=161.802	SAT TT=166.721	SAT TT=10.488
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h374-07.xml	SAT TT=18.108	SAT TT=156.374	? (TO) TT=2520.01	? (TO) TT=2520.52	? (TO) TT=19951.3	? (TO) TT=2520.49	SAT TT=6226.53	? (TO) TT=2520.48	SAT TT=5848.35	SAT TT=826.027	SAT TT=7423.99	SAT TT=54.984	SAT TT=234.697	SAT TT=539.178	SAT TT=752.445	? (TO) TT=2520	? (TO) TT=2519.79	? (TO) TT=2519.93	? (TO) TT=20119.5	? (TO) TT=20115.8	SAT TT=116.904	SAT TT=278.117	SAT TT=280.933	SAT TT=95.729	SAT TT=281.565	SAT TT=277.395	SAT TT=18.108
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h374-08.xml	SAT TT=9.154	SAT TT=19.983	? (TO) TT=2520.01	SAT TT=432.567	SAT TT=865.816	SAT TT=241.071	SAT TT=469.466	SAT TT=231.137	SAT TT=489.639	SAT TT=1436.47	SAT TT=1392.15	SAT TT=26.247	SAT TT=54.85	SAT TT=174.693	SAT TT=15.37	? (TO) TT=2520.03	? (TO) TT=2519.71	? (TO) TT=2519.94	? (TO) TT=20116.3	? (TO) TT=20116.1	SAT TT=60.311	SAT TT=103.55	SAT TT=113.984	SAT TT=47.693	SAT TT=103.462	SAT TT=109.936	SAT TT=9.154
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h374-11.xml	SAT TT=18.79	SAT TT=52.28	? TT=2520.03	? (TO) TT=2520.74	SAT TT=10304.9	? (TO) TT=2520.39	? (TO) TT=20045.3	? (TO) TT=2520.68	SAT TT=13022.3	? (TO) TT=2520.03	SAT TT=17016.2	SAT TT=212.34	? (TO) TT=2520.07	SAT TT=144.797	SAT TT=18.79	? (TO) TT=2520.06	? (TO) TT=2520.03	? (TO) TT=2519.93	? (TO) TT=20115.3	? (TO) TT=20116.3	SAT TT=122.017	SAT TT=228.609	SAT TT=239.958	SAT TT=139.992	SAT TT=213.087	SAT TT=235.787	SAT TT=19.645
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h374-19.xml	SAT TT=32.512	SAT TT=432.688	? TT=2520.03	SAT TT=797.455	SAT TT=1587.59	? (TO) TT=2520.34	SAT TT=6578.23	? (TO) TT=2520.38	SAT TT=6473.57	? (TO) TT=2520.12	SAT TT=16648.6	SAT TT=237.719	SAT TT=1723.93	SAT TT=597.225	SAT TT=223.166	? (TO) TT=2519.44	? (TO) TT=2520.04	? (TO) TT=2520.02	? (TO) TT=20116.3	? (TO) TT=20116.9	SAT TT=91.05	SAT TT=217.651	SAT TT=215.651	SAT TT=134.119	SAT TT=212.491	SAT TT=215.996	SAT TT=32.512
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h375-01.xml	SAT TT=11.87	SAT TT=65.798	? (TO) TT=2519.73	SAT TT=944.66	SAT TT=1992.03	? (TO) TT=2520.42	? (TO) TT=20044.7	? (TO) TT=2520.48	? (TO) TT=20049.2	SAT TT=2197.74	SAT TT=18145.8	SAT TT=343.25	SAT TT=936.29	SAT TT=439.986	SAT TT=317.59	? (TO) TT=2520.06	? (TO) TT=2520.06	? (TO) TT=2520.06	? (TO) TT=20116.6	? (TO) TT=20116.4	SAT TT=96.36	SAT TT=480.808	SAT TT=490.469	SAT TT=179.69	SAT TT=480.426	SAT TT=484.371	SAT TT=11.87
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h375-06.xml	SAT TT=18.363	SAT TT=353.413	? (TO) TT=2520.02	SAT TT=341.737	SAT TT=725.532	? (TO) TT=2520.54	SAT TT=15829.2	? (TO) TT=2520.59	? (TO) TT=20046.1	? (TO) TT=2520.08	? (TO) TT=20042.4	SAT TT=120.684	SAT TT=263.908	SAT TT=269.107	SAT TT=40.806	? (TO) TT=2519.94	? (TO) TT=2519.78	? (TO) TT=2519.89	? (TO) TT=20117.3	? (TO) TT=20116.7	SAT TT=95.349	SAT TT=562.433	SAT TT=562.259	SAT TT=161.739	SAT TT=560.611	SAT TT=574.108	SAT TT=18.363
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h375-07.xml	SAT TT=9.084	SAT TT=17.808	? (TO) TT=2519.65	SAT TT=1305.65	SAT TT=2652.12	SAT TT=1153.26	SAT TT=2291.36	SAT TT=1153.4	SAT TT=2359.4	SAT TT=1279.55	SAT TT=282.4	SAT TT=13.983	SAT TT=69.626	SAT TT=83.953	SAT TT=89.647	? (TO) TT=2519.98	? (TO) TT=2519.88	? (TO) TT=2520.03	? (TO) TT=20116.2	? (TO) TT=20119.6	SAT TT=89.908	SAT TT=126.039	SAT TT=128.957	SAT TT=87.5	SAT TT=124.26	SAT TT=127.008	SAT TT=9.084
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h375-19.xml	SAT TT=6.572	SAT TT=6.572	? TT=2520.02	SAT TT=1162.95	SAT TT=2374.81	SAT TT=1433.17	SAT TT=2737.28	SAT TT=1371.61	SAT TT=2680.55	SAT TT=1100.63	SAT TT=2918.63	SAT TT=66.186	SAT TT=180.011	SAT TT=506.89	SAT TT=201.681	? (TO) TT=2519.81	? (TO) TT=2520.07	? (TO) TT=2520.08	? (TO) TT=20116.2	? (TO) TT=20120.1	SAT TT=61.049	SAT TT=225.632	SAT TT=230.393	SAT TT=60.262	SAT TT=225.124	SAT TT=236.259	SAT TT=11.021
LatinSquare/ LatinSquare-m1-gp/ qwh-o30-h375-20.xml	SAT TT=28.868	SAT TT=28.868	? (TO) TT=2520.02	? (TO) TT=2520.53	? (TO) TT=20072.4	? (TO) TT=2520.37	? (TO) TT=20046.7	? (TO) TT=2520.45	? (TO) TT=20051.9	? (TO) TT=2520.13	? (TO) TT=20051.2	SAT TT=297.395	? (TO) TT=2520.11	SAT TT=2096.82	SAT TT=345.901	? (TO) TT=2520.08	? (TO) TT=2520.01	? (TO) TT=2520.01	? (TO) TT=20118.5	? (TO) TT=20118.6	SAT TT=160.882	SAT TT=964.132	SAT TT=966.437	SAT TT=153.855	SAT TT=985.342	SAT TT=1014.72	SAT TT=41.201
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
LatinSquare/ LatinSquare-m1-gs/ qwh-o100-h10000.xml	SAT TT=67.705	SAT TT=133.527	? (TO) TT=2519.58	SAT TT=67.705	SAT TT=145.146	SAT TT=72.78	SAT TT=152.858	SAT TT=77.438	SAT TT=153.518	? (TO) TT=2520.11	SAT TT=154.451	SAT TT=1540.28	? (TO) TT=2520.44	? (TO) TT=2520.09	SAT TT=1502.85	? (TO) TT=2520.07	? (TO) TT=2519.81	? (TO) TT=2519.82	? (TO) TT=20114.2	? (TO) TT=20115.2	? (MO) TT=1528.23	? (TO) TT=1317.96	SAT TT=1344.84	? (MO) TT=1459.99	? (TO) TT=1353.59	SAT TT=1347.15	? (TO) TT=2519.71
LatinSquare/ LatinSquare-xcsp2-qcp25/ qcp-25-264-08_X2.xml	SAT TT=7.737	? (TO) TT=2520.07	? (TO) TT=2520.02	? (TO) TT=2520.46	? (TO) TT=20090.9	? (TO) TT=2520.67	? (TO) TT=20095.1	? (TO) TT=2520.72	? (TO) TT=20094.4	? (TO) TT=2520.06	? (TO) TT=20093.2	? (TO) TT=2520.1	? (TO) TT=2520.16	? (TO) TT=2520.13	? (TO) TT=2520.07	? (TO) TT=2520.09	? (TO) TT=2520.03	? (TO) TT=2520.05	? (TO) TT=20091.3	? (TO) TT=20094.9	SAT TT=25.728	SAT TT=64.509	SAT TT=63.528	SAT TT=33.043	SAT TT=62.649	SAT TT=62.088	SAT TT=7.737
LatinSquare/ LatinSquare-xcsp2-qcp25/ qcp-25-264-12_X2.xml	UNSAT TT=3.287	? (TO) TT=2520.08	? (TO) TT=2519.93	? (exit code) TT=-1	UNSAT TT=120.252	? (TO) TT=2520.52	UNSAT TT=6113.15	? (TO) TT=2520.35	UNSAT TT=5798.52	UNSAT TT=2059.93	UNSAT TT=6330.17	? (TO) TT=2520.04	? (TO) TT=2520.1	UNSAT TT=373.53	? (TO) TT=2520.07	UNSAT TT=97.022	UNSAT TT=114.456	UNSAT TT=87.787	UNSAT TT=16.374	UNSAT TT=23.787	UNSAT TT=21.889	UNSAT TT=24.121	UNSAT TT=24.112	UNSAT TT=21.711	UNSAT TT=22.716	UNSAT TT=22.118	UNSAT TT=3.287
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-018.xml	OPT f=25 TT=9.784 T1=0.89	OPT f=25 TT=18.279 T1=7.29	No data	OPT f=25 TT=32.155 T1=5.13	OPT f=25 TT=60.132 T1=7.66	OPT f=25 TT=41.435 T1=5.55	OPT f=25 TT=67.808 T1=9.04	OPT f=25 TT=35.451 T1=5.72	OPT f=25 TT=67.044 T1=9.86	OPT f=25 TT=9.784 T1=2.88	OPT f=25 TT=68.19 T1=7.95	OPT f=25 TT=172.946 T1=16.1	OPT f=25 TT=858.334 T1=69.77	OPT f=25 TT=206.535 T1=16.97	OPT f=25 TT=184.388 T1=15.85	OPT f=25 TT=60.32 T1=1	OPT f=25 TT=60.477 T1=1	OPT f=25 TT=60.021 T1=0.89	OPT f=25 TT=129.802 T1=2	OPT f=25 TT=145.034 T1=1.2	No data	No data	No data	No data	No data	No data	OPT f=25 TT=17.826 T1=17.78
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-019.xml	OPT f=29 TT=18.937 T1=1.89	OPT f=29 TT=34.56 T1=10.58	No data	OPT f=29 TT=58.246 T1=11.32	OPT f=29 TT=123.017 T1=18.94	OPT f=29 TT=79.69 T1=12.54	OPT f=29 TT=142.59 T1=20.5	OPT f=29 TT=72.936 T1=12.79	OPT f=29 TT=145.575 T1=16.61	OPT f=29 TT=18.937 T1=2.61	OPT f=29 TT=142.862 T1=15.8	OPT f=29 TT=620.964 T1=39	SAT (TO) f=29 TT=2520.11 T1=146.29	OPT f=29 TT=609.993 T1=71.45	OPT f=29 TT=668.406 T1=39.21	OPT f=29 TT=135.544 T1=1.99	OPT f=29 TT=131.902 T1=1.89	OPT f=29 TT=133.681 T1=1.89	OPT f=29 TT=376.712 T1=13.78	OPT f=29 TT=410.86 T1=3.41	No data	No data	No data	No data	No data	No data	OPT f=29 TT=32.485 T1=32.39
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-020.xml	OPT f=26 TT=23.245 T1=3.18	OPT f=26 TT=39.447 T1=16.2	No data	OPT f=26 TT=85.658 T1=11.92	OPT f=26 TT=160.68 T1=14.24	OPT f=26 TT=95.534 T1=9.13	OPT f=26 TT=196.627 T1=21.27	OPT f=26 TT=83.332 T1=11.89	OPT f=26 TT=171.202 T1=14.09	OPT f=26 TT=23.245 T1=5.93	OPT f=26 TT=161.109 T1=14.97	OPT f=26 TT=559.343 T1=184.32	SAT (TO) f=26 TT=2520.09 T1=204.37	OPT f=26 TT=1376.94 T1=18.9	OPT f=26 TT=712.729 T1=68.27	OPT f=26 TT=328.954 T1=3.19	OPT f=26 TT=337.688 T1=3.19	OPT f=26 TT=325.599 T1=3.18	OPT f=26 TT=435.382 T1=6.5	OPT f=26 TT=544.501 T1=8.12	No data	No data	No data	No data	No data	No data	OPT f=26 TT=30.185 T1=30.1
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-021.xml	OPT f=26 TT=31.688 T1=8.08	OPT f=26 TT=71.597 T1=40.21	No data	SAT (MO) f=798 TT=2.685 T1=2.63	OPT f=26 TT=212.717 T1=61.6	OPT f=26 TT=133.543 T1=22	OPT f=26 TT=258.219 T1=25.89	OPT f=26 TT=143.898 T1=56.91	OPT f=26 TT=266.571 T1=50.66	OPT f=26 TT=32.863 T1=8.08	OPT f=26 TT=293.305 T1=57.28	OPT f=26 TT=860.531 T1=472	SAT (TO) f=26 TT=2520.05 T1=537.23	OPT f=26 TT=2103.94 T1=27.94	OPT f=26 TT=2035.64 T1=334.25	OPT f=26 TT=383.949 T1=173.99	OPT f=26 TT=359.744 T1=164.88	OPT f=26 TT=362.296 T1=165.76	OPT f=26 TT=645.251 T1=93.47	OPT f=26 TT=1001.3 T1=7.25	No data	No data	No data	No data	No data	No data	OPT f=26 TT=31.688 T1=31.59
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-031.xml	SAT TO f=67 TT=2520.42 T1=2096.44	SAT (TO) f=87 TT=2520.06 T1=403.98	No data	SAT (TO) f=67 TT=2520.45 T1=2096.44	SAT (TO) f=67 TT=12950.3 T1=2381.43	SAT (TO) f=67 TT=2520.42 T1=2419.88	SAT (TO) f=67 TT=20047.6 T1=4882.3	SAT (MO) f=2687 TT=4.464 T1=4.36	SAT (TO) f=67 TT=20045.4 T1=3178.94	SAT (TO) f=71 TT=2520.06 T1=2230.69	SAT (TO) f=67 TT=20052.7 T1=5000.11	SAT (TO) f=91 TT=2520.1 T1=699.72	SAT (TO) f=87 TT=2520.06 T1=1194.62	SAT (TO) f=91 TT=2520.12 T1=1942.7	SAT (TO) f=91 TT=2520.08 T1=1552.42	SAT (TO) f=75 TT=2520.03 T1=531.6	SAT (TO) f=75 TT=2519.24 T1=563.11	SAT (TO) f=75 TT=2519.58 T1=557.6	SAT (TO) f=71 TT=20120.9 T1=9589.09	SAT (TO) f=67 TT=20124.1 T1=9900.58	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.82
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-033.xml	SAT TO f=64 TT=20057.7 T1=18123.8	SAT (TO) f=88 TT=2520.06 T1=991.22	No data	SAT (TO) f=84 TT=2520.53 T1=2312.6	Wrong Opt. f=184 TT=16.795 T1=15.9	SAT (TO) f=96 TT=2520.64 T1=833.85	SAT (TO) f=72 TT=20060.9 T1=10140.7	SAT (TO) f=96 TT=2520.58 T1=890.1	SAT (TO) f=64 TT=20051.3 T1=19743	SAT (TO) f=92 TT=2520.08 T1=1166.43	SAT (TO) f=64 TT=20057.7 T1=18123.8	SAT (TO) f=108 TT=2520.11 T1=1768.39	SAT (TO) f=128 TT=2520.08 T1=128.04	SAT (TO) f=100 TT=2520.05 T1=1000.95	SAT (TO) f=112 TT=2520.14 T1=1599.39	SAT (TO) f=96 TT=2520.03 T1=938.1	SAT (TO) f=96 TT=2520.1 T1=921.53	SAT (TO) f=96 TT=2519.93 T1=937.86	SAT (TO) f=84 TT=20123.8 T1=4619.57	SAT (TO) f=84 TT=20120.6 T1=9006.08	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.48
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-053.xml	SAT TO f=294 TT=2520.03 T1=2432.09	SAT (TO) f=634 TT=2520.06 T1=1924.15	No data	SAT (TO) f=654 TT=2520.72 T1=233.85	Wrong Opt. f=582 TT=145.495 T1=144.85	SAT (TO) f=322 TT=2520.46 T1=769.55	SAT (TO) f=338 TT=20079.3 T1=3800.09	SAT (TO) f=354 TT=2520.59 T1=204.34	SAT (TO) f=322 TT=20075.1 T1=11805.5	SAT (TO) f=294 TT=2520.03 T1=2432.09	SAT (TO) f=346 TT=20081.5 T1=268.41	SAT (TO) f=394 TT=2520.13 T1=2241.1	SAT (TO) f=494 TT=2520.07 T1=2253.81	SAT (TO) f=378 TT=2520.1 T1=1586.56	SAT (TO) f=394 TT=2520.07 T1=16.85	SAT (TO) f=398 TT=2520.04 T1=1099.19	SAT (TO) f=398 TT=2520.05 T1=1137.3	SAT (TO) f=398 TT=2520.01 T1=1095.98	SAT (TO) f=414 TT=20114.1 T1=961.37	SAT (TO) f=378 TT=20112.2 T1=10705.8	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.83
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-072.xml	SAT TO f=584 TT=20057 T1=1470.93	SAT (TO) f=1428 TT=2520.02 T1=11.03	No data	SAT (TO) f=1308 TT=2520.49 T1=451.6	Wrong Opt. f=1296 TT=166.94 T1=159.01	SAT (MO) f=68256 TT=13.756 T1=13.65	SAT (TO) f=616 TT=20051.6 T1=1673.14	SAT (TO) f=584 TT=2522.16 T1=1116.17	SAT (TO) f=512 TT=20072.3 T1=2126.3	SAT (TO) f=636 TT=2520.04 T1=2067.79	SAT (TO) f=584 TT=20057 T1=1470.93	SAT (TO) f=904 TT=2520.13 T1=155.07	SAT (TO) f=1028 TT=2520.06 T1=2518.87	SAT (TO) f=780 TT=2520.07 T1=1081.58	SAT (TO) f=880 TT=2520.12 T1=1674.55	SAT (TO) f=996 TT=2520.1 T1=2280.26	SAT (TO) f=996 TT=2520.04 T1=2264.81	SAT (TO) f=996 TT=2520.03 T1=2245.91	SAT (TO) f=860 TT=20104.8 T1=17310.8	SAT (TO) f=928 TT=20104.3 T1=17424.6	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.02
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-078.xml	SAT TO f=659 TT=2520.11 T1=1000.29	SAT (TO) f=2499 TT=2520.08 T1=11.16	No data	SAT (TO) f=1627 TT=2520.59 T1=1275.12	Wrong Opt. f=851 TT=2888.76 T1=2887.78	SAT (TO) f=811 TT=2520.4 T1=1718.54	SAT (TO) f=699 TT=20084 T1=2006.6	SAT (TO) f=811 TT=2520.75 T1=1934.35	SAT (TO) f=723 TT=20054.8 T1=3414.94	SAT (TO) f=659 TT=2520.11 T1=1000.29	SAT (TO) f=739 TT=20088.4 T1=626.06	SAT (TO) f=1291 TT=2520.09 T1=998.84	SAT (TO) f=1227 TT=2520.07 T1=30.33	SAT (TO) f=1051 TT=2520.09 T1=288.98	SAT (TO) f=1195 TT=2520.07 T1=633.65	SAT (TO) f=1131 TT=2519.87 T1=496.31	SAT (TO) f=1131 TT=2519.02 T1=455.86	SAT (TO) f=1131 TT=2520.07 T1=482.27	SAT (TO) f=1147 TT=20103.1 T1=14438.8	SAT (TO) f=1171 TT=20104.2 T1=4262.89	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.12
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-086.xml	SAT TO f=887 TT=2520.69 T1=348.29	SAT (TO) f=2775 TT=2520.04 T1=43.93	No data	SAT (TO) f=1871 TT=2520.64 T1=439.96	SAT (TO) f=1815 TT=13149.4 T1=3890.2	SAT (TO) f=887 TT=2520.69 T1=348.29	SAT (TO) f=927 TT=20077.5 T1=16151.2	SAT (TO) f=887 TT=2520.47 T1=401.41	SAT (TO) f=911 TT=20066 T1=11955.1	SAT (TO) f=999 TT=2520.08 T1=116.63	SAT (TO) f=887 TT=20051.9 T1=748.27	SAT (TO) f=1503 TT=2520.12 T1=1125.85	SAT (TO) f=1751 TT=2520.07 T1=2332.61	SAT (TO) f=1511 TT=2520.1 T1=2129.94	SAT (TO) f=1431 TT=2520.18 T1=616.92	SAT (TO) f=1495 TT=2461.91 T1=2394.5	SAT (TO) f=1495 TT=2478.49 T1=1897.08	SAT (TO) f=1495 TT=2519.77 T1=1873.5	SAT (TO) f=1279 TT=20095.8 T1=14636.2	SAT (TO) f=1415 TT=20096.3 T1=9769.29	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.9
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-088.xml	SAT TO f=812 TT=2520.07 T1=1814.25	SAT (TO) f=3472 TT=2520.03 T1=12.78	No data	SAT (TO) f=2076 TT=2520.5 T1=2176.06	SAT (TO) f=1504 TT=15140.4 T1=132.87	SAT (MO) f=130468 TT=13.845 T1=13.63	SAT (TO) f=1684 TT=20024.2 T1=8057.05	SAT (TO) f=912 TT=2520.67 T1=883.79	SAT (TO) f=1828 TT=20038 T1=36.9	SAT (TO) f=812 TT=2520.07 T1=1814.25	SAT (TO) f=1828 TT=20045.6 T1=32.27	SAT (TO) f=1664 TT=2520.11 T1=190.13	SAT (TO) f=1716 TT=2520.11 T1=442.99	SAT (TO) f=1552 TT=2520.14 T1=738.85	SAT (TO) f=1584 TT=2520.06 T1=685.29	SAT (TO) f=1876 TT=2479.56 T1=741.41	SAT (TO) f=1876 TT=2520.07 T1=773.04	SAT (TO) f=1876 TT=2472.6 T1=824.66	SAT (TO) f=1688 TT=20095.5 T1=1662.73	SAT (TO) f=1624 TT=20094.3 T1=11408.4	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.94
LowAutocorrelation/ LowAutocorrelation-m1-s1/ LowAutocorrelation-090.xml	SAT TO f=941 TT=19937.9 T1=675.72	SAT (TO) f=3269 TT=2520.04 T1=11.88	No data	SAT (TO) f=2165 TT=2520.46 T1=666.95	Wrong Opt. f=1133 TT=8869.54 T1=8869.03	SAT (TO) f=957 TT=2520.73 T1=744.67	SAT (TO) f=941 TT=19937.9 T1=7079.67	SAT (TO) f=957 TT=2520.55 T1=812.24	SAT (TO) f=941 TT=20042.5 T1=686.09	SAT (TO) f=989 TT=2520.07 T1=182.46	SAT (TO) f=941 TT=20047.3 T1=675.72	SAT (TO) f=1517 TT=2520.09 T1=1112.69	SAT (TO) f=1637 TT=2520.05 T1=600.71	SAT (TO) f=1629 TT=2520.13 T1=1719.55	SAT (TO) f=1701 TT=2520.16 T1=729.46	SAT (TO) f=1845 TT=2520.04 T1=1232.41	SAT (TO) f=1733 TT=2519.88 T1=2481.66	SAT (TO) f=1541 TT=2474.21 T1=2328.69	SAT (TO) f=1741 TT=20092.8 T1=8622.67	SAT (TO) f=1733 TT=20092.8 T1=14082.6	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.9
MagicHexagon/ MagicHexagon-m1-s1/ MagicHexagon-04-m018.xml	SAT TT=2.55	SAT TT=5.799	SAT TT=9.819	SAT TT=10.151	SAT TT=15.162	SAT TT=8.446	SAT TT=25.166	SAT TT=10.073	SAT TT=20.403	SAT TT=5.412	SAT TT=19.492	SAT TT=53.519	SAT TT=204.004	SAT TT=79.659	SAT TT=167.081	SAT TT=4.606	SAT TT=4.562	SAT TT=4.61	SAT TT=2.915	SAT TT=2.55	SAT TT=46.152	SAT TT=5348.73	SAT TT=5357.66	SAT TT=158.591	SAT TT=125.527	SAT TT=128.387	SAT TT=140.299
MagicHexagon/ MagicHexagon-m1-s1/ MagicHexagon-06-0021.xml	SAT TT=50.893	? (TO) TT=2520.05	? (TO) TT=2519.5	? (TO) TT=2520.72	? (TO) TT=20033.3	? (TO) TT=2520.52	SAT TT=49.385	? (TO) TT=2520.62	SAT TT=50.893	? (TO) TT=2520.04	SAT TT=53.072	? (TO) TT=2520.15	? (TO) TT=2520.05	? (TO) TT=2520.13	? (TO) TT=2520.08	? (TO) TT=2519.86	? (TO) TT=2519.8	? (TO) TT=2520.07	? (TO) TT=20113.2	? (TO) TT=20113.4	? (TO) TT=2520.13	? (TO) TT=18318.4	? (TO) TT=18085.7	? (TO) TT=2520.15	? (TO) TT=19129.3	? (TO) TT=19103.7	? (TO) TT=2519.65
MagicHexagon/ MagicHexagon-m1-s1/ MagicHexagon-06-m100.xml	SAT TT=11498	? (TO) TT=2520.05	? (TO) TT=2519.84	? (TO) TT=2520.57	? (TO) TT=20004.6	? (TO) TT=2520.66	? (TO) TT=19991	? (TO) TT=2520.41	? (TO) TT=19977.9	? (TO) TT=2520.13	? (TO) TT=19979.6	? (TO) TT=2520.12	? (TO) TT=2520.05	? (TO) TT=2520.11	? (TO) TT=2520.15	? (TO) TT=2519.46	? (TO) TT=2519.85	? (TO) TT=2520.04	SAT TT=11498	SAT TT=12169.8	? (TO) TT=2520.07	? (TO) TT=17887.3	? (TO) TT=17866.5	? (TO) TT=2520.11	? (TO) TT=18676.8	? (TO) TT=18668.3	? (TO) TT=2519.82
MagicHexagon/ MagicHexagon-m1-s1/ MagicHexagon-07-0080.xml	UNSAT TT=139.896	? (TO) TT=2520.03	? (TO) TT=2519.85	? (TO) TT=2520.38	UNSAT TT=6257.36	? (TO) TT=2520.53	UNSAT TT=6780.84	? (TO) TT=2520.25	UNSAT TT=6668.05	? (TO) TT=2520.13	UNSAT TT=6819.67	? (TO) TT=2520.07	? (TO) TT=2520.07	? (TO) TT=2520.11	? (TO) TT=2520.12	? (TO) TT=2520.02	? (TO) TT=2519.81	? (TO) TT=2519.97	? (TO) TT=20115	? (TO) TT=20114	? (TO) TT=2520.11	? (TO) TT=15515.6	? (TO) TT=15462.7	UNSAT TT=139.896	UNSAT TT=472.418	UNSAT TT=495.395	UNSAT TT=1158.69
MagicHexagon/ MagicHexagon-m1-s1/ MagicHexagon-08-m039.xml		? (TO) TT=2520.04	? (TO) TT=2520	? (TO) TT=2520.55	? (TO) TT=20002	? (TO) TT=2520.71	? (TO) TT=19837.5	? (TO) TT=2520.51	? (TO) TT=19845.3	? (TO) TT=2520.18	? (TO) TT=19858.2	? (TO) TT=2520.11	? (TO) TT=2520.17	? (TO) TT=2520.16	? (TO) TT=2520.11	? (TO) TT=2520.02	? (TO) TT=2520.08	? (TO) TT=2520.03	? (TO) TT=20114.4	? (TO) TT=20119.6	? (TO) TT=2520.13	? (TO) TT=19147.9	? (TO) TT=18712.6	? (MO) TT=165.874	? (TO) TT=2530.82	? (TO) TT=2531.19	? (TO) TT=2519.82
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
MagicHexagon/ MagicHexagon-m1-s1/ MagicHexagon-09-m057.xml		? (TO) TT=2520.06	? (TO) TT=2520.05	? (TO) TT=2520.48	? (TO) TT=19926.6	? (TO) TT=2520.6	? (TO) TT=19826.4	? (TO) TT=2520.34	? (TO) TT=19791.5	? (TO) TT=2520.15	? (TO) TT=19792.4	? (TO) TT=2520.12	? (TO) TT=2520.12	? (TO) TT=2520.07	? (TO) TT=2520.15	? (TO) TT=2519.96	? (TO) TT=2520.05	? (TO) TT=2519.95	? (TO) TT=20117.8	? (TO) TT=20118.7	? (TO) TT=2520.18	? (TO) TT=18316	? (TO) TT=18183.6	? (MO) TT=374.722	? (TO) TT=448.713	? (TO) TT=2548.15	? (TO) TT=2519.97
MagicSequence/ MagicSequence-card-s1/ MagicSequence-1000-ca.xml	SAT TT=3.157	SAT TT=93.941	SAT TT=230.585	SAT TT=6.582	SAT TT=14.312	SAT TT=11.608	SAT TT=13.332	SAT TT=9.586	SAT TT=12.924	SAT TT=3.157	SAT TT=12.242	SAT TT=205.493	? TT=59.187	SAT TT=162.125	SAT TT=184.631	SAT TT=102.292	SAT TT=64.94	SAT TT=91.237	SAT TT=603.258	SAT TT=581.14	SAT TT=1772.37	SAT TT=1820.98	SAT TT=1823.35	SAT TT=1437.31	SAT TT=1435.45	SAT TT=1445.09	SAT TT=678.639
MagicSequence/ MagicSequence-card-s1/ MagicSequence-800-ca.xml	SAT TT=2.786	SAT TT=54.04	SAT TT=126.651	SAT TT=6.22	SAT TT=12.36	SAT TT=5.847	SAT TT=11.059	SAT TT=6.694	SAT TT=17.683	SAT TT=2.786	SAT TT=8.996	SAT TT=28.906	? TT=37.554	SAT TT=137.307	SAT TT=49.024	SAT TT=41.746	SAT TT=42.227	SAT TT=46.632	SAT TT=224.076	SAT TT=278.479	SAT TT=880.126	SAT TT=995.887	SAT TT=988.048	SAT TT=669.085	SAT TT=850.498	SAT TT=838.876	SAT TT=535.786
MagicSequence/ MagicSequence-count-s1/ MagicSequence-1000-co.xml	SAT TT=10.739	SAT TT=95.127	SAT TT=239.931	SAT TT=37.582	SAT TT=71.881	SAT TT=74.995	SAT TT=74.216	SAT TT=72.694	SAT TT=81.233	SAT TT=10.739	SAT TT=72.173	SAT TT=97.715	? TT=51.788	SAT TT=184.392	SAT TT=254.48	SAT TT=91.192	SAT TT=91.012	SAT TT=91.149	SAT TT=448.59	SAT TT=333.803	SAT TT=1765.21	SAT TT=1775.46	SAT TT=1791.27	SAT TT=1334.46	SAT TT=1444.01	SAT TT=1414.31	SAT TT=674.516
MagicSequence/ MagicSequence-count-s1/ MagicSequence-600-co.xml	SAT TT=7.064	SAT TT=20.785	SAT TT=58.801	SAT TT=17.255	SAT TT=42.351	SAT TT=25.312	SAT TT=36.577	SAT TT=21.378	SAT TT=29.552	SAT TT=7.064	SAT TT=24.489	SAT TT=44.243	? TT=21.885	SAT TT=66.102	SAT TT=60.285	SAT TT=14.687	SAT TT=14.306	SAT TT=14.488	SAT TT=110.966	SAT TT=36.066	SAT TT=397.05	SAT TT=456.381	SAT TT=457.871	? (NS) TT=1938.7	? (NS) TT=12601.5	? (NS) TT=13252.1	SAT TT=392.773
MagicSquare/ MagicSquare-mdd-s1/ MagicSquare-9-mdd.xml	SAT TT=23.367	SAT TT=84.746	? (TO) TT=2519.77	SAT TT=161.423	SAT TT=327.855	SAT TT=106.59	SAT TT=216.661	SAT TT=108.46	SAT TT=218.006	? (TO) TT=2520.06	SAT TT=253.485	SAT TT=35.853	SAT TT=93.2	SAT TT=32.841	SAT TT=25.26	SAT TT=26.101	SAT TT=23.373	SAT TT=23.367	SAT TT=31.328	SAT TT=31.9	? (TO) TT=2520.15	? (TO) TT=15601.5	? (TO) TT=15580.4	? (TO) TT=2520.1	? (TO) TT=15545	? (TO) TT=15643.5	? (TO) TT=2520.02
MagicSquare/ MagicSquare-sum-s1/ MagicSquare-12-sum.xml	SAT TT=4.445	SAT TT=139.782	? TT=2520.01	SAT TT=60.412	SAT TT=124.549	SAT TT=134.038	SAT TT=249.379	SAT TT=127.858	SAT TT=251.614	? (TO) TT=2520.12	SAT TT=41.282	SAT TT=20.818	SAT TT=46.445	SAT TT=35.237	SAT TT=22.606	SAT TT=5.142	SAT TT=4.45	SAT TT=4.445	SAT TT=26.821	SAT TT=25.775	? (TO) TT=2520.14	? (TO) TT=18247.2	? (TO) TT=18088.6	? (TO) TT=2520.27	? (TO) TT=4687.57	SAT TT=4464.38	? (TO) TT=2519.87
MagicSquare/ MagicSquare-sum-s1/ MagicSquare-13-sum.xml	SAT TT=16.612	? (TO) TT=2520.12	? TT=2520.02	SAT TT=550.449	SAT TT=1055.18	SAT TT=113.146	SAT TT=224.866	SAT TT=108.313	SAT TT=216.249	? (TO) TT=2520.1	SAT TT=116.866	SAT TT=86.469	SAT TT=39.992	SAT TT=98.163	SAT TT=23.386	SAT TT=19.201	SAT TT=16.65	SAT TT=16.612	SAT TT=105.069	SAT TT=102.14	SAT TT=1139.4	? (TO) TT=18343.9	? (TO) TT=18526	? (TO) TT=2520.48	? (TO) TT=2531.3	? (TO) TT=2534.09	? (TO) TT=2519.7
Mario/Mario-zinc-s1/ Mario-n-medium-2.xml	OPT f=1053 TT=218.444 T1=17.98	OPT f=1053 TT=451.399 T1=446.62	No data	OPT f=1053 TT=218.444 T1=162.35	OPT f=1053 TT=386.653 T1=211.84	OPT f=1053 TT=272.508 T1=230.81	OPT f=1053 TT=433.287 T1=299.58	Wrong UNSAT TT=1.967	Wrong UNSAT TT=3.03	OPT f=1053 TT=238.721 T1=210.56	OPT f=1053 TT=408.487 T1=291.41	OPT f=1053 TT=1162.22 T1=1013.77	SAT (TO) f=990 TT=2520.11 T1=290.71	OPT f=1053 TT=1536.53 T1=1511.4	OPT f=1053 TT=777.265 T1=17.98	OPT f=1053 TT=560.596 T1=354.44	OPT f=1053 TT=555.872 T1=351.79	OPT f=1053 TT=553.468 T1=349.8	OPT f=1053 TT=2477.15 T1=1604.37	OPT f=1053 TT=1811.29 T1=275.3	No data	No data	No data	No data	No data	No data	OPT f=1053 TT=851.451 T1=417.27
Mario/Mario-zinc-s1/ Mario-n-medium-3.xml	OPT f=943 TT=57.23 T1=4.69	OPT f=943 TT=57.23 T1=47.38	No data	OPT f=943 TT=105.584 T1=40.34	OPT f=943 TT=186.482 T1=89.4	OPT f=943 TT=108.846 T1=61.99	OPT f=943 TT=183.457 T1=46.53	Wrong UNSAT TT=1.995	Wrong UNSAT TT=2.943	OPT f=943 TT=89.354 T1=55	OPT f=943 TT=163.203 T1=12.56	OPT f=943 TT=315.37 T1=29.42	OPT f=943 TT=846.745 T1=206.97	OPT f=943 TT=508.417 T1=46.77	OPT f=943 TT=331.64 T1=13.14	OPT f=943 TT=280.9 T1=4.79	OPT f=943 TT=278.395 T1=4.69	OPT f=943 TT=279.652 T1=4.79	OPT f=943 TT=824.385 T1=32.57	OPT f=943 TT=786.303 T1=191.51	No data	No data	No data	No data	No data	No data	OPT f=943 TT=751.838 T1=197.98
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Mario/Mario-zinc-s1/ Mario-n-medium-4.xml	OPT f=832 TT=98.461 T1=6.15	OPT f=832 TT=112.147 T1=49.52	No data	OPT f=832 TT=100.389 T1=99.06	OPT f=832 TT=177.058 T1=98.28	OPT f=832 TT=98.461 T1=73.31	OPT f=832 TT=154.404 T1=36.42	Wrong UNSAT TT=2.048	Wrong UNSAT TT=3.036	OPT f=832 TT=118.841 T1=49.21	OPT f=832 TT=190.259 T1=184.76	OPT f=832 TT=351.693 T1=16.69	OPT f=832 TT=733.223 T1=27.91	OPT f=832 TT=388.613 T1=57.32	OPT f=832 TT=272.475 T1=14.89	OPT f=832 TT=232.939 T1=91.81	OPT f=832 TT=231.169 T1=91.07	OPT f=832 TT=233.635 T1=91.98	OPT f=832 TT=831.41 T1=6.15	OPT f=832 TT=853.004 T1=400.69	No data	No data	No data	No data	No data	No data	OPT f=832 TT=326.874 T1=167.99
Mario/Mario-zinc-s1/ Mario-n-medium-5.xml	OPT f=771 TT=74.658 T1=18.1	OPT f=771 TT=74.658 T1=20.89	No data	OPT f=771 TT=108.798 T1=45.9	OPT f=771 TT=179.538 T1=110.54	OPT f=771 TT=97.601 T1=80.63	OPT f=771 TT=201.176 T1=83.29	Wrong UNSAT TT=2.116	Wrong UNSAT TT=2.939	OPT f=771 TT=115.71 T1=18.1	OPT f=771 TT=171.105 T1=110.57	OPT f=771 TT=389.279 T1=69.52	OPT f=771 TT=1192.21 T1=308.41	OPT f=771 TT=782.672 T1=288.44	OPT f=771 TT=549.723 T1=174.75	OPT f=771 TT=491.211 T1=356.65	OPT f=771 TT=426.132 T1=309.67	OPT f=771 TT=423.256 T1=307.29	OPT f=771 TT=1555.67 T1=409.45	OPT f=771 TT=1852.89 T1=1029.13	No data	No data	No data	No data	No data	No data	OPT f=771 TT=626.284 T1=177.7
Mario/Mario-zinc-s1/ Mario-t-hard-1.xml	OPT f=4783 TT=4.916 T1=4.89	OPT f=4783 TT=104.705 T1=104.68	No data	OPT f=4783 TT=10.041 T1=9.95	OPT f=4783 TT=24.11 T1=24.06	OPT f=4783 TT=10.162 T1=10.06	OPT f=4783 TT=19.085 T1=18.86	Wrong UNSAT TT=3.811	Wrong UNSAT TT=6.325	OPT f=4783 TT=16.073 T1=16.01	OPT f=4783 TT=20.25 T1=20.01	OPT f=4783 TT=21.343 T1=21.24	OPT f=4783 TT=104.851 T1=104.73	OPT f=4783 TT=44.348 T1=44.07	OPT f=4783 TT=24.227 T1=24.16	OPT f=4783 TT=4.916 T1=4.89	OPT f=4783 TT=5.037 T1=5	OPT f=4783 TT=4.991 T1=4.89	OPT f=4783 TT=23.606 T1=23	OPT f=4783 TT=20.143 T1=19.76	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.8
Mario/Mario-zinc-s1/ Mario-t-hard-2.xml	OPT f=4850 TT=15.668 T1=15.57	OPT f=4850 TT=123.812 T1=123.75	No data	OPT f=4850 TT=55.569 T1=55.47	OPT f=4850 TT=61.754 T1=61.69	OPT f=4850 TT=50.901 T1=50.79	OPT f=4850 TT=50.129 T1=50.08	OPT f=4850 TT=53.667 T1=53.33	OPT f=4850 TT=14.263 T1=14.13	OPT f=4850 TT=15.668 T1=15.57	OPT f=4850 TT=53.161 T1=52.89	OPT f=4850 TT=21.968 T1=21.92	OPT f=4850 TT=91.004 T1=90.94	OPT f=4850 TT=51.5 T1=51.39	OPT f=4850 TT=21.309 T1=21.13	OPT f=4850 TT=30.156 T1=30.1	OPT f=4850 TT=30.718 T1=30.69	OPT f=4850 TT=31.063 T1=31	OPT f=4850 TT=150.311 T1=149.89	OPT f=4850 TT=264.682 T1=264.11	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.96
Mario/Mario-zinc-s1/ Mario-t-hard-5.xml	OPT f=4482 TT=16.108 T1=15.95	OPT f=4482 TT=89.234 T1=89.2	No data	OPT f=4482 TT=50.462 T1=50.26	OPT f=4482 TT=53.507 T1=53.32	OPT f=4482 TT=24.587 T1=24.54	OPT f=4482 TT=26.81 T1=26.71	Wrong UNSAT TT=3.702	Wrong UNSAT TT=6.685	OPT f=4482 TT=16.108 T1=15.95	OPT f=4482 TT=34.215 T1=34.14	OPT f=4482 TT=23.535 T1=23.47	OPT f=4482 TT=104.071 T1=103.93	OPT f=4482 TT=49.578 T1=49.52	OPT f=4482 TT=27.901 T1=27.81	OPT f=4482 TT=18.814 T1=18.79	OPT f=4482 TT=17.369 T1=17.29	OPT f=4482 TT=17.277 T1=17.18	OPT f=4482 TT=29.157 T1=28.52	OPT f=4482 TT=28.277 T1=27.73	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.88
MaxCSP/MaxCSP-kbtree-s9-5/ kbtree-9-5-3-5-80-33.xml	UNSAT TT=0.006	UNSAT TT=3.474	UNSAT TT=0.01	UNSAT TT=1.789	UNSAT TT=2.448	UNSAT TT=1.797	UNSAT TT=2.386	UNSAT TT=1.77	UNSAT TT=2.413	UNSAT TT=1.152	UNSAT TT=2.403	UNSAT TT=5.933	UNSAT TT=6.545	UNSAT TT=5.959	UNSAT TT=5.321	UNSAT TT=0.014	UNSAT TT=0.013	UNSAT TT=0.013	UNSAT TT=0.019	UNSAT TT=0.019	UNSAT TT=2.109	UNSAT TT=2.178	UNSAT TT=2.205	UNSAT TT=2.088	UNSAT TT=2.2	UNSAT TT=2.156	UNSAT TT=0.006
MaxCSP/MaxCSP-maxclique-s1/ MaxCSP-brock-800-2.xml	UNSAT TT=1.221	UNSAT TT=12.766	UNSAT TT=2.214	UNSAT TT=18.795	UNSAT TT=43.924	UNSAT TT=18.067	UNSAT TT=42.813	UNSAT TT=18.453	UNSAT TT=42.085	UNSAT TT=7.247	UNSAT TT=44.36	UNSAT TT=25.952	UNSAT TT=25.248	UNSAT TT=25.03	UNSAT TT=24.738	UNSAT TT=1.888	UNSAT TT=1.868	UNSAT TT=1.872	UNSAT TT=4.316	UNSAT TT=4.373	UNSAT TT=20.59	UNSAT TT=19.72	UNSAT TT=20.781	UNSAT TT=20.234	UNSAT TT=20.262	UNSAT TT=21.076	UNSAT TT=1.221
Mixed/ Mixed-xcsp2-cril/ cril-2_X2.xml	UNSAT TT=0.103	UNSAT TT=8.218	UNSAT TT=190.35	UNSAT TT=4.262	UNSAT TT=7.102	UNSAT TT=4.193	UNSAT TT=6.947	UNSAT TT=4.339	UNSAT TT=7.391	UNSAT TT=2.498	UNSAT TT=6.998	UNSAT TT=122.641	UNSAT TT=186.591	UNSAT TT=28.39	UNSAT TT=114.052	UNSAT TT=0.104	UNSAT TT=0.105	UNSAT TT=0.103	UNSAT TT=0.186	UNSAT TT=0.168	UNSAT TT=15.233	UNSAT TT=17.398	UNSAT TT=17.572	UNSAT TT=15.697	UNSAT TT=17.605	UNSAT TT=17.125	UNSAT TT=0.14
Nonogram/ Nonogram-table-s1/ Nonogram-020-table.xml	SAT TT=3.701	SAT TT=11.781	SAT TT=3.701	SAT TT=27.442	SAT TT=65.502	SAT TT=27.289	SAT TT=65.205	SAT TT=27.518	SAT TT=67.605	SAT TT=7.198	SAT TT=63.981	SAT TT=20.448	SAT TT=20.678	SAT TT=20.711	SAT TT=19.644	SAT TT=19.738	SAT TT=19.687	SAT TT=19.774	SAT TT=26.405	SAT TT=26.624	SAT TT=128.484	SAT TT=126.395	SAT TT=160.568	SAT TT=129.804	SAT TT=131.276	SAT TT=131.342	SAT TT=15.567
Nonogram/ Nonogram-table-s1/ Nonogram-122-table.xml	SAT TT=32.326	SAT TT=72.907	SAT TT=32.326	? TT=721.737	? TT=3132.67	? TT=784.847	? TT=3249.78	? TT=761.62	? TT=3261.3	SAT TT=65.102	? TT=3054.21	SAT TT=112.421	SAT TT=114.535	SAT TT=111.199	SAT TT=112.774	SAT TT=199.4	SAT TT=173.021	SAT TT=172.87	SAT TT=219.553	SAT TT=229.26	SAT TT=618.291	SAT TT=642.244	SAT TT=656.967	SAT TT=621.315	SAT TT=653.44	SAT TT=641.77	SAT TT=159.167
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
NumberPartitioning/ NumberPartitioning-m1-s1/ NumberPartitioning-064.xml	SAT TT=5.184	SAT TT=5.184	SAT TT=76.355	SAT TT=18.046	SAT TT=32.919	SAT TT=18.841	SAT TT=31.706	SAT TT=19.13	SAT TT=31.436	SAT TT=6.873	SAT TT=30.979	SAT TT=20.905	SAT TT=15.131	SAT TT=19.991	SAT TT=14.656	? (TO) TT=2519.93	? (TO) TT=2520.01	? (TO) TT=2519.89	SAT TT=38.641	SAT TT=36.882	SAT TT=153.781	SAT TT=122.137	SAT TT=121.222	? (TO) TT=2528.05	? (TO) TT=17646.9	? (TO) TT=17557.4	SAT TT=13.372
NumberPartitioning/ NumberPartitioning-m1-s1/ NumberPartitioning-116.xml	SAT TT=23.713	SAT TT=23.713	SAT TT=520.022	SAT TT=161.187	SAT TT=336.459	SAT TT=380.912	SAT TT=318.665	SAT TT=406.212	SAT TT=303.717	? (TO) TT=2520.1	SAT TT=322.72	SAT TT=268.208	SAT TT=727.017	SAT TT=36.712	SAT TT=31.3	? (TO) TT=2520.03	? (TO) TT=2520.05	? (TO) TT=2520.04	? (TO) TT=20096.2	? (TO) TT=20096.8	SAT TT=1114.82	? (TO) TT=16994.5	? (TO) TT=16865.4	? (TO) TT=2528.09	? (NS) TT=3518.96	? (NS) TT=3644.44	SAT TT=26.203
NumberPartitioning/ NumberPartitioning-m1-s1/ NumberPartitioning-128.xml	SAT TT=25.859	SAT TT=25.859	SAT TT=129.069	SAT TT=260.84	SAT TT=544.244	SAT TT=218.711	SAT TT=457.39	SAT TT=217.375	SAT TT=459.403	SAT TT=55.387	SAT TT=447.68	SAT TT=144.49	SAT TT=905.384	SAT TT=1840.94	? (TO) TT=2520.17	? (TO) TT=2520.03	? (TO) TT=2520.05	? (TO) TT=2520.03	? (TO) TT=20082.8	? (TO) TT=20079.6	SAT TT=1413.47	? (TO) TT=16705.6	? (TO) TT=16686.9	? (NS) TT=1711.86	? (NS) TT=3646.5	? (NS) TT=3705.59	SAT TT=48.154
NumberPartitioning/ NumberPartitioning-m1-s1/ NumberPartitioning-144.xml	SAT TT=31.334	SAT TT=31.334	SAT TT=155.088	SAT TT=41.351	SAT TT=94.683	SAT TT=155.023	SAT TT=297.822	SAT TT=145.133	SAT TT=37.611	? (TO) TT=2520.11	SAT TT=36.065	SAT TT=74.84	SAT TT=41.534	SAT TT=1151.25	? (TO) TT=2520.28	? (TO) TT=2520.02	? (TO) TT=2520.04	? (TO) TT=2520.04	? (TO) TT=20084.2	? (TO) TT=20081.9	? (TO) TT=2520.12	? (TO) TT=17496.8	? (TO) TT=16473.8	? (NS) TT=1507.34	? (NS) TT=3509.61	? (NS) TT=3554.11	SAT TT=151.011
NumberPartitioning/ NumberPartitioning-m1-s1/ NumberPartitioning-152.xml	SAT TT=6.685	SAT TT=33.745	SAT TT=1318.71	SAT TT=22.797	SAT TT=51.733	SAT TT=17.576	SAT TT=33.838	SAT TT=17.304	SAT TT=43.329	SAT TT=6.685	SAT TT=41.926	SAT TT=18.887	? (TO) TT=2520.11	? (TO) TT=2520.11	SAT TT=724.426	? (TO) TT=2520.02	? (TO) TT=2520.04	? (TO) TT=2519.94	? (TO) TT=20082.5	? (TO) TT=20085.6	? (TO) TT=2520.19	? (TO) TT=15498.8	? (TO) TT=15499.5	? (NS) TT=1506.1	? (NS) TT=3552.53	? (NS) TT=3580.77	SAT TT=773.418
NumberPartitioning/ NumberPartitioning-m1-s1/ NumberPartitioning-164.xml	SAT TT=118.733	SAT TT=203.099	? (TO) TT=2520.02	SAT TT=118.733	SAT TT=349.156	SAT TT=1399.99	SAT TT=2756.68	SAT TT=1448.49	SAT TT=2964.65	? (TO) TT=2520.1	SAT TT=3086.45	? (TO) TT=2520.13	? (TO) TT=2520.13	? (TO) TT=2520.08	? (TO) TT=2520.17	? (TO) TT=2520.03	? (TO) TT=2520.05	? (TO) TT=2520.04	? (TO) TT=20090.4	? (TO) TT=20085.1	? (TO) TT=2520.12	? (TO) TT=15186.6	? (TO) TT=15243.7	? (NS) TT=1509.56	? (NS) TT=17248.9	? (NS) TT=14186.2	SAT TT=383.355
NumberPartitioning/ NumberPartitioning-m1-s1/ NumberPartitioning-184.xml	SAT TT=114.434	SAT TT=920.903	? (TO) TT=2520.04	SAT TT=114.434	SAT TT=291.57	SAT TT=248.872	SAT TT=494.79	SAT TT=245.691	SAT TT=511.56	? (TO) TT=2520.06	SAT TT=514.442	? (TO) TT=2520.07	? (TO) TT=2520.1	? (TO) TT=2520.09	? (TO) TT=2520.12	? (TO) TT=2520.02	? (TO) TT=2519.83	? (TO) TT=2519.81	? (TO) TT=20088.5	? (TO) TT=20092.1	? (TO) TT=2520.24	? (TO) TT=8785.67	? (TO) TT=8991.19	? (NS) TT=1552.39	? (NS) TT=3175.95	? (NS) TT=3239.91	SAT TT=1339.77
NurseRostering/ NurseRostering-01_c18.xml	OPT f=607 TT=6.239 T1=1.79	OPT f=607 TT=9.369 T1=8.62	No data	OPT f=607 TT=90.236 T1=55.25	OPT f=607 TT=161.818 T1=87.08	OPT f=607 TT=82.42 T1=6.64	OPT f=607 TT=191.851 T1=18.52	OPT f=607 TT=88.463 T1=13.75	OPT f=607 TT=179.227 T1=22.41	OPT f=607 TT=398.145 T1=3.26	OPT f=607 TT=169.912 T1=23.13	OPT f=607 TT=72.263 T1=16.48	OPT f=607 TT=461.575 T1=26	OPT f=607 TT=65.239 T1=19.42	OPT f=607 TT=114.754 T1=15.78	OPT f=607 TT=6.261 T1=1.79	OPT f=607 TT=6.261 T1=1.79	OPT f=607 TT=6.239 T1=1.79	OPT f=607 TT=23.31 T1=8.28	OPT f=607 TT=18.501 T1=1.98	No data	No data	No data	No data	No data	No data	OPT f=607 TT=49.577 T1=49.49
NurseRostering/ NurseRostering-18_c18.xml	SAT TO f=48151 TT=2520.05 T1=24.6	SAT (TO) f=48151 TT=2520.05 T1=24.6	No data	? (TO) TT=2520.68	? (TO) TT=20072.6	? (TO) TT=2520.58	? (TO) TT=20061.8	? (TO) TT=2520.34	? (TO) TT=20056.2	? (TO) TT=2520.1	? (TO) TT=20059	? (TO) TT=2520.06	? (TO) TT=2520.17	? (TO) TT=2520.06	? (TO) TT=2520.08	? (TO) TT=2519.97	? (TO) TT=2520.11	? (TO) TT=2519.71	? (TO) TT=20104.8	? (TO) TT=20103.1	No data	No data	No data	No data	No data	No data	? (TO) TT=2520.06
Opd/Opd-sum-large/ Opd-03-350-100.xml	OPT f=0 TT=2.118 T1=2.04	OPT f=0 TT=4.107 T1=3.99	No data	OPT f=0 TT=2.118 T1=2.04	OPT f=0 TT=4.967 T1=4.77	OPT f=0 TT=2.159 T1=2.08	OPT f=0 TT=3.767 T1=3.2	OPT f=0 TT=2.122 T1=2.02	OPT f=0 TT=3.701 T1=3.31	OPT f=0 TT=4.56 T1=4.32	OPT f=0 TT=4.917 T1=4.18	OPT f=0 TT=16.829 T1=16.69	OPT f=0 TT=122.903 T1=122.8	OPT f=0 TT=30.493 T1=30.4	OPT f=0 TT=19.968 T1=19.76	? (MO) TT=2092.15	? (MO) TT=2063.43	? (MO) TT=2389.63	? (TO) TT=2520.57	? (TO) TT=2520.35	No data	No data	No data	No data	No data	No data	OPT f=0 TT=13.945 T1=13.89
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Opd/Opd-sum-large/ Opd-04-350-100.xml	OPT f=9 TT=10.178 T1=10.12	SAT (TO) f=12 TT=2520.02 T1=12.54	No data	OPT f=9 TT=38.76 T1=38.71	OPT f=9 TT=1207.65 T1=1207.52	OPT f=9 TT=21.912 T1=21.61	OPT f=9 TT=524.923 T1=524.4	OPT f=9 TT=21.877 T1=21.85	OPT f=9 TT=288.464 T1=288.28	OPT f=9 TT=10.178 T1=10.12	OPT f=9 TT=1975.93 T1=1975.22	SAT (TO) f=42 TT=2520.15 T1=616.96	SAT (TO) f=10 TT=2520.13 T1=77.94	SAT (TO) f=39 TT=2520.13 T1=25.07	SAT (TO) f=10 TT=2520.08 T1=272.48	? (MO) TT=2365.76	? (MO) TT=2072.75	? (MO) TT=2098.3	? (TO) TT=2520.57	? (TO) TT=2520.9	No data	No data	No data	No data	No data	No data	OPT f=9 TT=55.008 T1=54.99
Opd/Opd-sum-large/ Opd-09-350-100.xml	SAT TO f=48 TT=2520.13 T1=484.18	SAT (TO) f=82 TT=2520.06 T1=915.03	No data	? (TO) TT=2520.58	SAT (TO) f=87 TT=20065.8 T1=17343.6	? (TO) TT=2520.59	SAT (TO) f=218 TT=20043.3 T1=19316.9	? (TO) TT=2520.68	SAT (TO) f=218 TT=20039.8 T1=18198.4	? (TO) TT=2520.04	SAT (TO) f=218 TT=20034.5 T1=19367.2	SAT (TO) f=76 TT=2520.12 T1=931.46	SAT (TO) f=72 TT=2520.16 T1=2258.9	SAT (TO) f=48 TT=2520.13 T1=484.18	SAT (TO) f=68 TT=2520.17 T1=85.03	? (MO) TT=2350.13	? (MO) TT=2081.78	? (MO) TT=2068.54	? (TO) TT=2520.6	? (TO) TT=2520.57	No data	No data	No data	No data	No data	No data	? (TO) TT=2519.77
Opd/Opd-sum-large/ Opd-15-035-010.xml	OPT f=3 TT=6.186 T1=6.07	OPT f=3 TT=40.976 T1=40.93	No data	OPT f=3 TT=14.37 T1=14.25	OPT f=3 TT=25.214 T1=24.51	OPT f=3 TT=11.982 T1=11.9	OPT f=3 TT=25.921 T1=25.52	OPT f=3 TT=11.579 T1=11.46	OPT f=3 TT=97.232 T1=97.03	OPT f=3 TT=6.186 T1=6.07	OPT f=3 TT=88.492 T1=88.12	SAT (TO) f=4 TT=2520.07 T1=20.79	OPT f=3 TT=111.721 T1=111.62	SAT (TO) f=4 TT=2520.12 T1=20.15	OPT f=3 TT=1061.45 T1=1061.36	? (MO) TT=1521.29	? (MO) TT=1532.06	? (MO) TT=1528.03	? (TO) TT=2520.8	? (TO) TT=2521.15	No data	No data	No data	No data	No data	No data	OPT f=3 TT=51.772 T1=51.69
Opd/Opd-sum-large/ Opd-16-035-010.xml	OPT f=3 TT=3.727 T1=3.6	OPT f=3 TT=10.372 T1=10.23	No data	OPT f=3 TT=53.093 T1=52.72	OPT f=3 TT=108.642 T1=108.14	OPT f=3 TT=14.574 T1=14.16	OPT f=3 TT=122.938 T1=122.36	OPT f=3 TT=15.183 T1=15.06	OPT f=3 TT=44.02 T1=43.46	OPT f=3 TT=3.727 T1=3.6	OPT f=3 TT=40.522 T1=40.47	OPT f=3 TT=116.959 T1=116.9	OPT f=3 TT=703.854 T1=703.77	SAT (TO) f=4 TT=2520.11 T1=24.7	OPT f=3 TT=92.093 T1=91.99	? (MO) TT=1532.2	? (MO) TT=1544.17	? (MO) TT=1762.82	? (TO) TT=2520.94	? (TO) TT=2520.79	No data	No data	No data	No data	No data	No data	OPT f=3 TT=56.05 T1=56
Opd/Opd-sum-small/ Opd-09-024-008.xml	OPT f=2 TT=2.494 T1=2.12	OPT f=2 TT=5.298 T1=5.26	No data	OPT f=2 TT=2.656 T1=2.46	OPT f=2 TT=5.033 T1=4.81	OPT f=2 TT=2.494 T1=2.12	OPT f=2 TT=5.181 T1=4.88	OPT f=2 TT=2.74 T1=1.66	OPT f=2 TT=5.385 T1=4.98	OPT f=2 TT=4.754 T1=4.63	OPT f=2 TT=5.196 T1=4.94	OPT f=2 TT=15.672 T1=15.45	SAT (TO) f=3 TT=2520.05 T1=15.23	SAT (TO) f=3 TT=2520.14 T1=11.49	SAT (TO) f=3 TT=2520.12 T1=13.87	? (MO) TT=1601.71	? (MO) TT=1395.34	? (MO) TT=1375.43	? (TO) TT=2521.04	? (TO) TT=2520.71	No data	No data	No data	No data	No data	No data	OPT f=2 TT=12.592 T1=12.49
Opd/Opd-sum-small/ Opd-10-015-006.xml	OPT f=2 TT=3.09 T1=2.88	OPT f=2 TT=12.249 T1=12.14	No data	OPT f=2 TT=3.09 T1=2.88	OPT f=2 TT=5.937 T1=5.36	OPT f=2 TT=3.997 T1=3.55	OPT f=2 TT=5.929 T1=5.85	OPT f=2 TT=3.642 T1=3.6	OPT f=2 TT=5.718 T1=5.19	OPT f=2 TT=6.213 T1=6.12	OPT f=2 TT=6.997 T1=6.76	OPT f=2 TT=46.665 T1=46.54	OPT f=2 TT=271.913 T1=271.79	SAT (TO) f=3 TT=2520.1 T1=10.43	OPT f=2 TT=109.797 T1=109.63	? (MO) TT=1190.73	? (MO) TT=1177.86	? (MO) TT=1158.41	? TT=2373.77	? (TO) TT=2521.09	No data	No data	No data	No data	No data	No data	OPT f=2 TT=9.677 T1=9.59
Opd/Opd-sum-small/ Opd-10-030-009.xml	OPT f=2 TT=7.556 T1=7.17	SAT (TO) f=3 TT=2520.06 T1=5.57	No data	OPT f=2 TT=8.159 T1=8	OPT f=2 TT=15.61 T1=15.51	OPT f=2 TT=7.556 T1=7.17	OPT f=2 TT=13.48 T1=13.25	OPT f=2 TT=7.364 T1=7.2	OPT f=2 TT=16.046 T1=15.52	SAT (TO) f=3 TT=2520.14 T1=1.67	OPT f=2 TT=15.328 T1=14.91	SAT (TO) f=3 TT=2520.14 T1=14.81	SAT (TO) f=3 TT=2520.06 T1=30.06	SAT (TO) f=3 TT=2520.05 T1=16.08	SAT (TO) f=3 TT=2520.11 T1=13.57	? (MO) TT=1270.11	? (MO) TT=1271.46	? (MO) TT=1287.92	? (TO) TT=2520.69	? (TO) TT=2520.54	No data	No data	No data	No data	No data	No data	OPT f=2 TT=31.497 T1=31.39
Opd/Opd-sum-small/ Opd-10-031-009.xml	OPT f=2 TT=3.791 T1=3.68	OPT f=2 TT=21.824 T1=21.77	No data	OPT f=2 TT=7.556 T1=7.36	OPT f=2 TT=14.129 T1=13.96	OPT f=2 TT=7.958 T1=7.86	OPT f=2 TT=12.653 T1=12.61	OPT f=2 TT=7.847 T1=7.56	OPT f=2 TT=13.076 T1=12.47	OPT f=2 TT=3.791 T1=3.68	OPT f=2 TT=13.3 T1=12.57	OPT f=2 TT=171.586 T1=171.44	SAT (TO) f=3 TT=2520.13 T1=22.45	SAT (TO) f=3 TT=2520.05 T1=14.64	SAT (TO) f=3 TT=2520.07 T1=13.16	? (MO) TT=1305.05	? (MO) TT=1306.69	? (MO) TT=1322.61	? (TO) TT=2521.01	? (TO) TT=2521	No data	No data	No data	No data	No data	No data	OPT f=2 TT=32.576 T1=32.48
Opd/Opd-sum-small/ Opd-10-032-009.xml	OPT f=2 TT=6.545 T1=6.39	OPT f=2 TT=12.542 T1=12.5	No data	OPT f=2 TT=6.545 T1=6.39	OPT f=2 TT=13.903 T1=13.74	OPT f=2 TT=7.492 T1=7.2	OPT f=2 TT=15.476 T1=14.99	OPT f=2 TT=8.252 T1=8.18	OPT f=2 TT=13.164 T1=12.5	OPT f=2 TT=21.719 T1=21.69	OPT f=2 TT=14.011 T1=13.93	SAT (TO) f=3 TT=2520.11 T1=14.23	OPT f=2 TT=60.666 T1=60.5	OPT f=2 TT=17.701 T1=17.61	OPT f=2 TT=130.735 T1=130.58	? (MO) TT=1358.05	? (MO) TT=1364.87	? (MO) TT=1354.4	? (TO) TT=2521.05	? (TO) TT=2521.31	No data	No data	No data	No data	No data	No data	OPT f=2 TT=22.921 T1=22.89
Opd/Opd-sum-small/ Opd-10-037-014.xml	OPT f=5 TT=2.775 T1=2.68	OPT f=5 TT=110.221 T1=110.19	No data	OPT f=5 TT=47.702 T1=47.31	OPT f=5 TT=39.75 T1=39.14	OPT f=5 TT=12.061 T1=11.91	OPT f=5 TT=14.093 T1=14.07	OPT f=5 TT=11.492 T1=11.2	OPT f=5 TT=12.653 T1=12.47	OPT f=5 TT=2.775 T1=2.68	OPT f=5 TT=99.862 T1=99.63	SAT (TO) f=6 TT=2520.1 T1=17.44	SAT (TO) f=6 TT=2520.12 T1=31.54	SAT (TO) f=6 TT=2520.09 T1=20.53	OPT f=5 TT=1413.95 T1=1413.88	? (MO) TT=1643.76	? (MO) TT=1682.35	? (MO) TT=1660.91	? (TO) TT=2520.84	? (TO) TT=2520.91	No data	No data	No data	No data	No data	No data	OPT f=5 TT=48.689 T1=48.59
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Opd/Opd-sum-small/ Opd-10-038-010.xml	OPT f=2 TT=4.38 T1=4.31	OPT f=2 TT=27.518 T1=27.36	No data	OPT f=2 TT=11.124 T1=11.1	OPT f=2 TT=20.15 T1=19.37	OPT f=2 TT=10.033 T1=10	OPT f=2 TT=18.209 T1=17.93	OPT f=2 TT=9.942 T1=9.59	OPT f=2 TT=18.971 T1=18.76	OPT f=2 TT=4.38 T1=4.31	OPT f=2 TT=20.851 T1=20.38	SAT (TO) f=3 TT=2520.11 T1=15.1	SAT (TO) f=3 TT=2520.09 T1=36.11	SAT (TO) f=3 TT=2520.12 T1=18.73	SAT (TO) f=3 TT=2520.08 T1=31.86	? (MO) TT=1674.31	? (MO) TT=1708.7	? (MO) TT=1710.36	? (TO) TT=2520.5	? (TO) TT=2520.75	No data	No data	No data	No data	No data	No data	OPT f=2 TT=30.445 T1=30.39
Opd/Opd-sum-small/ Opd-11-011-005.xml	OPT f=2 TT=1.282 T1=1.19	OPT f=2 TT=3.807 T1=3.77	No data	OPT f=2 TT=1.814 T1=1.68	OPT f=2 TT=2.566 T1=2.39	OPT f=2 TT=1.781 T1=1.67	OPT f=2 TT=2.551 T1=2.4	OPT f=2 TT=1.883 T1=1.68	OPT f=2 TT=2.403 T1=1.76	OPT f=2 TT=3.747 T1=3.72	OPT f=2 TT=2.469 T1=1.77	SAT (TO) f=3 TT=2520.12 T1=9.8	SAT (TO) f=3 TT=2520.06 T1=12.97	OPT f=2 TT=245.616 T1=245.47	OPT f=2 TT=352.804 T1=352.69	SAT (TO) f=3 TT=2520.04 T1=9	SAT (TO) f=3 TT=2519.67 T1=7.89	SAT (TO) f=3 TT=2520.03 T1=7.79	OPT f=2 TT=14832.4 T1=14831.6	OPT f=2 TT=9039.58 T1=9038.72	No data	No data	No data	No data	No data	No data	OPT f=2 TT=1.282 T1=1.19
Opd/Opd-sum-small/ Opd-15-015-004.xml	OPT f=1 TT=2.25 T1=2.05	OPT f=1 TT=5.553 T1=5.52	No data	OPT f=1 TT=2.25 T1=2.08	OPT f=1 TT=3.718 T1=2.88	OPT f=1 TT=2.352 T1=2.05	OPT f=1 TT=3.424 T1=2.88	OPT f=1 TT=2.248 T1=2.07	OPT f=1 TT=3.38 T1=2.92	OPT f=1 TT=18.636 T1=18.6	OPT f=1 TT=3.179 T1=2.95	SAT (TO) f=2 TT=2520.11 T1=14.13	SAT (TO) f=2 TT=2520.08 T1=19.12	SAT (TO) f=2 TT=2520.12 T1=14.14	SAT (TO) f=2 TT=2520.06 T1=12.18	? (MO) TT=1325.38	? (MO) TT=1165.62	? (MO) TT=1169.45	? (MO) TT=2421.12	? (MO) TT=2441.02	No data	No data	No data	No data	No data	No data	OPT f=1 TT=24.17 T1=24.1
Opd/Opd-sum-small/ Opd-19-020-009.xml	OPT f=4 TT=1412.74 T1=1412.64	SAT (TO) f=5 TT=2520.09 T1=7.13	No data	SAT (TO) f=5 TT=2520.65 T1=104.38	SAT (TO) f=5 TT=20075.7 T1=239.96	SAT (TO) f=5 TT=2520.41 T1=10.15	SAT (TO) f=5 TT=20076.6 T1=31.72	SAT (TO) f=5 TT=2520.37 T1=12.23	SAT (TO) f=5 TT=20072.5 T1=15.85	SAT (TO) f=5 TT=2520.07 T1=6.41	SAT (TO) f=5 TT=20074.4 T1=11.13	SAT (TO) f=5 TT=2520.07 T1=24.07	SAT (TO) f=5 TT=2520.15 T1=53.38	SAT (TO) f=5 TT=2520.06 T1=25.94	SAT (TO) f=5 TT=2520.1 T1=21.16	? (MO) TT=1145.75	? (MO) TT=1123.83	? (MO) TT=1128.67	? (MO) TT=2224.57	? (MO) TT=2205.07	No data	No data	No data	No data	No data	No data	OPT f=4 TT=1412.74 T1=1412.64
OpenStacks/ OpenStacks-m1c-s1/ OpenStacks-m1c-gp-050-1.xml	OPT f=45 TT=70.262 T1=18.21	OPT f=45 TT=70.262 T1=38.64	No data	OPT f=45 TT=107.83 T1=18.31	OPT f=45 TT=169.965 T1=38.01	OPT f=45 TT=235.182 T1=18.21	OPT f=45 TT=411.846 T1=32.71	OPT f=45 TT=265.934 T1=19.35	OPT f=45 TT=424.427 T1=33.45	SAT (TO) f=45 TT=2520.03 T1=340.51	OPT f=45 TT=453.047 T1=29.68	OPT f=45 TT=71.435 T1=45.39	OPT f=45 TT=335.463 T1=108.71	OPT f=45 TT=95.954 T1=59.54	OPT f=45 TT=190.202 T1=41.37	SAT (TO) f=47 TT=2519.89 T1=310.31	SAT (TO) f=47 TT=2519.9 T1=356.03	SAT (TO) f=47 TT=2520.08 T1=309.85	SAT (TO) f=47 TT=20101.1 T1=1235.23	SAT (TO) f=47 TT=20102.5 T1=95.31	No data	No data	No data	No data	No data	No data	OPT f=45 TT=625.238 T1=625.17
OpenStacks/OpenStacks-m1c-s1/ OpenStacks-m1c-pb-30-15-1.xml	OPT f=14 TT=66.689 T1=6.63	OPT f=14 TT=147.836 T1=18.26	No data	OPT f=14 TT=133.338 T1=22.55	OPT f=14 TT=281.86 T1=21.11	OPT f=14 TT=122.237 T1=19.33	OPT f=14 TT=223.579 T1=18.24	OPT f=14 TT=151.123 T1=22	OPT f=14 TT=225.037 T1=15.66	OPT f=14 TT=178.767 T1=6.63	OPT f=14 TT=253.205 T1=40.26	SAT (TO) f=14 TT=2520.11 T1=27.88	SAT (TO) f=14 TT=2520.07 T1=336.23	SAT (TO) f=14 TT=2520.1 T1=211.74	SAT (TO) f=14 TT=2520.12 T1=27.31	? (TO) TT=2519.93	? (TO) TT=2520.04	? (TO) TT=2519.94	SAT (TO) f=14 TT=20123.6 T1=16763.6	SAT (TO) f=14 TT=20120.4 T1=3532.24	No data	No data	No data	No data	No data	No data	OPT f=14 TT=66.689 T1=66.59
OpenStacks/OpenStacks-m1c-s1/ OpenStacks-m1c-wbo-30-15-1.xml	OPT f=7 TT=9.737 T1=5.81	OPT f=7 TT=11.618 T1=9.94	No data	OPT f=7 TT=11.081 T1=5.87	OPT f=7 TT=19.35 T1=11.94	OPT f=7 TT=9.737 T1=5.81	OPT f=7 TT=18.796 T1=9.71	OPT f=7 TT=8.636 T1=5.42	OPT f=7 TT=17.582 T1=9.53	OPT f=7 TT=12.071 T1=8.86	OPT f=7 TT=19.129 T1=10.91	OPT f=7 TT=102.622 T1=25.38	OPT f=7 TT=1725.1 T1=233.56	OPT f=7 TT=799.123 T1=77.24	OPT f=7 TT=1484.24 T1=328.13	SAT (TO) f=8 TT=2520.07 T1=251.19	SAT (TO) f=8 TT=2520.08 T1=266.31	SAT (TO) f=8 TT=2520.08 T1=242.12	SAT (TO) f=8 TT=20120.1 T1=779.74	SAT (TO) f=8 TT=20120.5 T1=3626.81	No data	No data	No data	No data	No data	No data	OPT f=7 TT=42.27 T1=42.19
OpenStacks/OpenStacks-m1c-s1/ OpenStacks-m1c-wbop-10-20-1.xml	OPT f=5 TT=27.924 T1=8.09	OPT f=5 TT=186.083 T1=8.09	No data	OPT f=5 TT=205.549 T1=10.14	OPT f=5 TT=461.889 T1=24.98	OPT f=5 TT=179.091 T1=8.52	OPT f=5 TT=392.599 T1=17.21	OPT f=5 TT=210.454 T1=9.98	OPT f=5 TT=398.39 T1=16.33	OPT f=5 TT=721.863 T1=8.1	OPT f=5 TT=390.808 T1=13.37	OPT f=5 TT=872.401 T1=27.22	SAT (TO) f=5 TT=2520.09 T1=19.01	OPT f=5 TT=1308.3 T1=40.68	OPT f=5 TT=1758.9 T1=33.23	SAT (TO) f=6 TT=2519.96 T1=26.69	SAT (TO) f=6 TT=2520.03 T1=26.69	SAT (TO) f=6 TT=2520.03 T1=25.89	SAT (TO) f=6 TT=20125 T1=8.44	SAT (TO) f=5 TT=20123.3 T1=6329.16	No data	No data	No data	No data	No data	No data	OPT f=5 TT=27.924 T1=27.89
OpenStacks/OpenStacks-m1c-s1/ OpenStacks-m1c-wbop-30-15-1.xml	OPT f=10 TT=23.577 T1=4.65	OPT f=10 TT=23.577 T1=9.08	No data	OPT f=10 TT=28.003 T1=5.72	OPT f=10 TT=43.615 T1=10.54	OPT f=10 TT=26.686 T1=4.65	OPT f=10 TT=47.787 T1=10.08	OPT f=10 TT=24.92 T1=5.33	OPT f=10 TT=48.782 T1=12.86	OPT f=10 TT=33.758 T1=7.89	OPT f=10 TT=45.969 T1=10.62	OPT f=10 TT=379.965 T1=28.3	SAT (TO) f=10 TT=2520.13 T1=36.52	OPT f=10 TT=1016.07 T1=18.32	OPT f=10 TT=840.876 T1=64.94	SAT (TO) f=11 TT=2519.95 T1=9.18	SAT (TO) f=11 TT=2520.04 T1=9.19	SAT (TO) f=11 TT=2520.06 T1=9.09	SAT (TO) f=10 TT=20122 T1=1490.59	SAT (TO) f=10 TT=20121.5 T1=1932.22	No data	No data	No data	No data	No data	No data	OPT f=10 TT=49.361 T1=49.28
OpenStacks/OpenStacks-m1c-s1/ OpenStacks-m1c-wbop-30-30-1.xml	OPT f=3 TT=23.815 T1=23.04	OPT f=3 TT=27.781 T1=27.35	No data	OPT f=3 TT=34.71 T1=34.07	OPT f=3 TT=54.692 T1=53.26	OPT f=3 TT=23.815 T1=23.04	OPT f=3 TT=34.364 T1=31.86	OPT f=3 TT=24.06 T1=23.3	OPT f=3 TT=34.429 T1=33.24	OPT f=3 TT=410.629 T1=280.54	OPT f=3 TT=33.603 T1=32.36	OPT f=3 TT=84.51 T1=81.63	OPT f=3 TT=1495.2 T1=1371.9	SAT (TO) f=5 TT=2520.07 T1=145.03	OPT f=3 TT=119.431 T1=118.71	SAT (TO) f=13 TT=2519.57 T1=6.18	SAT (TO) f=13 TT=2519.71 T1=0.68	SAT (TO) f=13 TT=2520.1 T1=6.29	SAT (TO) f=8 TT=20119.5 T1=1764.62	SAT (TO) f=9 TT=20118.6 T1=1424.95	No data	No data	No data	No data	No data	No data	OPT f=3 TT=44.281 T1=44.19
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
OpenStacks/OpenStacks-m1c-s1/ OpenStacks-m1c-wbp-15-15-1.xml	OPT f=4 TT=15.651 T1=1.87	OPT f=4 TT=41.928 T1=8.42	No data	OPT f=4 TT=24.849 T1=3.62	OPT f=4 TT=33.246 T1=5.12	OPT f=4 TT=18.531 T1=3.28	OPT f=4 TT=27.217 T1=5.98	OPT f=4 TT=14.648 T1=3.3	OPT f=4 TT=28.915 T1=5.74	OPT f=4 TT=19.015 T1=1.87	OPT f=4 TT=35.252 T1=5.39	OPT f=4 TT=211.14 T1=15.21	OPT f=4 TT=1364.57 T1=30.95	OPT f=4 TT=551.099 T1=39.55	OPT f=4 TT=839.565 T1=30.07	SAT (TO) f=4 TT=2519.72 T1=556.22	SAT (TO) f=4 TT=2520.05 T1=557.04	SAT (TO) f=4 TT=2519.71 T1=639.01	SAT (TO) f=4 TT=20124.9 T1=64.58	SAT (TO) f=4 TT=20123.6 T1=184.39	No data	No data	No data	No data	No data	No data	OPT f=4 TT=15.651 T1=15.59
OpenStacks/ OpenStacks-m1-s1/ OpenStacks-m1-gp-050-1.xml	OPT f=45 TT=70.154 T1=17.38	OPT f=45 TT=70.154 T1=38.92	No data	OPT f=45 TT=342.685 T1=18.46	OPT f=45 TT=95.787 T1=29.58	OPT f=45 TT=263.705 T1=17.38	OPT f=45 TT=338.981 T1=25.96	OPT f=45 TT=292.933 T1=18.79	OPT f=45 TT=522.817 T1=25.07	SAT (TO) f=45 TT=2520.06 T1=238.58	OPT f=45 TT=584.541 T1=30.14	OPT f=45 TT=142.905 T1=126.88	OPT f=45 TT=337.57 T1=229.6	OPT f=45 TT=112.009 T1=92.51	OPT f=45 TT=105.577 T1=86.59	SAT (TO) f=47 TT=2520.04 T1=338.15	SAT (TO) f=47 TT=2519.97 T1=370.32	SAT (TO) f=47 TT=2519.95 T1=300.61	SAT (TO) f=47 TT=20102.3 T1=966.69	SAT (TO) f=47 TT=20101.6 T1=96.88	No data	No data	No data	No data	No data	No data	OPT f=45 TT=618.932 T1=618.86
OpenStacks/ OpenStacks-m1-s1/ OpenStacks-m1-pb-30-15-1.xml	OPT f=14 TT=69.527 T1=6.07	OPT f=14 TT=148.641 T1=17.94	No data	OPT f=14 TT=156.88 T1=23.02	OPT f=14 TT=241.586 T1=19.74	OPT f=14 TT=151.006 T1=20.85	OPT f=14 TT=223.48 T1=20.35	OPT f=14 TT=119.659 T1=21.28	OPT f=14 TT=230.502 T1=17.25	OPT f=14 TT=171.58 T1=6.07	OPT f=14 TT=265.407 T1=47.26	OPT f=14 TT=1876.06 T1=21.92	SAT (TO) f=14 TT=2520.12 T1=211.28	SAT (TO) f=14 TT=2520.07 T1=73.45	SAT (TO) f=14 TT=2520.13 T1=337.56	? (TO) TT=2520.05	? (TO) TT=2519.8	? (TO) TT=2520.06	SAT (TO) f=14 TT=20120.8 T1=3633.25	SAT (TO) f=14 TT=20121.6 T1=1323.65	No data	No data	No data	No data	No data	No data	OPT f=14 TT=69.527 T1=69.48
OpenStacks/OpenStacks-m1-s1/ OpenStacks-m1-wbo-15-30-1.xml	OPT f=4 TT=69.754 T1=38.82	OPT f=4 TT=148.926 T1=106.38	No data	OPT f=4 TT=289.451 T1=256.71	OPT f=4 TT=278.322 T1=199.98	OPT f=4 TT=69.754 T1=38.82	OPT f=4 TT=208.035 T1=151.3	OPT f=4 TT=68.966 T1=34.85	OPT f=4 TT=155.169 T1=101.39	SAT (TO) f=4 TT=2520.03 T1=899.85	OPT f=4 TT=162.763 T1=102.05	OPT f=4 TT=1137.26 T1=72.25	SAT (TO) f=5 TT=2520.1 T1=1889.58	OPT f=4 TT=595.244 T1=213.07	SAT (TO) f=5 TT=2520.14 T1=18.02	SAT (TO) f=9 TT=2519.68 T1=704.89	SAT (TO) f=9 TT=2520.07 T1=607.2	SAT (TO) f=9 TT=2520.1 T1=627.79	SAT (TO) f=7 TT=20120.7 T1=552.81	SAT (TO) f=8 TT=20120.6 T1=27.77	No data	No data	No data	No data	No data	No data	OPT f=4 TT=98.337 T1=98.28
OpenStacks/OpenStacks-m1-s1/ OpenStacks-m1-wbo-30-15-1.xml	OPT f=7 TT=8.396 T1=5.41	OPT f=7 TT=15.371 T1=12.1	No data	OPT f=7 TT=8.396 T1=5.41	OPT f=7 TT=20.301 T1=11.52	OPT f=7 TT=10.703 T1=6.47	OPT f=7 TT=17.836 T1=11.73	OPT f=7 TT=10.289 T1=5.42	OPT f=7 TT=16.561 T1=10.84	OPT f=7 TT=11.775 T1=8.73	OPT f=7 TT=21.429 T1=13.43	OPT f=7 TT=279.631 T1=41.36	OPT f=7 TT=724.911 T1=44.08	OPT f=7 TT=95.421 T1=28.8	OPT f=7 TT=172.134 T1=24.68	SAT (TO) f=8 TT=2519.88 T1=269.34	SAT (TO) f=8 TT=2519.8 T1=350.66	SAT (TO) f=8 TT=2520.08 T1=235.89	SAT (TO) f=7 TT=20120.6 T1=13873	SAT (TO) f=8 TT=20119.4 T1=1322.63	No data	No data	No data	No data	No data	No data	OPT f=7 TT=42.89 T1=42.78
OpenStacks/OpenStacks-m1-s1/ OpenStacks-m1-wbop-10-20-1.xml	OPT f=5 TT=26.473 T1=7.32	OPT f=5 TT=187.762 T1=8.27	No data	OPT f=5 TT=199.478 T1=9.63	OPT f=5 TT=431.628 T1=17.59	OPT f=5 TT=185.749 T1=8.89	OPT f=5 TT=405.017 T1=15.52	OPT f=5 TT=190.348 T1=10.04	OPT f=5 TT=401.169 T1=16.29	OPT f=5 TT=687.702 T1=7.32	OPT f=5 TT=407.476 T1=14.96	OPT f=5 TT=919.399 T1=11.96	SAT (TO) f=5 TT=2520.1 T1=40.96	OPT f=5 TT=1549.91 T1=15.18	OPT f=5 TT=2124.3 T1=10.39	SAT (TO) f=6 TT=2519.68 T1=26.29	SAT (TO) f=6 TT=2520.08 T1=25.1	SAT (TO) f=6 TT=2520.07 T1=26.69	SAT (TO) f=6 TT=20125.5 T1=0.14	SAT (TO) f=5 TT=20124.8 T1=6.12	No data	No data	No data	No data	No data	No data	OPT f=5 TT=26.473 T1=26.39
OpenStacks/OpenStacks-m1-s1/ OpenStacks-m1-wbop-30-15-1.xml	OPT f=10 TT=22.914 T1=5.45	OPT f=10 TT=22.914 T1=8.45	No data	OPT f=10 TT=27.397 T1=5.73	OPT f=10 TT=54.431 T1=10.65	OPT f=10 TT=23.958 T1=5.45	OPT f=10 TT=49.816 T1=10.51	OPT f=10 TT=24.838 T1=5.44	OPT f=10 TT=48.078 T1=11.96	OPT f=10 TT=32.971 T1=7.46	OPT f=10 TT=51.443 T1=11.3	SAT (TO) f=10 TT=2520.12 T1=19.16	SAT (TO) f=10 TT=2520.1 T1=33.62	SAT (TO) f=10 TT=2520.06 T1=39.52	SAT (TO) f=10 TT=2520.08 T1=19.41	SAT (TO) f=11 TT=2520.09 T1=9.39	SAT (TO) f=11 TT=2519.78 T1=9.38	SAT (TO) f=11 TT=2520.04 T1=9.39	SAT (TO) f=10 TT=20120 T1=199.83	SAT (TO) f=10 TT=20120.2 T1=295.06	No data	No data	No data	No data	No data	No data	OPT f=10 TT=47.813 T1=47.78
OpenStacks/OpenStacks-m1-s1/ OpenStacks-m1-wbop-30-30-1.xml	OPT f=3 TT=24.693 T1=23.73	OPT f=3 TT=28.147 T1=27.49	No data	OPT f=3 TT=31.18 T1=30.64	OPT f=3 TT=59.097 T1=57.86	OPT f=3 TT=24.693 T1=23.73	OPT f=3 TT=39.472 T1=38.06	OPT f=3 TT=24.417 T1=23.57	OPT f=3 TT=35.828 T1=34.71	OPT f=3 TT=540.143 T1=350.93	OPT f=3 TT=34.128 T1=32.72	OPT f=3 TT=118.493 T1=68.12	SAT (TO) f=7 TT=2520.1 T1=607.07	OPT f=3 TT=229.282 T1=174.08	OPT f=3 TT=634.034 T1=615.52	SAT (TO) f=13 TT=2519.87 T1=6.29	SAT (TO) f=13 TT=2520.1 T1=6.18	SAT (TO) f=13 TT=2519.52 T1=6.19	SAT (TO) f=8 TT=20115.6 T1=109.04	SAT (TO) f=8 TT=20118.8 T1=112.8	No data	No data	No data	No data	No data	No data	OPT f=3 TT=54.013 T1=54
OpenStacks/OpenStacks-m1-s1/ OpenStacks-m1-wbp-15-15-1.xml	OPT f=4 TT=13.898 T1=2.18	OPT f=4 TT=41.422 T1=8.42	No data	OPT f=4 TT=22.413 T1=3.8	OPT f=4 TT=30.755 T1=5.84	OPT f=4 TT=13.898 T1=3.6	OPT f=4 TT=26.468 T1=5.81	OPT f=4 TT=21.06 T1=3.71	OPT f=4 TT=37.382 T1=5.88	OPT f=4 TT=18.964 T1=2.18	OPT f=4 TT=25.919 T1=5.38	OPT f=4 TT=551.805 T1=25.42	OPT f=4 TT=949.491 T1=18.18	OPT f=4 TT=1786.24 T1=22.92	OPT f=4 TT=408.932 T1=13.72	SAT (TO) f=4 TT=2519.58 T1=554.19	SAT (TO) f=4 TT=2520.06 T1=559.75	SAT (TO) f=4 TT=2519.79 T1=540.04	SAT (TO) f=4 TT=20124.9 T1=142.83	SAT (TO) f=4 TT=20127.6 T1=119.64	No data	No data	No data	No data	No data	No data	OPT f=4 TT=15.635 T1=15.59
PeacableArmies/ PeacableArmies-m1-07_c18.xml	OPT f=7 TT=22.589 T1=0.3	OPT f=7 TT=44.213 T1=7.92	No data	OPT f=7 TT=44.209 T1=3.67	OPT f=7 TT=160.708 T1=6.09	OPT f=7 TT=43.918 T1=3.35	OPT f=7 TT=124.265 T1=6.08	OPT f=7 TT=43.494 T1=3.33	OPT f=7 TT=120.141 T1=5.36	OPT f=7 TT=45.875 T1=3.07	OPT f=7 TT=116.975 T1=5.24	OPT f=7 TT=187.922 T1=18.25	OPT f=7 TT=2158.55 T1=18.44	OPT f=7 TT=247.534 T1=17.15	OPT f=7 TT=288.207 T1=14.07	OPT f=7 TT=148.956 T1=0.31	OPT f=7 TT=147.473 T1=0.3	OPT f=7 TT=143.848 T1=0.3	OPT f=7 TT=560.068 T1=0.89	OPT f=7 TT=521.621 T1=0.31	No data	No data	No data	No data	No data	No data	OPT f=7 TT=22.589 T1=22.48
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
PeacableArmies/ PeacableArmies-m2-07_c18.xml	OPT f=7 TT=9.622 T1=0.1	OPT f=7 TT=16.944 T1=7.11	No data	OPT f=7 TT=26.457 T1=3.84	OPT f=7 TT=57.327 T1=5.38	OPT f=7 TT=25.156 T1=2.66	OPT f=7 TT=54.94 T1=3.85	OPT f=7 TT=25.953 T1=3.14	OPT f=7 TT=49.794 T1=4.01	OPT f=7 TT=14.279 T1=1.98	OPT f=7 TT=60.023 T1=4.05	? (TO) TT=2520.09	? (TO) TT=2520.07	? (TO) TT=2520.07	? (TO) TT=2520.07	OPT f=7 TT=9.622 T1=0.1	OPT f=7 TT=9.672 T1=0.1	OPT f=7 TT=9.701 T1=0.1	OPT f=7 TT=36.745 T1=0.1	OPT f=7 TT=32.44 T1=0.1	No data	No data	No data	No data	No data	No data	OPT f=7 TT=23.122 T1=23.09
PigeonsPlus/ PigeonsPlus-m1-s1/ pigeonsPlus-08-08.xml	UNSAT TT=29.432	UNSAT TT=49.738	UNSAT TT=29.432	? TT=290.637	? TT=1297.48	? TT=320.353	? TT=1174.92	? TT=325.35	? TT=1170.54	UNSAT TT=52.471	? TT=1237.92	UNSAT TT=41.142	UNSAT TT=39.823	UNSAT TT=37.84	UNSAT TT=36.762	? (TO) TT=2519.96	? (TO) TT=2519.95	? (TO) TT=2520.06	UNSAT TT=14162.4	UNSAT TT=13897.3	UNSAT TT=88.371	UNSAT TT=95.855	UNSAT TT=95.79	UNSAT TT=90.393	UNSAT TT=96.667	UNSAT TT=95.636	? (TO) TT=2519.99
PigeonsPlus/ PigeonsPlus-m1-s1/ pigeonsPlus-10-05.xml	UNSAT TT=9.061	UNSAT TT=16.585	UNSAT TT=20.99	UNSAT TT=55.55	UNSAT TT=118.445	UNSAT TT=52.297	UNSAT TT=114.152	UNSAT TT=56.217	UNSAT TT=126.696	UNSAT TT=26.903	UNSAT TT=118.53	UNSAT TT=45.566	UNSAT TT=122.286	UNSAT TT=43.171	UNSAT TT=43.53	UNSAT TT=1761.26	UNSAT TT=1762.22	UNSAT TT=1758.18	UNSAT TT=10442.8	UNSAT TT=8899.35	UNSAT TT=9.061	UNSAT TT=10.67	UNSAT TT=10.836	UNSAT TT=9.834	UNSAT TT=10.499	UNSAT TT=10.537	UNSAT TT=18.49
PizzaVoucher/ PizzaVoucher-12a_c18.xml	OPT f=40 TT=13.848 T1=5.16	OPT f=40 TT=15.093 T1=11.1	No data	OPT f=40 TT=33.818 T1=28.96	OPT f=40 TT=27.231 T1=17.2	OPT f=40 TT=13.848 T1=10.67	OPT f=40 TT=24.466 T1=10.79	OPT f=40 TT=11.819 T1=7.4	OPT f=40 TT=25.814 T1=17.94	OPT f=40 TT=200.85 T1=199.32	OPT f=40 TT=18.758 T1=6.96	OPT f=40 TT=47.473 T1=33.52	OPT f=40 TT=603.719 T1=540.88	OPT f=40 TT=137.904 T1=76.92	OPT f=40 TT=80.414 T1=38.64	SAT (TO) f=40 TT=2520.09 T1=539.73	SAT (TO) f=40 TT=2519.69 T1=535.82	SAT (TO) f=40 TT=2519.57 T1=538.9	OPT f=40 TT=46.938 T1=5.16	OPT f=40 TT=59.867 T1=11.55	No data	No data	No data	No data	No data	No data	OPT f=40 TT=15.819 T1=15.78
Primes/Primes-m1-p10/ Primes-10-40-2-7.xml	SAT TT=0.265	SAT TT=5.599	SAT TT=0.265	SAT TT=8.199	SAT TT=20.174	SAT TT=14.78	SAT TT=33.369	SAT TT=12.799	SAT TT=28.037	SAT TT=6.076	SAT TT=23.629	SAT TT=9.009	SAT TT=12.402	SAT TT=10.054	SAT TT=21.349	SAT TT=0.56	SAT TT=0.484	SAT TT=0.484	SAT TT=17.238	SAT TT=1.57	SAT TT=154.778	SAT TT=2469.71	SAT TT=2506.39	SAT TT=440.384	SAT TT=90.2	SAT TT=89.174	SAT TT=625.825
Primes/Primes-m1-p10/ Primes-10-40-3-5.xml	SAT TT=33.443	SAT TT=83.828	SAT TT=245.042	SAT TT=716.862	SAT TT=1527.78	SAT TT=264.524	SAT TT=532.663	SAT TT=242.825	SAT TT=540.463	? (TO) TT=2520.02	SAT TT=987.785	SAT TT=40.877	SAT TT=583.729	SAT TT=376.357	SAT TT=33.443	? (TO) TT=2520.04	? (TO) TT=2520.05	? (TO) TT=2519.82	SAT TT=1925.76	SAT TT=1326.99	? (TO) TT=2520.1	? (TO) TT=19737.6	? (TO) TT=19705.8	SAT TT=1969.11	SAT TT=2979.15	SAT TT=3039.61	SAT TT=2278.57
Primes/Primes-m1-p10/ Primes-10-60-3-5.xml	SAT TT=0.304	SAT TT=4.102	SAT TT=0.304	SAT TT=4.607	SAT TT=6.001	SAT TT=3.055	SAT TT=4.308	SAT TT=3.171	SAT TT=3.973	SAT TT=1.508	SAT TT=4.13	SAT TT=8.267	SAT TT=13.998	SAT TT=11.124	SAT TT=10.782	SAT TT=0.335	SAT TT=0.332	SAT TT=0.331	SAT TT=0.955	SAT TT=0.557	SAT TT=34.446	SAT TT=113.446	SAT TT=114.919	SAT TT=52.548	SAT TT=202.764	SAT TT=199.334	SAT TT=38.849
Primes/Primes-m1-p10/ Primes-10-60-3-7.xml	SAT TT=71.738	SAT TT=71.738	SAT TT=2169.22	SAT TT=496.108	SAT TT=993.578	SAT TT=1331.87	SAT TT=2719.11	SAT TT=1389.13	SAT TT=2505.68	SAT TT=521.06	SAT TT=3385.98	SAT TT=74.623	? (TO) TT=2520.13	SAT TT=599.218	SAT TT=1580.27	? (TO) TT=2520.04	? (TO) TT=2519.89	? (TO) TT=2520.07	SAT TT=5044.01	SAT TT=16615.5	SAT TT=378.24	SAT TT=689.031	SAT TT=691.307	SAT TT=457.297	SAT TT=664.831	SAT TT=707.931	SAT TT=159.185
Primes/Primes-m1-p15/ Primes-15-20-2-7.xml	SAT TT=0.008	SAT TT=3.25	SAT TT=0.009	SAT TT=1.25	SAT TT=1.486	SAT TT=1.318	SAT TT=1.388	SAT TT=1.196	SAT TT=1.475	SAT TT=0.987	SAT TT=1.478	SAT TT=5.44	SAT TT=5.646	SAT TT=5.606	SAT TT=4.765	SAT TT=0.008	SAT TT=0.008	SAT TT=0.009	SAT TT=0.017	SAT TT=0.017	SAT TT=19.167	SAT TT=72.579	SAT TT=73.39	SAT TT=211.402	SAT TT=359.751	SAT TT=330.759	SAT TT=6.064
Primes/Primes-m1-p15/ Primes-15-40-3-5.xml	SAT TT=208.669	SAT TT=406.692	? TT=2520.01	? (TO) TT=2520.39	? (TO) TT=17580.8	SAT TT=2036.83	SAT TT=4173.77	SAT TT=2024.3	SAT TT=4235.66	? (TO) TT=2520.11	SAT TT=1322.8	SAT TT=208.669	? (TO) TT=2520.16	SAT TT=355.635	? (TO) TT=2520.08	? (TO) TT=2519.93	? (TO) TT=2520.05	? (TO) TT=2519.57	? (TO) TT=20001.7	? (TO) TT=19996.9	? (TO) TT=2520.12	? (TO) TT=19187.5	? (TO) TT=19116	? (TO) TT=2520.44	? (TO) TT=2609.8	? (TO) TT=2605.67	SAT TT=2444.64
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
Primes/Primes-m1-p15/ Primes-15-80-3-7.xml	SAT TT=0.067	SAT TT=3.516	SAT TT=0.067	SAT TT=1.888	SAT TT=2.999	SAT TT=2.025	SAT TT=3.022	SAT TT=1.897	SAT TT=2.71	SAT TT=1.249	SAT TT=2.737	SAT TT=6.518	SAT TT=7.405	SAT TT=6.687	SAT TT=6.232	SAT TT=0.546	SAT TT=0.473	SAT TT=0.471	SAT TT=0.179	SAT TT=0.197	SAT TT=34.546	SAT TT=152.645	SAT TT=153.579	? (MO) TT=678.766	? (TO) TT=1191.75	SAT TT=1230.8	SAT TT=22.722
Primes/Primes-m1-p20/ Primes-20-20-3-3.xml	SAT TT=0.008	SAT TT=3.225	SAT TT=0.01	SAT TT=1.341	SAT TT=1.662	SAT TT=1.345	SAT TT=1.645	SAT TT=1.37	SAT TT=1.738	SAT TT=1.05	SAT TT=1.661	SAT TT=5.266	SAT TT=5.547	SAT TT=5.319	SAT TT=4.58	SAT TT=0.007	SAT TT=0.008	SAT TT=0.008	SAT TT=0.018	SAT TT=0.016	SAT TT=10.734	SAT TT=11.777	SAT TT=11.671	SAT TT=103.783	SAT TT=153.459	SAT TT=159.97	SAT TT=5.47
Primes/Primes-m1-p20/ Primes-20-40-2-7.xml	SAT TT=1.738	SAT TT=11.409	SAT TT=1.738	SAT TT=47.009	SAT TT=78.975	SAT TT=80.054	SAT TT=164.743	SAT TT=86.635	SAT TT=22.913	SAT TT=15.103	SAT TT=167.827	SAT TT=46.498	SAT TT=215.299	SAT TT=24.981	SAT TT=10.252	? (TO) TT=2519.96	? (TO) TT=2519.76	? (TO) TT=2520	SAT TT=243.854	SAT TT=1127.48	? (TO) TT=2520.12	? (TO) TT=18701.6	? (TO) TT=19084.9	? (TO) TT=2528.15	? TT=4852.11	? TT=4800.11	SAT TT=1522
Primes/Primes-m1-p20/ Primes-20-60-3-5.xml	SAT TT=27.468	SAT TT=83.422	SAT TT=502.306	SAT TT=134.615	SAT TT=265.779	SAT TT=125.397	SAT TT=249.952	SAT TT=114.541	SAT TT=212.107	SAT TT=27.468	SAT TT=74.533	SAT TT=199.276	SAT TT=669.44	SAT TT=122.74	SAT TT=254.499	? (TO) TT=2519.69	? (TO) TT=2520.09	? (TO) TT=2519.92	SAT TT=3714.57	SAT TT=2258.55	? (TO) TT=2520.12	SAT TT=16748.2	SAT TT=16737.5	? (MO) TT=1927.58	? (MO) TT=4056.28	? (MO) TT=3804.87	? (TO) TT=2519.95
Primes/Primes-m1-p25/ Primes-25-20-3-1.xml	SAT TT=0.011	SAT TT=3.247	SAT TT=0.011	SAT TT=1.796	SAT TT=2.662	SAT TT=1.8	SAT TT=2.658	SAT TT=1.764	SAT TT=2.588	SAT TT=1.132	SAT TT=2.635	SAT TT=5.392	SAT TT=5.843	SAT TT=5.55	SAT TT=4.872	SAT TT=0.016	SAT TT=0.016	SAT TT=0.016	SAT TT=0.02	SAT TT=0.024	SAT TT=10.103	SAT TT=7.754	SAT TT=7.818	SAT TT=7.874	SAT TT=7.717	SAT TT=7.749	SAT TT=4.252
Primes/Primes-m1-p25/ Primes-25-40-2-7.xml	SAT TT=4.619	SAT TT=5.081	SAT TT=4.619	SAT TT=6.238	SAT TT=12.659	SAT TT=6.075	SAT TT=16.315	SAT TT=5.685	SAT TT=15.927	SAT TT=4.673	SAT TT=14.421	SAT TT=22.663	SAT TT=10.537	SAT TT=13.97	SAT TT=15.822	SAT TT=269.197	SAT TT=262.831	SAT TT=262.489	SAT TT=16.732	SAT TT=19.795	? (TO) TT=2520.2	? (TO) TT=18663.8	? (TO) TT=18506.6	? (NS) TT=2352.21	? (TO) TT=17804.3	? (TO) TT=17821.7	? (TO) TT=2519.7
Primes/Primes-m1-p25/ Primes-25-80-2-7.xml	SAT TT=0.012	SAT TT=3.366	SAT TT=0.012	SAT TT=2.42	SAT TT=4.563	SAT TT=2.752	SAT TT=4.247	SAT TT=2.485	SAT TT=4.893	SAT TT=1.387	SAT TT=4.508	SAT TT=6.062	SAT TT=6.356	SAT TT=6.269	SAT TT=5.505	SAT TT=0.015	SAT TT=0.015	SAT TT=0.015	SAT TT=0.1	SAT TT=0.091	SAT TT=18.122	SAT TT=42.84	SAT TT=42.354	? (NS) TT=2154.84	? (NS) TT=11049.4	? (NS) TT=11141.2	SAT TT=9.131
Primes/Primes-m1-p30/ Primes-30-80-3-7.xml	SAT TT=0.351	SAT TT=4.192	SAT TT=0.351	SAT TT=3.116	SAT TT=6.655	SAT TT=2.32	SAT TT=6.423	SAT TT=2.369	SAT TT=4.904	SAT TT=1.309	SAT TT=4.885	SAT TT=8.319	SAT TT=10.706	SAT TT=9.557	SAT TT=7.331	SAT TT=1.249	SAT TT=1.239	SAT TT=1.242	SAT TT=0.405	SAT TT=0.405	SAT TT=270.283	SAT TT=816.824	SAT TT=816.222	? (TO) TT=2528.38	? (TO) TT=18606.8	? (TO) TT=18596.1	SAT TT=115.895
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-18-3-6-8.xml	OPT f=32 TT=1.374 T1=0.85	OPT f=32 TT=7.319 T1=7.18	No data	OPT f=32 TT=9.685 T1=8.68	OPT f=32 TT=11.53 T1=9.44	OPT f=32 TT=12.344 T1=11.65	OPT f=32 TT=13.895 T1=11.68	OPT f=32 TT=10.158 T1=9.48	OPT f=32 TT=11.204 T1=10.48	OPT f=32 TT=7.034 T1=6.36	OPT f=32 TT=11.414 T1=10.5	? (TO) TT=2520.07	OPT f=32 TT=445.144 T1=441.04	? (TO) TT=2520.06	OPT f=32 TT=33.263 T1=28.45	SAT (TO) f=-6986 TT=2520.01 T1=960.56	SAT (TO) f=-6986 TT=2519.9 T1=987.45	SAT (TO) f=-6986 TT=2520.08 T1=984.91	OPT f=32 TT=1.374 T1=0.85	OPT f=32 TT=0.544 T1=0.1	No data	No data	No data	No data	No data	No data	OPT f=32 TT=52.935 T1=52.88
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-20-4-5-0.xml	OPT f=54 TT=4.498 T1=1.41	OPT f=54 TT=11.511 T1=11.32	No data	OPT f=54 TT=21.133 T1=12.38	OPT f=54 TT=21.575 T1=17.43	OPT f=54 TT=18.771 T1=14.06	OPT f=54 TT=18.395 T1=12.46	OPT f=54 TT=15.223 T1=8.51	OPT f=54 TT=20.158 T1=14.89	OPT f=54 TT=11.295 T1=8.32	OPT f=54 TT=24.376 T1=18	OPT f=54 TT=73.945 T1=53.85	OPT f=54 TT=347.299 T1=321.17	SAT (TO) f=-7987 TT=2520.11 T1=2475.19	OPT f=54 TT=88.299 T1=70.99	SAT (TO) f=-19000 TT=2520.06 T1=0.1	SAT (TO) f=-19000 TT=2519.94 T1=0.1	SAT (TO) f=-19000 TT=2520.03 T1=0.1	OPT f=54 TT=4.498 T1=1.41	OPT f=54 TT=4.938 T1=3.05	No data	No data	No data	No data	No data	No data	OPT f=54 TT=97.32 T1=97.28
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-20-4-5-8.xml	OPT f=20 TT=13.743 T1=0.61	OPT f=20 TT=16.669 T1=10.72	No data	OPT f=20 TT=37.419 T1=20.22	OPT f=20 TT=39.286 T1=17.01	OPT f=20 TT=73.426 T1=57.11	OPT f=20 TT=34.168 T1=16.5	OPT f=20 TT=32.396 T1=18.7	OPT f=20 TT=32.478 T1=15.57	OPT f=20 TT=13.743 T1=7.08	OPT f=20 TT=27.944 T1=13.24	OPT f=20 TT=255.914 T1=116.1	OPT f=20 TT=493.406 T1=71.23	OPT f=20 TT=276.076 T1=157.64	? (TO) TT=2520.11	SAT (TO) f=-15984 TT=2519.83 T1=7.59	SAT (TO) f=-15984 TT=2520.05 T1=3.1	SAT (TO) f=-15984 TT=2519.96 T1=3.09	OPT f=20 TT=20.464 T1=0.61	OPT f=20 TT=17.711 T1=0.6	No data	No data	No data	No data	No data	No data	OPT f=20 TT=70.165 T1=70.07
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-24-4-6-1.xml	OPT f=89 TT=50.138 T1=0.43	OPT f=89 TT=69.231 T1=29.01	No data	OPT f=89 TT=201.271 T1=66.79	Wrong Opt. f=-955 TT=12.144 T1=12.12	OPT f=89 TT=165.548 T1=25.71	OPT f=89 TT=175.829 T1=59.77	OPT f=89 TT=161.896 T1=22.69	OPT f=89 TT=152.708 T1=49.99	OPT f=89 TT=50.138 T1=10.28	OPT f=89 TT=166.031 T1=33.67	SAT (TO) f=-903 TT=2520.06 T1=818.49	SAT (TO) f=-898 TT=2520.13 T1=2432.14	OPT f=89 TT=2036.44 T1=829.66	OPT f=89 TT=1768.6 T1=338.27	SAT (TO) f=-24000 TT=2520.03 T1=0.31	SAT (TO) f=-24000 TT=2520.08 T1=0.21	SAT (TO) f=-24000 TT=2520 T1=0.21	OPT f=89 TT=102.164 T1=0.43	OPT f=89 TT=111.925 T1=22.65	No data	No data	No data	No data	No data	No data	OPT f=89 TT=279.917 T1=279.84
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-24-4-6-2.xml	OPT f=53 TT=33.63 T1=6.91	OPT f=53 TT=96.567 T1=90.56	No data	OPT f=53 TT=213.158 T1=70.67	Wrong Opt. f=22 TT=21.007 T1=20.44	OPT f=53 TT=124.552 T1=36.93	OPT f=53 TT=154.509 T1=57.31	OPT f=53 TT=98.514 T1=30.94	OPT f=53 TT=146.006 T1=63.54	OPT f=53 TT=33.63 T1=6.91	OPT f=53 TT=240.699 T1=188.85	SAT (TO) f=-3941 TT=2520.13 T1=2158.58	? (TO) TT=2520.1	? (TO) TT=2520.09	OPT f=53 TT=1812.63 T1=186.61	SAT (TO) f=-24000 TT=2520.02 T1=0.21	SAT (TO) f=-24000 TT=2519.88 T1=0.21	SAT (TO) f=-24000 TT=2519.98 T1=0.21	OPT f=53 TT=78.489 T1=14.6	OPT f=53 TT=60.654 T1=23.38	No data	No data	No data	No data	No data	No data	OPT f=53 TT=189.98 T1=189.93
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-24-4-6-3.xml	OPT f=80 TT=41.226 T1=4.24	OPT f=80 TT=93.349 T1=90.66	No data	OPT f=80 TT=237.328 T1=83.01	Wrong Opt. f=77 TT=45.914 T1=45.64	OPT f=80 TT=114.484 T1=43.33	OPT f=80 TT=110.502 T1=36.73	OPT f=80 TT=119.817 T1=24.33	OPT f=80 TT=116.14 T1=42.89	OPT f=80 TT=41.226 T1=25.7	OPT f=80 TT=132.1 T1=60.41	? (TO) TT=2520.13	? (TO) TT=2520.09	OPT f=80 TT=1337.89 T1=779.14	OPT f=80 TT=2485.62 T1=1847.68	SAT (TO) f=-24000 TT=2519.68 T1=0.31	SAT (TO) f=-24000 TT=2520.06 T1=0.21	SAT (TO) f=-24000 TT=2519.85 T1=0.26	OPT f=80 TT=86.302 T1=4.24	OPT f=80 TT=113.781 T1=1.19	No data	No data	No data	No data	No data	No data	OPT f=80 TT=228.217 T1=228.19
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-24-4-6-4.xml	OPT f=35 TT=37.85 T1=12.21	OPT f=35 TT=72.903 T1=57.27	No data	OPT f=35 TT=171.195 T1=65.81	OPT f=35 TT=63.778 T1=19.8	OPT f=35 TT=92.027 T1=23.12	OPT f=35 TT=108.233 T1=17.24	OPT f=35 TT=104.775 T1=35.8	OPT f=35 TT=144.49 T1=57.24	OPT f=35 TT=37.85 T1=16.68	OPT f=35 TT=115.103 T1=43.43	OPT f=35 TT=1066.39 T1=386.47	OPT f=35 TT=1609.94 T1=374.94	OPT f=35 TT=1649.13 T1=350.29	OPT f=35 TT=829.283 T1=282.78	SAT (TO) f=-24000 TT=2519.69 T1=0.21	SAT (TO) f=-24000 TT=2519.93 T1=0.21	SAT (TO) f=-24000 TT=2519.79 T1=0.21	OPT f=35 TT=56.025 T1=12.21	OPT f=35 TT=38.887 T1=4.23	No data	No data	No data	No data	No data	No data	OPT f=35 TT=149.392 T1=149.36
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-24-4-6-6.xml	OPT f=25 TT=77.348 T1=5.87	OPT f=25 TT=78.934 T1=52.64	No data	OPT f=25 TT=320.85 T1=246.6	Wrong Opt. f=22 TT=54.805 T1=54.75	OPT f=25 TT=180.991 T1=119.57	OPT f=25 TT=245.573 T1=164.14	OPT f=25 TT=137.639 T1=54.52	OPT f=25 TT=129.125 T1=53.97	OPT f=25 TT=180.404 T1=156.26	OPT f=25 TT=159.855 T1=78.36	OPT f=25 TT=2005.4 T1=718.89	OPT f=25 TT=1648.06 T1=522.37	? (TO) TT=2520.05	OPT f=25 TT=1134.11 T1=434.97	SAT (TO) f=-24000 TT=2520.05 T1=0.2	SAT (TO) f=-24000 TT=2519.82 T1=0.21	SAT (TO) f=-24000 TT=2519.74 T1=0.21	OPT f=25 TT=77.348 T1=5.87	OPT f=25 TT=95.806 T1=3.48	No data	No data	No data	No data	No data	No data	OPT f=25 TT=207.689 T1=207.59
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-24-4-6-7.xml	OPT f=56 TT=22.621 T1=13.02	OPT f=56 TT=32.148 T1=28.14	No data	OPT f=56 TT=88.551 T1=69.33	Wrong Opt. f=-971 TT=15.854 T1=15.39	OPT f=56 TT=42.97 T1=28.19	OPT f=56 TT=87.115 T1=58.64	OPT f=56 TT=62.975 T1=42.59	OPT f=56 TT=67.874 T1=32.03	OPT f=56 TT=25.729 T1=19.5	OPT f=56 TT=85.034 T1=47.66	OPT f=56 TT=1845.89 T1=1676.84	? (TO) TT=2520.1	? (TO) TT=2520.12	OPT f=56 TT=1097.69 T1=938.14	SAT (TO) f=-24000 TT=2519.92 T1=0.21	SAT (TO) f=-24000 TT=2520.04 T1=0.21	SAT (TO) f=-24000 TT=2519.94 T1=0.21	OPT f=56 TT=22.621 T1=13.02	OPT f=56 TT=24.291 T1=16.21	No data	No data	No data	No data	No data	No data	OPT f=56 TT=164.966 T1=164.93
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-24-4-6-8.xml	OPT f=63 TT=34.631 T1=8.25	OPT f=63 TT=48.494 T1=36.7	No data	OPT f=63 TT=200.762 T1=159.19	OPT f=63 TT=120.649 T1=65.91	OPT f=63 TT=122.772 T1=83.19	OPT f=63 TT=111.027 T1=33.37	OPT f=63 TT=84.07 T1=44.44	OPT f=63 TT=122.461 T1=55.76	OPT f=63 TT=34.631 T1=17.3	OPT f=63 TT=113.593 T1=33.69	? (TO) TT=2520.07	? (TO) TT=2520.11	SAT (TO) f=-926 TT=2520.12 T1=2428.33	OPT f=63 TT=974.735 T1=47.1	SAT (TO) f=-24000 TT=2520.03 T1=0.21	SAT (TO) f=-24000 TT=2520.08 T1=0.21	SAT (TO) f=-24000 TT=2520.07 T1=0.21	OPT f=63 TT=64.162 T1=8.25	OPT f=63 TT=51.561 T1=7.42	No data	No data	No data	No data	No data	No data	OPT f=63 TT=308.648 T1=308.6
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-25-5-5-0.xml	OPT f=41 TT=34.501 T1=11.86	OPT f=41 TT=36.311 T1=33.95	No data	OPT f=41 TT=151.992 T1=134.22	Wrong Opt. f=-8 TT=31.952 T1=31.44	OPT f=41 TT=42.65 T1=13.4	OPT f=41 TT=92.527 T1=43.32	OPT f=41 TT=36.898 T1=13.34	OPT f=41 TT=82.631 T1=26.02	OPT f=41 TT=34.501 T1=13.9	OPT f=41 TT=89.719 T1=27.21	OPT f=41 TT=674.097 T1=392.3	? (TO) TT=2520.07	? (TO) TT=2520.08	SAT (TO) f=-948 TT=2520.21 T1=1082.71	SAT (TO) f=-25000 TT=2520.06 T1=0.31	SAT (TO) f=-25000 TT=2519.77 T1=0.3	SAT (TO) f=-25000 TT=2519.93 T1=0.31	OPT f=41 TT=37.541 T1=11.86	OPT f=41 TT=49.745 T1=29.48	No data	No data	No data	No data	No data	No data	OPT f=41 TT=283.768 T1=283.67
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-25-5-5-5.xml	OPT f=57 TT=61.962 T1=14.34	OPT f=57 TT=149.308 T1=147.92	No data	OPT f=57 TT=253.582 T1=114.98	OPT f=57 TT=211.866 T1=79.62	OPT f=57 TT=129.249 T1=54.8	OPT f=57 TT=172.758 T1=59.09	OPT f=57 TT=196.976 T1=106.17	OPT f=57 TT=143.831 T1=34.42	OPT f=57 TT=61.962 T1=37.4	OPT f=57 TT=169.849 T1=29.63	? (TO) TT=2520.07	SAT (TO) f=57 TT=2520.12 T1=2516.72	? (TO) TT=2520.12	? (TO) TT=2520.1	SAT (TO) f=-25000 TT=2520.02 T1=0.3	SAT (TO) f=-25000 TT=2520.07 T1=0.31	SAT (TO) f=-25000 TT=2520.06 T1=0.31	OPT f=57 TT=118.391 T1=14.34	OPT f=57 TT=94.656 T1=19.88	No data	No data	No data	No data	No data	No data	OPT f=57 TT=280.564 T1=280.48
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-25-5-5-6.xml	OPT f=79 TT=47.661 T1=4.7	OPT f=79 TT=130.077 T1=111.94	No data	OPT f=79 TT=273.363 T1=45.32	OPT f=79 TT=106.372 T1=56.38	OPT f=79 TT=148.427 T1=40.35	OPT f=79 TT=227.885 T1=52.49	OPT f=79 TT=187.179 T1=30.57	OPT f=79 TT=207.159 T1=69.35	OPT f=79 TT=47.661 T1=13.64	OPT f=79 TT=203.936 T1=54.89	SAT (TO) f=-1914 TT=2520.16 T1=1730.71	OPT f=79 TT=2343.51 T1=139.04	? (TO) TT=2520.06	OPT f=79 TT=1907.25 T1=109.82	SAT (TO) f=-25000 TT=2519.92 T1=0.31	SAT (TO) f=-25000 TT=2520.06 T1=0.31	SAT (TO) f=-25000 TT=2519.94 T1=0.31	OPT f=79 TT=125.68 T1=4.7	OPT f=79 TT=100.441 T1=39.01	No data	No data	No data	No data	No data	No data	OPT f=79 TT=226.519 T1=226.45
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-25-5-5-9.xml	OPT f=65 TT=82.239 T1=12.28	OPT f=65 TT=82.239 T1=54.41	No data	OPT f=65 TT=292.424 T1=77.03	Wrong Opt. f=48 TT=37.97 T1=37.78	OPT f=65 TT=236.231 T1=102.46	OPT f=65 TT=326.716 T1=45.54	OPT f=65 TT=181.29 T1=66.87	OPT f=65 TT=298.31 T1=54.52	OPT f=65 TT=98.107 T1=21.75	OPT f=65 TT=304.6 T1=55.74	SAT (TO) f=-8975 TT=2520.11 T1=2103.81	? (TO) TT=2520.1	? (TO) TT=2520.08	? (TO) TT=2520.12	SAT (TO) f=-25000 TT=2519.93 T1=0.31	SAT (TO) f=-25000 TT=2520.05 T1=0.31	SAT (TO) f=-25000 TT=2519.57 T1=0.31	OPT f=65 TT=184.428 T1=12.28	OPT f=65 TT=135.091 T1=6.35	No data	No data	No data	No data	No data	No data	OPT f=65 TT=276.584 T1=276.56
PrizeCollecting/ PrizeCollecting-jok-s1/ PrizeCollecting-28-4-7-3.xml	OPT f=77 TT=101.167 T1=18.19	OPT f=77 TT=806.613 T1=787.34	No data	OPT f=77 TT=1147.63 T1=451.16	Wrong Opt. f=40 TT=58.313 T1=58.21	OPT f=77 TT=333.402 T1=80.12	OPT f=77 TT=664.25 T1=120.68	OPT f=77 TT=417.298 T1=126.98	OPT f=77 TT=688.21 T1=154.62	OPT f=77 TT=101.167 T1=18.19	OPT f=77 TT=632.246 T1=74.66	SAT (TO) f=-9938 TT=2520.13 T1=2001.69	? (TO) TT=2520.1	? (TO) TT=2520.08	? (TO) TT=2520.13	SAT (TO) f=-28000 TT=2520.04 T1=0.4	SAT (TO) f=-28000 TT=2519.82 T1=0.41	SAT (TO) f=-28000 TT=2519.88 T1=0.41	OPT f=77 TT=379.936 T1=32.1	OPT f=77 TT=315.151 T1=44.97	No data	No data	No data	No data	No data	No data	OPT f=77 TT=338.213 T1=338.16
PropStress/ PropStress-m1-s1/ PropStress-0150.xml	UNSAT TT=19.599	? (TO) TT=2520.06	UNSAT TT=121.921	UNSAT TT=398.757	UNSAT TT=706.12	UNSAT TT=341.169	UNSAT TT=727.763	UNSAT TT=320.278	UNSAT TT=1141.15	UNSAT TT=44.18	UNSAT TT=1063.77	UNSAT TT=145.645	UNSAT TT=242.287	UNSAT TT=211.634	UNSAT TT=213.258	UNSAT TT=759.706	UNSAT TT=660.93	UNSAT TT=660.148	UNSAT TT=5786.04	UNSAT TT=5714.61	UNSAT TT=19.599	UNSAT TT=27.74	UNSAT TT=26.726	? (MO) TT=544.709	UNSAT TT=671.899	UNSAT TT=699.706	UNSAT TT=45.868
PropStress/ PropStress-m1-s1/ PropStress-0400.xml	UNSAT TT=59.25	? (problem) TT=46.844	? (MO) TT=222.751	? (TO) TT=2520.57	? (TO) TT=19874.1	? (TO) TT=2520.47	? (TO) TT=19926.2	? (TO) TT=2520.59	? (TO) TT=19923.9	UNSAT TT=1916.84	? (TO) TT=19930.1	? (TO) TT=2522.12	? (TO) TT=2522.05	? (TO) TT=2522.07	? (TO) TT=2522.56	? (TO) TT=2520.1	? (TO) TT=2520.04	? (TO) TT=2520.09	? (TO) TT=19798.8	? (TO) TT=19788.1	UNSAT TT=59.25	UNSAT TT=92.129	UNSAT TT=92.889	? (TO) TT=2528.2	? TT=1673.21	? TT=1499.73	UNSAT TT=451.594
PropStress/ PropStress-m1-s1/ PropStress-0450.xml	UNSAT TT=73.796	? (problem) TT=51.389	? (MO) TT=350.212	? (TO) TT=2520.72	? (TO) TT=19822.7	? (TO) TT=2520.61	? (TO) TT=19876.8	? (TO) TT=2520.56	? (TO) TT=19900.4	? (TO) TT=2520.09	? (TO) TT=19878.7	? (TO) TT=2522.1	? (TO) TT=2522.1	? (TO) TT=2522.09	? (TO) TT=2522.76	? (TO) TT=2519.8	? (TO) TT=2519.91	? (TO) TT=2519.6	? (TO) TT=19701.7	? (TO) TT=19697.1	UNSAT TT=73.796	UNSAT TT=97.445	UNSAT TT=104.326	? (TO) TT=2528.13	? (TO) TT=16098.1	? (TO) TT=16213.6	UNSAT TT=504.461
PseudoBoolean/ PseudoBoolean-dec-armies/ Pb-army11-17ls.xml	SAT TT=18.403	? (TO) TT=2520.07	? (TO) TT=2519.92	SAT TT=561.508	SAT TT=1319.89	SAT TT=396.328	SAT TT=876.561	SAT TT=393.141	SAT TT=812.565	? (TO) TT=2520.12	SAT TT=892.335	? (TO) TT=2520.08	? (TO) TT=2520.07	? (TO) TT=2520.06	? (TO) TT=2520.06	SAT TT=2319.35	SAT TT=2358.17	SAT TT=2269.52	SAT TT=65.391	SAT TT=59.66	SAT TT=136.055	SAT TT=71.445	SAT TT=77.41	SAT TT=31.318	SAT TT=365.712	SAT TT=366.602	SAT TT=18.403
PseudoBoolean/ PseudoBoolean-dec-armies/ Pb-army12-21ls.xml	SAT TT=470.531	? (TO) TT=2520.04	? (TO) TT=2519.83	SAT TT=2067.35	SAT TT=4591.52	? (TO) TT=2520.52	? (TO) TT=20051.5	? (TO) TT=2520.62	? (TO) TT=20059.8	? (TO) TT=2520.13	? (TO) TT=20059.7	? (TO) TT=2520.11	? (TO) TT=2520.11	? (TO) TT=2520.13	? (TO) TT=2520.06	? (TO) TT=2520.02	? (TO) TT=2520.08	? (TO) TT=2519.51	? (TO) TT=20113.6	? (TO) TT=20112	? (TO) TT=2520.05	? (TO) TT=18270.2	? (TO) TT=18506.9	? (TO) TT=2520.07	? (TO) TT=18979.5	? (TO) TT=18570	SAT TT=470.531
PseudoBoolean/ PseudoBoolean-dec-armies/ Pb-army13-24ls.xml	SAT TT=34.667	? (TO) TT=2520.11	? (TO) TT=2519.93	SAT TT=582.049	SAT TT=1296.61	SAT TT=923.816	SAT TT=2054.45	SAT TT=878.217	SAT TT=1899.74	? (TO) TT=2520.11	SAT TT=1872.01	? (TO) TT=2520.08	? (TO) TT=2520.12	? (TO) TT=2520.1	? (TO) TT=2520.1	? (TO) TT=2519.96	? (TO) TT=2519.93	? (TO) TT=2520.06	SAT TT=345.394	SAT TT=356.177	SAT TT=1030	SAT TT=7169.61	SAT TT=7162.04	? (TO) TT=2520.06	SAT TT=3882.86	SAT TT=3926.08	SAT TT=34.667
PseudoBoolean/ PseudoBoolean-dec-fpga/ Pb-chnl10-11.xml	UNSAT TT=56.547	UNSAT TT=348.256	? (TO) TT=2519.92	UNSAT TT=963.684	UNSAT TT=2065.63	UNSAT TT=1032.45	UNSAT TT=2374.59	UNSAT TT=1030.35	UNSAT TT=2362.87	? (TO) TT=2520.04	UNSAT TT=2450.33	UNSAT TT=1539.87	? (TO) TT=2520.08	UNSAT TT=1849.28	UNSAT TT=2182.4	UNSAT TT=2431.26	UNSAT TT=2113.71	UNSAT TT=2121.5	UNSAT TT=7007.34	UNSAT TT=7047.5	UNSAT TT=95.613	UNSAT TT=388.471	UNSAT TT=383.095	UNSAT TT=120.546	UNSAT TT=227.792	UNSAT TT=228.737	UNSAT TT=56.547
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
PseudoBoolean/ PseudoBoolean-dec-fpga/ Pb-chnl10-15.xml	UNSAT TT=62.423	UNSAT TT=691.693	? TT=2520.01	UNSAT TT=1273.7	UNSAT TT=2586.22	UNSAT TT=1296.99	UNSAT TT=3217.87	UNSAT TT=1322.4	UNSAT TT=2815.78	? (TO) TT=2520.12	UNSAT TT=3195.02	UNSAT TT=2299.34	? (TO) TT=2520.11	? (TO) TT=2520.13	? (TO) TT=2520.05	? (TO) TT=2520.11	? (TO) TT=2520.05	? (TO) TT=2520.06	UNSAT TT=13869	UNSAT TT=14536.4	UNSAT TT=85.031	UNSAT TT=134.477	UNSAT TT=134.314	UNSAT TT=62.423	UNSAT TT=254.943	UNSAT TT=252.742	UNSAT TT=97.795
PseudoBoolean/ PseudoBoolean-dec-fpga/ Pb-fpga45-44-sat.xml	SAT TT=6.711	SAT TT=6.711	? (TO) TT=2520.02	? (TO) TT=2520.36	? (TO) TT=20075.6	? (TO) TT=2520.31	? (TO) TT=20038.2	? (TO) TT=2520.61	? (TO) TT=20028.8	? (TO) TT=2520.11	? (TO) TT=20042.7	? (TO) TT=2520.09	? (TO) TT=2520.16	? (TO) TT=2520.13	? (TO) TT=2520.11	? (TO) TT=2520.02	? (TO) TT=2519.19	? (TO) TT=2519.96	SAT TT=475.826	SAT TT=516.807	SAT TT=219.013	SAT TT=14.352	SAT TT=14.424	SAT TT=23.702	SAT TT=26.319	SAT TT=26.889	SAT TT=135.858
PseudoBoolean/ PseudoBoolean-dec-pigeon/ Pb-pigeon-card-015-010.xml	UNSAT TT=43.037	UNSAT TT=637.056	? TT=2520.01	UNSAT TT=1269.39	UNSAT TT=2637.84	UNSAT TT=1306.58	UNSAT TT=3226.55	UNSAT TT=1189.16	UNSAT TT=2584.36	? (TO) TT=2520.11	UNSAT TT=2702.55	UNSAT TT=1667.37	? (TO) TT=2520.05	UNSAT TT=1266.86	UNSAT TT=1484.53	? (TO) TT=2519.83	? (TO) TT=2519.71	? (TO) TT=2520.07	UNSAT TT=12260.6	UNSAT TT=11581	UNSAT TT=43.037	UNSAT TT=149.788	UNSAT TT=152.756	UNSAT TT=54.018	UNSAT TT=217.936	UNSAT TT=219.955	UNSAT TT=107.132
PseudoBoolean/ PseudoBoolean-dec-pigeon/ Pb-pigeon-clau-011-010.xml	UNSAT TT=51.188	UNSAT TT=490.602	UNSAT TT=1400.43	UNSAT TT=1795.6	UNSAT TT=2653.67	UNSAT TT=1727.9	UNSAT TT=2304.45	UNSAT TT=1687.31	UNSAT TT=2556.34	? (TO) TT=2520.06	UNSAT TT=2375.27	UNSAT TT=1018.67	? (TO) TT=2520.11	UNSAT TT=1784.53	UNSAT TT=1472.24	UNSAT TT=2487.41	UNSAT TT=2460.58	? (TO) TT=2519.73	UNSAT TT=5895.13	UNSAT TT=5981.47	UNSAT TT=51.188	UNSAT TT=395.115	UNSAT TT=394.571	UNSAT TT=52.38	UNSAT TT=389.552	UNSAT TT=392.523	UNSAT TT=64.115
PseudoBoolean/ PseudoBoolean-dec-pigeon/ Pb-pigeon-clau-015-010.xml	UNSAT TT=92.811	UNSAT TT=621.108	? TT=2520.02	? (TO) TT=2520.47	UNSAT TT=8501.54	? (TO) TT=2520.41	UNSAT TT=7618.76	? (TO) TT=2520.63	UNSAT TT=7332.93	? (TO) TT=2520.09	UNSAT TT=7586.58	UNSAT TT=1989.68	? (TO) TT=2520.07	? (TO) TT=2520.06	? (TO) TT=2520.06	? (TO) TT=2519.75	? (TO) TT=2519.81	? (TO) TT=2519.72	UNSAT TT=10804.1	UNSAT TT=10904.8	UNSAT TT=92.811	UNSAT TT=672.753	UNSAT TT=677.814	UNSAT TT=261.727	UNSAT TT=665.802	UNSAT TT=670.743	UNSAT TT=129.17
PseudoBoolean/ PseudoBoolean-dec-queen/ Pb-queen-0975965.xml	UNSAT TT=7.267	UNSAT TT=24.808	UNSAT TT=26.31	UNSAT TT=8.88	UNSAT TT=16.547	UNSAT TT=8.259	UNSAT TT=15.587	UNSAT TT=7.922	UNSAT TT=15.286	UNSAT TT=7.267	UNSAT TT=14.679	UNSAT TT=252.393	UNSAT TT=1556.2	UNSAT TT=324.826	UNSAT TT=327.861	UNSAT TT=191.596	UNSAT TT=192.401	UNSAT TT=190.947	UNSAT TT=457.951	UNSAT TT=496.408	UNSAT TT=27.378	UNSAT TT=60.909	UNSAT TT=60.9	UNSAT TT=17.783	UNSAT TT=37.353	UNSAT TT=36.866	UNSAT TT=20.663
PseudoBoolean/ PseudoBoolean-dec-spba/ Pb-BeauxArts-K67.xml	SAT TT=91.385	? (TO) TT=2520.1	? (TO) TT=2519.95	? (TO) TT=2520.42	? (TO) TT=20042.5	? (TO) TT=2520.58	? (TO) TT=20041.8	? (TO) TT=2520.38	? (TO) TT=20025.6	? (TO) TT=2520.12	? (TO) TT=20028.7	? (TO) TT=2520.13	? (TO) TT=2520.11	? (TO) TT=2520.1	? (TO) TT=2520.16	? (TO) TT=2520.03	? (TO) TT=2519.77	? (TO) TT=2519.92	? (TO) TT=20109.8	? (TO) TT=20109	SAT TT=91.385	SAT TT=1182.18	SAT TT=1189.42	SAT TT=159.884	SAT TT=382.778	SAT TT=382.102	SAT TT=166.767
PseudoBoolean/ PseudoBoolean-dec-spng/ Pb-NG-K146.xml		? (TO) TT=2520.05	? (TO) TT=2519.66	? (TO) TT=2520.7	? (TO) TT=20074.7	? (TO) TT=2520.39	? (TO) TT=20078.5	? (TO) TT=2520.38	? (TO) TT=20075	? (TO) TT=2520.08	? (TO) TT=20079.6	? (TO) TT=2520.11	? (TO) TT=2520.13	? (TO) TT=2520.04	? (TO) TT=2520.16	? (TO) TT=2520.08	? (TO) TT=2519.84	? (TO) TT=2520.05	? (TO) TT=20070.7	? (TO) TT=20075.6	? (TO) TT=2520.14	? (TO) TT=18711.3	? (TO) TT=18626.8	? (TO) TT=2520.14	? (TO) TT=18748	? (TO) TT=18805.5	? (TO) TT=2519.81
PseudoBoolean/ PseudoBoolean-dec-sptate/ Pb-Tate-K097.xml	SAT TT=64.44	? (TO) TT=2520.04	? (TO) TT=2519.62	? (TO) TT=2520.69	? (TO) TT=20083.2	? (TO) TT=2520.66	? (TO) TT=20088.5	? (TO) TT=2520.66	? (TO) TT=20093	? (TO) TT=2520.09	? (TO) TT=20090.8	? (TO) TT=2520.06	? (TO) TT=2520.13	? (TO) TT=2520.12	? (TO) TT=2520.06	? (TO) TT=2520.07	? (TO) TT=2519.97	? (TO) TT=2519.53	? (TO) TT=20105.7	? (TO) TT=20105.2	SAT TT=64.44	SAT TT=10186.4	SAT TT=10177.6	SAT TT=355.343	SAT TT=2815.27	SAT TT=2861.4	SAT TT=121.404
PseudoBoolean/ PseudoBoolean-dec-sptate/ Pb-Tate-K100.xml	SAT TT=49.688	? (TO) TT=2520.09	? (TO) TT=2520.01	? (TO) TT=2520.44	? (TO) TT=20085.6	? (TO) TT=2520.65	? (TO) TT=20086.8	? (TO) TT=2520.38	? (TO) TT=20092.4	? (TO) TT=2520.1	? (TO) TT=20091.2	? (TO) TT=2520.07	? (TO) TT=2520.18	? (TO) TT=2520.12	? (TO) TT=2520.13	? (TO) TT=2520.07	? (TO) TT=2520.08	? (TO) TT=2519.88	? (TO) TT=20105.9	? (TO) TT=20102	SAT TT=49.688	SAT TT=4773.06	SAT TT=5001.98	SAT TT=626.956	SAT TT=1213.5	SAT TT=1236.71	SAT TT=119.957
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-09-22) (complete)	PicatSAT 2019-09-12 (complete)
PseudoBoolean/ PseudoBoolean-dec-sptate/ Pb-Tate-K106.xml	SAT TT=53.714	? (TO) TT=2520.02	? (TO) TT=2520.06	? (TO) TT=2520.55	? (TO) TT=20081.6	? (TO) TT=2520.7	? (TO) TT=20091.6	? (TO) TT=2520.61	? (TO) TT=20089.4	? (TO) TT=2520.04	? (TO) TT=20094	? (TO) TT=2520.16	? (TO) TT=2520.06	? (TO) TT=2520.11	? (TO) TT=2520.1	? (TO) TT=2520	? (TO) TT=2519.97	? (TO) TT=2519.9	? (TO) TT=20103.7	? (TO) TT=20098.9	SAT TT=53.714	SAT TT=1552.99	SAT TT=1540.55	SAT TT=367.185	SAT TT=1094.22	SAT TT=1089.89	SAT TT=101.038
PseudoBoolean/ PseudoBoolean-opt-bgr/ Pb-bgr-04.xml	OPT f=6 TT=0.013 T1=0	OPT f=6 TT=3.243 T1=3.14	No data	OPT f=6 TT=1.291 T1=1	OPT f=6 TT=1.687 T1=1.35	OPT f=6 TT=1.332 T1=0.33	OPT f=6 TT=1.646 T1=1.39	OPT f=6 TT=1.284 T1=1	OPT f=6 TT=1.649 T1=1.38	OPT f=6 TT=1.059 T1=1.01	OPT f=6 TT=1.63 T1=1.38	OPT f=6 TT=6.774 T1=6.44	OPT f=6 TT=7.45 T1=7.11	OPT f=6 TT=6.901 T1=6.85	OPT f=6 TT=5.9 T1=5.56	OPT f=6 TT=0.013 T1=0	OPT f=6 TT=0.013 T1=0	OPT f=6 TT=0.014 T1=0	OPT f=6 TT=0.031 T1=0	OPT f=6 TT=0.028 T1=0	No data	No data	No data	No data	No data	No data	OPT f=6 TT=0.408 T1=0.3
PseudoBoolean/ PseudoBoolean-opt-dimacs/ Pb-hanoi4.xml	OPT f=718 TT=108.063 T1=23.82	SAT (TO) f=718 TT=2520.01 T1=120.95	No data	OPT f=718 TT=650.8 T1=23.82	OPT f=718 TT=1416.24 T1=52.63	OPT f=718 TT=663.964 T1=353.83	OPT f=718 TT=1367.9 T1=716.52	OPT f=718 TT=648.615 T1=349.19	OPT f=718 TT=1337.75 T1=703.59	OPT f=718 TT=740.937 T1=64.86	OPT f=718 TT=1554.02 T1=387.48	SAT (TO) f=718 TT=2520.07 T1=475.96	SAT (TO) f=718 TT=2520.04 T1=251.3	? (TO) TT=2520.09	SAT (TO) f=718 TT=2520.11 T1=856.18	? (TO) TT=2519.71	? (TO) TT=2520.04	? (TO) TT=2520.06	SAT (TO) f=718 TT=20118.9 T1=1945.28	SAT (TO) f=718 TT=20117 T1=2391.47	No data	No data	No data	No data	No data	No data	OPT f=718 TT=108.063 T1=108
PseudoBoolean/ PseudoBoolean-opt-dimacs/ Pb-ii32b3.xml	OPT f=331 TT=119.032 T1=11.74	OPT f=331 TT=621.735 T1=11.86	No data	OPT f=331 TT=957.373 T1=21.93	OPT f=331 TT=1684.94 T1=28.13	OPT f=331 TT=2247.46 T1=23.38	OPT f=331 TT=812.929 T1=28.13	OPT f=331 TT=2207.94 T1=22.22	OPT f=331 TT=1597.76 T1=24.67	OPT f=331 TT=412.773 T1=11.74	OPT f=331 TT=1623.21 T1=24.68	SAT (TO) f=331 TT=2520.1 T1=36.7	SAT (TO) f=331 TT=2520.06 T1=289.14	SAT (TO) f=331 TT=2520.08 T1=38.24	SAT (TO) f=331 TT=2520.11 T1=182.64	SAT (TO) f=331 TT=2520.03 T1=19.78	SAT (TO) f=331 TT=2519.93 T1=19.58	SAT (TO) f=331 TT=2519.91 T1=19.68	SAT (TO) f=331 TT=20116.9 T1=163.66	SAT (TO) f=331 TT=20116.7 T1=166.95	No data	No data	No data	No data	No data	No data	OPT f=331 TT=119.032 T1=118.97
PseudoBoolean/ PseudoBoolean-opt-dimacs/ Pb-ii32e3.xml	OPT f=310 TT=91.994 T1=6.12	OPT f=310 TT=2384.43 T1=6.12	No data	SAT (TO) f=310 TT=2520.49 T1=321.94	OPT f=310 TT=6066.08 T1=19	SAT (TO) f=310 TT=2520.55 T1=262.32	OPT f=310 TT=2036.39 T1=18.43	SAT (TO) f=310 TT=2520.36 T1=271.29	OPT f=310 TT=2013.98 T1=17.52	OPT f=310 TT=599.938 T1=215.72	OPT f=310 TT=1996.24 T1=17.1	SAT (TO) f=310 TT=2520.07 T1=31.18	SAT (TO) f=310 TT=2520.11 T1=696.24	SAT (TO) f=310 TT=2520.13 T1=36.54	SAT (TO) f=310 TT=2520.13 T1=32.1	SAT (TO) f=310 TT=2519.96 T1=25.99	SAT (TO) f=310 TT=2519.94 T1=26	SAT (TO) f=310 TT=2520.11 T1=25.99	SAT (TO) f=310 TT=20119.9 T1=47.1	SAT (TO) f=310 TT=20117.7 T1=47.05	No data	No data	No data	No data	No data	No data	OPT f=310 TT=91.994 T1=91.89
PseudoBoolean/ PseudoBoolean-opt-dimacs/ Pb-jnh210.xml	OPT f=88 TT=3.746 T1=0.23	OPT f=88 TT=5.852 T1=4.46	No data	OPT f=88 TT=8.074 T1=4.14	OPT f=88 TT=11.62 T1=3.65	OPT f=88 TT=6.595 T1=2.65	OPT f=88 TT=10.895 T1=3.71	OPT f=88 TT=6.826 T1=2.69	OPT f=88 TT=10.074 T1=4.36	OPT f=88 TT=3.746 T1=1.99	OPT f=88 TT=10.955 T1=4.34	OPT f=88 TT=22.295 T1=17.21	OPT f=88 TT=215.768 T1=22.76	OPT f=88 TT=24.342 T1=12.8	OPT f=88 TT=24.58 T1=12.73	OPT f=88 TT=50.527 T1=0.89	OPT f=88 TT=51.142 T1=0.89	OPT f=88 TT=51.845 T1=1	OPT f=88 TT=32.741 T1=0.23	OPT f=88 TT=40.42 T1=0.24	No data	No data	No data	No data	No data	No data	OPT f=88 TT=27.286 T1=27.18
PseudoBoolean/ PseudoBoolean-opt-dimacs/ Pb-par16-3.xml	OPT f=1015 TT=54.049 T1=26.3	OPT f=1015 TT=466.445 T1=228.52	No data	OPT f=1015 TT=63.732 T1=26.7	OPT f=1015 TT=131.666 T1=50.61	OPT f=1015 TT=67.662 T1=26.3	OPT f=1015 TT=133.504 T1=32.67	OPT f=1015 TT=62.299 T1=25.45	OPT f=1015 TT=128.186 T1=33.61	OPT f=1015 TT=59.504 T1=57.86	OPT f=1015 TT=128.51 T1=30.89	OPT f=1015 TT=549.01 T1=253.56	SAT (TO) f=1015 TT=2520.12 T1=771.13	OPT f=1015 TT=848.348 T1=65.23	OPT f=1015 TT=894.526 T1=48.04	SAT (TO) f=1015 TT=2520.01 T1=137.79	SAT (TO) f=1015 TT=2520.05 T1=125	SAT (TO) f=1015 TT=2519.6 T1=125.07	SAT (TO) f=1015 TT=20118.6 T1=1764.33	SAT (TO) f=1015 TT=20119.1 T1=1805.05	No data	No data	No data	No data	No data	No data	OPT f=1015 TT=54.049 T1=53.99
PseudoBoolean/ PseudoBoolean-opt-factor/ Pb-factor-S9-P211-Q347.xml	OPT f=211 TT=0.087 T1=0	OPT f=211 TT=3.753 T1=3.46	No data	OPT f=211 TT=2.587 T1=2.4	OPT f=211 TT=3.985 T1=3.75	OPT f=211 TT=2.297 T1=1.96	OPT f=211 TT=3.635 T1=3.03	OPT f=211 TT=2.311 T1=2	OPT f=211 TT=3.82 T1=3.13	OPT f=211 TT=1.518 T1=1.27	OPT f=211 TT=3.685 T1=3.05	OPT f=211 TT=10.057 T1=9.15	OPT f=211 TT=12.317 T1=11.64	OPT f=211 TT=8.87 T1=7.97	OPT f=211 TT=8.774 T1=7.87	OPT f=211 TT=0.088 T1=0	OPT f=211 TT=0.088 T1=0	OPT f=211 TT=0.087 T1=0	OPT f=211 TT=0.279 T1=0	OPT f=211 TT=0.303 T1=0	No data	No data	No data	No data	No data	No data	OPT f=211 TT=0.155 T1=0.09
PseudoBoolean/ PseudoBoolean-opt-factor/ Pb-factor-S9-P347-Q487.xml	OPT f=347 TT=0.076 T1=0	OPT f=347 TT=3.736 T1=3.46	No data	OPT f=347 TT=2.272 T1=1.95	OPT f=347 TT=3.78 T1=3.05	OPT f=347 TT=2.425 T1=2.07	OPT f=347 TT=3.291 T1=3.06	OPT f=347 TT=2.306 T1=2	OPT f=347 TT=3.239 T1=2.95	OPT f=347 TT=1.367 T1=1.29	OPT f=347 TT=3.115 T1=2.32	OPT f=347 TT=8.71 T1=8.38	OPT f=347 TT=9.941 T1=9.38	OPT f=347 TT=9.803 T1=9.44	OPT f=347 TT=9.073 T1=8.72	OPT f=347 TT=0.076 T1=0	OPT f=347 TT=0.078 T1=0	OPT f=347 TT=0.076 T1=0	OPT f=347 TT=0.174 T1=0	OPT f=347 TT=0.177 T1=0	No data	No data	No data	No data	No data	No data	OPT f=347 TT=0.171 T1=0.09
PseudoBoolean/ PseudoBoolean-opt-fx/ Pb-fx84.xml	OPT f=8 TT=19.854 T1=19.72	OPT f=8 TT=19.854 T1=19.72	No data	OPT f=8 TT=98.912 T1=98.83	OPT f=8 TT=290.805 T1=290.52	OPT f=8 TT=74.736 T1=74.59	OPT f=8 TT=149.081 T1=148.91	OPT f=8 TT=77.842 T1=77.51	OPT f=8 TT=141.589 T1=141.1	? (TO) TT=2520.05	OPT f=8 TT=145.341 T1=144.74	OPT f=8 TT=70.007 T1=69.42	OPT f=8 TT=760.633 T1=760.31	OPT f=8 TT=384.43 T1=384.13	OPT f=8 TT=46.62 T1=46.33	OPT f=8 TT=70.755 T1=70.69	OPT f=8 TT=68.909 T1=68.8	OPT f=8 TT=64.962 T1=64.87	OPT f=8 TT=173.249 T1=172.33	OPT f=8 TT=177.559 T1=176.75	No data	No data	No data	No data	No data	No data	OPT f=8 TT=137.732 T1=137.68
Bench name	Best results	AbsCon 2019-07-23 (complete)	BTD 19.07.01 (complete)	choco-solver 2019-06-14 (complete)	choco-solver 2019-06-14 parallel (complete)	choco-solver 2019-09-16 (complete)	choco-solver 2019-09-16 parallel (complete)	choco-solver 2019-09-20 (complete)	choco-solver 2019-09-20 parallel (complete)	choco-solver 2019-09-24 (complete)	choco-solver 2019-09-24 parallel (complete)	Concrete 3.10 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.2 (complete)	Concrete 3.12.3 (complete)	cosoco 2 (complete)	cosoco 2.0 (complete)	cosoco 2.0 (complete)	cosoco 2.0 parallel (complete)	cosoco 2.O parallel (complete)	Fun-sCOP hybrid+CryptoMiniSat (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-06-15) (complete)	Fun-sCOP hybrid+ManyGlucose (2019-09-22) (complete)	Fun-sCOP order+GlueMiniSat (2019-06-15) (complete)	Fun-sCOP order+ManyGlucose (2019-06-15)