rkrishn7 commented on PR #17529: URL: https://github.com/apache/datafusion/pull/17529#issuecomment-3304022192
> > @alamb Would you be able to kick off benchmarks ๐๐พ ? Specifically TPC-H against parquet files > > Should want the following configuration options set: > > ``` > > DATAFUSION_EXECUTION_HASH_JOIN_SIDEWAYS_HASH_PASSING=true > > DATAFUSION_EXECUTION_PARQUET_PUSHDOWN_FILTERS=true > > ``` > > I am not quite sure how to set these options in the benchmarks... Ah okay then we probably won't see any changes since these need to be enabled for the changes here to take effect. Posting a comparison I did locally: ``` Comparing main and feat_pushdown-hashes-hashjoinexec -------------------- Benchmark tpch_sf1.json -------------------- โโโโโโโโโโโโโโโโณโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโ โ Query โ main โ feat_pushdown-hashes-hashjoinexec โ Change โ โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ โ QQuery 1 โ 58.88 ms โ 57.03 ms โ no change โ โ QQuery 2 โ 53.69 ms โ 30.18 ms โ +1.78x faster โ โ QQuery 3 โ 66.45 ms โ 68.39 ms โ no change โ โ QQuery 4 โ 41.55 ms โ 41.23 ms โ no change โ โ QQuery 5 โ 108.33 ms โ 68.41 ms โ +1.58x faster โ โ QQuery 6 โ 28.36 ms โ 26.23 ms โ +1.08x faster โ โ QQuery 7 โ 101.16 ms โ 56.93 ms โ +1.78x faster โ โ QQuery 8 โ 111.82 ms โ 78.32 ms โ +1.43x faster โ โ QQuery 9 โ 126.30 ms โ 127.26 ms โ no change โ โ QQuery 10 โ 94.72 ms โ 64.64 ms โ +1.47x faster โ โ QQuery 11 โ 36.03 ms โ 17.83 ms โ +2.02x faster โ โ QQuery 12 โ 69.64 ms โ 58.65 ms โ +1.19x faster โ โ QQuery 13 โ 34.31 ms โ 33.93 ms โ no change โ โ QQuery 14 โ 43.37 ms โ 41.74 ms โ no change โ โ QQuery 15 โ 49.23 ms โ 48.76 ms โ no change โ โ QQuery 16 โ 35.28 ms โ 30.01 ms โ +1.18x faster โ โ QQuery 17 โ 125.91 ms โ 112.71 ms โ +1.12x faster โ โ QQuery 18 โ 160.70 ms โ 203.86 ms โ 1.27x slower โ โ QQuery 19 โ 81.69 ms โ 68.15 ms โ +1.20x faster โ โ QQuery 20 โ 47.11 ms โ 47.74 ms โ no change โ โ QQuery 21 โ 149.61 ms โ 113.31 ms โ +1.32x faster โ โ QQuery 22 โ 18.61 ms โ 17.81 ms โ no change โ โโโโโโโโโโโโโโโโดโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโ โ Benchmark Summary โ โ โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ โ Total Time (main) โ 1642.74ms โ โ Total Time (feat_pushdown-hashes-hashjoinexec) โ 1413.10ms โ โ Average Time (main) โ 74.67ms โ โ Average Time (feat_pushdown-hashes-hashjoinexec) โ 64.23ms โ โ Queries Faster โ 12 โ โ Queries Slower โ 1 โ โ Queries with No Change โ 9 โ โ Queries with Failure โ 0 โ โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโ ``` -- This is an automated message from the Apache Git Service. To respond to the message, please log on to GitHub and use the URL above to go to the specific comment. To unsubscribe, e-mail: [email protected] For queries about this service, please contact Infrastructure at: [email protected] --------------------------------------------------------------------- To unsubscribe, e-mail: [email protected] For additional commands, e-mail: [email protected]
