Fix CheckAttributeType's handling of collations for ranges.
authorTom Lane <tgl@sss.pgh.pa.us>
Fri, 31 Jan 2020 22:03:55 +0000 (17:03 -0500)
committerTom Lane <tgl@sss.pgh.pa.us>
Fri, 31 Jan 2020 22:03:55 +0000 (17:03 -0500)
commit74b35eb468dcf353e25afd4acfc7ee2b2022d6b6
tree014046bfe6928daf4c7ccd06dc62f9f335ee5f6d
parent2425f8f714a15fa0fa6fa2f656ad546cbb78e2d6
Fix CheckAttributeType's handling of collations for ranges.

Commit fc7695891 changed CheckAttributeType to recurse into ranges,
but made it pass down the wrong collation (always InvalidOid, since
ranges as such have no collation).  This would result in guaranteed
failure when considering a range type whose subtype is collatable.

Embarrassingly, we lack any regression tests that would expose such
a problem (but fortunately, somebody noticed before we shipped this
bug in any release).

Fix it to pass down the range's subtype collation property instead,
and add some regression test cases to exercise collatable-subtype
ranges a bit more.  Back-patch to all supported branches, as the
previous patch was.

Report and patch by Julien Rouhaud, test cases tweaked by me

Discussion: https://postgr.es/m/CAOBaU_aBWqNweiGUFX0guzBKkcfJ8mnnyyGC_KBQmO12Mj5f_A@mail.gmail.com
src/backend/catalog/heap.c
src/backend/utils/cache/lsyscache.c
src/include/utils/lsyscache.h
src/test/regress/expected/rangetypes.out
src/test/regress/expected/sanity_check.out
src/test/regress/sql/rangetypes.sql