Glasgow-klubben hadde en 1-0-ledelse å gå på fra første kamp på Ibrox, men det skulle vise seg å være for lite i returkampen.
Emmanuel Francoise tok Niederkorn i tet etter 66 minutter. Hjemmelagets scoring kom ikke lenge etter at Rangers-profilen Niko Kranjcar hadde stanget ballen i tverrliggeren.
Skottene skulle også slite med aluminiumen senere i kampen. I sluttminuttene headet både Josh Windass og Kenny Miller i tverrliggeren, men marginene var overhodet ikke på Rangers’ side.
Vertenes Sebastian Thill curlet inn 2-0 etter et frispark i det 75. minutt.
Tirsdagens to scoringer utgjorde to tredeler av samtlige nettkjenninger Progres Niederkorn har gjort i Europa siden debuten i 1977.
Rangers har hatt noen blytunge år, men kunne i sommer se fram til europacupspill for første gang på seks år. Det ble av det svært kortvarige og pinlige slaget.
NTB