The prolonged connection with France retained by its new rules and landlords made a deep impression on the English language. 

在made 前面加个that有什么区别？ 

—— 加了 that 就是个错句。一个正确的句子，能随便添加成分吗？尤其是 that 这样的关连词，不能随便乱加。加了 that 就成了定语从句，原句的谓语动词没了，结果变成了一个词组：

The prolonged connection with France retained by its new rules and landlords  that made a deep impression on the English language. 

结果是：红色部分是 connection 的定语；蓝色部分也是 connection 的定语。只剩下一个词组，不是句子。

一个句子有两个动词以上就是非谓语？

—— 问的新鲜。建议你阅读英语语法的 “非谓语动词” 内容。