你的疑惑源自于你对非谓语动词的错误理解。非谓语动词是没有时态的。时态是动词的时的形式和体的形式的结合，只有限定动词（即谓语动词）才有时的不同变化形式，而非谓语动词是没有时的变化形式的。所以，非谓语动词只有体的变化，没有时的变化。换句话说，非谓语动词是没有时态的！！！

非谓语动词本身没有时的变化形式，而是参照谓语动词的时。你的二个句子中介词of和for都是表示原因的，而介词后接非谓语动词，只能是动名词。由于这里动名词表示原因，逻辑决定了动名词的动作是先于谓语时间的，所以动名词用完成体having done的形式，表示动名词的动作时间早于谓语动作时间。这是较为正式的语体。由于逻辑决定了动名词的动作是先于谓语时间的，所以在非正式语体中用动名词的一般体doing形式来表示先于谓语时间的动作。也就是说，在非正式语体，doing这种形式，即可以表示先于谓语时间的动作，也可以表示与谓语时间同时或后于谓语时间的动作。

所以，你的两个句子中，动名词都可以用doing形式，意义不变。区别只是语体的正式与非正式。

Ashamed of having acted so rashly.

=Ashamed of acting so rashly. 非正式语体

Apologize to him for having accused him.

= Apologize to him for accusing him. 非正式语体

其实，你肯定见过下面的句子：

I remember seeing him before. 这个句子就是用动名词的一般体doing形式表示先于谓语时间的动作。这是非正式语体。要是正式语体，动名词会用完成体：

I remember having seen him before. 正式语体（意义同上）

通过你这次提问，记住二点：1 非谓语动词没有时态，只有体和语态的变化。2 动名词的doing形式在非正式语体可以表示先于谓语时间的动作。比较正式的语体才用having done完成体形式。