check后可能跟that分句，也可能跟wh-分句，包括whether和if。所以check that...和check if/whether两种句式都存在，具体用什么样的分句根据表达的需要决定。

用check that...时，通常意味着主语对that分句所表达的情形是有预期或期待的。假如检查（核对）的结果表明that分句所表示的情形不成立，在可能的条件下主语是要进行干预或纠正的。例如：

I’ll just check that I locked the door.

假如检查的结果表明门没锁好，那么我就要进行干预，把门锁好（纠正）。

又例如：

Check that the meat is cooked thoroughly before serving it.

Have you checked that the batteries haven’t gone flat (=become flat)?

上述各that分句的情形（煮熟、充满电）都是主语预期或想要的情形。此时的check更接近于make sure,有“确保”之义，虽然check本身意为检查、核实等。

但check if...这一句式本身则并不意味着对结果有预期或要求，主要表达对客观事实的确定，以便采取不同的应对，无论结果为“是”还是“否”。例如：

My mother just rang to check if I was coming home.

此句中老妈给我打电话是为了搞清楚我是否回家，以便做出不同的安排或准备。比如说，如果我回，她就多做两个我喜欢吃的菜等等；如果我不回，那就算了。

如果把句子改为My mother just rang to check that I was coming home，则意味着老妈打电话是为了敦促或确保我回家。

所以，明显对结果没有倾向性期待或要求的情景只能用check if/whether。例如：

Could you go and check whether I turned the oven on. (said on the telephone)

When looking up adjectives in a dictionary, check whether the meaning you want is attributive (or not) 

上述两例中，check的目的是检查一下“电烤箱开没开”和某个（特定义项）的形容词是“是不是作定语”。但I turned the oven on和the meaning you want is attributive这两个情形本身并非主语的期待或要求。其中的第一句似乎恰恰相反，电烤箱开着是危险的，打电话的目的十有八九是要接电话的人把它关掉。

所以你的句子I checked with him that he was there that evening没错。如果把that改为if/whether，句子也是对的，只是蕴意有别。

个人己见，仅供参考。