▲你对it 与 one 区别的理解是对的：it表特指，相当于“the+名词”，表示与前面提到的事物为同一物；one表泛指，相当于“a+名词”，表示与前面提到的人或事物为同类，但并非同一。如：
I can’t find my pen. Have you seen it? 我找不到我的钢笔了，你看到过它吗？
I can’t find my pen. I think I must buy one. 我找不到我的钢笔了，我想我得去买一支。
▲你说：有人说that与it用作代词时的的区别与 it 跟 one 的区别是一样的，你不太明白。可以这样来理解：that用于指代前面提到的“同类”事物，而it主要指代前面提到的“同一”事物。比较：
The population of China is much larger than that of Japan. 中国人口比日本人口多得多。（“中国的人口”与“日本的人口”属于同类事物）
I’m taking a raincoat with me in case I need it. 我随身带有雨衣，以备不时不需。（随身带有“雨衣”与需要时所用的“雨衣”是同一物）