两个句子都有问题：

第一句把that 换成the one，此外，不需要使用过去完成时；第二句用what 指代不明，作为“融合型关系代词”，what可以指任何商品，与前文the book 不对等。

建议改为：

The book you bought yesterday costs less than the one I bought the other day.

than 仍然是连词，由于定语较长，省去了对应的动词costs 而已，也可用does 代之。如：

The book you bought yesterday costs less than the one I bought the other day (costs/does).