1. which 指代 problems（数学题），for 表示目的。

2. build new algorithms for a certain set of problems：为一些特定的数学题创建新的算法、算式。

3. a certain set of：作为量概念的定语，修饰中心词 problems。

There's only a certain set of problems for which you need to build new algorithms.

【翻译】只有一些特定的数学题，你需要创建新的算法算式（计算程序）。

在这个句子中，which 指“数学题”, for 表示“目的”，new algorithms 是针对“problems”，这些关系应该很明确。另外，在一个含有定语从句的主句中，除了problems 之外，没有第二个先行词了。网友说which 可能指代本句以外的某个成分，那是不可能的！