"관계대명사=접속사+대명사의 기능"

따라서, He tried to solve the problem, which was impossible.

이렇게 접속사 but을 지워주거나...

왜냐면 관계대명사는 이미 접속사+대명사의 기능을 하고있는데...

앞에 but이라는 또 다른 접속사가 있으면 틀립니다.

관계대명사로 합쳐진 문장은 문장의 내용에 따라 접속사+대명사로 바꾸어 쓸 수 있는데...

여기서는 He tried to solve the problem, which was impossible.

이 문장에서 사용된 관계대명사를 문장의 내용에 따라 알맞은 접속사+대명사로 바꿔보면

He tried to solve the problem, but it was impossible. 이렇게 바꿔볼 수 있겠네요 ㅎ.

따라서, 답에서 which를 it으로 바꿔야 한다는 말이 나온거구요 ㅎ.

결론은..He tried to solve the problem, but which was impossible.

이 문장에서 but을 빼주시거나

아니면 which를 it으로 바꿔주시면 됩니다.