Darf man jemanden gegen seinen Willen aus dem Pflegeheim nehmen?

Das kommt darauf an, wer das Aufenthaltsbestimmungsrecht hat.
Wenn Deine Mutter sich noch frei äußern kann und im Heim bleiben will, dann kann Dein Vater sie nicht da rausholen. Es hört sich aber in der Frage nicht so an, als sei das noch der Fall.
Wenn er eine Vollmacht hat, dann kann er das.

Wenn die Demenz fortgeschritten ist, muss jemand Drittes die Interessen Deiner Mutter wahrnehmen. Entweder gibt es eine Betreuungsvollmacht oder aber das zuständige Amtsgericht setzt einen Betreuer ein. Das kann auch Dein Vater sein. Damit gehen aber auch Pflichten einher, wie die Organisation einer ausreichenden Pflege und Betreuung. Wird diesen Pflichten nicht angemessen nachgekommen, kann das Amtsgericht mit der Betreuung eine andere Person beauftragen. Dazu muss das Amtsgericht Kenntnis von diesen Plichtverletzungen erlangen. Jemand müsste das also dem Amtsgericht anzeigen. Deine Mutter hat wahrscheinlich einen Pflegegrad. Damit kann auch eine häusliche Pflege durch einen Pflegedienst finanziert werden. Ob das sinnvoll ist, kann man ohne detaillierte Kenntnisse nicht pauschal beantworten. Reicht das Geld für das Pflegeheim nicht, kann ergänzend Sozialhilfe beantragt werden. Dein Vater hat einen Selbstbehalt, der über der Pfändugnsfreigrenze liegt. Er kann nicht gewungen werden, ein vorhandenes (angemessenes) Haus zu verkaufen. Ihr sollte mal gemeinsam einen Termin in einer Beratungsstelle wahrnehmen, z.B. beim Sozialverband.