Karl (Haim) Müller wurde 1921 in Wien als Sohn einer religiösen und zionistischen Familie geboren und wuchs mit einem Bruder im 7. Bezirk auf. Sein Vater arbeitete in einer Fabrik. Karl Müller besuchte eine säkulare Schule und erhielt Talmud- und Klavierunterricht. Nach dem „Anschluss“ 1938 erwog die Familie eine Auswanderung nach England, konnte jedoch keine Visa erhalten. Mithilfe eines Freundes in Haifa erhielt Karl Müller Dokumente, die ihm die Auswanderung nach Palästina ermöglichten. Diese trat er am 9. November 1938 an, einen Tag vor den Novemberpogromen. Sein Vater starb in Wien aufgrund eines antisemitischen Angriffs. In Haifa lebte Karl Müller bei einer Pflegefamilie und arbeitete im Büro des Pflegevaters. Später studierte er am Technion und trat dem Royal Engineers Corps der britischen Armee bei. Als der Zweite Weltkrieg endete, erfuhr Karl Müller, dass sein Bruder, seine Mutter und ihre Schwestern in Auschwitz ermordet worden waren. 1948 erkrankte er an Tuberkulose. Karl Müller zog anschließend in den Stadtteil Hadar in Haifa, wo er seine spätere Frau kennenlernte. Das Paar zog nach Jaffa und bekam zwei Kinder. Die Familie fand eine Zeit lang Arbeit in der Schweiz, kehrte aber später nach Israel zurück.