小澤さんは1935年に旧満州、今の中国東北部で生まれました。
5歳の時に日本に帰国、小学生で初めてピアノに触れ、レッスンを始めます。その後、桐朋学園の音楽科に入学、数多くの指揮者を育てた齋藤秀雄さんから本格的に指揮を学びました。
23歳で単身、フランスに渡ると、現地で行われた指揮者のコンクールで優勝して飛躍の足がかりをつかみ、世界的な指揮者、カラヤンに師事しました。
またアメリカの指揮者、バーンスタインにも認められ、25歳でニューヨーク・フィルハーモニックの副指揮者に就任、その後もウィーン・フィルハーモニー管弦楽団など世界的に有名な数々のオーケストラで指揮者として長年活躍しました。