Armin Mueller-Stahl ist das dritte von fünf Kindern des ostpreußischen Bankkaufmanns Alfred Mueller-Stahl und dessen Frau Editha, geb. Maaß, einer Ärztin. Sie war eine Baltendeutsche aus Estland, deren Familie 1918 von Petrograd aus nach Tilsit geflohen war. Armin und sein Bruder Hagen wuchsen in einer kunstliebenden Familie auf, in der man malte, zeichnete und gemeinsam musizierte. Sein Vater hatte ursprünglich Schauspieler werden wollen, er spielte am Tilsiter Theater mit und führte an den Geburtstagen seiner Familie eigene Sketche auf. Mueller-Stahl erlebte eine unbeschwerte Kindheit bis zum Beginn des Zweiten Weltkriegs, als sein Vater eingezogen wurde. 1938 übersiedelte die Familie nach Prenzlau. Der Vater starb am 1. Mai 1945 in einem Lazarett im mecklenburgischen Schönberg, wie die Familie erst 28 Jahre später erfuhr. Nach Vermutung von Mueller-Stahl wurde er von deutschen Soldaten wegen versuchter Desertion umgebracht, da über ihn keine Krankenakte angelegt worden war. Am gleichen Tag wurde der 14-jährige Armin in Goorstorf bei Rostock, wohin die Mutter mit den Kindern geflüchtet war, von einem sowjetischen Soldaten als vermeintlicher Hitlerjunge mit der Erschießung bedroht. In letzter Sekunde verhalf ihm ein mutiger, ehemaliger polnischer Kriegsgefangener zur Flucht. Nach Kriegsende kehrte die Mutter mit ihren Kindern in das niedergebrannte Prenzlau zurück, wo er bis 1948 die Schule besuchte. Im selben Jahr zog er „mit seinem Geigenkasten nach Berlin“.