Am 6. September 1970 spielen die Scherben noch unter dem Namen Rote Steine auf dem Love and Peace Festival auf Fehmarn. Übrigens war bei eben diesem Festival auch der letzte Auftritt von Jimi Hendrix vor seinem Tod.

Der Bandname Ton Steine Scherben leitete sich laut Aussage Rio Reisers aus einem Zitat des Troja-Entdeckers Heinrich Schliemann ab: „Was ich fand, waren Ton, Steine, Scherben“. In dem Buch Keine Macht für Niemand führt Bassist Kai Sichtermann dagegen aus, dass sich der Name bei einem Brainstorming aus dem Namen „VEB Ton Steine Scherben“ entwickelt habe. Diese Version bestätigte später auch der ehemalige Schlagzeuger Wolfgang Seidel.

Das erste Album „Warum geht es mir so dreckig?“ erschien im September 1971. Neben „Macht kaputt, was euch kaputt macht“ befinden sich darauf auch die später populären Lieder „Ich will nicht werden, was mein Alter ist“ und „Der Kampf geht weiter“.

Am 8. Dezember 1971 besetzten Band und Publikum nach einem Auftritt an der Technischen Universität Berlin einen ungenutzten Gebäudeteil des Kreuzberger Bethanien-Krankenhauses. Da vier Tage vorher der militante Anarchist Georg von Rauch nach einem Schusswechsel mit der Polizei gestorben war, benannten die Besetzer das Wohnheim in Georg-von-Rauch-Haus um. Das Haus wurde erst am 19. April 1972 von der Polizei geräumt. Aus diesem Anlass schrieb Reiser den Rauch-Haus-Song.