Né dans une famille juive polonaise, il s'engage très jeune au parti communiste clandestin. Il devient responsable de la « gauche scolaire » puis secrétaire du Komsomol de sa ville, ce qui lui vaut d'être exclu du lycée pour activités subversives. Aussi émigre-t-il en France fin 1932, où il suit des études de journalisme à la Sorbonne et à l’École libre des sciences politiques.

En janvier 1934, sa « section juive » de la Main-d'œuvre immigrée (MOI), au sein du Parti communiste français, lance un quotidien en yiddish, Naïe presse (Presse nouvelle). Il y est engagé comme journaliste et permanent du Parti, et travaille en même temps à L’Humanité, sous la direction d’André Marty, puis de Paul Vaillant-Couturier.

Adam Rayski rejoint en 1940 un régiment de l’armée polonaise, alliée de la France, à Coëtquidan, et est fait prisonnier pendant la débâcle. Il s’évade d'un camp de transit de prisonniers de guerre à Nantes et rentre à Paris le 14 juillet 1940. Il y participe à la création du mouvement de résistance juive au sein des Francs-tireurs et partisans - Main-d'œuvre immigrée (FTP-MOI), la section immigrée du mouvement résistant des FTP. En septembre 1941, Adam Rayski devient responsable national de la MOI. En 1943, il est un des cofondateurs du Conseil représentatif des institutions juives de France (Crif), alors dénommé Comité général de défense juive - CGD - organisation clandestine dont la mission est d'aider les Juifs.

Après guerre, Adam Rayski est décoré de la médaille de la Résistance et de la croix de guerre. Il rentre en Pologne où il devient responsable d'éditions de la presse communiste, puis retourne en France en 1957 et rompt avec le parti communiste polonais. Il écrit plusieurs livres sur l'histoire de la résistance juive en France et préside l'Union des résistants et déportés juifs de France (URDF). Il devient en 2003 président d'honneur de l'UJRE (Union des Juifs pour la résistance et l'entraide) et participe à la rédaction des dossiers MOI de la PNM (Presse Nouvelle Magazine).

Adam Rayski est le père de l'historien Benoît Rayski.

Décédé à 94 ans, il est enterré le 13 mars 2008 à Paris, au cimetière du Père-Lachaise.