Lata dwudzieste XX wieku w Niemczech wcale nie były dla Polaków tam mieszkających takie złe. Warto choćby przytoczyć jeden fakt, że od 1922 roku istniał Związek Polaków w Niemczech. Mało tego, Polonia była uznawana oficjalnie za mniejszość narodową.
Organizacja powstała 27 sierpnia 1922 roku. Jej adresem do wybuchu II wojny światowej był dom znajdujący się przy ulicy Postdamerstrasse 118b w Berlinie. Główną rolę w związku odgrywał Jan Baczewski, który był przedstawicielem mniejszości z terenów Prus Wschodnich. Ważną rolę pełnił także Jan Kaczmarek z Westfalii. Pierwszy Kongres Związku Polaków w Niemczech odbył się 6 marca 1938 roku w Teatrze Ludowym w Berlinie. Wówczas uchwalono Pięć Prawd Polaka, który były ideową podwaliną całej działalności organizacji. W Kongresie wzięło udział aż pięć tysięcy delegatów.
W tym miejscu trzeba koniecznie przypomnieć kontekst kulturowo-polityczny, w jakim znalazł się Związek. Oto do władzy doszedł Adolf Hitler, a jego rządy w III Rzeszy zaczynały przerażać każdego zdrowo myślącego człowieka. Represje dotykały coraz to nowe grupy społeczne, w tym mniejszości narodowe. Polacy mieszkający w Niemczech czuli rosnące zagrożenie i nawet podpisanie traktatu o przyjaźni między Polska a Niemcami nie dawał gwarancji pokoju.
Kiedy wybuchła II wojna światowa aparat III Rzeszy od razu rozpoczął aresztowania członków Związku. W 1940 roku na podstawie Rozporządzenia Rady Ministrów dla obrony III Rzeszy, organizacja polonijna została zdelegalizowana, a jej majątek został skonfiskowany. Wielu działaczy straciło życie. Niektórych rozstrzelano, a większość trafiła do obozu koncentracyjnego. Reperkusje dotknęły blisko dwóch tysięcy osób, natomiast majątek skonfiskowany wart był około osiem milionów czterysta pięćdziesiąt tysięcy reichsmarek.
Kiedy wojna dobiegła końca, Związek wznowił swoją działalność w zachodniej części podzielonych Niemiec. Od 1945 roku znów można było wstąpić do niego i rozpocząć działalność na rzecz Polonii w Niemczech. Na początku nową siedzibą organizacji był Frankfurt nad Menem, ale od 1956 roku siedzibą zostało Bochum. Z resztą jest nią do dzisiaj. Ponieważ to, co się działo za wschodnią granicą muru berlińskiego, co działo się w całym Bloku Wschodnim, podzieliło członków Związku, ten rozpadł się na dwa mniejsze – Związek Polaków w Niemczech oraz Związek Polaków „Zgoda”. Żaden jednak nie potrafił wywalczyć przywrócenia statusu mniejszości narodowej Polakom przez władze III Rzeszy.
Znakiem Związku jest Rodło, znak graficzny mający przedstawiać bieg rzeki Wisły z wskazaniem Krakowa. Autorką znaku jest Janina Kłopocka. Znak jest przedstawiony w kolorze białym na czerwonym tle. Nazwa także nie jest przypadkowa – Rodło czyli Godło dla od rodu (rodziny, rodu szlacheckiego, narodu). Obecnie znak ten doczekał się wielu przeróbek i modyfikacji.