S sekiro se je kot 25-letnik neke sobote zaprl v Marijino cerkev v spodnjesaškem Wolfenbüttelu, razbil štiri pomnike nemškim vojakom in z rdečo barvo izpisal svoje pacifistično sporočilo: »Moja hiša bi morala biti hiša molitve za vse narode, naredili pa ste jo za hram slave svojih zločinov.« To je bilo pred dobrega pol stoletja, novembra 1968, zdaj 76-letni vztrajni levičar in mirovnik ter borec za človekove pravice vodi bitke z obeležji v nemških cerkvah s pravnimi sredstvi. Tako je sprožil postopek za odstranitev protijudovskega reliefa s pročelja mestne cerkve v Wittenbergu. Gre za peščenjak iz 13. stoletja, na katerem judovski rabin pogleduje v zadnjico svinje, drugi Judje pa pijejo pri seskih za njih umazane oziroma prepovedane živali. Düllmannova trditev, da bo, dokler relief ostaja na sedanjem mestu na cerkveni fasadi, Cerkev odgovorna za širjenje antisemitizma, ni vzdržala sodne preizkušnje, saj je nemško prizivno sodišče v Naumburgu pred dnevi zavrnilo njegovo zahtevo, da se relief premesti v bližnji Luthrov muzej. Ocenilo je, da je žaljiv kontekst reliefa nevtraliziran z že pred leti dodanim komentarjem, ki ga postavlja v zgodovinski kontekst, ob osamljenem reliefu v muzeju pa bi se ta znova izgubil. Da ga navdaja s »sramom in bolečino«, je za Süddeutsche Zeitung povedal tudi cerkveni pastor Johannes Block, ki pa ne podpira odstranitve reliefa, temveč želi, da ta opominja na antisemitizem srednjega veka in tudi Luthrov antisemitizem, ki je hranil nacističnega. Düllmann je drugačnega mnenja, v muzej ga bo skušal spraviti še prek nemškega ustavnega sodišča v Karlsruheju, ob zavrnitvi pa tudi prek evropskega sodišča za človekove pravice.