Neformální jednání mezi Polskou lidovou republikou a Spolkovou republikou Německo probíhala již od roku 1969 a pro polskou vládu bylo uznání hranice na Odře a Nise ze strany Spolkové republiky klíčovou otázkou. Od normalizace vztahů se SRN si pak slibovala otevření možnosti normalizovat vztahy i s ostatními západními státy. Pro Německo byla smlouva s Polskem politicky nejdůležitější smlouvou ze všech smluv, jež měly být v rámci Neue Ostpolitik uzavřeny, samozřejmě s výjimkou té moskevské.
Vlastní oficiální rozhovory mezi oběma státy byly na úrovni ministerstev zahraničí zahájeny v únoru 1970. Iniciátorem jednání byl ale už v květnu 1969 první tajemník Polské sjednocené dělnické strany (dále jen PSDS) Władysław Gomułka, který SRN nabídl jednání o konečném uznání polských hranic. Hranice na Odře a Nise, resp. její uznání, patřilo mezi zásadní polské požadavky, o čemž svědčí například i to, že k tomuto tématu připravilo polské ministerstvo zahraničí speciální písemnou instrukci. Nicméně nešlo o jedinou konfliktní otázku. Mezi ty další patřila otázka odsunu německého obyvatelstva z polského území po druhé světové válce a možné související požadavky na nejen morální, ale zejména materiální odškodnění, postavení německé národnostní menšiny v Polsku a související právo na přesídlení do Německa případně garance práv této menšiny, pokud se rozhodně zůstat v Polsku, problematika hospodářské spolupráce, kdy Polsko, ačkoliv se již v roce 1953 vzdalo jednostranným prohlášením nároků na reparace vůči SRN, žádalo kompenzace jako nápravu zločinů proti lidskosti a hospodářskou spolupráci za výhodných podmínek, na což SRN nebyla ochotna přistoupit. Posledním sporným bodem bylo, od kdy mají být navázány oficiální diplomatické styky. V Polsku existovalo od roku 1963 pouze německé obchodní zastoupení, na úrovni vyslanectví nebo velvyslanectví však vzájemné diplomatické zastoupení neexistovalo. Zatímco SRN chtěla navázat diplomatické styky co nejdříve, Polsko je podmiňovalo normalizací vztahů spočívající zejména na uznání sporné, resp. dosud oficiálně neuznané hranice. Jednání byla nakonec šestikolová a trvala do listopadu 1970. V závěrečné fázi jednání opoziční frakce CDU/CSU ve Spolkovém sněmu přijala vlastní stanovisko k otázce připravované smlouvy. V něm mimo jiné uvedla, že existuje velké břímě, které oběma národům přinesly zločiny hitlerovského režimu a pozdější vyhnání Němců. Zároveň konstatovala, že budoucí evropské uspořádání nesmí být založeno na politickém cementování demarkační linie a hranic a úprava v mírové smlouvě nesmí být ani materiálně ani formálně obejita. Polsko zareagovalo v článku otištěném v ústředním deníku PSDS, kde se konstatovalo, že ČDU/CSU opakuje zbankrotovanou tezi o provizorním charakteru západní hranice a srovnává zavraždění 6 milionů polských občanů s přesídlením německého obyvatelstva. Vlastní podpis smlouvy proběhl ve Varšavě během návštěvy Willyho Brandta, která se konala od 6. do 8. prosince 1970. Spolkový kancléř během ní učinil gesto usmíření, když v rámci oficiálního programu poklekl před pomníkem obětí Varšavského ghetta. Ačkoliv toto jeho gesto bylo všeobecně přijato kladně, ve Spolkové republice se stalo ze strany části veřejnosti a především CDU/CSU terčem kritiky.
V preambuli smlouvy se poukazovalo na skutečnost, že Polsko bylo první obětí národně socialistické politiky Třetí říše a žádný národ v Evropě netrpěl Hitlerovou politikou tolik, jako právě Polsko. Spolková vláda i v této smlouvě skutečně hranici na Odře a Nise uznala, je však třeba zdůraznit, že šlo o problém již vyřešený, neboť stejné uznání bylo obsaženo v Moskevské smlouvě, a tak tento závazek nebyl de facto ničím novým. Ostatní ustanovení smlouvy pak deklarovala, že obě strany jsou připraveny ve vzájemných vztazích i v otázkách evropské bezpečnosti postupovat v souladu s Chartou OSN a řešit vzájemné spory mírovou cestou, že budou pokračovat v normalizaci a rozvoji vzájemných vztahů a rozšiřovat spolupráci v kultuře, vědě a ekonomice. Naopak nově byla předmětem vyjednávání otázka emigrace etnických Němců žijících v Polsku do Spolkové republiky a úprava jejich postavení v Polsku. To se však nepodařilo do smlouvy zakotvit a polská vláda tuto problematiku přes německé naléhání vytrvale odmítala v rámci smlouvy řešit. Důvodem bylo tvrzení, že všichni obyvatelé Polska jsou polskými občany a německá menšina proto neexistuje. Nakonec se humanitární otázky staly součástí příloh smlouvy, stejně tak jako potvrzení jednostranného vyhlášení polské vlády z roku 1953, jíž se zřekla dalších reparací. Přes deklaraci polské vlády ve věci etnických Němců však nadále docházelo k průtahům při řešení těchto otázek a to byl jeden z důvodů, ne-li důvod hlavní, proč bylo k ratifikaci Varšavské smlouvy přistoupeno v případě Spolkového sněmu až 14. května 1972 a Spolkové rady 26. května 1972.