14. kesäkuuta, kun valmistelukunta oli valmis harkitsemaan raporttia Virginian suunnitelmasta, New Jerseyn William Paterson pyysi lykkäystä, jotta tietyille valtuuskunnille annettaisiin enemmän aikaa valmistella korvaussuunnitelma. Pyyntö hyväksyttiin, ja seuraavana päivänä Paterson toimitti yhdeksän päätöslauselmaa, jotka sisälsivät tarvittavat muutokset. liittovaltion artikloihin, jota seurasi kiiva keskustelu. 19. kesäkuuta edustajat hylkäsivät New Jersey -suunnitelman ja äänestivät jatkaakseen keskustelua Virginian suunnitelmasta. Pienet valtiot olivat yhä tyytymättömämpiä ja uhkailivat vetäytyä. 2. heinäkuuta valmistelukunta oli umpikujassa siitä, että jokaiselle valtiolle annettiin yhtäläiset äänet ylähuoneessa. Viisi osavaltiota myönteisesti, viisi kielteisesti ja yksi jakautui.

Ongelma saatettiin komitean käsiteltäväksi. joka koostuu yhdestä edustajasta jokaisesta valtiosta kompromissin löytämiseksi. 5. heinäkuuta komitea toimitti raporttinsa, josta tuli valmistelukunnan ”suuren kompromissin” perusta. Raportissa suositeltiin, että ylähuoneessa jokaisella valtiolla olisi sama ääni, ja alahuoneessa kullakin valtiolla olisi yksi edustaja jokaista 40 000 asukasta kohden, kun orjat lasketaan kolmeksi viidesosaksi asukkaasta, ja että rahalaskut olisivat peräisin alahuone (jota ylempi jaosto ei tarkista).

Kuuden viikon kuohunnan jälkeen Pohjois-Carolina vaihtoi äänensä tasavertaiseen edustukseen osavaltiota kohden, Massachusetts pidättyi äänestämästä ja saavutettiin kompromissi, jota kutsuttiin ”Suuri kompromissi”. ”Suuressa kompromississa” jokaiselle osavaltiolle annettiin tasavertainen edustus, joka aiemmin tunnettiin nimellä New Jersey Plan, yhdessä kongressin talossa ja suhteellinen edustus, joka tunnettiin aiemmin nimellä Virginia Plan, toisessa. Koska sitä pidettiin reagoivana enemmistön mielipiteisiin, edustajainhuoneelle annettiin valtuudet laatia kaikki liittovaltion budjettia ja tuloja / verotusta käsittelevä lainsäädäntö alkuperälausekkeen mukaisesti.

Roger Sherman ja Oliver Ellsworth, molemmat Connecticutin valtuuskunnat loivat kompromissin, joka tietyssä mielessä sekoitti Virginian (suuri osavaltio) ja New Jerseyn (pieni osavaltio) ehdotuksia kongressin jakamisesta. Viime kädessä sen tärkein panos oli kuitenkin senaatin jakamisen määrittämisessä. Sherman asettui Virginia-suunnitelman kahden talon kansallisen lainsäätäjän puolelle, mutta ehdotti, että ”vaalioikeuden osuuden ensimmäisessä osastossa tulisi olla vapaiden asukkaiden määrän mukaan; ja että toisessa osastossa tai senaatissa kunkin valtion tulisi on yksi ääni eikä enempää. ” Vaikka Sherman oli hyvin pidetty ja arvostettu edustajien keskuudessa, hänen suunnitelmansa epäonnistui aluksi. Edustaminen ratkaistiin vasta 23. heinäkuuta.

Perustuslakiin sisältyi lopulta tämän suunnitelman muokattu muoto osittain siksi, että suuremmat valtiot eivät pitäneet siitä. Valiokunnassa Benjamin Franklin muutti Shermanin ehdotusta, jotta se olisi hyväksyttävämpi suuremmille valtioille. Hän lisäsi vaatimuksen, että tulolaskut ovat peräisin parlamentista.

Connecticutin kompromissista 16. heinäkuuta toimitettu äänestys jätti Senaatti näyttää valaliittokongressilta. Edeltävien viikkojen aikana James Madison Virginiasta, Rufus New Yorkin kuningas ja Gouverneur Morris Pennsylvaniasta vastustivat kumpikin voimakkaasti kompromissia tästä syystä. Kansallisten mielestä valmistelukunta äänestää kompromissi oli upea tappio. He löysivät kuitenkin 23. heinäkuuta keinon pelastaa näkemyksensä eliitistä, riippumattomasta senaatista. Juuri ennen kuin suurin osa valmistelukunnan työstä siirrettiin yksityiskohtaisten asioiden komitean käsiteltäväksi, Gouverneur Morris ja Rufus King esittivät, että ”senaatin jäsenille annetaan yksittäiset äänet sen sijaan, että äänestettäisiin yksittäin, kuten he olivat tehneet valaliiton kongressissa. Sitten Oliver Ellsworth, Connecticutin kompromissin johtava kannattaja, kannatti heidän esitystään, ja valmistelukunta pääsi kestävään kompromissiin.

Koska valmistelukunta oli jo varhain suostunut Virginia Planin ehdotukseen senaattoreiden pitkäaikaisuudesta, tämän suunnitelman yksilöllisesti voimakkaiden senaattorien näkemyksen palauttaminen estänyt senaattia tulemasta vahvaksi federalismin suojaksi. Osavaltioiden hallitukset menettivät suoran sanansa kongressin päätöksissä tehdä kansallisia lakeja. Koska henkilökohtaisesti vaikutusvaltaisille senaattoreille myönnettiin termit paljon pidempään kuin heidät valinneille osavaltioiden lainsäätäjille, heistä tuli itsenäisiä.Kompromissi palveli edelleen pienten valtioiden poliittisten johtajien omia etuja, joille oli taattu pääsy useampiin paikkoihin senaatissa kuin he muuten olisivat voineet saada.