Den 14. juni, når konventionen var klar til at overveje rapporten om Virginia-planen, William Paterson fra New Jersey anmodede om udsættelse for at give visse delegationer mere tid til at udarbejde en erstatningsplan. Anmodningen blev imødekommet, og den næste dag forelagde Paterson ni beslutninger, der indeholdt nødvendige ændringer. til artiklerne i Confederation, som blev efterfulgt af en kraftig debat. Den 19. juni afviste delegaterne New Jersey-planen og stemte for at gå videre med en diskussion af Virginia-planen. De små stater blev mere og mere utilfredse med en vis trussel ened at trække sig tilbage. Den 2. juli var konventionen fastlåst, da hver stat havde lige stemmer i øverste hus med fem stater bekræftende, fem benægtende og en delt.

Problemet blev henvist til et udvalg bestående af en delegat fra hver stat for at nå frem til et kompromis. Den 5. juli forelagde udvalget sin rapport, som blev grundlaget for konventionens “store kompromis”. Rapporten anbefalede, at i overhuset hver stat skulle have lige stemmer, og i underhuset skulle hver stat have en repræsentant for hver 40.000 indbyggere, der tæller slaver som tre femtedele af en indbygger, og at pengesedler skulle stamme fra underhuset (ikke underlagt ændring fra det øverste kammer).

Efter seks ugers uro skiftede North Carolina sin stemme til ligelig repræsentation pr. stat, Massachusetts undlod at stemme, og der blev opnået et kompromis, der blev kaldt “Stort kompromis”. I det “store kompromis” fik hver stat lige repræsentation, tidligere kendt som New Jersey-planen, i det ene kongreshus og proportional repræsentation, kendt tidligere som Virginia-planen, i det andet. Da det blev anset for at være mere lydhørt over for flertalsstemning, fik Repræsentanternes Hus beføjelse til at skabe al lovgivning, der beskæftiger sig med føderalt budget og indtægter / beskatning, i henhold til oprindelsesklausulen.

Roger Sherman og Oliver Ellsworth, begge Connecticut-delegationerne skabte et kompromis, der på en måde blandede Virginia (storstat) og New Jersey (mindre stat) forslag vedrørende kongresfordeling. I sidste ende var dets hovedbidrag imidlertid at bestemme fordelingen af senatet. Sherman tog sig af den to-hus-nationale lovgiver i Virginia-planen, men foreslog “at andelen af valgret i den første. Filial skulle være i henhold til det respektive antal frie indbyggere; og at i den anden gren eller senatet skulle hver stat har en stemme og ikke mere. ” Selvom Sherman var godt lide og respekteret blandt delegaterne, mislykkedes hans plan først. Det var først den 23. juli, at repræsentationen endelig blev afgjort.

Det, der i sidste ende blev inkluderet i forfatningen, var en ændret form for denne plan, dels fordi de større stater ikke kunne lide den. I komité ændrede Benjamin Franklin Shermans forslag for at gøre det mere acceptabelt for de større stater. Han tilføjede kravet om, at indtægtsregninger stammer fra Parlamentet.

Afstemningen om Connecticut-kompromiset den 16. juli forlod Senatet lignede konføderationskongressen. I de foregående uges debat modsatte sig James Madison fra Virginia, Rufus King of New York og Gouverneur Morris fra Pennsylvania hver især kraftigt kompromiset af denne grund. Af nationalisterne stemmer konventet for kompromis var et fantastisk nederlag. Den 23. juli fandt de dog en måde at redde deres vision om et elite, uafhængigt senat. Lige før det meste af konventets arbejde blev henvist til detaljeringsudvalget, bevægede Gouverneur Morris og Rufus King sig om, at “stater” medlemmer i Senatet får individuelle stemmer i stedet for at stemme en blok, som de havde gjort i Konføderationskongressen. Derefter støttede Oliver Ellsworth, en førende fortaler for Connecticut-kompromiset, deres forslag, og konventionen nåede det varige kompromis. genoprettelse af denne plan vision om individuelt magtfulde senatorer stoppede senatet i at blive en stærk beskyttelse af føderalisme. Statsregeringer mistede deres direkte indflydelse på Kongressens beslutninger om at træffe nationale love. Da de personligt indflydelsesrige senatorer modtog vilkår meget længere end de statslovgivere, der valgte dem, blev de i det væsentlige uafhængige.Kompromiset fortsatte med at tjene de små staters politiske leders egeninteresser, der var sikret adgang til flere pladser i senatet, end de ellers kunne have opnået.