Den 14 juni, när konventet var redo att överväga rapporten om Virginia-planen, William Paterson från New Jersey begärde en uppskjutning för att ge vissa delegationer mer tid att utarbeta en ersättningsplan. Begäran bifölls och nästa dag lämnade Paterson nio resolutioner som förkroppsligade nödvändiga ändringar. till artiklarna i Confederation, som följdes av en kraftfull debatt. Den 19 juni avvisade delegaterna New Jersey-planen och röstade för att gå vidare med en diskussion om Virginia-planen. De små staterna blev allt mer missnöjda och vissa hot ened att dra sig tillbaka. Den 2 juli stängdes konventet av för att ge varje stat lika röst i överhuset, med fem stater jakande, fem nekande och en uppdelad.

Problemet hänvisades till en kommitté bestående av en delegat från varje stat för att nå en kompromiss. Den 5 juli överlämnade kommittén sin rapport, som blev grunden för konventionens ”stora kompromiss”. Rapporten rekommenderade att i överhuset skulle varje stat ha lika röst och i underhuset skulle varje stat ha en representant för varje 40 000 invånare, räkna slavar som tre femtedelar av en invånare, och att penningräkningar skulle ha sitt ursprung i underhuset (ej föremål för ändring av överkammaren).

Efter sex veckors oro bytte North Carolina sin röst till lika representation per stat, Massachusetts avstod från och en kompromiss nåddes, kallad ”Bra kompromiss”. I den ”stora kompromissen” fick varje stat lika representation, tidigare känd som New Jersey-planen, i ett kongresshus och proportionell representation, tidigare känd som Virginia-planen, i det andra. Eftersom det ansågs vara mer lyhört för majoritetsuppfattningen fick representanthuset befogenhet att utgöra all lagstiftning som handlar om den federala budgeten och inkomster / beskattning, enligt origineringsklausulen.

Roger Sherman och Oliver Ellsworth, båda Connecticut-delegationerna skapade en kompromiss som på sätt och vis blandade Virginia (storstat) och New Jersey (småstat) förslag om kongressens fördelning. I slutändan var dess huvudsakliga bidrag dock att bestämma fördelningen av senaten. Sherman ställde sig på den nationella lagstiftaren i Virginia House i Virginia-planen, men föreslog att ”Andelen rösträtt i den första. Filialen skulle vara i enlighet med respektive antal fria invånare. Och att i den andra grenen eller senaten, bör varje stat har en röst och inte mer. ” Även om Sherman var omtyckt och respekterad bland delegaterna misslyckades hans plan först. Det var inte förrän den 23 juli som representationen slutligen avgjordes.

Det som slutligen ingick i konstitutionen var en modifierad form av denna plan, delvis för att de större staterna ogillade den. I utskottet modifierade Benjamin Franklin Shermans förslag för att göra det mer acceptabelt för de större staterna. Han tillade kravet att intäktsräkningar kommer från kammaren.

Omröstningen om Connecticut-kompromissen den 16 juli lämnade Senaten ser ut som Confederation Congress. Under de föregående debattveckorna motsatte sig James Madison från Virginia, Rufus King of New York och Gouverneur Morris från Pennsylvania var och en kraftigt kompromissen av denna anledning. För nationalisterna röstar konventet för kompromiss var ett fantastiskt nederlag. Men den 23 juli hittade de ett sätt att rädda sin vision om en elit, oberoende senat. Strax innan det mesta av kongressens arbete hänvisades till detaljkommittén, flyttade Gouverneur Morris och Rufus King att stater ”medlemmar i senaten får individuella röster, snarare än att rösta en grupp, som de hade gjort i Confederation Congress. Då stödde Oliver Ellsworth, en ledande förespråkare för Connecticut-kompromissen, deras förslag och konventet nådde den bestående kompromissen.

Eftersom konventionen tidigt hade accepterat Virginia-planens förslag att senatorer har långa mandatperioder, Återställa planens vision om individuellt kraftfulla senatorer hindrade senaten från att bli en stark skydd av federalism. Statliga regeringar tappade sitt direkta ord i kongressens beslut att göra nationella lagar. Eftersom de personligt inflytelserika senatorerna fick villkor mycket längre än de statliga lagstiftarna som valde dem blev de väsentligt oberoende.Kompromissen fortsatte att tjäna de småintressanta politiska ledarnas egenintressen, som var säkra på tillgång till fler platser i senaten än vad de annars skulle ha fått.