Il 14 giugno, quando la Convention era pronto a prendere in considerazione la relazione sul piano della Virginia, William Paterson del New Jersey ha chiesto un aggiornamento per concedere ad alcune delegazioni più tempo per preparare un piano sostitutivo. La richiesta è stata accolta e, il giorno successivo, Paterson ha presentato nove risoluzioni che incorporano le modifiche necessarie agli Articoli della Confederazione, che fu seguito da un acceso dibattito. Il 19 giugno i delegati respinsero il Piano del New Jersey e votarono per procedere con una discussione del Piano Virginia. I piccoli Stati divennero sempre più scontenti e alcune minacce deciso a ritirarsi. Il 2 luglio, la Convenzione si è bloccata dando a ciascuno Stato un voto uguale alla Camera alta, con cinque Stati in senso affermativo, cinque in negativo e uno diviso.

Il problema è stato deferito a una commissione composto da un delegato di ogni Stato per raggiungere un compromesso. Il 5 luglio, la commissione ha presentato il suo rapporto, che è diventato la base per il “Grande Compromesso” della Convenzione. Il rapporto raccomandava che nella camera alta ogni Stato dovrebbe avere un voto uguale, e nella camera bassa, ogni Stato dovrebbe avere un rappresentante ogni 40.000 abitanti, contando gli schiavi come tre quinti di un abitante, e che le bollette dovrebbero provenire da la camera bassa (non soggetta a emendamento da parte della camera alta).

Dopo sei settimane di turbolenze, la Carolina del Nord ha cambiato il suo voto in una rappresentanza paritaria per stato, il Massachusetts si è astenuto ed è stato raggiunto un compromesso, chiamato “Ottimo compromesso”. Nel “Grande Compromesso”, a ogni stato veniva data una rappresentanza uguale, precedentemente nota come Piano del New Jersey, in una casa del Congresso, e una rappresentanza proporzionale, nota prima come Piano Virginia, nell’altra. Poiché era considerato più rispondente al sentimento della maggioranza, alla Camera dei rappresentanti è stato dato il potere di originare tutta la legislazione relativa al bilancio federale e alle entrate / tassazione, in base alla clausola di origine.

Roger Sherman e Oliver Ellsworth, entrambe le delegazioni del Connecticut, hanno creato un compromesso che, in un certo senso, ha unito le proposte della Virginia (grande stato) e del New Jersey (piccolo stato) in merito alla ripartizione del Congresso. Alla fine, tuttavia, il suo contributo principale è stato nel determinare la ripartizione del Senato. Sherman si schierò con la legislatura nazionale a due camere del Piano Virginia, ma propose “Che la proporzione di suffragio nel 1 ° ramo dovrebbe essere secondo il rispettivo numero di abitanti liberi; e che nel secondo ramo o Senato, ogni Stato dovrebbe avere un voto e non di più “. Sebbene Sherman fosse benvoluto e rispettato dai delegati, il suo piano all’inizio fallì. Non è stato fino al 23 luglio che la rappresentanza è stata finalmente stabilita.

Ciò che è stato infine incluso nella costituzione era una forma modificata di questo piano, in parte perché gli stati più grandi non lo gradivano. In commissione, Benjamin Franklin ha modificato la proposta di Sherman per renderla più accettabile per gli stati più grandi. Ha aggiunto il requisito che i conti delle entrate provengano dalla Camera.

Il voto sul compromesso del Connecticut il 16 luglio ha lasciato il Senato che assomiglia al Congresso della Confederazione. Nelle settimane precedenti di dibattito, James Madison della Virginia, Rufus King di New York e Gouverneur Morris della Pennsylvania si sono opposti con forza al compromesso per questo motivo. Per i nazionalisti, il voto della Convenzione per il il compromesso è stata una sconfitta sbalorditiva. Tuttavia, il 23 luglio, hanno trovato un modo per salvare la loro visione di un Senato d’élite indipendente. Poco prima che la maggior parte dei lavori della convenzione venissero deferiti al Comitato dei dettagli, Gouverneur Morris e Rufus King hanno affermato che “ai membri del Senato devono essere assegnati voti individuali, piuttosto che votare in blocco, come avevano fatto al Congresso della Confederazione. Poi Oliver Ellsworth, uno dei principali fautori del Compromesso del Connecticut, ha sostenuto la loro mozione e la Convenzione ha raggiunto un compromesso duraturo.

Dato che la Convenzione aveva presto acconsentito alla proposta del Piano Virginia che i senatori hanno lunghi termini, il ripristino della visione di quel Piano di senatori individualmente potenti ha impedito al Senato di diventare una forte salvaguardia del federalismo. I governi statali hanno perso la loro voce diretta nelle decisioni del Congresso di fare leggi nazionali. Poiché i senatori personalmente influenti hanno ricevuto termini molto più lunghi dei legislatori statali che li hanno eletti, sono diventati sostanzialmente indipendenti.Il compromesso ha continuato a servire gli interessi personali dei leader politici dei piccoli stati, ai quali è stato garantito l’accesso a più seggi al Senato di quelli che avrebbero potuto altrimenti ottenere.