Rutherford oli löytänyt atomiytimen vuonna 1911 ja havainnut protonin vuonna 1919. Näyttää kuitenkin siltä, että jotain on ydin protonien lisäksi. Esimerkiksi heliumin tiedettiin olevan atomiluku 2, mutta massaluku 4. Jotkut tutkijat ajattelivat, että ytimessä oli ylimääräisiä protoneja, samoin kuin yhtä monta elektronia ylimääräisen varauksen poistamiseksi. Vuonna 1920 Rutherford ehdotti, että elektroni ja protoni voisivat yhdistää muodostaen uuden, neutraalin hiukkasen, mutta tälle ei ollut todellisia todisteita, ja ehdotettua neutraalia hiukkaa olisi vaikea havaita.

Chadwick jatkoi työtä muiden projektien parissa, mutta jatkoi ajattelua ongelmasta. Noin 1930, useat tutkijat, mukaan lukien saksalainen fyysikko Walter Bothe ja hänen oppilaansa Becker, olivat alkaneet pommittaa berylliumia poloniumlähteestä peräisin olevilla alfahiukkasilla ja tutkia sen seurauksena berylliumin säteilyä. Jotkut tutkijat ajattelivat, että tämä berylliumin lähettämä erittäin tunkeutuva säteily koostui korkean energian fotoneista. Chadwick oli huomannut joitain tämän säteilyn outoja piirteitä ja alkoi ajatella, että se voisi sen sijaan koostua neutraaleista hiukkasista, kuten Rutherford oli ehdottanut.

Erityisesti yksi kokeilu kiinnitti hänen huomionsa: Frédéric ja Irène Joliot-Curie olivat tutki sitten tunnistamattoman berylliumin säteilyä, kun se osui parafiinivahakohteeseen. He havaitsivat, että tämä säteily löi löysät protonit vetyatomista kyseisessä kohteessa, ja nämä protonit takaisivat erittäin suurella nopeudella.

Joliot-Curie uskoi, että parafiinikohteen osuvan säteilyn on oltava korkean energian gammafotonia, mutta Chadwickin mielestä selitys ei sopinut siihen. Fotonit, joilla ei ole massaa, eivät lyöisi niin raskaita irtoavia hiukkasia kuin protonit kohteesta, hän perusteli. Vuonna 1932 hän kokeili vastaavia kokeita itse ja tuli vakuuttuneeksi siitä, että berylliumin lähettämä säteily oli itse asiassa neutraali hiukkanen protonin massasta. Hän kokeili myös muita kohteita parafiinivahan lisäksi, mukaan lukien helium, typpi ja litium, mikä auttoi häntä määrittämään, että uuden hiukkasen massa oli vain hieman suurempi kuin protonin massa.

Chadwick huomautti myös, että koska neutroneilla ei ollut varausta, ne tunkeutuivat paljon kauemmas kohteeseen kuin protonit tekisivät.

Helmikuussa 1932, vain noin kahden viikon kokeilun jälkeen, Chadwick julkaisi paperin ”The Possible Existence of Neutron ”, jossa hän ehdotti, että todisteet suosivat neutronia gammasätefotonien sijasta salaperäisen säteilyn oikeana tulkintana. Sitten muutama kuukausi myöhemmin, toukokuussa 1932, Chadwick toimitti selvemmän paperin nimeltä” The Existence of Neutroni. ”

Vuoteen 1934 mennessä oli todettu, että vasta löydetty neutroni oli itse asiassa uusi perushiukkanen, ei protoni ja elektroni, jotka olivat sitoutuneet yhteen, kuten Rutherford oli alun perin ehdottanut.

Neutronien löytäminen nopeasti cha tutkijoiden näkemys atomista, ja Chadwick sai Nobel-palkinnon vuonna 1935 löytöstään. Tutkijat huomasivat pian, että vasta löydettyä neutronia, varauksettomana mutta melko massiivisena hiukkasena, voidaan käyttää muiden ytimien tutkimiseen. Ei kestänyt kauan, kun tutkijat havaitsivat, että uraanin lyöminen neutronien kanssa johti uraanin ytimen hajoamiseen ja uskomattoman energiamäärän vapautumiseen, mikä mahdollisti ydinaseet. Chadwick, jonka löytö neutronista oli avannut tietä atomipommille, työskenteli Manhattan-projektissa toisen maailmansodan aikana. Hän kuoli vuonna 1974.