Carter, hvis politiske erfaring begrænsede sig til en 4-års guvernørperiode i Georgia, blev overraskende demokraternes præsidentkandidat i 1976, på trods af, at mange mere erfarne og kendte politikere opstillede. Allerede i 1974, mens han stadig virkede som guvernør, satte han sig som mål at blive valgt til præsidentembedet ved valget i 1976. Han og hustruen turnerede USA rundt, og han gik fra at være "Jimmy Who" til en seriøs præsidentkandidat.
 

Der var i USA en udbredt politikerlede efter årene med Watergate, og den religiøse Carters budskab om aldrig at lyve over for det amerikanske folk, blev vel modtaget.
 

Under kampen om at blive Demokraternes præsidentkandidat udmanøvrerede han bl.a. et så prominent navn som Ronald Reagans efterfølger som guvernør i Californien Jerry Brown, der ellers var gået ind i valgkampen med ene det formål at holde Carter ude pgr.a. dennes mangel på politisk erfaring. Carter slog også Edward Kennedy, Lloyd Bentsen, Hubert Humphrey og Sargent Shriver samt Adlai Stevenson III og 17 andre kandidater.
 

Modparten i valgkampen endte med at blive den siddende præsident Gerald Ford, der måtte igennem en hård kamp om præsidentnomineringen mod Californiens tidligere guvernør Ronald Reagan, inden han kunne tage kampen op mod Jimmy Carter. En kamp, der først endte ved Republikanernes partikonvent.
 

Carter vandt præsidentvalget den første tirsdag i november 1976, efter en af de tætteste valgkampe i amerikansk historie. Allerede ved selve præsidentindsættelsen viste Carter den nye stil, da han og hustruen Rosalynn samt børnene forlod limousinen og gik til fods op ad Pennsylvania Avenue.
 

Dagen efter sin indsættelse opfyldte præsidenten et valgløfte ved at benåde dem, der havde undgået krigstjeneste i Vietnam ved fx at rejse til udlandet.
 

Indenrigspolitisk markerede præsidenten, at det var sparetider. Han iførte sig en sweater og skruede ned for varmen i Det Hvide Hus. Desuden solgte han den præsidentielle yacht. Samme år standsede han B1-bombeflysprojektet, hvilket medførte vrede ikke mindst blandt de traditionelle koldkrigere.
 

Efterhånden viste det sig ganske svært for præsidenten at få lovgivning gennem USAs Kongres: Han var blevet valgt som et modspil til det etablerede Washington, men nu viste det sig, at han af netop denne grund havde svært ved at samle flertal for sine lovforslag. Det blev ikke lettere af, at hans stab for en stor dels vedkommende udgjordes af mennesker han havde kendt fra sin tid som guvernør i Georgia, og disse blev i pressen kendt som The Georgia Mafia.
 

Udenrigspolitisk satte præsidenten fokus på menneskerettigheder, herunder afviklingen af kolonistyret i Afrika og fredsprocessen i Mellemøsten. I 1978 lykkedes det således præsidenten at få en fredsaftale i stand mellem Egyptens Anwar Sadat og Israels Menachem Begin. Kort efter normaliserede Carter forholdet til Kina og underskrev SALT II-aftalen med Sovjetunionen.