A civilizáció első jelei a japán szigetvilágban a Dzsómon-korszakból származnak és az i. e. 14. évezredig nyúlnak vissza. Ezek mezolitikus és neolitikus, félig letelepedett, vadászó-gyűjtögető életmódra és a mezőgazdaság kezdetleges formáira utalnak. Az ebből az időszakból származó, agyagból készült, díszes mintázatú edények, a fazekasság legidősebb darabjai közé tartoznak a világon.

Az i. e. 3. században kezdődött Jajoi-korszakban jelent meg először a rizstermesztés, a vas- és bronzművesség és az edénykészítés új formája, amelyet a Kínából és Koreából érkező bevándorlók hoztak magukkal. A Jajoi kultúra fejlődésével az megkezdődött a mezőgazdaság rohamos fejlődése.

A kínai Han könyvben található az első írásos említés a japánokról. A koreai három királyság feljegyzései szerint a legerősebb királyság a szigetvilágban a 3. század alatt a Jamataikoku volt.

A 6. században a Korea királyságain keresztül érkező mahájána buddhizmus betört Japánba. A korai ellenállások ellenére a buddhizmus az Aszakusza korszak vezető rétegének közbenjárásával egyre nagyobb elismerésnek kezdett örvendeni.

A 8. századi Nara korszakban kezdett virágozni egy egységes és erős vezetéssel rendelkező Japán állam, melynek központja az akkori császári székhely, Heidzsókjó (mai nevén Nara) volt. A kínai adminisztrációs rendszer fokozatos átvétele után a Nara-korszakban megjelent a kezdetleges írott irodalom. Ekkor keletkezett két jelentős krónika, a Kodzsiki (712) és a Nihonsoki (720). Ezek a könyvek főként valós történeteket, de mítoszokat is tartalmaznak.

784 és 794 között Kammu császársága idején az uralkodó székhelyét Nagaokakjóba helyezték. 794-ben a fővárost ismét átköltöztették. Új helye Heiankjó, a mai Kiotó lett, ahonnan a császárok több mint 1000 évig irányították az országot. Az újonnani áthelyezéssel megkezdődött a Heian-korszak, mely során kialakult a bennszülött japán irodalom, költészet és művészet. Ekkortájt született Sikibu Muraszaki Gendzsi monogatari című alkotása és a Kimi ga jo, a mai Japán himnusz

A kamakurai Kótokuin Amida Buddha-szobra

Japán feudalista korszakát egy új uralkodó harcos osztály, a szamuráj réteg kialakulása jellemezte. 1185-ben Minamoto no Joritomot, aki legyőzte az ellenséges Taira klánt, kinevezték sógunnak és az ország katonai központját Kamakurában hozták létre. Joritomo halála után a Hódzsó klán került hatalomra a sógunok kormányzójaként. A zen buddhizmus is a Kamakura-korszakban, 1185 és 1333 között kezdett terjedni és népszerűvé válni a szamurájok körében. 1274-ben és 1281-ben a Kamakura sógunátust mongolok támadták meg, de pusztító viharok miatt ezek a támadások nem jártak sikerrel. Ezeket a viharokat a japánok isteni segítségnek hitték, és kamikadzéknak (magyarul isteni szél) nevezték el őket. A Kamakura sógunátusnak Go-Daigo császár vetett véget, ám őt 1336-ban Takaudzsi Asikaga sógun megölte. Az ezután következő Asikaga sógunátus a feudális hadurak birodalmainak (japánul daimjó) áldozata lett. Ekkor tört ki az Ónin háború

A 16. század alatt misszionáriusok és kereskedők érkeztek Japánba Portugáliából, megindítva a Nanbant (magyarul déli barbárok), a Japán és a nyugat közötti virágzó gazgasági élet korszakát.

Oda Nobunaga, a japán történelem egyik legismertebb és legjelentősebb alakja

A 16. század második felében Oda Nobunaga számos hadúr területét hódította meg Európából beszerzett fegyverek segítségével, ám 1582-ben, amikor már majdnem az egész országot egyesítette, merénylet áldozata lett. Nobunagát Tojotomi Hidejosi követte a trónon, aki 1590-ben egyesítette a nemzetet. Hidejosi kétszer is elfoglalta Koreát, de a számos koreai és kínai vereség, valamint a vezér halála miatt 1598-ban a japán seregek Korea elhagyására kényszerültek.

Hidejosi halála után Tokugava Iejaszu megerősítette régensi hatalmát. Miután 1600-ban háború tört ki, Iejaszu a Sekigaharai csatában legyőzte az ellenséges klánokat, és 1603-ban sógunná nevezte ki magát, megalapítva az edói (a mai Tokió) székhelyű Tokugava sógunátust. Ez a sógunátus több féle rendeletet hozott. Ilyen volt a szankin-kotai, amellyel a daimiók hatalmát akarták korlátozni, és a szakoku, amely két és fél évszázadra elzárta a Japánt a külvilágtól. Az Edo korszakban fejlődött a kokugaku, amely egy tanulmány volt a japán népről amit maguk a japánok írtak, valamint a rangaku, ami a nyugati tudományok tanulmánya volt.

1854. március 31-én Matthew Perry sorhajókapitány vezetésével az Egyesült Államok haditengerészetének fekete hajói behajóztak Japánba, ráerőltetve a kanagavai egyezménnyel az országra azt, hogy megnyissa kikötőit a külvilág számára. Az 1867 és 1868 közötti Bosin háború megbuktatta a sógunátust, és a magát császárnak kinevező Meidzsi reformjaival egy császárközpontú országot hozott létre. Japán átvette a nyugati politikai, igazságügyi és katonai rendszereket és a Nagy Britanniáéhoz hasonló parlamentális rendszert. 1882-ben Hirobumi Ito lett Japán első miniszterelnöke. A Meidzsi-korszak reformjai a Japán Birodalmat egy iparosított világhatalommá alakították át, amely a nyersanyagok megszerzése érdekében háborúkat indított szomszédai ellen. Az 1894 és 1895 közötti első kínai-japán háborúban és az 1904 és 1905 közötti orosz-japán háborúban aratott győzelmek után Japán meghódította Koreát, Tajvant és a Szahalin sziget déli részét.

Az 1945-ös nagasaki atomrobbanás

A 20. század elején rövid ideig fennált Taisó demokrácia beárnyékolta Japán terjeszkedését és militarizálódását. Az első világháborúban az ország a győztes szövetségesek oldalán állt. 1935-ben az ország kilépett a Népszövetségből. 1936-ban Japán aláírta az Antikomintern Paktumot az Adolf Hitler vezette Harmadik Birodalommal, ami végül ahhoz vezetett, hogy 1941-ben a Japán Birodalom a tengelyhatalmak oldalán belépett a második világháborúba.

1937-ben a Japán Birodalom megtámadta Kína egyes részeit, elindítva a második kínai-japán háborút. A támadás miatt Amerikai Egyesült Államok olajembargót léptetett érvénybe a birodalommal szemben. 1941. december 7-én Japán megtámadta a Pearl Harbor-i amerikai haditengerészeti bázist  és hadüzenetet küldött az Egyesült Államoknak, az Egyesült Királyságnak és Hollandiának. (ezek az események sodorták bele az Egyesült Államokat a második világháborúba). Miután az USA 1945-ben atombombát dobott két japán városra, Hirosimára és Nagaszakira, valamint a Szovjetunió belépett az ország elleni háborúba, Japán augusztus 15-én feltétel nélkül megadta magát a szövetségeseknek. A háború Japánban több millió emberéletet követelt és elpusztította az ország gazdaságát és infrastruktúráját. A tokiói perben, amit a szövetségesek indítottak el a háborús bűnösök megbüntetésére 1946. május 3-án, több háborús japán vezetőt, köztük Todzsó Hideki miniszterelnököt, kivégeztek

1947-ben Japán új pacifista alkotmányt fogadott el, megkezdve a liberális demokrácia korszakát. A hivatalos amerikai megszállás 1952-ig tartott. 1956-ban Japán belépett az Egyesült Nemzetek Szervezetébe. A hihetetlen gazdasági növekedés után Japán a világ második legnagyobb gazdasága lett a világban. Jelenleg az ország a Heiszei-korszak korát éli.