Sull'origine e la fondazione di questo centro poco si sa.
Il più antico documento in cui si nomina questa comunità è la Bolla papale di Callisto II, redatta nel 1123, dove viene indicato con il nome di "Crassanum"; mentre nel Registro Angioino di Basilicata del 1280 si apprende che era un "casale" appartenente a Tricarico.
Il suo territorio all'inizio del 1300 fu donato dai Signori di Tricarico all'Ordine Gerosolomitano, detto anche dei Cavalieri di Malta, che lo amministrò fino all'inizio del '800. Fu una delle Commende più importanti e ricche dell'Ordine in Basilicata, infatti dalla Commenda di Grassano dipendevano ben 17 Grancie (fattorie) site in vari comuni lucani e pugliesi. Il Commendatore, nominato dall'ordine, risiedeva in un imponente palazzo, oggi scomparso, che si ergeva a fianco della chiesa Madre e che con il suo ampio cortile, le varie stanze e il sontuoso salone affrescato doveva essere davvero imponente; da qui amministrava il feudo, imponeva la riscossione dei tributi e degli affitti dei terreni. Il buon governo dei Gerosolomitani portò ben presto all'aumento degli abitanti di Grassano che passarono dalle 4 famiglie residenti nel 1320 alle 16 famiglie tassate nel 1447; ma gli abitanti aumentarono ancora nel 1532 giungendo a contarsi 69 le famiglie, che salirono a 114 nel 1545 e a 266 nel 1669.
In virtù dell'accresciuta popolazione divenne un comune autonomo da Tricarico, come ci dimostra il "manoscritto Scarimola", del 1648, dove per la prima volta si parla dell'Amministrazione Comunale (Universitas) di Grassano.
Nel 1745 la società grassanese era così formata: dal Duca della Salandra, che riscuoteva gli utili della taverna, del forno feudale e delle vigne di sua proprietà; dal Commendatore di Malta che aveva ampi poteri e che possedeva e amministrava tutto il territorio di Grassano; dal clero e da numerosi professionisti quali medici, notai e farmacisti; da vari "massari", che amministravano le masserie per conto dei grandi proprietari e da numerosi artigiani, contadini e braccianti.
Tra il 1700 e il 1800 il paese, in seguito all'aumento della popolazione, si estese oltre le antiche mura. Accanto alle "casedde" (piccole case), furono costruiti i "lamioni", più adatti alle nuove esigenze di vita. Un'ulteriore evoluzione fu la costruzione sul "lamione" di un altro piano, detto "casa soprana".
Nel 1861 Grassano contava 5336 abitanti, che nel censimento del 31 Dicembre 1881 si trovarono saliti a 6145. Intanto il 14 dicembre 1847 era stata aperta, in Corso Umberto I°, la prima farmacia e nel 1848 fu costruito il cimitero. Nel 1880 venne inaugurata la stazione ferroviaria di Grassano e nel 1923 arrivò anche l'illuminazione elettrica.
Ma nei primi anni del '900 si ebbe una massiccia emigrazione. I contadini e gli artigiani emigrarono alla ricerca di condizioni di vita migliori, i primi si diressero maggiormente nel sud America, invece i secondi preferirono raggiungere il nord America, allora alla ricerca di mano d'opera specializzata per le sue industrie.
L'arrivo al potere del fascismo portò alla fine dell'emigrazione, che venne proibita, perciò ai grassanesi non rimase che partire come volontari per le varie guerre di occupazione in Africa ed in Albania;. mentre il paese, specialmente tra il 1935 ed il 1936, accoglieva numerosi confinati politici,. tra questi il più famoso fu lo scrittore Carlo Levi autore del libro "Cristo si è fermato a Eboli", in cui c'è una forte denuncia sociale e morale delle tristi condizioni di vita dei contadini del sud. Nel dopoguerra la situazione non si presentava delle più rosee, riprese una massiccia emigrazione questa volta verso la Francia, il Belgio, la Svizzera e soprattutto verso la Germania.
Ad aggravare ulteriormente la situazione del paese furono due grosse frane, quella del rione Calvario e quella del Cimitero, che negli anni '50 interessarono l'abitato. Un intero quartiere fu abbandonato (le scalancate) e si incominciò a parlare di abbandonare il paese e di ricostruirlo a valle, ma dopo lunghe e tormentate discussioni si decise di non abbandonarlo. Si iniziò così a costruire una serie di imponenti opere murarie (le briglie in cemento) per evitare il ripetersi di simili eventi.
Ma negli anni '70 fu aperto a Pisticci Scalo lo stabilimento industriale dell'ANIC, grazie ai fondi stanziati della "Cassa del Mezzogiorno", che insieme ad altre piccole fabbriche, tra cui quella tessile dei Sileo di Grassano, permise il ritorno di numerosi emigrati. La popolazione riprese a salire dopo un lungo periodo di discesa. In quegli anni, il centro abitato si estese verso sud-est, lungo via Capitan Pirrone e verso la via Appia. Molte zone che prima erano vigneti diventarono quartieri con case moderne.
Il fortissimo terremoto del 1980 troncò questo periodo di benessere. Non provocò morti o feriti nel nostro paese, come invece avvenne in altri comuni del potentino, ma molte case furono dichiarate inagibili, le scuole vennero chiuse per poter accogliere gli sfollati, il palazzo del municipio fu danneggiato, tutte le chiese di Grassano furono dichiarate non agibili in parte o totalmente.
La popolazione alla fine del 1980 scese a soli 4640 abitanti, era il minimo storico da molti decenni. Ben presto però si mise mano alla ricostruzione, un fiume di miliardi doveva travolgere i nostri comuni, alcuni furono spesi bene, altri no. Comunque ciò permise la nascita di numerose imprese, bisognava riedificare le case crollate, riparare quelle danneggiate e poi c'erano i prefabbricati da montare e gli sfollati da assistere.
Gli abitanti tornarono a salire, diventarono 5253 nel 1988. Ma terminata in parte la ricostruzione molte aziende chiusero i battenti e il lavoro tornò a scarseggiare, nonostante questo la popolazione nel 1990 era aumentata a 5393 abitanti.
Nell'ultimo decennio l'apertura dello stabilimento FIAT a Melfi, la nascita di numerose fabbriche di salotti a Matera e l'affermarsi di piccole imprese artigiane a Grassano ha fatto diminuire ulteriormente l'emigrazione e a portato ad un incremento della popolazione che nel 1998 è salita a 5922 abitanti.