ในระยะแรกหลังจากพระสัมมาสัมพุทธเจ้าเสด็จดับขันธปรินิพพานแล้ว พุทธศาสนิกชนก็ได้นำเอา ดิน น้ำ และใบโพธิ์จากสังเวชนียสถาน ๔ แห่ง คือ สถานที่ประสูติ (ลุมพินีวัน) ตรัสรู้ (พุทธคยา) ปฐมเทศนา (พาราณสี) และ ปรินิพพาน (กุสินารา) เก็บมาไว้เพื่อบูชาคุณพระสัมมาสัมพุทธเจ้า ต่อมามีการสร้างรูปอื่นที่เป็นสัญลักษณ์เพื่อระลึกถึงพระพุทธคุณ เช่น ทำดวงตราสัญลักษณ์ประจำสถานที่ต่างๆ ขึ้น ด้วยดินเผาหรือแผ่นเงิน เช่นที่เมืองกบิลพัสดุ์สร้างตราดอกบัว หมายถึงมีสิ่งบริสุทธิ์เกิดขึ้น และตราม้า หมายถึงม้ากัณฐกะ ที่เมืองพาราณสีสร้างตราธรรมจักร มีรูปกวางหมอบอันหมายถึงการแสดงธรรมจักร และพระเจ้าอโศกมหาราชได้ทรงสร้างเสาหินอโศกไว้ในสถานที่ประสูติ เป็นต้น

ส่วนการสร้างพระพุทธรูปมีประวัติความเป็นมาดังนี้ คือ ตามตำนานพุทธประวิติกล่าวว่า ในสมัยพุทธกาล พระเจ้าปเสนธิโกศลแห่งแคว้นโกศล ได้โปรดให้ช่างจำหลักพระรูปเหมือนของพระสัมมาสัมพุทธเจ้าขึ้นจากไม้แก่นจันทร์ เพื่อเป็นเครื่องระลึกถึงพระพุทธองค์ที่เสด็จไปจำพรรษาที่สวรรค์ชั้นดาวดึงส์เพื่อโปรดพุทธมารดา นับเป็นการสร้างพระพุทธรูปเป็นครั้งแรก แต่ตำนานพระแก่นจันทร์นี้ บางท่านกล่าวว่าเป็นเพียงตำนานที่ยังไม่สามารถหาหลักฐานมายืนยันได้อย่างชัดเจน ถ้าไม่นับพระแก่นจันทร์ก็สันนิษฐานกันว่า พระพุทธรูปนั้น เริ่มสร้างในราวพุทธศตวรรษที่ ๗ ตั้งแต่สมัยคันธารราฐ ซึ่งเป็นแคว้นที่อยทางตอนู่เหนือ ของอินเดียโบราณ (ปัจจุบันอยู่ในแถบตะวันตกเฉียงเหนือของปากีสถานและตะวันออกของอัฟกานอสถาน) ผู่ริเริ่มสร้างไม่ใช่ชาวอินเดียแต่เป็นพวกโยนก (กรีก) สันนิษฐานว่าเริ่มสร้างในสมัยพระเจ้าเมนันเดอร์หรือพระเจ้ามิลินท์ กษัตริย์เชื้อสายกรีกแห่งแคว้นคันธาระ หรือคันธาราฐ

เมื่อพระเจ้าอโศกมหาราชนำพระพุทธศาสนาเข้าไปเผยแผ่ในคันธาราฐ พวกโยนกยอมรับนับถือพระพุทธศาสนา พระเจ้ามิลินท์มีความเลื่อมใสในพระพุทธศาสนามาก แสดงองค์เป็นพุทธศาสนูปถัมภก ทะนุบำรุงพระพุทธศาสนาให้เจิริญรุ่งเรือง แต่เดิมนั้นพระพุทธศาสนาไม่มีรูปเคารพแต่อย่างใด เพราะในสมัยอินเดียในสมัยนั้นมีข้อห้ามในการทำรูปเคารพ แต่เคยนับถือศาสนเทวนิยมและจำหลักรูปเคารพของเทพเจ้ากลุ่มโอลิมปัสมาก่อน เช่น รูปอพอลโลและซีอุส เมื่อเปลี่ยนมานับถือพระพุทธศาสนา ก็เลยจำหลักศิลารูปพระสัมมาสัมพุทธเจ้าขึ้นเคารพบูชาเป็นครั้งแรก