ท่านพระพาหิยทารุจิริยะ เป็นบุตรของกุฎุมพี ในแคว้นพาหิยะ เมื่อเติบโตแล้วได้ยึดอาชีพค้าขาย ครั้งหนึ่งได้ไปค้าขายทางจังหวัดสุวรรณภูมิ โดยทางเรือกับผู้คนเป็นจำนวนมาก เรือได้อัปปางลงเสียก่อนที่จะถึงที่ที่ต้องประสงค์ ผู้คนทั้งหมดได้เป็นภักษาแห่งปลาและเต่า เหลืออยู่เพียงพาหิยทารุจิริยะคนเดียว เกาะแผ่นกระดานได้แผ่นหนึ่งพยายามแหวกว่ายไปขึ้นที่ท่าเรือชื่อ สุปารกะ ไม่มีผ้านุ่งผ้าห่มเหลือติดตัวอยู่เลย มองไม่เห็นอะไร ๆ ที่พอจะทำเป็นผ้าห่มจึงเอาเปลือกไม้บ้าง ใบไม้บ้าง เย็บติดกันเข้าทำเป็นผ้านุ่งห่ม ถือกระเบื้องเที่ยวไปขอทานเลี้ยงชีพ
คนทั้งหลายพอได้เห็นท่านแล้วพากันสำคัญว่าคนนี้คงเป็นพระอรหันต์องค์หนึ่งแน่นอนจึงให้ข้าวต้ม และข้าวสวยเป็นต้นเป็นทาน และนำผ้านุ่งผ้าห่มไปให้เพื่อให้ท่านใช้นุ่งห่ม
ท่านมาพิจารณาว่า ถ้าเรานุ่งห่มผ้าเสียแล้ว ลาภสักการะของเราจักเสื่อม จึงห้ามคนทั้งหลายไม่ให้นำผ้านุ่งผ้าห่มมาให้อีกต่อไป แล้วตนก็นุ่งเปลือกไม้ตามเดิม สำคัญตนว่าเป็นพระอรหันต์องค์หนึ่ง
ในกาลนั้นเทวดาผู้เคยบำเพ็ญสมณธรรมร่วมกันมาแต่ชาติก่อน ซึ่งไปเกิดเป็นพรหมในชั้นสุทธาวาสได้เล็งเห็นอาการของพาหิยทารุจิริยะ เช่นนั้น จึงได้ลงมาว่ากล่าวเตือนสติว่า ท่านไม่ใช่พระอรหันต์ ท่านอย่าได้ทำเช่นนั้น จึงสำนึกตัวได้ว่า ตนไม่ใช่พระอรหันต์ การทำเช่นนี้เป็นการหลอกลวงโลก ไม่เป็นการสมควรเลย
เมื่อรู้สึกตัวอย่างนั้นแล้วจึงเข้าไปเฝ้าพระบรมศาสดา ซึ่งประทับอยู่ที่เมืองสาวัตถี ได้สดับพระธรรมเทศนาที่พระองค์ทรงแสดงมีการตักเตือนให้สำเหนียกศึกษาในไตรสิกขา คือ ศีล สมาธิ ปัญญา เป็นต้น ท่านส่งใจไปตามกระแสพระธรรมเทศนา ได้บรรลุพระอรหัตตผลพร้อมทั้งปฏิสัมภิทาทั้งหลาย
ในที่สุดแห่งพระธรรมเทศนา ได้ทูลขอบรรพชาอุปสมบทในพระพุทธศาสนากับพระบรมศาสดา พระองค์ตรัสสั่งให้ไปหาบาตรและจีวร ในขณะที่ท่านกำลังแสวงหาบาตรและจีวรอยู่นั้น บังเอิญมีนางยักษิณีตนหนึ่ง จำแลงเพศเป็นแม่โคนมวิ่งมาอย่างเร็วขวิดท่าน จนปรินิพพานไม่ทันได้อุปสมบท
พระบรมศาสดาเสด็จเที่ยวไปบิณฑบาตพร้อมด้วยภิกษุจำนวนมาก ได้ทอดพระเนตรเห็นร่างกายของท่านพาหิยทารุจิริยะ จึงรับสั่งให้ภิกษุจัดแจงทำฌาปนกิจ แล้วก่อพระสถูปบรรจุอัฐิไว้
ในกาลต่อมา พระบรมศาสดาได้ทรงยกย่องตั้งท่านไว้ในตำแหน่งอันเลิศว่า เป็นผู้เลิศกว่าภิกษุทั้งหลาย ฝ่ายข้างที่เป็นขิปปาภิญญา คือ ตรัสรู้เร็วพลัน