次至王舍城的阿羅邏迦藍（Ārāḍa-kālāma）仙人處，及鬱陀迦羅摩子（Udraka-rāma-putra）仙人處，求學解脫之道，但他們所示者，或以苦行或以修定，而以生天為目的，所以當釋尊領教之後，均不能使他心服，便到伽耶（Gayā）城之南的優婁頻羅村（Uruvilvā）的苦行林去。不過，王舍城的兩位仙人是當時有名的數論派之先驅，以非想非非想處定為其解脫境，後來佛教即以非想非非想處定為世間的最高定，可見該二仙人給予佛教的影響了。

釋尊未行苦行之先，止於王舍城外槃荼山之林中，因至王舍城乞食而為摩揭陀國的頻婆沙羅王所見，並力勸他返俗，願分其國之一半與釋尊並治，但被釋尊謝卻了。王隨即要求釋尊，若成佛道，願先見度。接著，釋尊便與五位由他父王派來的侍者，進入苦行林，與那些外道沙門的苦行者為伍，因此也使他得了「沙門瞿曇」的稱號。

經過六年的苦行生活，僅以野生的麻米為食，日限一麻一米，以延續生命。結果，形體枯瘦如乾柴，尚未見到成道的消息，始知光用苦行，不是辦法，便放棄苦行，至尼連禪河（Nairañjanā）沐浴，並受牧女的乳糜之供，調養身體，以恢復健康，再到附近的畢鉢羅（Pippala）樹下，以吉祥草，敷金剛座，東向跏趺而坐，端身正念，發大誓願：「我今若不證無上大菩提，寧可碎此身，