Der Eintritt in das legendäre (erste) Miles Davis-Quintett bedeutete für Coltrane den Durchbruch; Davis war zu diesem Zeitpunkt bereits ein Star. Coltrane spielte Tenorsaxophon, behielt dabei aber die Intonation des Alt bei und entwickelte seinen charakteristischen Klang. Erste Aufnahmen („Budo“ und „Little Melonae“) entstanden Ende Oktober für Columbia, obwohl Davis noch bei Prestige unter Vertrag stand, als Miles Davis All-Stars. Doch bereits im Herbst des folgenden Jahres warf Davis Coltrane wegen dessen Drogensucht wieder aus der Band. Coltrane zog sich zurück und konnte mit Hilfe Naimas vom Heroin loskommen. Daneben entstanden 1956 Prestige-Sessions mit Elmo Hope, Sonny Rollins („Tenor Madness“), Tadd Dameron (Mating Call), Idrees Sulieman und Paul Chambers. Im Jahr darauf, nach seinem Drogenentzug, kehrte er auf die Bühne zurück und stürzte sich mit neuer Energie in die Arbeit. Er arbeitete unter anderem mit Thelonious Monk, mit dem er im Oktober 1957 das Album Monk's Music aufnahm. Aus dem Zusammenspiel mit Monk brachte er die an den Kirchentonarten orientierten Skalen ein. Diese „modale“ Spielweise überwindet die herkömmliche, an Harmoniefolgen gebundene Improvisation. In der Folge wurden Coltranes Soli immer länger und ekstatischer.