Di nobile famiglia, venne avviato giovanissimo alla carriera ecclesiastica e, all'età di dodici anni, venne nominato abate di Pébrac; studiò alla Sorbona e a Roma e, dopo un pellegrinaggio a Loreto, decise di diventare sacerdote; tornato in patria, venne ordinato prete, si unì alla compagnia dei missionari di Vincenzo de' Paoli, suo direttore spirituale, e iniziò a predicare le missioni nelle zone rurali dell'Alvernia. Nei suoi spostamenti, Olier ebbe modo di constatare lo stato di prostrazione morale e intellettuale in cui era caduto il clero francese. Qualche anno prima, con il decreto Cum adulescentium aetas, il Concilio di Trento aveva ordinato ai vescovi diocesani l'erezione di seminari per risolvere il problema dell'ignoranza e dell'impreparazione dei sacerdoti: l'applicazione del decreto tridentino, però, fu molto difficoltosa in Francia, soprattutto per gli alti costi che l'erezione e il mantenimento dei seminari comportava. Olier pensò allora di dedicarsi alla formazione dei candidati al sacerdozio e, assieme a due compagni, il 29 novembre 1641 aprì un seminario a Vaugirard; il 15 agosto 1642 il fondatore venne nominato parroco di San Sulpizio a Parigi e la sede dell'istituto venne trasferita presso tale chiesa. Presto i "signori" di San Sulpizio vennero richiesti dai vescovi delle piccole diocesi del paese per assumere la direzione dei loro seminari: nel 1649 vennero chiamati a Nantes, nel 1650 a Viviers, nel 1652 a Le Puy, nel 1653 a Clermont e nel 1657 raggiunsero anche Montréal, in Canada. Nel 1652 Olier lasciò il ministero pastorale per motivi di salute, pur mantenendo la direzione del seminario parigino.