レニングラード音楽院の管弦楽指揮科（イリヤ・ムーシン教授に師事）で学ぶ。在学中23 歳の時に、ベルリンのカラヤン指揮者コンクールで1 位なしの2 位に入賞。キーロフ劇場（現マリインスキー劇場）に指揮者として招かれた。そして35歳の若さでキーロフ劇場オペラ・カンパニーの芸術監督に就任。1996年からはマリインスキー劇場の芸術監督と総裁を兼任している。
マリインスキー劇場において、ゲルギエフは数多くの世界的な名歌手を育成し、音楽界に送り出している。また彼の采配の下で、同劇場はレパートリーを大きく広げ、現在は18世紀から20世紀のクラシックの傑作から現代作品まで幅広く網羅している。これまでの注目すべき演奏としては、プロコフィエフとショスタコーヴィチのオペラのほか、ワーグナーの「ローエングリン」「パルジファル」「さまよえるオランダ人」「トリスタンとイゾルデ」等の再上演が挙げられる。また彼は2003年、ロシア史上初となるドイツ語による新演出の「ニーベルングの指環」4部作を上演。そのヨーロッパ初演は、04年ドイツのバーデン・バーデンで行われ、ドイツのメディアから「音楽史上に残る一大イベント」と高く評価された。さらに05年のモスクワ上演、その後の韓国や日本での上演も絶賛を博し、06／07年シーズンには、アメリカ、イギリス、スペインでも上演された。09年には、ベルリオーズ「トロイアの人々」の世界規模―ロシア、イスラエル、アメリカ―の上演を手がけた。
彼はまた、ロッテルダム・フィルハーモニー・ゲルギエフ音楽祭（オランダ）、モスクワ復活祭音楽祭、「白夜の星」音楽祭（サンクトペテルブルグ）など、数多くの国際音楽祭の創設者であり、また、それらの芸術監督、音楽監督を務めている。「白夜の星」音楽祭は、オーストリアの権威ある雑誌「フェストシュピール・マガジン」が選ぶ「世界の主要音楽祭ベスト10」にランクインした。
06年には、ゲルギエフの尽力によって、マリインスキーコンサートホールが完成。この新ホールは、卓越した音響を有することで注目を集め、劇場とオーケストラのプログラムを広げるのみならず、マリインスキー・レーベルの作品収録の場にもなっている。ゲルギエフのリーダーシップの下、09年に創設された同レーベルは、これまでに16枚のディスクをリリースし、ファンや批評家の高い評価を獲得。10年には、最初のプロジェクトとなったオペラ「鼻」が、ミデム・クラシック賞を受賞した。
07年～15年までロンドン交響楽団の首席指揮者を務めたほか、近年はメトロポリタン・オペラ、 ウィーン・フィルハーモニー管弦楽団、ミラノ・スカラ座管弦楽団、ニューヨーク・フィルハーモ ニック、ロッテルダム・フィルハーモニー管弦楽団等と共演している。また15年からはミュンヘン・フィルハーモニー管弦楽団の首席指揮者を務めている。
ゲルギエフは子供や若者のための企画にも熱心に取り組み、これらの世代を対象とした基金の提供や、学生向けの無料コンサートなどを行っている。さらにゲルギエフは、人道主義の理想を守るために、積極的な活動を展開することでも知られて いる。04／05年シーズンには、彼が中心となり、「ベスラン・ミュージック・フォー・ライフ（北オセチアに捧げる）」と題した世界規模のチャリティー・コンサート・シリーズが、ニューヨーク、パリ、ロンドン、東京、ローマ、モスクワで開催された。また彼は、08年8 月にも、ツヒンヴァリ（南オセチア自治州の州都）の破壊された州議会議事堂前の広場で、グルジア紛争犠牲者追悼コンサートを指揮した。ロシア連邦大統領府文化芸術評議会の委員を務める傍ら、第14回チャイコフスキー国際コンクール組織委員会の委員長も務めた。10年2 月には、サンクトペテルブルグ大学の学術審議会が、彼を同大学芸術学部の学部長に選出した。
ゲルギエフは、音楽や社会への功績により、数多くの賞や勲章（称号）を授与されている。それらは、ロシア人民芸術家（96年）、ロシア国家賞（94 年と99年）、ドイツ政府一等紅十字勲章、イタリア共和国功労勲章、フランス芸術文化勲章、オランダ獅子勲章、日本の旭日中綬章、ポーランド共和国文化勲章、UNESCO世界平和芸術家、スウェーデン王立音楽アカデミーの北極音楽賞など、枚挙にいとまがない。08 年12 月には、ゲルギエフ指揮のマリインスキー歌劇場管が、グラモフォン誌で発表された世界最高アンサンブルのトップ20にランクインした。このリストにランクインしたロシアの3 団体のうち、同楽団が最上位であった。09 年には、イギリスのロイヤル・フィルハーモニー協会より、「年間最優秀指揮者」に選出。最近では、才能ある若手音楽家の育成に貢献したことにより、ヨーロッパ・グラスヒュッテ・オリジナル賞（ドレスデン音楽祭賞）を受賞した。11年には、エジンバラ国際フェスティバルの名誉総裁に就任し、同年11 月、フランスの権威ある音楽雑誌「クラシカ」より「年間最優秀アーティスト」に選ばれた。
PMFには、首席指揮者として04年と06年に参加している。15年から6代目のPMF芸術監督をつとめ、5シーズン目となる。