上海合作組織是在“上海五國”元首會晤機制的基礎上成立的。
2001年6月14日，“上海五國” 元首在上海舉行第六次會晤，烏茲別克斯坦以完全平等成員的身份加入“上海五國”。15日，6國元首舉行首次會晤，并簽署了《上海合作組織成立宣言》，宣告上海合作組織正式成立。
2002年6月7日，上海合作組織成員國元首在圣彼得堡舉行第二次會晤，簽署《上海合作組織憲章》。憲章對上海合作組織宗旨、組織結構、運作形式、合作方向及對外交往等原則作了明確闡述，標志著該組織從國際法意義上得以真正建立。
2003年5月29日，上海合作組織成員國元首第三次會晤在莫斯科舉行，討論了在新形勢下如何抓住機遇、應對挑戰、加強協調、擴大合作、促進地區和平與發展等重大問題，并達成廣泛共識，簽署了《上海合作組織成員國元首宣言》。時任中國駐俄羅斯大使張德廣被任命為該組織秘書長。
2004年6月17日，上海合作組織成員國元首第四次會晤在烏茲別克斯坦首都塔什干舉行。塔什干峰會標志著成立3年的上海合作組織正式結束初創階段，進入了全面發展的新時期。在這次峰會上，蒙古國被吸收為上海合作組織觀察員。
2005年7月5日，上海合作組織成員國元首第五次會晤在哈薩克斯坦首都阿斯塔納舉行。6國元首簽署了《上海合作組織成員國元首宣言》等重要文件，并決定給予巴基斯坦、伊朗、印度觀察員地位。
2006年6月15日 上海合作組織成員國元首理事會第六次會議在上海舉行。六國元首簽署了《上海合作組織五周年宣言》，發表了《上海合作組織成員國元首理事會第六次會議聯合公報 》。
