התפתחות הספורט העולמי תלויה במי שיוביל את הוועד האולימפי הבינלאומי. אחרי הכל, ראש הוועד האולימפי הוא לא רק פקיד, אלא אדם שיש לו מספר עצום של תקוות, הוא מתמודד עם משימות קשות. לכן אדם אקראי לא יכול להיות במקום כזה.
ראש הוועד האולימפי הבינלאומי הוא נשיאו. פוסט זה הוא אלקטיבי. ראש הוועדה נבחר בישיבה מאורגנת במיוחד בהצבעה חשאית. תקופת כהונתו של ראש ה- IOC מיועדת ל 8 שנים, אך כל ארבע שנים ניתן להאריך אותם לעוד 8 שנים. נשיא הוועד יכול להיות איש ציבור ידוע ומפורסם בנאומיו, צדקה ודברים אחרים הנעשים לטובת מולדתו ולמען התפתחות העולם כולו.
הנשיא הראשון נבחר בשנת 1894 יחד עם הופעת הוועד האולימפי. הוא היה משורר ואיש ציבור יווני בשם דמטריוס וויקלאס. סגנו מונה למעורר השראה אידיאולוגי של המשחקים האולימפיים הראשונים של ימינו, הברון פייר דה קוברטין. עם זאת, שנתיים בלבד לאחר שהמשחקים הראשונים נערכו בניצחון, אותו הברון דה קוברטין החליף את וויקלס כנשיא IOC. הוא נשאר בתפקיד זה עד שנת 1925.
בשל העובדה שניתן להרחיב את הסמכויות, רק 8 נשיאים ביקרו בתפקיד ראש ועדת הספורט הבינלאומית במשך 100 שנה.
דה קוברטין הוחלף על ידי אנרי דה בול-לטור, שהושיט בכיסא במשך 17 שנה. הבא היה זיגפריד אדסטרום - הוא היה נשיא בשנים 1946 עד 1952. אחריו הוחלף אייברי ברנדאז 'מארה"ב. הוא הוביל את ה- IOC במשך 20 שנה עד 1972. ממשיך דרכו, מייקל מוריס קילנין, אירי, בילה כהונה אחת כראש הוועד. ואז, במשך 21 שנה, הגיע חואן אנטוניו סמראנצ 'להנהגה. משנת 2001 להיום נשיא הוועד האולימפי הבינלאומי הוא ז'אק רוג 'הבלגי.
עם זאת, הנשיא לבדו בקושי הצליח לנהל את הוועדה. לפיכך ישנם גם עוזרי דירקטורים כמו ארבעה סגן נשיאים ו 10 חברי ועדה רגילים, שנבחרים גם הם בהצבעה חשאית. תקופת כהונתן היא 4 שנים. בנוסף, ועדת ההיגוי כוללת 25 אנשים המכונים כאן "כבוד" - אלה שהיו בעבר חברי הוועדה. ה- IOC כולל גם חברים מכובדים שלא היו חברים בוועד האולימפי, אך סיפקו שירותים יקרי ערך לתנועה.
בהרכב הוועדה חברים 110 חברים מ -70 מדינות. עיקרון העבודה הוא זה: מי שחברים בוועד האולימפי הבינלאומי אינם נציגים של מדינותיהם בה, אלא להפך, מייצגים את הגוף הרגולטורי במולדתם.