הכדורסל הופיע בתוכנית האולימפית בפורום האחרון שלפני המלחמה - בשנת 1936 בברלין. 23 קבוצות השתתפו בו, מה שהפך את טורניר הכדורסל לנציג ביותר מבין ענפי הספורט הקבוצתי במשחקי הקיץ של ה- XI. הזהב הראשון בספורט זה עבר לקבוצה האמריקאית, השנייה היו קנדים, והשלישי - מקסיקנים.
האמריקאים המשיכו לשלוט בספורט הזה - מתוך תריסר וחצי תחרויות בהן לקחה הקבוצה של המדינה הזו, רק בשלושה הם איבדו את האליפות. פעמיים בשורה העליונה יכולה להיות נבחרת ברית המועצות, פעם אחת - הנבחרת הלאומית של ארגנטינה. האמריקאים לא השתתפו באולימפיאדת 1980 ואז הכדורסלנים היוגוסלביים השיגו את הזהב. על חשבון הקבוצות הסובייטיות, בנוסף לשני פרסי זהב, ישנם ארבעה כסף ושלושה ארד - זה השורה השנייה בדירוג המשולב של הישגי שחקני כדורסל גברים.
כדורסל נשים התווסף לתכנית משחקי הקיץ עשרה מחזורים אולימפיים לאחר מכן - לפני אולימפיאדת ה- XXI שהתקיימה באטלנטה בשנת 1976. בטורניר הראשון זכו שחקני הכדורסל של ברית המועצות, כמו גם הטורניר הבא, שנערך ללא השתתפות אמריקאים. פעם נוספת, במשחקי הקיץ 1992 בברצלונה, קבוצה המורכבת משחקנים מהרפובליקות לשעבר של ברית המועצות הצטיינה בתחרויות כדורסל. בכל הטורנירים האולימפיים האחרים לנשים, וכבר היו שש כאלה, רק הנבחרות הלאומיות של ארה"ב ניצחו.
קבוצות כדורסל גברים של רוסיה לתקופה בה היא פעלה כמדינה עצמאית, מעולם לא הצליחו לזכות במדליות של האולימפיאדה. לנשים תוצאות טובות יותר - בשני הפורומים האחרונים של קיץ הספורט הם זכו במדליות ארד.
על פי התקנות הקיימות היום, לכדורסלנים מקצועיים הזכות לקחת חלק בטורנירי הכדורסל האולימפיים. בחירת הקבוצות שמורשות להתחיל בה מתבצעת על פי תכנית שנקבעה מראש בה רק שלושה מקומות מזוהים בתחרויות המוקדמות. השאר מחולקים בין אלופי אפריקה, אמריקה (2 קבוצות), אסיה, אירופה (2 קבוצות) ואוקיאניה. אלוף העולם המכהן והנבחרת הלאומית של המדינה המארחת באולימפיאדה מקבלים מקום אחר.
