תוכנת הלקוח יכולה להימצא באותו מחשב כמו תוכנת השרת או במחשב אחר. ספריות דינמיות וטכנולוגיות רכיבים למיניהן הן דוגמאות לתוכנות שרת שפועלות בדרך-כלל באותו מחשב שבו פועלת תוכנת הלקוח, בעוד ששרתי אינטרנט לסוגיהם מיועדים למצבים שבהם תוכנת הלקוח ותוכנת השרת פועלות במחשבים שונים. מערכות שרתי מסדי-נתונים מתוכננות גם הן עבור שרתים מרוחקים (Remote computer, כינוי למצב שבו תוכנת השרת נמצאת על מחשב אחר מאשר המחשב המקומי, Local computer).

תוכנת שרת מתאפיינת בכך שהיא פועלת על בסיס של האזנה לבקשה (request), והחזרת תגובה (response) לבקשה, שניהם בפרוטוקול שנקבע מראש. כיוון שבקשה עשויה להגיע בכל עת, על תוכנת שרת לפעול תמיד, בהמתנה לבקשה, להבדיל מתוכנת לקוח, שהמשתמש מביא לסיום פעולתה עם גמר השימוש בה.