سميت قبة الصخرة بهذا الاسم لأنها مبنية فوق صخرة كبيرة تسمى "الصخرة المشرفة" أو "صخرة إبراهيم". يُعتقد أن هذه الصخرة هي المكان الذي صعد منه النبي محمد إلى السماء خلال رحلة الإسراء والمعراج، كما تُعتبر موقعاً مقدساً في الديانات الإبراهيمية الثلاث (الإسلام، المسيحية، اليهودية) لأسباب مختلفة مرتبطة بالتاريخ الديني لكل منها. لذا، فإن "قبة" تشير إلى البناء نفسه، و"الصخرة" تشير إلى الصخرة الأساسية التي يقع عليها البناء وتُعدّ جوهره المقدس.