《尚书》最早叫《书》，西汉开始称《尚书》。东汉王充在《论衡.正说》中解释了什么叫《尚书》：“《尚书》者，以为上古帝王之书或以为上所为，下所书。”如王充所说，“尚”指上古，由来久远“尚”也指帝王，高居在上。
尚书开始于秦朝。
西汉沿置，本为少府的属官，掌文书及群臣章奏。汉武帝时以宦官担任（又称中书令），汉成帝改用士人。东汉政务归尚书，尚书令成为对君主负责，总揽一切政令。魏晋以后，事实上即为宰相之任。唐初秦王李世民曾任其职，后不复置，故唐代尚书省长官仅为左右仆射。宋代为亲王及使相兼官，班次在太师上，非实职。
尚书，是中国封建时代的政府高官名称，相当于现在各国家部委的部长。在清朝，六部和理藩院等部门的主官称为尚书
