黑胡椒，在某些語境下可簡稱作“胡椒”。中文中的“胡椒”由“胡”字與“椒”字組合而來。“胡”原意指稱北方和西方的游牧民族，后引申表述為來自不同文化背景的東西。如：“胡蘿卜”、“胡床”。“椒”則指某些種子或果實有刺激性味道的食物。

胡椒的英語單詞“pepper”衍生自拉丁語中“piper”一詞，羅馬人用“piper”這個詞來表述胡椒與蓽拔，因為他們錯誤地認為這兩種不同的香料取自同樣的植物。“piper”則來自梵語中的“pippali”，其意為蓽撥?，F(xiàn)代英語中的“pepper”發(fā)展自古英語中的“pipor”。拉丁語的“piper”亦是德語“pfeffer”、法語“poivre”、荷蘭語“peper”及其他相似形式的起源。在16世紀，“pepper”的詞義又進一步包括了在新大陸發(fā)現(xiàn)的辣椒。至少在1840年代時，“pepper”已發(fā)展出了“勇氣”與“活力”的比喻義；在20世紀早期，還曾被縮寫成“pep”的形式。