古語有云：“君子無故，玉不去身。”沒什麼必要的話，一般玉是不會離身的，這不是古人愛美之心作祟，而是因為，這一條是很嚴肅的禮儀制度，就是因為這種禮儀制度，所以才從很大程度上影響了中國古代男子佩玉的風氣。
孔夫子講過：“古之君子必佩玉。”按照孔子的觀點，這個君子並非只指布衣百姓，應是指上自天子王侯，下至達官貴人的社會上層人物。先秦典籍中的“君子”就是多指“君王之子”，強調地位的崇高，是後來“君子”一詞被賦予了道德的含義，所以才有歷代文人高士以君子之道自勉的行為規範。
天子用全佩，貴人也身必佩玉。但這個佩玉並非是單件，而是多件的組佩，並且在玉材和編繩上都非常考究，有著嚴格的等級制度。《禮記·玉藻》對佩玉的玉材選用和色彩搭配就有一段特別的敘述：“天子佩白玉而玄組綬，公侯佩山玄玉而朱組綬，大夫佩水蒼玉而純組綬，士子佩瑜玉而綦組綬，士佩瓀玟而縕組綬。”
“組綬”是用來串玉飾的一種絲帶。這句話的意思是規定天子以白玉為佩，用黑色的絲帶相貫；公侯以山玄玉為佩，用紅色的絲繩穿系；大夫用水青色的玉為佩，必用純色的絲繩穿掛；士子用瑜玉之佩，需用雜色絲繩穿系；士用美石作佩，應用赤黃色的絲繩相貫。這其中的等級概念是不言而喻的。
西周 | 三璜聯珠玉組佩
戰國 | 青玉龍
佩玉除作為等級的標誌外，它的另一個重要作用就是我們常說的“君子比德於玉”，也就是作為君子道德的象徵。《禮記·玉藻》有云：“古之君子必佩玉，右徵角，左宮羽……進則揖之，退則揚之，然後玉鏘鳴也。故君子在車，則聞鸞和之聲。行則鳴佩玉，是以非闢之心，無自入也。”
佩玉行走時，必然牽動身上佩戴的玉飾互相碰撞，發出聲響，而這種聲響也是有講究的。優質的玉石敲擊時，聲音天然悅耳清揚，這也是玉石備受人們喜愛和重視的原因之一，再加上製作成佩玉時都被磨成了薄片，所以碰撞時發出來的聲音非常優美，可以達到有如樂曲中的徵角宮羽之音。古人以玉比德，故佩美玉、奏美樂，以詡美德，這也是一種創造。
戰國 | 玉組佩
明代 | 玉組佩
而且禮儀制度對於人的動作要求是很嚴格的，一套玉佩懸掛於身，也只有隨著連貫、均勻、協調的步伐，才能形成優美的樂章。當然這樣走非常美，也是非常累的，但古人依然樂此不疲。而且佩鳴之聲還有另一種重要的含義，就是以此向上天或君王表示自己的忠誠、虔誠之心，這也是向統治者表示盡忠盡節的一種形式。
“君子無故，玉不去身。”這句話看著簡單，但究其歷史背景下的內涵，我們可以看出，佩玉在古代也是一種政治行為，佩玉的本質在於藉助於人身的裝飾賦予一定的政治含義，無怪乎佩用玉器也要列入國家典制當中。
