Названо так через колір води, що впадають до нього китайських річок, зокрема Хуанхе.
У світі існує чотири так званих "кольорових" моря: 1) Біле море – внутрішнє море у басейні Північного Льодовитого океану; 2) Чорне море – внутрішнє море у басейні Атлантичного океану; 3) Червоне море – внутрішнє море у басейні Індійського океану; 4) Жовте море – одне з морів у басейні Тихого океану.
Назва дана за кольором води, викликаного наносами китайських річок, зокрема, Хуанхе, і меншою мірою курними бурями. Весною жовті курні бурі бувають настільки сильні, що судам доводиться припиняти рух.