Os elementos mais importantes de jardins japoneses são as plantas e flores. O uso de arbustos de bambu, azaleias e cerejeiras são o que dá o real toque japonês. O conselho é, não exagerar com a variedade de plantas, os bosques selvagens com muitos arbustos diferentes não são adequados para o estilo japonês.
Em um jardim oriental dificilmente você encontrará flores multicoloridas. Samambaias, ervas, musgos, arbustos sempre verdes e bonsais são os principais elementos para fazer o jardim Zen perfeito. Isso não quer dizer que as flores não podem ser usadas, basta lembrar também neste caso não plantar muitas cores diferentes, mas escolher uma de diferente tonalidade.
Todos os ambientes no Japão são bem cuidados e transmitirem à primeira vista a ideia de ordem, também mental, e de limpeza. Então, não há ervas daninhas e os espaços com grama são bem aparados, possivelmente em linha e não muito alta, o melhor para dar a sensação de harmonia, visão clara e em ordem.