建物の外観は、隣接する近世史料館との関係に配慮して勾配屋根とし、軒の高さを合わせることで統一感ある街並みを形成することを意図した。
コンクリートや波板、カーテンウォールを外部に用い、内部では鉄骨躯体をそのまま仕上げとするなど現代的な素材を用いつつ、波板やテラコッタルーバーの色味を近世資料館の煉瓦に合わせることで、周辺環境と調和した落ち着きある景観となるよう配慮した。
　軒の高さをそろえ、階高は3.7ｍに抑えている。内部は鉄骨表しとし、階高が低いことによる内部の圧迫感を軽減するとともに、こどもが活発に活動するイメージを表現した。
　1階から3階までつながるメイン階段の周囲には本棚を巡らせ、エントランスから中に入ると上階に本があることが一目で感じられるように計画している。
　壁面は、以前のこども図書館ロビーを飾っていた大樋年朗氏（十代長左衛門）の作品を一部保存し、大樋年雄氏（十一代長左衛門）監修のもと、「世界は一つ」をテーマとした作品として再構成した。
1階は乳幼児が遊びながら本に触れ、木について学ぶことができる「木のひろば」を計画。2、3階の開架書架は階を上がるごとに対象年齢も上がり、こどもの成長に合わせてゆるやかにゾーニングしている。
木のひろばのシンボルツリー、天井の木ルーバー、3階学習コーナーの大テーブルには敷地内に植わっていたクスノキ、メタセコイヤ、イチョウの木を活用した。2、3階の天井には市産材の杉ルーバーを計画するなど、多様な木の活用によって柔らかい雰囲気を作り出すとともに、この地の記憶の継承を目指した。