在学校的硬件设施方面，日本各所公立小学也相差不多，甚至可以说全国范围比较平均。日本《教育基本法》明确规定，学校基础设施主要由地方政府负责建设和维护，国库负担一部分费用，而每个地方政府都会下大力气建设当地的中小学设施，因为如果中小学设施不“硬气”，很多有孩子的家庭就不会选择在当地居住，造成地方经济不景气。因此，无论是在东京、大阪这样繁华的大都市，还是北海道的偏远农村，公立学校的设施几乎都一样。哪怕一所学生不足百人的小学，也会有音乐室、比赛用游泳池、足球场、综合性体育馆等完备的硬件设施，教学楼也依照最高安全标准建设。每当发生地震、海啸等灾难时，灾区的中小学都会成为主要避难场所。而相对于学校，日本各级政府的办公楼就简陋太多了。

此外，在教学计划的制定、国家教育经费的调剂等问题上，日本政府也采取“就低不就高”的原则，尽可能维持各公立学校间的资源均衡。并且，在义务教育制度下，公立学校全部实行学杂费减免制，家长需要负担的主要是学生制服费和每天中午的饭费(家长负担一部分，政府负担一部分，收入低的可申请免费)。所有日本小学中午都由学校提供午餐，每所学校都有专门的营养师、配餐师，学校每个月末还都会让孩子把下个月每天的午餐表带给家长。值得一提的是，日本公立小学每天确保每位学生有一瓶250毫升的牛奶。

国立小学是日本比较特殊的一种公立教育机构，一般是大学，特别是教育类大学的附属学校。与公立小学以课本内容为主的教育方法不同，国立小学因为是大学的附属机构，担负着教育研究的重任，是各种先进教育方法和内容的试验地、实习地，所以不同的国立小学教学内容也不同，有明显的学校特色和老师特征，一年下来从未使用过学校教材上课的老师据说不在少数。一般而言，国立小学的学生有机会接触和挑战很多比较难、深的知识，这一点普通公立小学无法望其项背。国立小学的入学往往实行考试选拔制度，门槛很高，竞争非常激烈，甚至有的国立小学因为报考的人多，即使考试合格也需要在合格者中再进行抽签，抽到者才能最终获得入学资格。比如位于东京的御茶大学附属小学，2011年的报考人数高达2961人，而最终却只录取了55人。