学日语首先要掌握的当然是字母（即日语假名）。为了能够迅速而有效地掌握日语假名，应该在初学日语的第一到第二星期之内通过强化训练来记忆假名。例如可以在一至两星期内把五十音图中的全部清音假名边抄边读200次左右。
排第二位需要掌握的是日语的句型。句型是构成句子的语法骨架，其重要性是不容置疑的。但是很多人学习和记忆句型时走入误区，他们往往是单独地学习和记忆句型，正确的方法是通过完整的句子来学习和记忆句型。
排第三位需要掌握的是日语的助动词变化。日语表示否定、过去、被动、使役、愿望、意愿等等语言含义是通过动词、形容词、或形容动词的助动词变化来体现的，所以掌握助动词变化非常重要。很多学生反映助动词变化不容易记牢，那是因为他们没有使用正确的方法，如果能够经常读或背一些体现助动词变化规律的语句，等你读或背的功夫到一定深度时就能较好地掌握和应用日语助动词变化规律。对于外语学习来说，背书虽然是很老土的方法，但也绝对是很有效的好方法！
排第四位需要掌握的是日语的助词。助词是日语特征性的要素，它在日语语法里有较重要的意义。其功能是提示名词和代名词在句子中的语法作用。主语助词和宾语助词都很容易掌握，但与行为场所、存在地点、变化结果、方法手段、行为目标、到达点、范围、原因等等状语相关的助词则比较复杂。