日本古代有语言而无文字。虽然现代比较语言学者，以日本与从音韵、语法及语汇三者看起来，系属巫拉尔、阿尔泰（Ural-Altai）语系统，质言之，它本来是和蒙古语、通古斯语、土耳其语及朝鲜语视同一系统的。但事实上，日本的语言问题，现在尚未获得完全解决。日儒新渡户盗造曾云：「在语言学上看来，日本语是伶仃的孤儿，和它的左右前后各方面的言语没有什么关系的。」事实上，日本人自有历史开始，为了要增加语言的丰富，曾取用了许多中国的字音，此外如朝鲜及西欧的荷兰、葡萄牙、英国等语言亦对于日本的语言多少做过些贡献。 日本在汉字未传入之前本无文字，此一观点早为公元九世纪时的一部份日本学者所主张。虽然也有人主张「固有文字存在说」－即所谓「神代文字说」，如德川时代后期的国学者平田笃胤（1776－1843）从国粹主义立场着有「神字日文传」一书，力陈日本早在神代便有文字。惟事实上，这是留传于对马阿比留家者，为朝鲜谚文的窜改，是故所谓固有文字说不足凭信，而日本古代，现在已为一般学者所承认。不宁惟是，多数日本学者咸主张日本之有文字是在汉人渡日之后。关于汉字何时传入日本，当在正史记载汉字之传入日本之前。史籍之记载汉字汉学之正式传入日本者，当为应神天皇之世（约当公元三世纪末叶，即二四八年王仁从百济渡日，献论语十卷及千字文一卷，是为汉字汉学传入日本的开始），自汉字输入日本后，历经岁月，迨至八世纪中叶，日人始用汉字楷书的偏字，造成片假名，又用汉字草书的偏旁造为平假名，以为注汉字音，及标注日本语音之用。当时称汉字为男文字，而称假名为女文字。日本学者有谓吉备真备作片假名，弘法大师空海作平假名，皆不足凭信，充其量或由他们两人集其大成而已。汉字传入日本后，不仅成为公家用以记录史实，且为一般学者用以著作写书，而成为当时日本唯一的正式文字。不过汉字在日本的读法有训读及音读两种。前者即日本原来的语言，而后者则系中国传入之音。然音读又因传入的时地之异而复分为汉音、唐音、吴音。汉字传入日本后，不仅促进了日本古代文化的进步，同时亦因而促成了所谓片、平假名的日本文字的出现。虽然自公元九世纪初叶以还，因日本所谓的「国风文化」的确立，绝大多数书籍都采用日本文字（假名）记述，但汉字降至明治初年，一直为公家官方用来记事的正式文字。日本自海禁开放与欧美交通往来后，日本语言中复混有许多外来语（日人称为「舶来语」），早在公元1866年则有前岛密（日本邮政制度创始人），其人发表所谓「废止汉字意见书」，倡导全部用假名而不用汉字，其后彼自由民权论大师福泽谕吉亦在1873年发表「文字之教」一文，主张不用生僻的汉字把常用汉字限制为两三千字，为政府当局所采用。迨及昭和五年（1930年）前后时，富有急进的教育家高唱「禁用汉文，废止汉字」，甚至在第二次世界大战后，更有主张「废止汉字，改用罗马字」，如盟军总司令部（CHQ ）所聘请的教育使节团亦曾建议日本政府限制汉字之使用，俾能使有更多时间以学习其它分野的事物，以提升教育效果。日本政府接受此建议，规定在国民义务教育期间的教育汉字为八百五十字。甚至于如安本美典在1967年年初提出汉字在「二百三十年后消灭论」，凡此种种皆为崇洋心理作祟的结果。自前岛密逾1866年提倡废止汉字到今年将近130 年，百余年来汉字仍未在日文中废掉，后来鉴于 850字的教育汉字无法用以表达日常的文章，日本政府遂发表「常用汉字表」，规定常用汉字1850字，但日本的国语审议会后来又建议改为常用汉字1945字，由此可见汉字目前在日本还有其根深蒂固的力量。

具体如下：

1、在古代，日本民族只有自己的民族语言，而没有自己的文字。后来，汉文化传入日本，具有文化修养的日本人开始能用汉文记事。

2、到了公元五世纪中叶之后，日本人民创造了用汉字作为表间符号来书写日语的方法。至八世纪后，这种将汉字作为表间符号的方法已经被普遍采用，日本古代著名的诗歌集《万叶集》就是采用这种书写方法。如日语的“山”，读作“やま”，在《万叶集》中就用“也麻”两个汉字来书写。“桜”读作“さくら”，就用“散久良”三个汉字来书写。日语中的助词“て、に、を、は”等则用“天、尔、乎、波”等汉字来表示。这种书写方法后来被称为“万叶假名”。但是，用万叶假名式的汉字记事作文十分繁杂，在此后来漫漫简化，只写汉字楷书的偏旁，如“阿”->“ア”，“伊”->“イ”，“宇”->“ウ”等。另外，柔和的汉字草书适合于书写日本和歌，尤其在盛行用草书书写信件、日记、小说之后，逐渐形成了一种简练流畅、自由洒脱的字体，如“安”->“あ”，“宇”->“う”等。

3、至此，日本民族终利用汉字创造了自己的文字。由于这些文字都是从汉字字形假借而来的，因此称为“假名”。根据假名的书写方法不同，取自汉字楷书偏旁的称为“片假名”（カタカナ），从汉字草书演变而来的称为“平假名”（ひらがな）。片假名和平假名都是以汉字为基础创造的表音文字。一般书写和印刷都用平假名，片假名通常用来表示外来语和特殊词汇。

日本的国语课是学习日语，国文课就是学习古代汉语。这是日本高中必修课，是公务员考试科目。因为日本有很多古籍是用文言文写的，没有假名，且语法不同于日语。文章中的那些标记叫做“返点”“送假名”，“返点”是为了将文章重组为日语语序，“送假名”是在文章中增添日语助词，这样以理解文章含义。

日本在古代并没有文字，直到和中国有文化交流之后，才引进中国的汉字做为书写的工具。后来因为汉字笔划繁复书写不便，为了因应实际需要，才又利用汉字草书简化成「平假名」，另外又利用汉字的偏旁造出「片假名」，「平假名」、「片假名」、「汉字」因而成为日本文字的主体。