1583年、京都に生まれます。幼い頃から恐ろしく頭が良く、本ばかり読んでいる天才少年でした。親の勧めで建仁寺というお寺に預けられますが、「私は仏教ではなく、儒教（朱子学）を学びたいのだ！」と反発し、なんと出家（僧侶になること）を拒否して家へ帰ってしまいました。
独学で儒学を学んでいましたが、22歳の時に当時の日本最高の儒学者・藤原惺窩と出会い、弟子入りを果たします。惺窩は羅山のあまりの優秀さに驚き、「この若者こそ、これからの日本に必要な逸材だ！」と確信し、自らの代わりに彼を徳川家康へ強力に推薦しました。
惺窩の推薦により、なんとわずか23歳で江戸幕府を開いたばかりの徳川家康のブレーン（侍講）に大抜擢されます！家康は彼に膨大な書物を読ませ、歴史の教訓や政治のアイデアを次々と引き出し、幕府の基礎作りに大いに活用しました。
当時の日本では「儒学などの学問は僧侶がするもの」という古い常識がありました。そのため家康の命令で無理やり髪を剃らされ、僧侶の姿となって「道春（どうしゅん）」と名乗ることを強要されます。しかし彼は、心の中では儒学者としての誇りを決して捨てませんでした。
彼の最大の仕事は、幕府の制度や法律を作ることでした。特に有名なのが、大名たちを厳しく統制するための法律『武家諸法度（ぶけしょはっと）』の起草です。法度や外交文書などの重要書類は、ほとんどすべて彼の頭脳を通して作られました。
平和な社会を作るため、朱子学の理論を用いて「上下の定分（じょうげのていぶん）」という思想を説きました。「自然界に天と地の区別があるように、人間社会にも君主と家臣、武士と庶民といった絶対に覆してはならない身分秩序があるのだ」という、江戸時代の絶対的なルールです。
外国の文化にも深い関心を持っていましたが、キリスト教に対しては「日本の神仏や身分秩序を破壊する危険な思想だ！」と激しく警戒しました。キリスト教徒と激しい論争を繰り広げ、のちの幕府の「鎖国」やキリスト教弾圧政策の理論的な裏付けを作りました。
とにかく本を読むことが大好きで、歴史、文学、神道、さらには妖怪や温泉の話まで、ありとあらゆる分野に精通する「歩く百科事典」でした。彼が残した膨大な著作や記録は、当時の社会や文化を知る上で現在でも超一級の歴史資料となっています。
家康だけでなく、2代秀忠、3代家光、4代家綱まで、実に半世紀以上にわたって幕府のトップに仕え続けました。彼のように長期間、第一線で権力者たちから頼りにされ続けた官僚は、日本の歴史上でもほとんど例を見ません。
1657年、江戸の町を焼き尽くす大火災「明暦の大火（振袖火事）」が発生。この火事で、彼が一生をかけて集めた数万冊もの愛する蔵書がすべて灰になってしまいました。その絶望とショックから数日後に倒れ、75歳でこの世を去るという、学者としてあまりにも悲劇的な最期でした。
