1836年、長州藩（山口県）の武士の家に生まれました。幼名は聞多（もんた）。若い頃は尊王攘夷（外国を打ち払う）の思想に染まり、高杉晋作や伊藤博文らと共に、江戸のイギリス公使館の焼き討ち事件に参加するほどの過激な暴れん坊でした。
1863年、藩の命令で伊藤博文らと共に密かにイギリスへ留学します（長州ファイブ）。そこで世界最先端の蒸気船や工場、圧倒的な軍事力を目の当たりにし、「こんな国と戦争をしても絶対に勝てない！」と悟り、開国と近代化へと一気に思想を転換させました。
長州藩が外国船を砲撃したと知るや、留学を急遽切り上げて伊藤と共に帰国。四国艦隊下関砲撃事件の講和交渉では、通訳として外国の要求を巧みに躱しながら、藩を壊滅の危機から救うために命懸けで奔走しました。
開国を説く彼は、攘夷派（保守派）の武士から命を狙われ、帰宅途中に襲撃されて全身を斬り刻まれる瀕死の重傷を負います。「もはやこれまで、首を刎ねよ！」と兄に頼みますが、駆けつけた母親が血みどろの彼を抱きしめて止め、名医・所郁太郎の決死の手術で奇跡的に一命を取り留めました。
明治新政府では大蔵省（現在の財務省）の中心人物として活躍。バラバラだった各藩の借金を整理し、新しい貨幣制度や税制を導入。膨大な国家財政を整備して近代日本の経済の屋台骨を創り上げました。
初代外務大臣（外務卿）となった彼は、不平等条約を改正するためには「日本が西洋に並ぶ近代的な文明国である」と認めさせる必要があると考えました。そこで、西洋風の豪華な迎賓館「鹿鳴館（ろくめいかん）」を建設し、外国人を招いて華やかな舞踏会を開催しました。
鹿鳴館外交は「西洋の猿真似だ」「国費の無駄遣い」と国内から猛烈な批判を浴びました。さらに、外国人判事の任用といった妥協案が暴露されると大反発が起こり、条約改正の夢は道半ばで挫折し、外務大臣の辞任に追い込まれました。
実業界にも極めて強い影響力を持ち、特に「三井財閥」とはズブズブの関係でした。三井の経営危機を救い、三井物産や三井銀行の設立・近代化を強力にバックアップ。政財界のパイプ役（影のフィクサー）として日本の資本主義を牽引しました。
生涯の親友である伊藤博文（俊輔）とのコンビは明治政府の最強タッグでした。政治と憲法制定の天才である伊藤を、経済と外交の実務に長けた井上が裏から徹底的にサポートし、二人は死ぬまで日本のトップとして国を動かし続けました。
非常に気性が激しく「雷おやじ」と恐れられましたが、その熱い情熱と実行力で国を引っ張り続けました。首相（総理大臣）にこそなりませんでしたが、国家の最高意思決定者である「元老」の一人として君臨し、1915年に79歳で大往生を遂げました。
