1850年代、上海近辺で、馬弔（マーチャオ）、馬将（マーチャン）とも呼ばれた伝統的な紙札遊戯と天九牌（骨牌遊戯の一種）から生まれた遊戯といわれている。創始者は陳魚門（チンイイメン）といわれるが、定かではない。なお、現在の中国語においては麻雀のことを一般に「麻将」（マージャン majiang）という（「麻雀」（マーチュエ maque）は中国語ではスズメを意味する）。

日本人で始めて麻雀に言及したのは（おそらく）夏目漱石で、「満韓ところどころ」（1909年）に大連での見聞として「四人で博奕を打っていた。（略）厚みも大きさも将棋の飛車角ぐらいに当る札を五六十枚ほど四人で分けて、それをいろいろに並べかえて勝負を決していた。」とある。実際の牌が伝わったのも明治末期で、大正中期以降、ルール面において独自の変化を遂げつつ各地に広まっていったともいうが、一般に認知されるようになったのは関東大震災の後である。神楽坂のカフェー・プランタンで文芸春秋の菊池寛らが麻雀に熱中し、次第に雑誌等にも取上げられるようになった。文芸春秋社では自ら麻雀牌を販売したという。

太平洋戦争により中国伝来の麻雀は絶滅し、終戦後は進駐軍が持ち込んだアメリカ式のマージャンに取って代わられた（現在では中国ルールによる麻雀を中国麻雀と呼び、日本における麻雀と区別している）。日本において麻雀の普及に貢献した人物は、戦前においては作家の菊池寛、戦後においては色川武大（阿佐田哲也）とされる。多くの大学生やサラリーマンが手軽な小遣い稼ぎ、コミュニケーションツールとして麻雀に親しんだ。

日本においては現在、家庭や麻雀店（雀荘）で遊ばれるほか、コンピュータゲームやオンラインゲームでも定番のゲームとして人気がある。昭和期における麻雀ブームの時期と比較すると、雀荘の数は減少傾向となり、麻雀専門誌の数も減少し、人気にかげりが出ていることは否めないが、上述のようにコンピュータとの対戦や、ネットワークを通じた不特定の相手との対戦が可能になったことで、形を変えた人気を保っている。また、効率性を思考することや、指先の運動により痴呆症の予防にも役立つと言われる。

麻雀に於けるコンピュータゲームの普及は昭和50年代半ば頃からである。最初の業務用麻雀コンピュータゲームは、1981年5月のジャンピューター（サンリツ）であった。このゲームは一世を風靡し、ゲームセンターや喫茶店に数多く見ることができた。その後、対戦相手のコンピュータの画像を女性をモチーフとし、プレイヤーが勝つ毎にその女性の衣服を脱がせるという、いわゆる「脱衣麻雀」のコンセプトが大当たりした。年代と共にグラフィックも綺麗になり、動画になり、実写画像になりと性能や官能性もアップした。ゲームセンターでは麻雀ゲームはアダルトゲームの代名詞でもあった。時は並行して、裏ではポーカーゲーム同様、賭博筐体としても暗躍し『一発勝負のポーカーとコツコツ遊べる麻雀』という図式で流行したが、賭博喫茶の取り締まりも最近は厳しく存在自体が珍しい。

現在は麻雀格闘倶楽部などの通信機能を持たせ、全国の人と対戦できる形のコンピュータゲームが普及している。

1990年、天野晴夫が「リーチ麻雀論改革派」（南雲社）において麻雀戦術論からの抽象の排除を提唱した。その中で小島武夫、田村光昭など当時の有名麻雀プロや在野の桜井章一らの麻雀論を、「ツキ」「勘」「流れ」といった抽象論に支配されている非科学的なものであると批判した。天野は抽象的な要因を考慮することは的確な情報判断を鈍らせる原因にこそなれ、麻雀の上達には繋がらないと主張した。これがいわゆる「デジタル雀士」のさきがけである。

2004年、とつげき東北が「科学する麻雀」（講談社現代新書）を出版する。この本は、徹底した確率論的で統計学的な考察に基づく戦術論で貫かれており、麻雀界に大きな衝撃を与えた。とつげき東北は前の局の結果が次の局に影響を及ぼすとする、いわゆる「流れ」論については著書の中で徹底的に否定している。この本では「このような時には…こう打つ」と明確に論理的に場面に応じた打ち方を記述しているところが極めて画期的であった。C言語のソースや数式がふんだんに載っている麻雀攻略本は前代未聞であった。

これらに対して、「ツキ」や「勧」・「流れ」を重視する雀士も多く、このような戦術論はアナログと呼ばれている。