Los inicios de este deporte están envueltos en una nebulosa, mezclados con realidad y leyenda. Parece ser, y por esto se inclinan la mayoría de los autores y estudiosos del tema, que en la década de 1870 se comenzó a jugar en Inglaterra, en un club de tenis, con material totalmente improvisado y un día lluvioso que impedía practicar el tenis. Este material estaría compuesto por las tapas de madera de cajas de puros, utilizadas como raquetas, tapones de corcho de botellas de champagne, debidamente cortados, como pelotas, y la superficie de una mesa de billar, dividida por unos libros, como mesa de juego. Indudablemente, aquí se mezcla la leyenda con la realidad.

En1926, se constituyó la Federación Internacional, en Londres. En ese momento histórico, el tenis de mesa comenzaba a desarrollarse como deporte, pero todavía ni se pensaba en que fuera olímpico, pues primero había que organizarlo y reglamentarlo debidamente, tarea que se impuso como prioritaria la Federación Internacional.

En el año 1967, existían ya 89 asociaciones nacionales afiliadas a la Federación Internacional, y ,en el congreso o asamblea bienal celebrado dicho año en Estocolmo, se produce un fuerte debate sobre la conveniencia o no de que el tenis de mesa fuera deporte olímpico. No sería, sin embargo, hasta noviembre de 1977 cuando el director técnico del COI, Harry Banks, escribió oficialmente a la Federación Internacional, comunicándole que el Comité Olímpico Internacional, en su sesión 79 celebrada en Praga, había acordado reconocer al tenis de mesa como deporte olímpico.

A continuación, comenzaron las negociaciones para lograr que el tenis de mesa figurara en el programa de los Juegos Olímpicos. En el transcurso del XI Congreso Olímpico en Baden-Baden, y de la 84 sesión del COI, en septiembre de 1981, se acordó la inclusión de este deporte en los Juegos. No obstante, el programa para la Olimpiada de 1984 en Los Ángeles no pudo ser alterado, así que hasta los Juegos de Seúl, en 1988, no se ha incluido el tenis de mesa en el programa oficial..