1895年11月8日晚，伦琴陷入了深深的沉思。他以前做过一次放电实验，为了确保实验的精确性，他事先用锡纸和硬纸板把各种实验器材都包裹得严严实实，并且用一个没有安装铝窗的阴极管让阴极射线透出。可是现在，他却惊奇地发现，对着阴极射线发射的一块涂有氰亚铂酸钡的屏幕（这个屏幕用于另外一个实验）发出了光。而放电管旁边这叠原本严密封闭的底片，现在也变成了灰黑色—这说明它们已经曝光了！
这个一般人很快就会忽略的现象，却引起了伦琴的注意，使他产生了浓厚的兴趣。他想：底片的变化，恰恰说明放电管放出了一种穿透力极强的新射线，它甚至能够穿透装底片的袋子。不过目前还不知道它是什么射线，于是取名“X射线”。
于是，伦琴开始了对这种神秘的X射线的研究。
他先把一个涂有磷光物质的屏幕放在放电管附近，结果发现屏幕马上发出了亮光。接着，他尝试着拿一些平时不透光的较轻物质—比如书本、橡皮板和木板—放到放电管和屏幕之间去挡那束看不见的神秘射线，可是谁也不能把它挡住，在屏幕上几乎看不到任何阴影，它甚至能够轻而易举地穿透15毫米厚的铝板！直到他把一块厚厚的金属板放在放电管与屏幕之间，屏幕上才出现了金属板的阴影，看来这种射线还是没有能力穿透太厚的物质。实验还发现，只有铅板和铂板才能使屏不发光，当阴极管被接通时，放在旁边的照相底片也将被感光，即使用厚厚的黑纸将底片包起来也无济于事。
接下来更为神奇的现象发生了，一天晚上伦琴很晚也没回家，他的妻子来实验室看他，于是他的妻子便成了在照相底片上留下痕迹的第一人，当时伦琴要求他的妻子用手捂住照相底片。当显影后，夫妻俩在底片上看见了手指骨头和结婚戒指的影像。
1896年1月5日，在柏林物理学会会议上展出了很多X射线的照片，同一天，维也纳《新闻报》也报道了发现X光的消息。这一伟大的发现立即引起人们的极大关注，并很快传遍全世界。在几个月的时间里，数百名科学家为此进行调查研究，一年之中就有上千篇关于X射线的论文问世。
伦琴虽然发现了X射线，但当时的人们——包括他本人在内，都不知道这种射线究竟是什么东西。直到20世纪初，人们才知道X射线实质上是一种比光波更短的电磁波，它不仅在医学中用途广泛，成为人类战胜许多疾病的有力武器，而且还为今后物理学的重大变革提供了重要的证据。正因为这些原因，在1901年诺贝尔奖的颁奖仪式上，伦琴为世界上第一个荣获诺贝尔奖物理奖的人。人们为了纪念伦琴，将X(未知数）射线命名为伦琴射线。
Ｘ射线的发现具有十分重大的意义，它是１９世纪末２０世纪初发生的物理学革命的开端。它的发现对于化学的发展也有重要意义：１９１３年，根据对各种元素的特征Ｘ射线光谱的研究发现的莫斯莱定律，确定了元素的原子序数等于核电荷数，这对元素周期律的发展和原子结构理论的建立起了重要作用。以Ｘ射线晶体衍射现象为基础建立起来的Ｘ射线晶体学，是现代结构化学的基石之一。