张衡第一次任太史令是在汉安帝元初二年，当时人们对于宇宙构造和运行的理论，主要有“盖天说”“宣夜说”和“浑天说”三派，张衡对我国古代最早开始探索的天文学以及各家各派的理论，作了广泛和精密的研究，并且亲自不断地观察天象，探索日、月、星辰运行的规律，最后他根据浑天的理论，并且加上他实际观测天象的收获，创造了一套在当时最完整最先进的天文学说，浑天学说。在浑天学说里，他很详细地讲到赤道、黄道、北极上规、南极下规，以及月行九道等度数，找出了太阳运行的规律（实际上是地球围绕太阳公转的规律），因此能够解释夏天昼长夜短、冬天昼短夜长的原因，说明春分和秋分时候昼夜时间一样长短的道理，而且还根据此种理论创制了新型的浑天仪。
张衡为了完成这一伟大的天文仪器，经过了无数次的研究、观察、测验，到元初四年，终于把浑天仪造成了，浑天仪是用铜铸造的，张衡在铸造正式的浑天仪以前，先将竹条劈成薄薄的竹篾，把这些竹篾刻上度数以后，再把它们编成圆环，串联起来，造成一个仪器的模型，作为试验。待试验准确了，张衡再用铜来铸造正式仪器。在张衡谨慎细心地操作下，又耗费了一年多的心血和时间，仪器才创造成功。浑天仪分做内外几层圆圈，各层都可以转动。张衡把他所知道的天文现象，都包罗万象地刻在浑天仪上。为了使浑天仪能够自己转动，他又设计了一组滴漏壶，利用滴水的力量，使浑天仪按着时刻慢慢地转动，人们就可以从仪器上看到日、月、星辰运行的现象。这种精密的科学仪器提供了极其先进而简便的观测天象的方法，对以后天文学的研究有很大的启发作用。
在浑天仪铸造成功之后，张衡丝毫没有自满，他除了对天文历算继续作精深的研究之外，在数学、物理学、机械制造等方面也下了许多工夫。勤勉学习和刻苦钻研的结果，是他在各方面都取得了极大的成就。尤其是在木工机械方面，他发明制造了指南车、记里鼓车、飞行木雕等奇巧器物。
然而张衡在自然科学和机械制造上的卓越成就，并未得到应有的重视和爱护。他不仅又被调任太史令，还要听那些“鄙儒”和“贪夫”的风凉话。不过一心扑在科学研究上的张衡，在写了《应问》这篇文章之后，就再也不管那些闲言碎语，又着手全力研究一项重大问题——地震，汉顺帝阳嘉元年他终于设计出一个人类历史上前所未有的测定地震方向的科学仪器——候风地动仪。
