指南针是利用磁铁在地球磁场中的南北指极性而制成的一种指向仪器，是我国古代科学技术的四大发明之一。然而，关于它的“身世”，却存在着不解之谜。
我国是最早发现磁铁指极性的国家。早在战国时期，就利用磁铁的指极性发明了指南仪器——司南。《韩非子·有度篇》里有“夫人臣侵其主也，如地形焉，即渐以往，使人主失其端，东西易向，而不自知。故先王立司南，以端朝夕”的话，“端朝夕”就是正四方的意思。
《鬼谷子·谋篇)里也记载说，郑国的人到远处去采玉，就带了司南去，以便不迷失方向。司南是用天然磁石琢磨成的，样子像勺，圆底，置于平滑的刻有二十四个方位的“地盘”上，其勺柄能指南。东汉的王充，在他的《论衡·是应篇》中曾说：“司南之杓，投之于地，其指南”。由此可见，司南是最早的磁性指南仪器，被视为指南针的祖先。这是其一。
然而，有学者认为，天然磁石磁性不强，在琢制成司南的过程中，容易因打击、受热而失磁，加之它与地盘接触转动磨擦的阻力比较大，难以达到预期的指南效果。同时，当时的人很难定出磁石的南北极，如不按南北极方向制勺，则勺纵有磁性也不会指南。为什么要制成勺形。而不能制得更简单些呢？
于是，就有了第二种观点——指南鱼是指南针的前身。持此观点的学者认为，目前发现的关于磁性指南仪器的最早明确记载是北宋曾公亮着的《武经总要》中的“指南鱼”。该书卷十五所记指南鱼的制法是：“用薄铁叶剪裁，长二寸、宽五分，首尾锐如鱼形，置炭火中烧之，候通赤，以铁鈊鈊鱼首出火，以尾正对子位，蘸水盆中，没尾数分则止，以密器收之。”书中的记载虽然寥寥数语，但是却包含着丰富而合乎科学的道理。
其人工磁化方法的创造，在磁学和地磁学的发展史上是一件大事，它是指南针发明的前导。指南鱼本是作为陆战中指示士兵在夜战中辨别方向的简单仪器，经改制成指南针后在11世纪用于航海，从此以后，“舟师识地理，夜则观星，昼则观日。阴晦则观指南针”(朱或《萍州可谈》)。因此，《武经总要》被看作是研究指南针发明史的重要资料。
上述两种观点各有其理，尽管持第一种观点的人多一些，但无论是司南还是指南鱼都只是指南针的前身，并不是其本身确定无疑。目前关于指南针的早期文字记载，主要有以下几条：
北宋仁宗庆历元年(1041年)《笙原总录》卷一中有“丙午针”的记载。虽然没有明确指出是什么针，但从上下文的字里行间可以断定是磁针无疑，说明当时已把磁针与罗经盘配套，作为定向仪器。
《梦溪笔谈》卷二十四中也明确指出指南针是一方姓人家(风水先生)首先发明和使用的。并且详细记述了水浮、置指甲上、趾腕唇上和悬丝等四种指南针的装置方法，以及各种方法的长处和缺陷，使人们对当时的指南针有一清晰的认识。
从上述资料可知，指南针在11世纪时已是常用的定向仪器，有多种装置方法。如果把指南针的发明时代上溯到10世纪的唐末或五代，也是不无根据的。
如王赵卿(约10世纪末)曾留有“虚危之间针路明”的诗句(《古今图书集成》卷655)；佚名的《九天玄女青囊海角经)(约九百年)中说：“今之象占，以正针天盘，格龙以缝针地盘。”这里所说的“针路”、“正针”、“缝针”极有可能就是指南针与罗经盘配套定向的术语。指南针究竟何时发明，其前身又为何物，还有待于进一步挖掘和发现。
相关阅读：催眠术的真假之谜 扶桑国是哪个国家