Johannes Jensen wurde am 25. Juni 1907 als drittes Kind des Gärtners Karl Friedrich Jensen und dessen Frau Helene Auguste Adolphine (geb. Ohm) in Hamburg geboren.
Jensen studierte ab 1926 an der Universität Hamburg und der Albert-Ludwigs-Universität in Freiburg im Breisgau Physik, Mathematik, Physikalische Chemie und Philosophie. Ende der 1930er begann er, sich mit dem Atomkern zu beschäftigen. Bereits 1939 spricht er erstmals von einem Schalenmodell. Nach seiner Promotion in Physik 1932 blieb er als wissenschaftlicher Assistent in Hamburg und habilitierte 1936. Er wurde 1937 Dozent und 1941 zum außerordentlichen Professor und 1946 zum ordentlichen Professor für theoretische Physik an der Technischen Hochschule Hannover ernannt. Von 1949 bis zu seiner Emeritierung 1969 wirkte er an der Ruprecht-Karls-Universität Heidelberg. Während dieser Zeit hatte er auch mehrere Gastprofessuren in den USA.
Trotz der obligatorischen NSDAP-Mitgliedschaft war er überzeugter Nazigegner, dem antifaschistische Widerstandshandlungen nachgewiesen werden konnten.
Die weitere Entwicklung von Jensens Theorie wurde durch die Isolierung Deutschlands im Zweiten Weltkrieg verzögert, so dass sich Jensen erst Ende der 1940er wieder intensiver mit der Thematik auseinandersetzen konnte. Erst 1948 kam er zu weiteren Forschungsergebnissen, gleichzeitig mit der in den USA wirkenden Maria Goeppert-Mayer. In der Folge kam es zu einem regen Austausch zwischen ihnen. 1955 veröffentlichten die beiden gemeinsam in dem Buch "Elementary Theory of Nuclear Shell Structure" eine detaillierte Darlegung des Verständnisses der Atomkerne. Für diese Leistung wurde den beiden 1963 eine Hälfte des Nobelpreises für Physik zu gleichen Teilen zugesprochen, die andere Hälfte ging an Eugene Wigner für Beiträge zur Kernphysik. 1964 wurde Hans Jensen von der Universität Hannover die Ehrendoktorwürde verliehen.
Er war seit 1955 Mitherausgeber der Zeitschrift für Physik.
Johannes Hans Daniel Jensen starb am 11. Februar 1973 in Heidelberg. Beigesetzt wurde er in Partenstein (Bayern).
