Né en 1851 à La Porcherie en Haute-Vienne, Arsène d'Arsonval est issu d'une famille de médecins. D'abord lycéen à Limoges puis au Collège Sainte-Barbe, c'est en tant qu'étudiant en médecine qu'il assiste au cours de Claude Bernard, par lequel il se fait remarquer en réparant durant un cours un galvanomètre défectueux. Il devient son préparateur au Collège de France au début des années 1870, et ce jusqu'à la mort du professeur. Durant cette période, il va s'orienter progressivement vers la physique biologique. Il n’exercera jamais en cabinet pas plus qu’en milieu hospitalier, se consacrant à la recherche et développant en parallèle une activité d’ingénieur.
Avec l'aide de Paul Bert, il installe, à partir de 1881, son laboratoire de physique biologique à l'École pratique des hautes études (EPHE), rue Claude-Bernard, où il a la charge de la chaire éponyme. Ce laboratoire est par la suite transféré à Nogent-sur-Marne, l'endroit étant plus adapté pour la réception des machines volumineuses dont se sert d'Arsonval.
Il assiste le Pr Charles-Édouard Brown-Séquard, successeur de Claude Bernard au Collège de France, de 1878 à 1887, puis est officiellement nommé professeur suppléant. En 1894, suite au décès de Brown-Séquard, il est élu à la chaire de médecine qu’il occupera jusqu'à sa retraite, en 1930. Ses cours portent principalement sur les applications de l’électricité à la médecine.
Concomitamment à son poste au Collège de France, il devient membre de l'Académie de médecine en 1888 et de l'Académie des sciences en 1894, à la place laissée vacante par M. Brown-Séquard.
Il mène ses recherches dans des domaines variés, comme en attestent, entre autres, les nombreux brevets qu’il a déposés. Ceux-ci concernent des inventions touchant à différents domaines : moteur à explosion, amélioration des microphones, appareil microphonique (développé en collaboration avec Paul Bert), dont certains font l'objet d'applications médicales, par exemple l'utilisation des hautes fréquences dans le traitement de certaines maladies. En 1886, d’Arsonval adapte le principe du chronoscope de Hipp, qui permet de mesurer des intervalles de temps très courts et crée un chronomètre, beaucoup moins encombrant. En 1888, il décrit un moyen de fabriquer un récipient isolant spécial pour le stockage des gaz liquéfiés, constitué d'un double vitrage sous vide, ancêtre de la bouteille thermos.
Parallèlement, il s’investit dans la mise en place de projets variés, comme la création de l'École supérieure d'électricité en 1894 ou de la Société française d'électrothérapie en 1897. Il apporte aussi son soutien à son élève, Georges Claude, qui brevète l'un des tout premiers procédés industriels de liquéfaction de l'air. Cette innovation mène à la fondation de la société L’Air liquide en 1902, marquant ainsi le début d'une ère nouvelle dans la production et l'utilisation industrielle des gaz. Arsène d’Arsonval est actionnaire de cette entreprise dès l’origine, et demeure l’un de ses administrateurs jusqu’à son décès.
En 1938, l'institut lui rend hommage en organisant un jubilé à l'occasion de sa cinquantième année passée à l'Académie de médecine.
Arsène d'Arsonval décède le 31 décembre 1940.