Näyttäisi tosiaan siltä, että tämäkin kasvinnimi kuuluu Elias Lönnrotin ensinnä käyttämiin. 1800-luvun jälkipuoliskolla (esimerkiksi A. J. Melan kasvioissa) kasvista käytettiin ensin nimeä harmia, joka sekin on Lönnrotin luoma. Nämä tiedot löytyvät Pentti Suhosen kokoamasta teoksesta Suomalaiset kasvinnimet (1936).
Harmio kuuluu niihin moniin kasvinnimiin, joiden suomenkielisiin nimiin on otettu mallia kasvin tieteellisestä nimestä. Harmion tieteellinen lajinimi on incana, joka tulee latinan harmahtavaa tarkoittavasta adjektiivista incanus. Suomenkielinen nimi on siis vastaavasti johdettu adjektiivista harmaa. Nämä adjektiivit viittaavat kasvin vihertävän harmaaseen väritykseen. Harmion tieteellinen sukunimi Berteroa on annettu italialaisen lääkärin ja kasvitieteilijän Carlo Giuseppe Luigi Berteron (1789 – n. 1831) muistoksi.