Ein mächtiger Baum, oft 30, bisweilen sogar 40 Meter hoch, mit einer dichten, weit herunterreichenden Krone. Der bis zur Mitte beastete Stamm ist von einer dicken, groben Borke bedeckt, die sowohl tiefe Längsrisse als auch kurze Querrisse durchziehen. Wie schon der Name sagt, ist die Bergulme vor allem in Bergwäldern verbreitet; außerdem wird sie aber bei uns auch sehr häufig als Parkbaum gepflanzt.
Von der zweiten Aprilhälfte an entfalten sich die Blätter. In der Form rund bis elliptisch, sind sie am Rand doppelt gesägt und laufen meist in drei Spitzen aus. Ulmenblätter sind immer unsymmetrisch; die durch die Mittelrippe getrennten Blatthälften wachsen ungleich und schief. Die rau behaarte Blattoberseite fühlt sich an wie Sandpapier; anders die Unterseite: die ist flaumweich. Die sehr kurz gestielten Blätter sitzen zweireihig wechselständig an den Zweigen.
Bereits vor dem Laubaustrieb, oft schon im März, erscheinen bei der Bergulme die Blütenstände: kleine Büschel, in denen Zwitterblüten mit langen Staubblättern und roten Narben ungestielt dicht beieinandersitzen. Sie werden vom Wind bestäubt. Die bestäubten und befruchteten Blüten entwickeln sich sehr rasch zu Früchten, die bereits Ende Mai oder Anfang Juni reif sein können. Die Früchte sind Nüsschen, welche ringsum von einem breiten, häutigen Saum umgeben sind, der als Flugorgan dient. So wird eine weite Verbreitung durch den Wind erreicht. Meist keimen die Samen noch im selben Sommer.