1818（文政元）年、会津藩士小野家に生まれる。1862（文久2）年、会津藩主松平容保が京都守護職就任の時、公用人として公武間の折衝にあたり公武合体に尽力したが、戊辰戦争では、会津藩の次席家老として新政府軍との戦闘に臨んだ。この後、旧幕府軍に合流して蝦夷地へ渡った。 箱館では、箱館病院の事務長として病院運営を行った。明治2年5月11日の新政府軍箱館総攻撃時に、新政府軍に捕えられたがアイヌ人の働きにより無事夕方までに病院へ帰還し、翌12日の夕方、新政府軍軍監村橋直衛らから降伏勧告の仲介を髙松凌雲とともに託された。小野が旧幕府軍側への書状を草案し、弁天台場、五稜郭へ伝達され、5月15日には弁天台場が降伏し、18日には五稜郭も降伏して戦争は終結した。箱館戦争の早期終結に向けて、小野権之丞は大きな役割を果し、依頼側の村橋を通じて新政府軍の多大な支援のもとで傷病兵受け入れ・治療等の任務の遂行にあたった。同年6月に古河藩の預かり（禁固）となり、謹慎中に「小野権之丞日記」を著した。1889(明治22)年4月2日に死去した。享年72歳。