Certo, anche su una chiavetta USB, ma devi seguire due accorgimenti.
-creare una partizioni EXT4 sul HD esterno (lo puoi fare come detto in precedenza durante l'installazione)
-quanto ti trovi di fronte all'ultima schermata dell'installazione, prima di dare l'ultimo ok per l'installazione, clicca sul pulsante avanzate (se non ricordo male) dove dovrai specificare dove installare il bootloader.
Linux riconosce gli HD secondo una sigla di device.
Ad esempio il prio HD sata si chiamerà sda, il secondo sdb e così via.
Le partizioni presenti sul disco seguono invece questa sintassi:
partizioni primo HD: sda1, sda2....
partizioni secondo HD: sdb1, sdb2...
Quindi se tu installi Ubuntu sulla seconda partizione dell'HD esterno che si chiamerà (ipotizziamo) sdc2, dovrai dire inserire nelle opzioni del bootloader che questo venga installato sul disco che ospita tale partizione.
Il disco che ospita la partizioni sdc2 è sdc.
------------------------------------------------------
Spero sia chiaro, magari prima di procedere con l'installazione fai delle prove con delle macchine virtuali tramite Virtualbox, così vedi come si installa ed eviti di fare casini ;)