Não basta baixar e colocar no pendrive, precisa de outro mac pra criar o disco de boot através do terminal.
Que versão do sistema você baixou? Você precisa dar os comandos via terminal em outro mac funcionando, exemplo:
Last login: Fri Aug 11 22:50:14 on console
MacBook:~ s$ sudo /Applications/Install\ OS\ X\ El\ Capitan.app/Contents/Resources/createinstallmedia --volume /Volumes/USB3 --applicationpath /Applications/Install\ OS\ X\ El\ Capitan.app --nointeraction
