バルーンの対処が終わったら次に気になるのは背景じゃないでしょうか？
変な背景はいらない・・・とおもったら、
pebuilder.inf ファイルを以下のように編集しましょう。
(plugin フォルダではなく、直下にあります)
22 行目あたりの
bartpe.bmp=2
を削除して、
777 行目あたりの
0x2, "Control Panel\desktop", "WallPaper", "%systemroot%\system32\bartpe.bmp"
を削除すれば OK です。
ちなみに「背景は利用するけど、ほかの画像にしたい！」という方は、
直下の bartpe.bmp を上書きする形で画像を保存すれば OK です。
# bmp 形式にしておいてください。
ところで、いまさらですが、BartPE を作るうえでのファイルやフォルダ配置の位置は、
pebuilder.exe があるフォルダからの相対 path で書いてます。
また、inf ファイルから「削除してください」みたいに書いているときは、
その行を ; (セミコロン) でコメントアウトしても OK です。
# 私は基本的にこの方法です。