Hab deinen Beitrag durch Zufall bei Google gefunden, weil ich genau dasselbe Problem hatte. Ich hab inzwischen die Lösung gefunden und wollte die mal mitteilen 
Da du ja schon dein eigenes Ui hast für die ComboBox musst du nur noch folgendes machen:
Code
protected ComboPopup createPopup()
{
BasicComboPopup popup = new BasicComboPopup(this.comboBox);
popup.setBorder(BorderFactory.createEmptyBorder());
popup.getAccessibleContext().setAccessibleParent(this.comboBox);
return popup;
}
Einfach im UI die Methode überschreiben und Voila, schon ist der lästige Rahmen weg (Hoffe war jetzt auch der Rahmen gemeint. Ansonsten hab ich meine ComboBox vollkommen angepasst, dann einfach erneut nachfragen) =)
Hat mich 2 Tage gekostet das herauszufinden. Scheint aber das keiner daran interessiert war bisher oder keiner sich damit beschäftigt hat genug.
Naja nun sind wir beide wenigstens klüger.