La toma USB debe tener una fuente de 5V por algún sitio. Puede que esté en la misma toma USB.
Si esa fuente es de mala calidad puede haberse deteriorado y generar ruido eléctrico cuando se le pide corriente, cuando conectas algo. Es sólo una posibilidad, y sin equipos de medida no se puede asegurar nada.
El ruido eléctrico se transmite por aire y por cable. Si es por cable, te puede estar afectando al amplificador de antena. Si es por aire, se puede estar colando por la antena o por algún defecto del cable.
Si el problema es por el cable se podría "parchear" poniendo un anillo de ferrita alrededor del cable; se puede conseguir de un cable viejo de ordenador, de esos que llevan un bulto; ese bulto es la ferrita.
Si el problema es por el aire, lo primero sería ver si el cable de antena pasa cerca de la fuente de alimentación, y alejarlo. Después habría que revisar la instalación de la antena, por si hay algo defectuoso, como un cable pinchado o un conector medio suelto.
Esto son apaños baratos que pueden solucionar el problema, si el problema es que la fuente genera ruido. Lo suyo sería cambiar la fuente de 5V, ya que no debería generar ruido.