Nach welchen Kriterien werden eigentlich Sendefrequenzen vergeben und wer vergibt die?

Kommt ganz auf das Frequenzband an.

In Deutschland macht das die Bundenetzagentur nach dem Telekommunikationsgesetz.

Also frequenzbandübergreifend wird die Nutzung von der Weltfunkkonferenz (WRC) geregelt. Einige der dort definierten Bänder werden national von der Bundesnetzagentur verwaltet. Sprich sie kann Frequenzen in diesen Bändern vergeben.
Frequenzbänder allgemein
Internationale Frequenzregulierung

Vergeben werden die Frequenzen durch die Bundesnetzagentur. Über die Kriterien weiß ich nur, dass sie je nach Ausschreibung unterschieldich sein können. Weitere Infos findest Du aber bestimmt auf der Behördenhomepage unter http://www.bundesnetzagentur.de/.

Die Frequenzzuteilung erfolgt grunsätzlich durch die Bundesnetzagentur: bundesnetzagentur.de. Um eine Zusage zu bekommen, muss der Bewerber seine Fachkunde und Leistungsfähigkeit nachweisen und belegen, dass seine vorgelegten Planungen sich für das ausgeschriebene TK-Netz eignen. Außerdem muss der neue TK-Dienst der Förderung eines Wettbewerbsmarktes dienen und das dauerhaft.