Vorab: Ich kann Deine Irritation gut verstehen.
Das Verwaltungsverfahrensrecht ist aber in einer Vielzahl von Gesetzen, Verordnungen und Verwaltungsvorschriften festgelegt. Der Anwendungsausschluß bezieht sich aber nur auf ein einziges davon, nämlich das Verwaltungsverfahrensgesetz, nicht aber beispielsweise auf das Verwaltungsvollstreckungsgesetz, das Verwaltungszustellungsgesetz, und was es sonst noch so gibt.
Die von Dir gestreifte Frage der Verwaltungsaktsbefugnis ist m. E. wiederum unabhängig von der Anwendbarkeit des VwVfG. Denn das Verwaltungsverfahren beim Einzug der Rundfunkbeiträge darf der Gesetzgeber durchaus in einem eigenen, nennen wir es Rundfunkbeitragsverfahrensgesetz, regeln. Dies hat der Gesetzgeber aber bisher versäumt, weshalb sich hier eine gewaltige Regelungslücke auftut.
Die Verwaltungsaktsbefugnis ist abhängig von der Ermächtigung einer Institution zur Ausübung hoheitlicher Befugnisse, die im Regelfall vom (Landes-)Parlament durch ein Gesetz ausgesprochen wird. So sind Krankenkassen ebenfalls befugt, Verwaltungsakte zu erlassen, oder aber auch die Rentenversicherung. Hier gibt es für das Verwaltungsverfahren aber eigene Gesetze, nämlich das SGB V bzw. SGB VI in Verbindung mit SGB I und SGB X.
Solange also der RBB nicht durch Landesgesetz zu hoheitlichem Handeln ermächtigt oder mit hoheitlichen Aufgaben beliehen ist, besteht nach meiner Auffassung in der Tat keine Verwaltungsaktsbefugnis. Aber das wird natürlich von den Rundfunkanstalten und auch von den Verwaltungsgerichten geflissentlich ignoriert. Hier klammert man die Verwaltungsaktsbefugnis an den einen Satz im RBStV, daß rückständige Beiträge durch die Rundfunkanstalt festgesetzt werden. Allerdings ist nach meiner unmaßgeblichen Rechtsauffassung durch das Verb "festsetzen" mitnichten festgelegt, daß es sich bei dieser Festsetzung um einen Verwaltungsakt handelt. Ansonsten müßte es ja auch ein Verwaltungsakt sein, wenn ein Arbeitgeber die in seinem Betrieb geltenden Arbeitszeiten "festsetzt".
Zudem dürfte eine Verwaltungsaktsbefugnis der Rundfunkanstalten nicht mit dem in Art. 33 Abs. 4 festgeschriebenen Funktionsvorbehalt vereinbar sein. Diese Frage ist dem BVerfG mit der Verfassungsbeschwerde 1 BvR 281/20 vorgelegt worden. Warten wir also ab.
Die Zuständigkeit der Gerichtsbarkeit richtet sich, auch unter Berücksichtigung des oben gesagten, nach dem Inhalt der Klageforderung. Wenn Du also als Handwerker die Bezahlung einer vom RBB nicht bezahlten Rechnung einklagen willst, dann ist zweifellos das Amtsgericht (oder ja nach Streitwerthöhe das Landgericht) zuständig, da die Gesetzesgrundlage das BGB ist und demzufolge das Verfahren nach ZPO geführt wird.
Wenn Du aber Dich gegen eine Maßnahme wehren willst, die der RBB als Anstalt des öffentlichen Rechts Dir gegenüber verfügt hat, dann geschieht dies nicht auf der Grundlage des BGB, sondern z. B. auf der Grundlage des RBStV bzw. des Landes-Zustimmungsgesetzes. Damit gilt für die Klage die VwGO und das Verfahren ist vor dem Verwaltungsgericht zu führen. Die Verwaltungsgerichtsbarkeit ist sowas wie ein Auffangbecken für alle Rechtsstreitigkeiten, die nicht eindeutig einem anderen Rechtsweg, z. B. dem Zivilrecht, dem Arbeitsrecht, dem Sozialrecht, zuzuordnen sind.
Wenn Du also einen Festsetzungsbescheid des RBB vor dem Amtsgericht angreifen willst, dann wird sich das Gericht für unzuständig erklären - und dabei spielt es keine Rolle, ob Verwaltungsakt oder nicht.
Sollte das BVerfG allerdings in dem o. a. Beschwerdeverfahren zu der Erkenntnis gelangen, daß eine Rundfunkanstalt nicht verwaltungsaktsbefugt ist, dann wären alle Klageverfahren vor den Zivilgerichten zu führen, allerdings mit umgekehrtem Rubrum: dann nämlich müßte der RBB, wie jede andere Rundfunkanstalt auch, den säumigen Beitragszahler vor dem Amtsgericht auf Zahlung verklagen. Und dann wären wir wieder beim BGB.