Wo lässt sich KI im Baubewilligungs- oder Meldeverfahren aus rechtlicher Sicht sinnvoll einsetzen und wo nicht?

Zu den rechtlich wenig problematischen Einsatzbereichen von KI zählen die Vollständigkeitsprüfung der eingereichten Unterlagen sowie der automatisierte Abgleich mit einschlägigen Normen. Darüber hinaus kann KI sinnvoll zur Identifikation von Risiken, zur Strukturierung von Sachverhalten und zur Vorbereitung behördlicher Entscheidungen eingesetzt werden.

Nicht zulässig ist hingegen der Einsatz von KI zur autonomen Entscheidungsfindung, insbesondere bei der Qualifikation eines Vorhabens als melde- oder bewilligungspflichtig oder bei der materiellen Ablehnung eines Gesuchs. Solche Entscheidungen verbleiben in der Verantwortung von natürlichen Personen und dürfen nach aktuellem Recht nicht an technische Systeme delegiert werden.

Macht es aus rechtlicher Sicht einen Unterschied, ob regelbasierte Systeme oder generative KI-Systeme eingesetzt werden?

Nein, grundsätzlich gibt es für regelbasierte Systeme und generative KI-Systeme dieselben rechtlichen Vorgaben. In der Praxis dürfte sich der Einsatz regelbasierter Systeme jedoch um einiges einfacher gestalten, da gesetzliche Vorgaben wie die Begründungspflicht aufgrund der einfacheren Nachvollziehbarkeit viel eher eingehalten werden können. Der Einsatz von generativer KI kann zudem weitere Fragen aufwerfen, vor allem was Risiken bezüglich Erklärbarkeit, Bias und Governance betrifft.

Datenschutz

 Welche Vorgaben sind aus datenschutzrechtlicher Sicht zu beachten?

Im Baubewilligungs- bzw. Meldeverfahren werden zahlreiche Personendaten verarbeitet, darunter die Namen der Beteiligten, Eigentumsverhältnisse oder allfällige Einsprachen Dritter. Für diese Datenbearbeitungen gelten die Vorgaben der kantonalen Datenschutzgesetze. Im Kanton Zürich kommt das IDG ZH zur Anwendung.

Zentral ist zunächst das Prinzip der Zweckbindung: Personendaten dürfen nur für jene Zwecke bearbeitet werden, die sich aus dem Baubewilligungsverfahren ergeben. Eine weitergehende Verwendung, etwa für das Training von KI-Systemen, ist nur unter besonderen Umständen zulässig, beispielsweise wenn eine entsprechende gesetzliche Grundlage vorliegt. Ergänzend ist der Grundsatz der Datensparsamkeit zu beachten, wonach nur jene Daten bearbeitet werden dürfen, die für die Durchführung des Meldeverfahrens erforderlich sind.

Besteht im Baubewilligungs- oder Meldeverfahren ein Anspruch auf menschliche Überprüfung einer KI-gestützten Vorprüfung?

Eine Vorprüfung, beispielsweise die Prüfung, ob eine Meldung oder ein Gesuch vollständig ist, ist der eigentlichen Entscheidung vorgelagert. Das eidgenössische Datenschutzgesetz (DSG) sieht bei vollautomatisierten Einzelentscheidungen mit rechtserheblicher Wirkung besondere Schutzmechanismen vor. Nach Art. 21 DSG haben betroffene Personen Anspruch darauf, über eine solche Entscheidung informiert zu werden und eine Überprüfung durch eine natürliche Person zu verlangen. Voraussetzung ist, dass die Entscheidung ausschliesslich automatisiert erfolgt und für die betroffene Person rechtliche oder vergleichbare erhebliche Auswirkungen hat. Ob Entscheidungen im Rahmen des Baubewilligungs- bzw. Meldeverfahrens diese Erheblichkeitsschwelle erreichen, dürfte im Einzelfall zu prüfen sein. Die Entscheidung, ob die eingereichten Unterlagen vollständig sind, dürfte die Schwelle nicht erreichen, die Entscheidung, welches Verfahren durchzuführen ist, schon eher. Gleiches gilt für die Erteilung einer Baubewilligung oder die Ablehnung eines Baugesuchs. Solche vollautomatisierten Entscheide dürften jedoch unter geltendem Recht nicht zulässig sein.

Auf kantonaler Ebene, insbesondere im Kanton Zürich, besteht keine entsprechende datenschutzrechtliche Regelung. Gleichwohl könnte sich ein solcher Anspruch indirekt aus mehreren übergeordneten Rechtsgrundlagen ergeben, namentlich aus dem verfassungsrechtlichen Anspruch auf rechtliches Gehör, dem Grundsatz der Rechtsstaatlichkeit sowie den allgemeinen Vorgaben des Datenschutzrechts.

Im Baubewilligungs- bzw. Meldeverfahren ist zudem zu berücksichtigen, dass einige Entscheidungen im Verlaufe des Verfahrens unter Umständen als Verfügungen zu qualifizieren sind. Wird eine Verfügung faktisch durch ein KI-System erstellt, muss sichergestellt sein, dass die verantwortliche Behörde sie inhaltlich überprüfen und zumindest auf Nachfrage hin begründen kann.

Zusammenfassend besteht zwar im kantonalen Recht keine explizite Spezialnorm, wohl aber eine aus Bundesrecht und Verfassungsrecht abgeleitete Pflicht auf menschliche Überprüfung, sobald KI-Systeme im Baubewilligungs- bzw. Meldeverfahren selbstständig Entscheidungen mit rechtserheblichen Auswirkungen treffen, was nach heutigem Recht wohl ohnehin nicht zulässig wäre. Eine rein automatisierte, nicht überprüfbare Verfahrenssteuerung wäre mit diesen Grundsätzen nicht vereinbar.

Beschaffung

Welche rechtlichen Fragen stellen sich bei einer nachgelagerten Beschaffung von KI-Systemen im Baubewilligungsverfahren durch Behörden?

Auch bei Überlegungen zur öffentlichen Beschaffung von KI-Systemen durch Behörden stellen sich rechtliche Fragen, die im Einzelfall abgeklärt werden müssen. Wichtige abzuklärende Fragen betreffen geeignete Zuschlagskriterien wie die Erklärbarkeit, Bias-Mitigation und Auditierbarkeit von KI-Systemen, gerade bei Black-Box Modellen. Solche Kriterien müssen messbar, diskriminierungsfrei und verhältnismässig ausgestaltet sein. Sodann können bei der Beschaffung von KI-Modellen, ähnlich wie bei der Public Couds-Vergabe, Vorgaben zum Standort von Rechenzentren in der Schweiz und «geo-redundanten» Diensten eine wichtige Rolle spielen.

Verantwortlichkeit und Haftung

Wer haftet bei Fehlern im Baubewilligungs- oder Meldeverfahren, die durch die KI verursacht werden?

Führt eine fehlerhafte KI-gestützte Empfehlung zu einer rechtswidrigen Entscheidung im Baubewilligungs- bzw. Meldeverfahren, könnte – gestützt auf die einschlägigen Staatshaftungsnormen – grundsätzlich die zuständige öffentliche Körperschaft, das heisst der Staat bzw. die Gemeinde, haftbar gemacht werden. Für den Fehler ist allein die entscheidende Behörde verantwortlich; eine direkte Haftung des Softwareanbieters gegenüber den Betroffenen besteht in der Regel nicht oder wird rechtlich ausgeschlossen.

Der Einsatz eines KI-Systems entbindet die Behörde nicht von ihrer Verantwortung. Auch wenn der Fehler technisch verursacht wurde, dürfte die Entscheidung rechtlich der Behörde zugerechnet werden. Intern kann die öffentliche Hand jedoch prüfen, ob gegenüber dem Softwareanbieter vertragliche oder ausservertragliche Regressansprüche bestehen, etwa wegen Verletzung vertraglicher Pflichten. Generell ist zu beachten: Die Verwaltung geniesst heute grundsätzlich ein grosses Vertrauen in der Bevölkerung. Dieses Vertrauen könnte jedoch durch den Einsatz intransparenter KI-Systeme oder durch Fehlentscheidungen beeinträchtigt werden. Um Akzeptanz- und Legitimationsverluste zu vermeiden, sind eine transparente Kommunikation, eine klare Darstellung der Rolle von Mensch und Maschine sowie – wo möglich – die Betonung von Freiwilligkeit sowie von Kontroll- und Rechtsmittelmöglichkeiten zentral.

Wie sieht es aus, wenn der Staat freiwillige KI-gestützte Vorabchecks anbietet, bei denen sich beispielsweise prüfen lässt, ob die eingereichten Unterlagen vollständig sind?

Eine staatliche Verantwortung ist auch bei freiwilligen Angeboten nicht ausgeschlossen. Jedoch ist das Thema differenziert zu betrachten: Es handelt sich beim Vorabcheck nicht um eine Verfügung. Jedoch kann sich daraus eine Vertrauenshaftung ergeben. Wenn der Vorabcheck den Eindruck erweckt, er sei zuverlässig, verbindlich oder autoritativ, kann bei den Nutzenden ein schutzwürdiges Vertrauen entstehen. Wichtig ist es deshalb, klarzustellen, dass der Vorabcheck unverbindlich ist und die massgebliche Prüfung im formellen Verfahren durch die Behörde erfolgt.

Was gilt, wenn ein KI-System ein bewilligungspflichtiges Projekt fälschlicherweise als zulässig einstuft?

Stuft ein KI-System im Rahmen des Baubewilligungs- bzw. Meldeverfahrens ein Vorhaben fälschlicherweise als zulässig ein und erlässt die Behörde keinen gegenteiligen Entscheid, liegt rechtlich ein Fehler seitens der Behörde vor, auch wenn dessen Ursache technisch bedingt ist. Der daraus resultierende Rechtszustand ist der zuständigen Behörde zuzurechnen.

Hat die Bauherrschaft gutgläubig gehandelt und durfte sie aufgrund des behördlichen Verhaltens – einschliesslich der durch KI beeinflussten Verfahrensabwicklung – auf die Rechtmässigkeit des Vorgehens vertrauen, kann sie sich unter Umständen auf den verfassungsrechtlichen Vertrauensschutz berufen. Dieser kann insbesondere dann greifen, wenn die Bauherrschaft gestützt auf den Entscheid bereits Dispositionen getroffen hat , die sich nicht ohne Nachteil rückgängig machen lassen.

Gleichzeitig ist zu beachten, dass der Vertrauensschutz dort seine Grenzen findet, wo die Rechtswidrigkeit offensichtlich war oder die Bauherrschaft selbst hätte erkennen müssen, dass die Voraussetzungen des Meldeverfahrens nicht erfüllt waren.

Zusammengefasst zeigt das rechtliche Kapitel, dass  der Einsatz von KI im Baubewilligungs- und Meldeverfahren rechtlich möglich ist, sofern er unterstützend, transparent und unter voller behördlicher Verantwortung erfolgt – und damit den Rahmen für die rechtlichen und faktischen Schlussfolgerungen setzt. Es ist jedoch zu betonen, dass die vorliegenden rechtlichen Ausführungen bloss einer ersten Orientierung über die möglichen rechtlichen Fragestellungen dienen. Vor dem konkreten Einsatz einer KI-Anwendung muss in jedem Fall eine vertiefte rechtliche Abklärung erfolgen.