Duitse verhuurders die algoritmes inzetten voor huurdersselectie, moeten voldoen aan strikte juridische eisen. De inzet van kunstmatige intelligentie (AI) voor boniteitscontroles en het opstellen van rankings is beperkt door de Algemene Verordening Gegevensbescherming (AVG) en het Duitse Algemene Gelijkebehandelingswet (AGG). Bovendien vallen dergelijke systemen onder de nieuwe EU AI-Verordening (Verordnung (EU) 2024/1689) wanneer zij als hoogrisico-AI worden geclassificeerd. Dit vereist dat verhuurders garanderen dat AI-systemen geen discriminatie veroorzaken en dat er een effectieve menselijke tussenkomst mogelijk blijft.
De verwerking van huurders-, aanvragers- en boniteitsgegevens valt onder de AVG als persoonsgegevens, wat een rechtsgrondslag vereist en beperking tot noodzakelijke informatie. Bijzonder strenge eisen gelden voor gevoelige gegevens zoals gezondheidsgegevens of informatie over de "raciale" of etnische herkomst, die onder Art. 9 AVG vallen. Art. 22 lid 1 AVG beschermt individuen tegen beslissingen die uitsluitend gebaseerd zijn op geautomatiseerde verwerking en die rechtsgevolgen hebben of hen aanzienlijk benadelen. Het Europees Hof van Justitie (EuGH) heeft op 7 december 2023 (zaak C-634/21) verduidelijkt dat een geautomatiseerde bepaling van een waarschijnlijkheidsscore al een geautomatiseerde beslissing kan zijn als deze een doorslaggevende rol speelt. Voor verhuurders betekent dit dat een louter formele menselijke controle niet volstaat; een score mag niet feitelijk voorbeslissend zijn. Een deskundige en beslissingsbevoegde persoon moet het resultaat en de onderliggende informatie daadwerkelijk controleren, fouten en bijzondere omstandigheden meewegen, en kunnen afwijken van de geautomatiseerde aanbeveling.
Naast de AVG moeten verhuurders ook het Duitse Algemene Gelijkebehandelingswet (AGG) in acht nemen, dat bescherming biedt tegen benadeling op grond van "ras", etnische herkomst, geslacht, religie, handicap, leeftijd of seksuele identiteit. KI-scoringssystemen kunnen systematisch groepen benadelen door niet-representatieve trainingsdata, ongeschikte selectiekenmerken of discriminerende proxy-variabelen. Dit discriminatieverbod geldt ook voor de verhuur van openbaar aangeboden woonruimte, met strengere eisen voor zogenaamde massatransacties (§ 19 lid 1 nr. 1 AGG). Verhuurders dienen de gebruikte gegevens, kenmerken en wegingen te controleren en de resultaten voortdurend te monitoren op discriminerende effecten. De EU AI-Verordening (Verordnung (EU) 2024/1689) vormt een aanvullend juridisch kader. KI-systemen voor boniteitsbeoordelingen en selectiebeslissingen kunnen als "Hochrisiko-KI" worden geclassificeerd, vooral als ze de kredietwaardigheid van natuurlijke personen beoordelen of een boniteitsscore vaststellen (Anhang III nr. 5 letter b). Haufe.de geeft als voorbeeld een woningcorporatie die een KI-systeem gebruikt dat Schufa-gegevens, salarisinformatie en huurhistorie analyseert om een risicowaarde toe te kennen, waarbij aanvragers onder een bepaalde score automatisch worden afgewezen; dit wordt doorgaans als een hoogrisico-KI-systeem beschouwd.
De complexiteit van deze regelgeving onderstreept de noodzaak voor vastgoedprofessionals om zorgvuldig te werk te gaan bij de implementatie van AI in huurdersselectie. Het risico op juridische procedures en reputatieschade is aanzienlijk wanneer systemen leiden tot geautomatiseerde uitsluiting, intransparante criteria hanteren of discriminerende uitkomsten genereren. De kans ligt in het benutten van AI als ondersteunend instrument, waarbij de menselijke beslisser de uiteindelijke verantwoordelijkheid draagt en de mogelijkheid heeft om af te wijken van geautomatiseerde aanbevelingen. In Nederland gelden vergelijkbare regels via de Algemene Verordening Gegevensbescherming (AVG) en de Algemene wet gelijke behandeling, die eveneens grenzen stellen aan geautomatiseerde besluitvorming en discriminatie. Dit betekent dat ook Nederlandse makelaars, taxateurs, beheerders, ontwikkelaars en beleggers die AI inzetten voor vergelijkbare processen, zich moeten houden aan strikte eisen voor transparantie, non-discriminatie en menselijke controle.
Bron: Haufe.de.
