AI ontwricht school: gymleraar laat directeur racistische uitspraken doen

Een Amerikaanse gymleraar is gearresteerd vanwege een bizar conflict. Hij deed de stem van de directeur na door middel van AI om hem te laten ontslaan.

Er zijn genoeg goede eigenschappen voor AI te vinden, maar helaas wordt er ook weleens misbruik van gemaakt. Zo zijn muzikanten er niet al te blij mee en dan hebben we het nog niet eens over het gevaar van deepfakes.

In de Amerikaanse staat Baltimore is nog een voorbeeld van hoe het niet moet. Door middel van AI probeerde gymleraar Dazhon Darien de stem van de directeur van een school te imiteren. Door uitspraken te doen die niet door de beugel konden, wilde hij dat de directeur ontslagen werd.

Zo ging de gymleraar te werk met AI

De gymleraar kloonde de stem van de directeur door middel van AI en deed een aantal racistische en anti-Semitische uitspraken. Vervolgens verspreidde hij de opname via social media waardoor de opnames rondgingen bij studenten.

Toch was er iets vreemds aan de opnames: het geluid was heel vlak, had een ongewoon stille achtergrond en er was geen enkele ademhaling of pauze te horen in de stem. Dat viel de politie ook op, waarna er extra onderzoek werd gedaan.

Dat onderzoek leidde naar de gymleraar. Hij zou zich toegang hebben verschaft tot de schoolcomputers om daar gebruik te maken van verschillende AI-diensten zoals tools van OpenAI en Microsoft Bing. Bovendien was de audio gekoppeld aan zijn e-mailadres, wat het dus makkelijk maakte voor de politie om hem op te sporen.

Een motief en een flinke rechtszaak

Darien had ook een motief, want hij was in conflict met de directeur. Deze deed onderzoek naar mogelijk verkeerd gebruik van schoolgelden. De gymleraar hoopte door het gebruik van AI waarschijnlijk van het onderzoek af te komen.

In plaats van de directeur lijkt de gymleraar nu zijn baan kwijt te zijn. Hij is op borgtocht vrij, tot hij zich binnenkort zal moeten melden bij de rechter. Hij wordt verdacht van diefstal van schoolfondsen, het verstoren van de activiteiten op school, vergelding tegen een getuige en stalking.

Dit is zeker niet het eerste voorbeeld dat iemand slechte intenties heeft met het imiteren van iemands stem door AI. Zo werd eerder al de stem van de Amerikaanse president Joe Biden nagedaan om niet te stemmen en kwam er een liedje uit met de stem van Drake, wat helemaal niet van de artiest afkomstig was.

Onderwerpen

• AI
• verenigde staten