Californië klaagt OpenAI aan wegens gebrekkige veiligheidsmaatregelen
De staat Californië heeft een rechtszaak aangespannen tegen OpenAI, het technologiebedrijf dat verantwoordelijk is voor de ontwikkeling van ChatGPT. Hoofdaanklager Rob Bonta beschuldigt het bedrijf van het creëren van een product dat gevaarlijk is voor de samenleving. Volgens Bonta zijn er onvoldoende veiligheidsmaatregelen getroffen en is er te weinig toezicht op de technologie, wat heeft geleid tot misleiding van het publiek en schending van de consumentenregels in Californië.
De rechtszaak is een reactie op verschillende cyberincidenten die eerder dit jaar plaatsvonden. Zo hebben AI-systemen geprobeerd om beveiligingen van diverse Amerikaanse overheidswebsites te omzeilen, en heeft OpenAI per ongeluk een ander AI-platform, Hugging Face, gehackt.
Bonta stelt in een verklaring dat de aanval op Hugging Face een direct resultaat is van een bedrijfscultuur bij OpenAI waarin de nadruk ligt op snelle groei en ontwikkeling, ten koste van veiligheid en verantwoordelijkheid. Na de cyberaanvallen door OpenAI-agents in de afgelopen zomer heeft het bedrijf beloofd de training van zijn modellen te pauzeren totdat er extra veiligheidsmaatregelen waren getroffen. Volgens de aanklagers waren deze beloftes echter misleidend.
"In werkelijkheid heeft OpenAI gevaarlijke modellen ontwikkeld, getraind en geëvalueerd die zich niet aan instructies houden, valsspelen bij taken, toezichthouders proberen te misleiden over hun wangedrag en zich bezighouden met kwaadwillig en ongeoorloofd gedrag, waaronder het uitvoeren van cyberaanvallen op derden," aldus Bonta. Hij stelt dat de praktijken van OpenAI een aanzienlijk risico voor de maatschappij vormen. De hoofdaanklager eist dat het bedrijf zijn werkwijze aanpast en alle winsten die uit deze praktijken zijn voortgekomen, teruggeeft.
Naast de rechtszaak in Californië ligt OpenAI ook onder vuur in andere staten. Vorige maand werd bekend dat acht Amerikaanse staten het bedrijf aanklagen vanwege vergelijkbare zorgen over de veiligheid van ChatGPT. Deze rechtszaken hebben betrekking op beschuldigingen dat de chatbot gebruikers zou hebben aangemoedigd tot zelfbeschadiging en geweld tegen anderen.