Anthropic verbiedt gebruikers om Claude aanhoudend wreed te behandelen

Wat gebeurt er als je te ver gaat?

Anthropic zegt dat de regel alleen bedoeld is voor extreme gevallen. Het gaat om gebruikers die steeds opnieuw wreed doen tegen het model, zonder duidelijk doel. Gewone ergernis, tegenspraak, donkere thema's in verhalen en het testen van het model vallen er volgens het bedrijf niet onder.

De straf blijft voorlopig mild. Een gesprek beëindigen is nog steeds het belangrijkste middel, schrijft Anthropic. Sinds augustus vorig jaar kan Claude zo'n gesprek zelf afsluiten, als onderdeel van onderzoek naar het welzijn van het model.

Of er ook andere straffen komen, zoals een account blokkeren, wil het bedrijf niet zeggen. Dat meldt The Verge, een techsite, die er navraag naar deed.

Wat verandert er nog meer?

Anthropic bundelt losse regels over nepaccounts en nepnieuwssites in één nieuw onderdeel over misleidende campagnes. Het bedrijf zag staatsmedia, propagandadiensten en commerciële bedrijven Claude gebruiken om netwerken van nepaccounts te draaien. Dat gold al als verboden, maar de regels stonden verspreid.

Bij wapens noemt het beleid nu ook de software waarmee wapens werken, en het bewapenen van drones. Anthropic zag meerdere pogingen om Claude software te laten maken voor het aansturen van wapens. Bij bewaking is het verboden mensen zonder toestemming te volgen en met Claude te bepalen wie de politie moet onderzoeken of aanhouden.

Eén regel wordt juist soepeler. Het algemene verbod op persoonlijk gerichte campagnes voor kiezers verdwijnt, omdat het ook nuttig werk raakte. Denk aan een non-profit die uitleg voor kiezers in andere talen schrijft. Misleiding van kiezers blijft verboden.

Wat betekent dit voor jou?

Het nieuwe beleid gaat op 12 november in. Volgens Anthropic is het meeste een verduidelijking van wat al verboden was en verandert er in de praktijk weinig. Gebruik je Claude voor gewoon werk, dan merk je waarschijnlijk niets.

Gebruik je Claude in zaken die iemands gezondheid, rechten of geld raken? Dan moet iemand met de juiste kennis de adviezen van Claude kunnen nakijken en aanpassen. Ook moet de betrokkene horen dat AI is gebruikt. Anthropic zegt dat deze eisen niet nieuw zijn, maar nu duidelijker staan opgeschreven.

Bouw je iets waarbij Claude fysieke apparatuur aanstuurt die iemand kan verwonden? Dan moet een bevoegde operator meekijken en het apparaat kunnen stoppen. Of die operator een mens moet zijn, is volgens The Verge niet duidelijk. Het volledige beleid staat op de website van Anthropic.