Anthropic verbiedt nepaccounts en wapensoftware nadrukkelijker in nieuwe regels

Wat verandert er voor nepaccounts en verkiezingen?

Anthropic bundelt zijn regels tegen nepaccounts in één nieuw onderdeel. Dat heet "Do Not Engage in Deceptive Campaigns or Artificial Activity". Het geldt voor misleiding van elke soort, politiek of commercieel.

Aanleiding is wat het bedrijf zelf zag. Staatsmedia, propagandabureaus van overheden en commerciële bedrijven gebruikten Claude om netwerken van nepaccounts en verzonnen nieuwssites te runnen. Dat was al verboden, schrijft Anthropic, maar de regels stonden verspreid over meerdere onderdelen.

Het onderdeel over verkiezingen wordt juist smaller. Het richt zich nu op het misleiden van kiezers, zoals valse informatie over kandidaten of over hoe je stemt. Een algemeen verbod op gerichte stem- en campagneboodschappen is geschrapt, omdat het ook nuttig werk trof. Denk aan een non-profit die kiezersinformatie in andere talen schrijft.

Nieuwe regels

Wat mag Claude niet meer bij wapens en bewaking?

Wapens ontwikkelen was al verboden. Anthropic zag recent dat mensen Claude vroegen om besturingssoftware voor wapens te bouwen. Nu staat er uitdrukkelijk dat het verbod ook geldt voor software en onderdelen waarmee wapens werken, en voor het bewapenen van drones en andere zelfrijdende voertuigen.

Ook bij bewaking is de tekst scherper geworden. Mensen volgen zonder hun toestemming mag niet, live of via eerder verzamelde gegevens. Claude mag ook niet bepalen of adviseren wie de politie of justitie moet onderzoeken, arresteren of vervolgen.

Volgens Anthropic verandert er in de praktijk niets aan de handhaving, de tekst is alleen explicieter. Toegestaan blijft volgen waarmee mensen hebben ingestemd, zoals fraudecontrole, en ook het modereren van berichten, journalistiek en juridisch onderzoek.

Wat moet je bij gezondheid en geld met Claude?

Wie Claude inzet voor zaken die iemands gezondheid, rechten, geld, inkomen of toegang tot basisdiensten raken, houdt dezelfde plichten. Er moet een deskundige mens meekijken die Claudes advies mag beoordelen en zo nodig aanpassen. En de betrokkene moet horen dat AI is gebruikt.

Anthropic zegt dat die eisen niet zijn veranderd. De bron noemt wel dat de eisen voor deze risicovolle toepassingen nu duidelijker zijn opgeschreven. Het bedrijf voegt ook regels toe voor het geval Claude zelfstandig fysieke handelingen uitvoert, en voor misbruik tegenover de modellen zelf.

De nieuwe regels gaan in op 12 november. Gebruik je Claude voor werk met zulke gevolgen, lees dan vooraf het volledige gebruiksbeleid op de site van Anthropic. Zo weet je of jouw toepassing aan de eisen voldoet.