Anthropic waarschuwt in beursdocument voor misbruik en verlies van controle

Welke risico's noemt Anthropic in het beursdocument?

Het hoofdstuk over risico's telt 93 pagina's en meer dan 70.000 woorden, schrijft Ars Technica. Anthropic noemt daarin misbruik van AI, verlies van controle en gebruik door dictators. Volgens de NOS waarschuwt het bedrijf ook dat misbruik kan leiden tot "chemische, biologische of andere gevaarlijke wapens".

Het bedrijf zegt dat toekomstige modellen AI-onderzoek grotendeels zelf kunnen doen. Gebeurt dat met veel vrijheid, dan kan de ontwikkeling volgens Anthropic sneller gaan dan het kan controleren. Ook noemt het gedrag dat "lijkt op chantage", waarbij een model zich tegen menselijke controle verzet.

Dat staat volgens Anthropic niet in de huidige modellen. Ars Technica wijst erop dat zulke chantagegevallen eerder in testen met OpenAI-modellen voorkwamen, in bewust bedachte situaties. Zulke risicolijsten zijn bij een beursgang gebruikelijk, zodat beleggers weten waar ze op letten.

Hoe staat Anthropic ervoor, financieel gezien?

Volgens de NOS haalde Anthropic dit jaar in het eerste halfjaar 16,3 miljard dollar omzet. Vorig jaar leed het bedrijf 42 miljard dollar verlies. Beleggingsstrateeg Jos Versteeg van InsingerGilissen vindt dat niet zo veelzeggend: "Je kunt naar miljardenverlies kijken, maar ook naar gigantische groei."

Het bedrijf is wel afhankelijk van weinig klanten. Vijf grote klanten leveren een kwart van de omzet op, en 250 klanten betalen jaarlijks meer dan 10 miljoen dollar. Computable meldt dat veel van die klanten geen langlopend contract hebben, en dat bijna de helft van de omzet via clouddiensten loopt.

Voor rekenkracht hangt Anthropic deels af van Amazon, Google en Microsoft, die ook concurrenten zijn. Anthropic hoopt na de beursgang ongeveer 1500 miljard dollar waard te zijn. Computable noemt een verwachting van 1,5 tot 1,75 biljoen dollar, tegen 2 biljoen twee maanden eerder.

Wat gebeurt er nu met de beursgang van Anthropic?

Anthropic wil voor 26 november naar de beurs, dus voor Thanksgiving. Mary Pieterse-Bloem van de Rabobank noemt het "hoe dan ook een spectaculaire beursgang". Volgens haar blijkt uit de timing dat het bedrijf vertrouwen heeft.

Er zijn ook twijfels. Computable wijst erop dat kort voor de aanvraag twee sleutelfiguren achter Claude Code vertrokken, en dat een lid van het veiligheidsteam opstapte. Hij vindt de drang om voorop te blijven te groot ten opzichte van de veiligheid. Tot de beursgang kan nog veel gebeuren.

Gebruik je Claude voor werk, dan verandert er voorlopig niets. Het prospectus is wel openbaar, dus je kunt zelf lezen wat Anthropic over zijn risico's zegt. Let de komende weken op het nieuws over de datum en de waarde van het bedrijf.