AI Nieuws Vandaag
Paus Leo wil verbod op wapens die zelfstandig doden
Paus Leo vraagt de lidstaten van de Verenigde Naties om “concrete stappen” naar een verbod op dodelijke autonome wapens. Hij zegt dat AI “ontwapend” moet worden en dat “machines hulpmiddelen zijn, geen personen”.
Waarom het ertoe doet: Zijn oproep komt vlak voor een bijeenkomst van VN-landen in Genève, waar hij besluiten over leven, vrijheid en geweld onder menselijk toezicht wil houden.
Paus Leo XIV, het hoofd van de katholieke kerk, schreef in mei zijn eerste grote kerkelijke document over de bescherming van de mens in tijden van AI. Dodelijke autonome wapens zijn wapens die zonder tussenkomst van een mens zelf beslissen.
Wat zegt Paus Leo over AI en wapens?
Paus Leo XIV wil dat AI-systemen worden “ontwapend”. Volgens hem hebben mensen “de verantwoordelijkheid om de toepassingen ervan te sturen, te veranderen en, als het nodig is, af te wijzen”. Hij zei dat in een toespraak op vrijdag 30 oktober, schrijft The Verge.
Zijn boodschap is vooral gericht aan de lidstaten van de Verenigde Naties. Hij roept ze op om “concrete stappen te zetten naar een verbod op dodelijke autonome wapens”. Dat zijn wapens die zonder mens beslissen wie ze raken.
De paus noemt het ook gevaarlijk om AI-systemen rechten of een juridische status als persoon te geven. Zijn zin daarover is kort: “Machines zijn hulpmiddelen, geen personen”.
Wat wil Paus Leo dat er verandert bij beslissingen?
De paus trekt een duidelijke grens bij beslissingen over leven, vrijheid en geweld. Die moeten volgens hem “altijd onderworpen blijven aan effectief, geïnformeerd en verantwoordelijk menselijk toezicht”. Een machine mag dus niet het laatste woord hebben.
Aan het slot vraagt hij om internationale organisaties die het algemeen belang tegen risico’s van AI beschermen. Daarvoor noemt hij gezamenlijke normen, onafhankelijk toezicht en duidelijke regels voor verantwoording. Zo kunnen besluiten over AI worden onderzocht en aangevochten, en kan schade worden hersteld.
Nieuw is de lijn niet. Paus Franciscus vroeg in 2024 ook om een verbod en zei: “Geen enkele machine mag ooit kiezen om het leven van een mens te nemen.” Leo schreef in mei al zijn eerste grote kerkelijke document over het beschermen van de mens in tijden van AI.
Wat gebeurt er nu in Genève met dit verbod?
De VN-landen komen volgende maand bijeen in Genève. Daar landt de oproep van de paus. Wat zij beslissen, staat niet in de bron.
Een verbod is dus nog niet afgesproken. Het is een oproep, geen besluit, en landen bepalen zelf of ze meegaan.
Wil je zelf weten hoe dit verloopt, volg dan het nieuws over de bijeenkomst in Genève. Daar blijkt of de wens van de paus om beslissingen over leven en dood bij mensen te houden steun krijgt.
Gemeld door 1 bron: The Verge AI
Lees de bron (naar de bron)Klopt er iets niet?
Onderwerpen: Autonome wapensAI-veiligheid
Elke ochtend het AI-nieuws in je mail
Om 07:00 de belangrijkste berichten, in gewone taal. Gratis, en afmelden kan altijd met één klik. Je meldt je aan bij Buttondown, de dienst die de nieuwsbrief voor ons verstuurt.
