Nationer debatterar framtiden för AI-vapen vid FN

Nationer samlades vid FN:s generalförsamling i New York på måndag för att diskutera framtiden för AI-kontrollerade autonoma vapen och potentiella regleringar för deras användning. Experter varnar för en växande brådska, med hänvisning till både brist på internationell konsensus och begränsad tid.

Enligt Reuters, spelar AI redan en betydande roll i nuvarande konflikter, särskilt i regioner som Ukraina och Gaza. För några månader sedan avslöjade Ukraina att de hade samlat omkring 2 miljoner timmar av slagfältsmaterial för att träna AI-system.

Regelverk för AI-teknologier kämpar för att hänga med. Även om diskussioner om autonoma vapen har pågått vid Konventionen om vissa konventionella vapen (CCW) i Genève sedan 2014, har inga bindande globala regler fastställts hittills.

FN:s generalsekreterare António Guterres har satt 2026 som mål för att nå en internationell konsensus om en ny rättslig ram.

”Tiden håller verkligen på att rinna ut för att sätta upp några säkerhetsstängsel så att de mardrömsscenarier som några av de mest framstående experterna varnar för inte inträffar”, sa Alexander Kmentt, chef för vapenkontroll vid Österrikes utrikesministerium, till Reuters.

Förutom autonoma vapen kommer denna veckas möten att behandla andra kritiska ämnen såsom mänskliga rättigheter och etiska frågor, samt inblandning av icke-statliga aktörer. Medan de flesta länder stöder skapandet av ett bindande globalt ramverk, föredrar andra – såsom Kina, USA, Indien och Ryssland – att förlita sig på befintliga internationella lagar eller nationella riktlinjer.

Flera organisationer, inklusive Human Rights Watch, har uttryckt oro över spridningen av oreglerade autonoma vapen i olika regioner. Future of Life Institute har identifierat ungefär 200 autonoma vapensystem i bruk på platser som Afrika, Mellanöstern och Ukraina.

”Vi litar generellt inte på att industrier självreglerar… Det finns ingen anledning till att försvars- eller teknikföretag skulle vara mer förtroendeingivande,” sa kampanjaren Laura Nolan från Stop Killer Robots till Reuters.

Användningen av AI och autonoma system för att utveckla vapen vinner mark inom tech-industrin. Google hävde sitt förbud mot AI-användning för vapen för några månader sedan, kinesiska forskare har använt Meta’s Llama-modell för militära tillämpningar, och startupföretaget Theseus nyligen samlade in $4,3 miljoner för att utveckla autonoma drönare.