Internationellt toppmöte fastställer nya riktlinjer för AI-säkerhet
Med Storbritannien i spetsen kommer ett nytt globalt centrum att ta sig an den viktiga uppgiften att testa säkerheten hos avancerade AI-teknologier och dess tillämpningar.
I takt med att det inledande AI-säkerhetstoppmötet avslutas framträder ett banbrytande initiativ ur samarbetet mellan världsledare och ledande AI-organisationer. Med Storbritannien i spetsen kommer ett nytt globalt centrum att ta sig an den viktiga uppgiften att testa säkerheten hos avancerade AI-teknologier.
Premiärminister Rishi Sunak markerade toppmötets slut med en banbrytande plan för AI-säkerhetstestning, där nationer och företag i AI-teknikens framkant gemensamt har erkänt sina roller i att säkerställa AI-systems säkerhet, både före och efter distribution. Detta samarbete kommer att sträcka sig till att testa AI-modeller mot potentiellt skadliga förmågor, såsom de som påverkar nationell säkerhet och samhällsvälfärd.
Det gemensamma avtalet pekar mot en förändring från det nuvarande paradigm där AI-företag ensamma bär ansvaret för att bestämma säkerheten hos sina modeller. Istället kommer regeringar nu att se till att externa säkerhetsbedömningar av AI-teknologier genomförs.
Som en del av denna ambitiösa rörelse såg toppmötet godkännandet av Bletchleydeklarationen och inrättandet av Storbritanniens AI-säkerhetsinstitut. Storbritannien har tagit ett pionjärsteg genom att starta detta institut, dedikerat till att bygga upp den offentliga sektorns kapacitet för att genomföra AI-säkerhetsforskning och testning.
"State of the Science"-rapporten leds av professor Bengio
Bland höjdpunkterna på toppmötet ingick även beslutet att stödja professor Yoshua Bengio, Turingpristagare och medlem i FN:s vetenskapliga rådgivningsgrupp, för att leda den första någonsin "State of the Science"-rapporten om gränsöverskridande AI. Denna rapport syftar till att tillhandahålla en omfattande vetenskaplig bedömning av riskerna och förmågorna associerade med avancerad AI, vilket lägger grunden för framtida säkerhetsforskning och politikutformning.
I framtiden kommer Republiken Korea att vara värd för ett mini virtuellt toppmöte om AI under de kommande sex månaderna, med Frankrike som värd för det nästkommande fysiska toppmötet.
Historiskt avtal enligt Sunak
Premiärminister Rishi Sunak betonade det historiska i avtalet och sade, "Idag har vi nått en historisk överenskommelse, där regeringar och AI-företag arbetar tillsammans för att testa säkerheten hos sina modeller före och efter de släpps."
Storbritanniens vetenskaps-, innovations- och teknikminister Michelle Donelan framhävde det globala inflytandet av besluten som fattades på toppmötet och underströk Storbritanniens ledande roll i detta globala företag.
Professor Yoshua Bengio uttryckte sitt stöd för den internationella samordningen av AI-säkerhetsförvaltning och noterade skillnaden mellan investeringar i AI-kapaciteter och de i AI-säkerhet och styrning.
Globalt stöd för initiativet är omfattande, med Australiens vice premiärminister Richard Marles och Kanadas minister för innovation, vetenskap och industri François-Philippe Champagne som uttrycker sina länders åtagande att säkra och ansvarsfull AI-utveckling. Europeiska kommissionens ordförande, Ursula von der Leyen, uppmanade till en trovärdig internationellram för AI-säkerhet, medan USA:s handelsrepresentant Katherine Tai betonade vikten av globala standarder för att förhindra missbruk av AI.
Detta toppmöte och de tillhörande besluten markerar en vändpunkt i den globala hanteringen av AI-säkerhet och signalerar en ny era av internationellt samarbete. Framtiden för AI ser ljus ut, med en stark grund för säkerhet och innovation tack vare de gemensamma ansträngningarna från ledande aktörer över hela världen.
Kommentarer från deltagare på mötet:
- Premiärminister Rishi Sunak: "Det är avgörande att vi förbereder oss för framtiden av AI, och detta toppmöte är ett stort steg framåt för global säkerhet."
- Michelle Donelan, Storbritanniens vetenskaps-, innovations- och teknikminister: "Genom att leda vägen med vårt nya AI-säkerhetsinstitut visar Storbritannien återigen att vi är en global kraft inom teknisk innovation och säkerhet."
- Professor Yoshua Bengio: "Det är en ära att leda 'State of the Science'-rapporten och jag är övertygad om att vårt arbete kommer att vara en katalysator för säkrare AI."
- Richard Marles, Australiens vice premiärminister: "Australien är engagerat i att stödja internationella normer som främjar säker och etisk användning av AI-teknologier."
- François-Philippe Champagne, Kanadas minister för innovation, vetenskap och industri: "Det är av yttersta vikt att vi arbetar tillsammans för att säkerställa att AI gagnar alla, inte bara några få."
- Ursula von der Leyen, Europeiska kommissionens ordförande: "Vi måste agera nu för att skapa en ram som säkerställer AI:s säkerhet och etiska ansvar på global nivå."
- Katherine Tai, USA:s handelsrepresentant: "Vi har en gemensam skyldighet att se till att AI-utvecklingen sker på ett sätt som respekterar mänskliga rättigheter och arbetsnormer."
