GPT-SW3: Sveriges första AI-språkmodell nu tillgänglig för alla

AI Sweden, det nationella centret för artificiell intelligens, har äntligen lanserat GPT-SW3, den första omfattande språkmodellen för svenska och andra nordiska språk. GPT-SW3, som har tränats på en stor mängd svenska texter, erbjuds nu fritt för företag och organisationer att integrera i sina produkter och tjänster.

Varför GPT-SW3 är revolutionerande?

GPT-SW3 är mer än bara en teknisk innovation; det är en viktig pusselbit för att frigöra det enorma värde som AI kan skapa. Martin Svensson, Managing Director på AI Sweden, betonar modellens betydelse för att driva AI-framsteg. GPT-SW3 finns i sex olika storlekar, från 126 miljoner till 40 miljarder parametrar, vilket visar dess anpassningsförmåga för olika användningsområden.

Vad kan GPT-SW3 göra?

Denna generativa, förtränade modell utnyttjar sin omfattande analys av svenska texter för att skapa och komplettera text på ett intelligent sätt. Från att vara en grund för utveckling av chattbotar till att sammanfatta dokument, är GPT-SW3 en mångsidig grund för flera applikationer, inklusive textanalys, klassificering och innehållsmoderering. Dess öppna licens och tillgänglighet via AI Swedens kodbibliotek på HuggingFace gör den lättillgänglig för utvecklare.

Så startade arbetet med GPT-SW3

Det är värt att notera att utvecklingen av språkmodeller har genomgått en dramatisk förändring sedan 2017, med introduktionen av Transformer-nätverksarkitekturen. Denna utveckling kulminerade med Open AIs GPT-3, en modell med 175 miljarder parametrar som förändrade spelreglerna för NLP (Natural Language Processing).

GPT-SW3: Ett svenskt genombrott

GPT-SW3, inspirerad av GPT-3, är specialbyggd för att generera text på svenska och är utformad för att fungera i zero-shot och few-shot scenarier. Utvecklad av AI Swedens NLU-forskningsgrupp och dess samarbetspartners, är GPT-SW3 ett bevis på Sveriges framsteg inom AI.

Den tekniska bedriften bakom GPT-SW3

Att utveckla en modell i denna skala är en teknisk bedrift, där Sveriges enda dator som är tillräckligt kraftfull för uppgiften, Berzelius vid Linköpings universitet, spelar en central roll. Denna Nvidia DGX SuperPOD, donerad av Knut och Alice Wallenberg-stiftelsen, är avgörande för att träna modeller som GPT-SW3.