Ordern och innehållet är samma text – därför går promptinjektion inte att laga
Promptinjektion liknas ofta vid SQL-injektion. Men språkmodellen saknar gränsen mellan order och data, och det avgör vad en AI-agent kan anförtros.
Tekniken bakom de digitala systemen
AI och språkmodeller, programmering, systemarkitektur, öppen källkod, lokala modeller och den hårdvara allt vilar på – och var gränserna för det tekniskt möjliga faktiskt går.
Promptinjektion liknas ofta vid SQL-injektion. Men språkmodellen saknar gränsen mellan order och data, och det avgör vad en AI-agent kan anförtros.
Sverige vill ha egna språkmodeller och mer beräkningskraft. Kan öppna AI-modeller på egen infrastruktur minska beroendet av ett fåtal globala jättar?
AI-assistenter skriver allt mer kod, och forskningen visar att de skriver in sårbarheter. Juridiskt är ansvaret tydligt – i praktiken saknar det ofta adress.
AI-burken använder Google Analytics för att se vilka sidor som läses. Statistikcookies sätts bara om du godkänner dem, och valet kan ändras när som helst under Cookieinställningar längst ned på sidan. Läs integritetspolicyn