Den ideella kodplattformen Codeberg förbjuder nu projekt som till största delen består av AI-genererad kod. Beslutet grundas på osäker upphovsrätt, säkerhetsrisker och svårigheten att avgöra vem som egentligen ansvarar för programvaran.
Den ideella kodplattformen Codeberg inför nya regler för programvara som har skapats med hjälp av generativ artificiell intelligens. Projekt där merparten av källkoden har skrivits av AI-verktyg får inte längre lagras på plattformen.
Codeberg är en tjänst för fri programvara och projekt med öppen källkod. Plattformen drivs utan vinstsyfte och bygger på programvaran Forgejo, som är ett öppet alternativ till bland annat GitHub.
Den nya begränsningen har lagts till i Codebergs användarvillkor efter att frågan diskuterats och godkänts genom organisationens gemensamma beslutsprocess. Regeln omfattar kod som huvudsakligen har skapats av generativa AI-tjänster, exempelvis Claude och OpenAI Codex.
Oklart vem som äger AI-skapad kod
Ett av Codebergs viktigaste argument handlar om upphovsrätt.
Generativa AI-system tränas på mycket stora mängder text och programkod. I många fall är det svårt att veta exakt vilket material som har använts vid träningen och vilka licenser som gäller för det ursprungliga materialet.
Det skapar flera obesvarade frågor. Kan AI-genererad kod innehålla delar som liknar upphovsrättsskyddad kod? Vem bär ansvaret om sådan kod publiceras? Kan den som använder AI-verktyget verkligen ge programmet en giltig licens?
Codeberg anser att den juridiska situationen fortfarande är för osäker för att plattformen ska tillåta projekt som till största delen består av AI-genererat innehåll.
Risk för skadlig och osäker kod
Codeberg lyfter även fram säkerheten.
Ett generativt AI-system förstår inte programkod på samma sätt som en erfaren utvecklare. Systemet skapar i stället svar genom att beräkna vilka ord, symboler och kodrader som sannolikt bör följa efter varandra.
Resultatet kan se korrekt och professionellt ut, trots att programmet innehåller allvarliga fel. Det kan exempelvis handla om säkerhetshål, felaktig hantering av lösenord eller kod som använder gamla och osäkra funktioner.
AI-verktyg kan dessutom producera skadlig kod, antingen avsiktligt efter en instruktion eller oavsiktligt genom ett felaktigt förslag. Enligt Codeberg har dagens AI-tjänster inte tillräckligt starka skydd för att garantera att större automatiskt skapade projekt är säkra.
I användarvillkoren skriver Codeberg att användare inte får dela projekt som huvudsakligen består av kod skriven av generativa AI-verktyg. Som skäl anges både den oklara upphovsrätten och risken för skadligt innehåll.
All användning av AI förbjuds inte
Den nya regeln innebär inte att utvecklare helt måste avstå från AI.
Det är fortfarande tillåtet att använda AI som ett begränsat hjälpmedel. En programmerare kan exempelvis be ett AI-system att förklara ett felmeddelande, föreslå hur en enskild funktion kan förbättras eller hjälpa till att skriva dokumentation.
Begränsningen gäller projekt där AI har producerat huvuddelen av själva källkoden.
Gränsen är dock inte särskilt tydlig. Codeberg har inte angett någon exakt procentsats för hur stor del av ett projekt som får vara AI-genererad. Det framgår inte heller hur kod som har skapats gemensamt av människor och AI ska bedömas.
Mänsklig granskning verkar inte räcka
Reglernas formulering innehåller inget tydligt undantag för kod som först har skapats av AI och därefter granskats av en människa.
Det innebär att ett projekt kan omfattas av förbudet även om utvecklaren har läst, testat och förstått varje kodrad. Den avgörande frågan verkar vara vem eller vad som ursprungligen skapade huvuddelen av koden.
Detta kan bli svårt att hantera i praktiken. Modern programutveckling sker ofta i flera steg. En utvecklare kan låta AI skapa ett första förslag, ändra stora delar av det och sedan bygga vidare manuellt.
När är koden då fortfarande AI-genererad? Codebergs regler ger ännu inget tydligt svar.
Svårt att upptäcka AI-skriven kod
Det finns i dag ingen helt pålitlig metod för att avgöra om ett program har skrivits av en människa eller av ett AI-system.
Till skillnad från bilder och vanlig text innehåller programkod ofta fasta strukturer och återkommande lösningar. Två utvecklare kan därför skriva mycket liknande kod utan att någon har kopierat den andra.
AI-genererad kod kan också redigeras, döpas om och blandas med mänskligt skriven kod. Efter tillräckligt många ändringar kan det vara nästan omöjligt att fastställa hur den första versionen skapades.
Codeberg har ännu inte förklarat hur plattformen ska upptäcka regelbrott eller vilken typ av bevis som kommer att krävas.
Det är därför möjligt att reglerna främst kommer att användas mot projekt som öppet beskriver sig som helt eller nästan helt AI-genererade.
En annan väg än GitHub
Codebergs beslut går i motsatt riktning jämfört med utvecklingen hos den kommersiella konkurrenten GitHub.
GitHub har under de senaste åren byggt in allt fler AI-funktioner för programmerare. AI-assistenter kan föreslå kod, besvara frågor om projekt och i vissa fall arbeta mer självständigt med programmeringsuppgifter.
Medan GitHub ser generativ AI som en central del av framtidens programutveckling väljer Codeberg alltså att dra en tydlig gräns.
Skillnaden speglar två olika synsätt. Det ena betonar snabbare utveckling och automatisering. Det andra lägger större vikt vid upphovsrätt, säkerhet, mänsklig kontroll och möjligheten att förstå hur ett program har skapats.
Kan påverka fler plattformar
Codebergs beslut är ett av de tydligaste exemplen hittills på en kodplattform som begränsar AI-genererad programvara i sina användarvillkor.
Plattformen nöjer sig inte med att rekommendera försiktighet eller kräva att AI-användning redovisas. Projekt som huvudsakligen har skapats av generativ AI måste i stället publiceras någon annanstans.
Det återstår att se hur reglerna kommer att fungera i praktiken. Codeberg behöver bland annat avgöra vad ordet ”huvudsakligen” betyder, hur misstänkta projekt ska granskas och hur utvecklare ska kunna försvara sig mot felaktiga anklagelser.
Beslutet visar samtidigt att frågan om AI-genererad kod inte bara är teknisk. Den handlar även om juridiskt ansvar, säkerhet, förtroende och vilken roll människor ska ha i framtidens programutveckling.
https://codeberg.org/Codeberg/org/pulls/1253/commits/96fac426a32d1ba91ff879366d59bf1af54080c2
Fakta: Codebergs nya AI-regel
Plattform: Codeberg
Inriktning: Ideell Git-plattform för fri programvara och projekt med öppen källkod.
Ny regel: Projekt som huvudsakligen består av kod skapad med generativa AI-verktyg får inte längre publiceras på plattformen.
Exempel på AI-verktyg: Claude och OpenAI Codex.
Codebergs motivering: AI-genererad kod kan ha oklar upphovsrättslig status och innehålla säkerhetsproblem eller skadlig kod.
Begränsad AI-hjälp: Det är fortfarande tillåtet att använda AI som hjälpmedel, så länge AI inte har skapat huvuddelen av projektets kod.
Oklart: Codeberg har ännu inte förklarat exakt hur AI-genererad kod ska identifieras eller hur ordet ”huvudsakligen” ska bedömas.
