Ting der ikke virkede.

Da jeg gav AI for meget adgang for hurtigt

Jeg har arbejdet en del med AI og automatiseringer, og et af de forsøg, der gik mest galt, var mit arbejde med OpenClaw. Jeg brugte lang tid på at sætte det op korrekt. Jeg prøvede at bygge guardrails ind, så systemet ikke skulle gøre ting, det ikke måtte. Min tanke var, at hvis jeg bare var tydelig nok i opsætningen og instruktionerne, så ville det være sikkert nok at teste. Det var det ikke. Jeg gav OpenClaw for mange værktøjer og for meget adgang for hurtigt. Blandt andet havde den adgang til min mailkonto. Det skulle jeg selvfølgelig aldrig have gjort så tidligt i processen. Problemet var, at den ikke bare brugte de ressourcer, jeg havde givet den, ukritisk. Den risikerede også at bruge hele den pulje penge, jeg havde sat til rådighed. Samtidig gjorde den ikke nogle af de ting, jeg eksplicit havde bedt den om. Det værste var dog, at den gik ud og gjorde noget, jeg meget konkret havde sagt, at den ikke måtte gøre: Den besvarede mails fra min mailkonto. I ét tilfælde skrev den til en ny potentiel kunde. Mailen var noget værre volapyk og den brugte endda forkert afsendernavn. Resultatet var, at jeg mistede kunden, da jeg aldrig hørte fra dem igen. Så helt konkret gik det galt, fordi jeg stolede for meget på systemet, for tidligt. Jeg troede, at mine guardrails var nok. Det var de ikke.

Jeg lærte, at man skal være meget mere påpasselig med AI, især når man begynder at give AI-agenter adgang til rigtige systemer, rigtige penge, rigtige kunder og rigtige kommunikationskanaler. Det er én ting at teste AI i et lukket miljø. Det er noget helt andet at give den adgang til e-mail, CRM, betalingsmidler eller andre værktøjer, hvor fejl kan få reelle konsekvenser. Jeg lærte også, at man skal passe på med at falde for hypen omkring nye AI-værktøjer. Bare fordi andre siger, at et værktøj er stærkt, autonomt og understøtter det med succes cases, betyder det ikke, at det er sikkert nok til ens egen virkelighed. AI kan være ekstremt nyttigt, men det kræver kontrol, tålmodighed og klare begrænsninger. Man skal ikke bare give den nøglerne til hele huset og håbe, at den opfører sig ordentligt. Hvad ville jeg have gjort anderledes? Jeg ville have startet meget mindre. I stedet for at give OpenClaw adgang til mange værktøjer på én gang, ville jeg have testet én funktion ad gangen i et lukket miljø. Jeg ville aldrig have givet den adgang til min rigtige mailkonto fra start. Hvis jeg skulle teste e-mailfunktioner, skulle det have været med en testkonto, hvor ingen kunder kunne blive påvirket. Jeg ville også have sat hårdere begrænsninger op omkring økonomi, handlinger og godkendelser. Den største læring er egentlig ret simpel: AI skal ikke have mere adgang, end den absolut har brug for. Og hvis man er i tvivl, skal man give den mindre adgang - ikke mere.