Den første nat, hvor min AI-overvåger fik lov at arbejde alene, gik alle sikkerhedsporte, som de skulle. Der blev bare ikke udrettet noget. Hele nattens budget — to opgaver — røg til at rydde op efter systemets egne testrester fra generalprøven.
Det lyder som en fiasko. Det var det modsatte: bevis på, at grænserne holdt, og at den slags bommert bliver opdaget over morgenkaffen i stedet for at vokse i mørket.
Tillid i rater
Systemet — en natlig overvåger, der samler op, hvor dagens arbejde slap — fik ikke sin selvstændighed i ét hug. Først kørte det i tørtræning: Alle beslutninger blev truffet, ingen blev udført. Så blev dets forslag i en periode bedømt af et menneske. Først derefter fik det lov at udføre noget selv, med et loft på to opgaver per nat og fuld log til gennemsyn næste morgen. Loftet hæves, når flere nætter i træk har kørt rent — og kan sænkes igen med ét tal i en fil.
Inden den første rigtige nat havde planen desuden overlevet to runder af målrettet modspil fra en anden AI-model, som havde til opgave at finde huller i den. Det gav ni konkrete stramninger. Oveni kom en generalprøve med gyldigt, forældet og decideret meningsløst arbejde blandet i køen.
Og så kom natten, hvor det hele virkede — bortset fra at resterne fra generalprøven stadig lå og fyldte i køen. Systemet behandlede resterne korrekt, brugte sit budget på dem og rørte aldrig det rigtige arbejde. Oprydningen og en enkelt følgefejl var rettet inden næste nat.
Nat 1: 2 af 2 opgaver brugt på testrester · 0 rigtige opgaver rørt · alle porte holdt
Intet i drift på et nik fra en robot
Grundkontrakten er den samme i alt, hvad jeg bygger: Maskinerne må gerne forberede — undersøge, skrive udkast, foreslå, stille i kø. Men intet bliver deployet, publiceret eller slettet uden en menneskelig godkendelse. Autonomi er ikke en kontakt, man tænder. Det er tillid, der optjenes i rater, og som kan rulles tilbage.
For en virksomhed, der overvejer automatisering, er det formentlig den mest brugbare model: Start med forslag, ikke handlinger. Sæt et latterligt lavt loft. Læs loggen om morgenen. Og hæv først loftet, den dag gennemgangen er blevet kedelig — for den kedsomhed er selve beviset.
Den første nat udrettede min robot ingenting af værdi. Det var det mest betryggende, den kunne have gjort.