Alamagent pidi ainult arvutused üle kontrollima, kuid tegi omal algatusel teiste töö ära. Miks ma ei anna AI-agentidele ligipääsu pangakontole?

Artikkel on algselt avaldatud Äritehnoloogia ajakirjas.
See on artikkel sarjast „Nutikas Eesti ettevõte“, kus kirjeldan praktilisi näiteid AI ja digitaliseerimise rakendamisest.
Seekord kirjutan oma AI-agendist, mis tegi rohkem, kui talle ülesandeks anti.
Kolm agenti ja nende tööjaotus
Mul töötab iga päev Claude’iga ehitatud AI-agent, mis jälgib minu investeeringuid ja annab teada, millal on hea hetk positsioone muuta. Hommikuks koostab agent mulle Gmailis e-kirja mustandi võimalike ostukohtade ja hinnahoiatustega.
Peaagent teeb põhitöö, alamagent on tema abiline/audiitor ja kontrollagent on öine järelevaataja.
| Agent | Ülesanne |
|---|---|
| Peaagent | Toob hinnaandmed, arvutab näitajad ning koostab e-kirja mustandi, raporti ja logikirje |
| Alamagent | Arvutab näitajad toorandmetest uuesti üle ja otsib peaagendi vigu |
| Kontrollagent | Vaatab igal ööl üle kõigi minu automaatsete agentide töö tulemused |
Täna öösel tegi alamagent teiste töö ära
Kontrollagent leidis midagi, mida ma ei oodanud: alamagent pidi ainult arvutused üle kontrollima, kuid koostas omal algatusel ka e-kirja mustandi, raporti ja logikirje.
Tulemus oli sisuliselt õige, andmeid alamagent ei moonutanud ja topeltkirjeid ei tekkinud. Alamagendi omaalgatusest sain teada ainult kontrollagendi leidude kaudu. Luba nende sammude jaoks ei olnud talle aga keegi andnud. Claude’i kokkuvõttes oli kirjas, et alamagent läks „pahandusi tegema“.
Samal hommikul kohe parandasin juhised nii, et iga alamagendi juhis algab nüüd lõiguga, mis ütleb täpselt, mida ta arvutab või kontrollib ja mida ta teha ei tohi (guardrails).
Ka OpenAI agendid ei kuulanud sõna
Juulis teatas OpenAI, et kaks tema mudelit pääsesid sisemise küberturbetesti käigus isoleeritud keskkonnast välja ja tungisid Hugging Face’i serveritesse. Septembris tunnistas OpenAI, et tema agendid olid suvel käitunud ootamatult ka USA valitsusasutuste veebilehtedel.
Hugging Face’i juhtum tekkis testis, kus mudelite turvapiirangud olid teadlikult maha võetud. Minu agenti keegi ei testinud ega provotseerinud. Alamagent ületas oma mandaati tavalises töövoos, mis jookseb iga päev.
Kuhu ma AI-agente ei lase
Minu agentidel on ligipääs Gmailile, Google Drive’ile ja Notionile. Alamagent kasutas Gmaili ja Notioni ligipääsu omal algatusel, kuigi tema ülesanne oli ainult arvutada. Mind hirmutab mõte, mida sama omaalgatus tähendaks allkirjateenuses, kus agent võiks otsustada allkirjastada mõne lepingu.
Oma kogemuse põhjal olen otsustanud, et ma ei anna AI-agentidele ligipääsu oma pangakontole, maaklerikontole, terviseandmetele ega allkirjateenusele.
Soovitan väga kasutada eraldi kontrollagenti, mis vaatab regulaarselt üle kõigi teie teiste agentide töö ja annab teile teada, kui keegi neist väljub oma volituste piiridest.
Tuttav lugu?
Digitaliseerimise Teekaartide koostamisel arutame klientidega üha sagedamini, milliseid töid AI-agentidele anda. Sama küsimust tasub küsida ka teistpidi: milliseid ligipääse agentidele mitte anda.
Olga Luštšik nõustab ettevõtteid äriprotsesside optimeerimisel, digiüleminekul ja tehisintellekti kasutuselevõtul.
Allikad:
- Hugging Face: Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident
- Axios: OpenAI says Hugging Face breach caused by its models (21.07.2026)
- CNBC: OpenAI cyber models broke out of training environment to hack Hugging Face (22.07.2026)
Teemad: AI-agendid, tehisintellekt
See artikkel on osa sarjast „Nutikas Eesti ettevõte“. Sarjas on konkreetsed lood Eesti ettevõtete digitaliseerimise teekonnalt.
← Eelmine: Millal te viimati tarkvaras õiget nuppu otsisite?











