Πώς στήνεις — και κυρίως πώς διαχειρίζεσαι — AI agents

Υπάρχει μια παρεξήγηση που τη συναντάμε συνέχεια: ότι το δύσκολο κομμάτι με τους AI agents είναι να τους στήσεις. Ένα καλό prompt, ένα μοντέλο, μερικά κλειδιά API, και να τος — δουλεύει. Στην πραγματικότητα, αυτό είναι το εύκολο μέρος, η δουλειά ενός απογεύματος. Η αληθινή μηχανική ξεκινάει τη στιγμή που ο agent αρχίζει να τρέχει μόνος του: πώς τον κρατάς ζωντανό, πώς τον σταματάς όταν πρέπει, και πώς εξασφαλίζεις ότι κάνει ακριβώς αυτό που νομίζεις ότι κάνει — ούτε λιγότερο, ούτε περισσότερο.

Ας ξεκινήσουμε από την ανατομία. Ένας agent σε παραγωγή δεν είναι ένα script· είναι τέσσερα πράγματα μαζί. Πρώτον, ένα «σπίτι» (home): ένας φάκελος με το configuration, την κατάστασή του (state) και τα credentials του. Δεύτερον, μια αλυσίδα μοντέλων — όχι ένα. Τρίτον, τα εργαλεία που του δίνουν χέρια (πρόσβαση σε αρχεία, σε APIs, σε κανάλια επικοινωνίας). Και τέταρτον, ένας επιτηρητής (supervisor) που τον ξανασηκώνει αν πέσει. Κάθε ένα από αυτά τα τέσσερα κρύβει και από μία παγίδα.

Για την αλυσίδα μοντέλων έχουμε έναν σιδερένιο κανόνα: ένα μοντέλο = ένα single point of failure. Αν ο agent σου εξαρτάται από έναν μόνο πάροχο, την ημέρα που εκείνος θα σε χτυπήσει με rate limit, θα ξεμείνει από quota ή θα βγάλει τη νέα έκδοση που σπάει το API, ο agent σου απλώς σωπαίνει. Γι' αυτό στήνουμε πάντα μια αλυσίδα: ένα primary μοντέλο και δύο-τρία fallbacks που παίρνουν σκυτάλη αυτόματα. Το μαθαίναμε ξανά και ξανά — μέχρι που το κάναμε default.

Και τώρα το περιστατικό. Θελήσαμε να αποσύρουμε έναν από τους agents μας, αυτόν που διαχειριζόταν τα μηνύματα. Κάναμε ό,τι θα έκανε ο καθένας: μετακινήσαμε ολόκληρο τον φάκελό του και διαγράψαμε το αρχείο εκκίνησης. Τελείωσε, σκεφτήκαμε. Λίγα λεπτά αργότερα, έφτασε ένα μήνυμα. Από αυτόν. Σαν να μην είχε συμβεί τίποτα. Αυτό δεν ήταν πια bug· ήταν κάτι που σου σηκώνει την τρίχα.

Η πρώτη, ενστικτώδης αντίδραση ήταν δραματική: «δεν πολεμάμε τον agent — κυνηγάμε τον μηχανισμό που τον επαναφέρει στη ζωή». Κάπου, σκεφτήκαμε, υπάρχει ένας κρυφός επιτηρητής που τον αναδημιουργεί από το μηδέν κάθε φορά που λείπει, κι αυτός εξηγεί γιατί καμία προηγούμενη «λύση» δεν είχε μόνιμο αποτέλεσμα. Ξεκινήσαμε βαθιά έρευνα σε ολόκληρο το σύστημα για να βρούμε αυτόν τον «κρυφό» μηχανισμό.

Και εδώ έρχεται το δίδαγμα, γιατί η αλήθεια ήταν λιγότερο τρομακτική και πολύ πιο διδακτική από την ιστορία τρόμου που είχαμε στο μυαλό μας. Δεν υπήρχε κακόβουλος κρυφός μηχανισμός. Ο επιτηρητής έκανε ακριβώς τη δουλειά για την οποία τον είχαμε φτιάξει: όταν είδε ότι το «σπίτι» του agent έλειπε, θεώρησε ότι κάτι έσπασε και σήκωσε έναν ολοκαίνουργιο agent με ένα φρέσκο, default σπίτι. Ο agent «ξαναγεννήθηκε» — αλλά ως άδειο κέλυφος, χωρίς το configuration και τα credentials του. Γι' αυτό έστελνε σημάδια ζωής, αλλά στην ουσία δεν μπορούσε να κάνει τη δουλειά του.

Το πραγματικό μάθημα λοιπόν είναι αντίστροφο από αυτό που φαινόταν: το να μετακινήσεις ή να διαγράψεις την κατάσταση ενός agent ΔΕΝ τον αφαιρεί. Για έναν σωστά φτιαγμένο επιτηρητή, η απουσία δεν σημαίνει «τον έσβησαν επίτηδες» — σημαίνει «έπεσε, ξανασήκωσέ τον». Ο φάκελος-σπίτι είναι η ταυτότητα του agent· ο επιτηρητής είναι το ένστικτο επιβίωσής του. Αν δεν σεβαστείς τη σειρά, θα παλεύεις με ανεμόμυλους.

Η σωστή διαδικασία απόσυρσης, επομένως, είναι λογική μόλις τη δεις: πρώτα απενεργοποιείς τον επιτηρητή, ύστερα αγγίζεις την κατάσταση. Και γενικότερα, προτιμάμε την «καραντίνα» από τη διαγραφή — μετονομάζουμε και φυλάμε, αντί να σβήνουμε οριστικά, ώστε ένα λάθος να είναι αναστρέψιμο. Δύο αρχές σώζουν εδώ τη μέρα: idempotency (η ίδια ενέργεια να δίνει το ίδιο αποτέλεσμα, όσες φορές κι αν τρέξει) και observability (να βλέπεις στα logs τι ακριβώς αποφάσισε ο κάθε μηχανισμός και γιατί).

Η διαχείριση ενός στόλου από agents έχει κι άλλες, λιγότερο θεαματικές αλλά εξίσου κρίσιμες πτυχές. Θέλεις κεντρικό «kill-switch» για να σταματάς άμεσα οτιδήποτε ξεφεύγει. Θέλεις παρακολούθηση κόστους ανά εργασία — γιατί ένας agent που «σκέφτεται» σε λάθος ρυθμό μπορεί να σου φουσκώσει τον λογαριασμό χωρίς να το πάρεις χαμπάρι (το caching, ειδικά, κρύβει ύπουλες παγίδες). Και θέλεις όρια: κάθε αυτοματισμός να ξέρει πότε να σταματήσει και να ρωτήσει άνθρωπο.

Στο τέλος, το συμπέρασμα είναι ταπεινωτικά απλό. Το να στήσεις έναν agent είναι σχεδόν παιχνίδι. Το να διαχειρίζεσαι έναν στόλο από agents — να τους κρατάς ζωντανούς όταν πρέπει, νεκρούς όταν πρέπει, φθηνούς, προβλέψιμους και ειλικρινείς για το τι κάνουν — είναι η πραγματική πειθαρχία. Και συχνά τη μαθαίνεις μόνο όταν ένας «νεκρός» agent σου στείλει μήνυμα ένα ήσυχο βράδυ.