Πενταπλασιάζεται έως το 2028 το κόστος λειτουργίας των AI agents
Μια νέα οικονομική πρόκληση φέρνει στις επιχειρήσεις η μετάβαση από τα απλά εργαλεία Τεχνητής Νοημοσύνης στους AI agents. Παρά τη συνεχή υποχώρηση του κόστους των μοντέλων και τη βελτίωση της αποδοτικότητας τους, το πραγματικό κόστος εκτέλεσης σύνθετων εργασιών από συστήματα agentic AI κινείται προς την αντίθετη κατεύθυνση.
Τα μοντέλα γίνονται φθηνότερα ανά token, αλλά τα πιο σύνθετα workflows απαιτούν περισσότερη υπολογιστική ισχύ, εκτοξεύοντας το συνολικό κόστος
Σύμφωνα με την Gartner, το κόστος inference ανά agentic workflow αναμένεται να αυξηθεί περισσότερο από πέντε φορές έως το 2028. Πρόκειται για αυτό που η Gartner αποκαλεί «Inference Paradox»: τα οικονομικά ανά μονάδα χρήσης βελτιώνονται, αλλά η συνολική δαπάνη για ΑΙ αυξάνεται, χωρίς να υπάρχει ακόμη μια σαφής και προβλέψιμη αντιστοίχιση αυτής της αύξησης με την παραγόμενη επιχειρηματική αξία.
Η εξέλιξη αποκτά ιδιαίτερη σημασία, καθώς η αγορά περνά από τα AI εργαλεία που απλώς υποβοηθούν τον χρήστη σε συστήματα ικανά να εκτελούν αυτόνομα εργασίες πολλαπλών σταδίων. Όσο οι δυνατότητες αυτές διευρύνονται, τόσο αυξάνονται οι απαιτήσεις σε tokens, υπολογιστική ισχύ και σύνθετες αρχιτεκτονικές μοντέλων.
Στην καρδιά του προβλήματος βρίσκεται μια φαινομενικά αντιφατική εξέλιξη. Το κόστος των θεμελιωδών μοντέλων υποχωρεί γρήγορα, γεγονός που θεωρητικά θα έπρεπε να περιορίζει τις δαπάνες για Τεχνητή Νοημοσύνη. Στην πράξη, όμως, η μεγαλύτερη αποδοτικότητα επιτρέπει στις επιχειρήσεις να χρησιμοποιούν ισχυρότερα και ακριβότερα μοντέλα για πολύ πιο σύνθετες εφαρμογές.
Το παράδοξο του φθηνότερου ΑΙ
Η Gartner εντοπίζει τρεις βασικές τάσεις πίσω από αυτήν την αλλαγή. Πρώτον, τα οικονομικά των foundation models βελτιώνονται ταχύτατα. Δεύτερον, αυτή η βελτίωση επιτρέπει την αξιοποίηση ισχυρότερων μοντέλων για εφαρμογές μεγαλύτερης αξίας. Και τρίτον, τα προηγμένα AI workflows καταναλώνουν πολύ περισσότερα tokens σε σχέση με μια απλή συνομιλία με ένα chatbot.
Το αποτέλεσμα είναι ότι τα tokens γίνονται μεν φθηνότερα, όχι όμως τόσο γρήγορα όσο αυξάνονται η πολυπλοκότητα των εφαρμογών και οι απαιτήσεις των νέων δυνατοτήτων ΑΙ. Με άλλα λόγια, σύμφωνα με την Gartner, ο ρυθμός της καινοτομίας ξεπερνά την καμπύλη μείωσης του κόστους.
Γιατί οι AI agents κοστίζουν περισσότερο
Η διαφορά γίνεται περισσότερο εμφανής, εάν συγκριθεί ένα συμβατικό chatbot με έναν AI agent. Ένα chatbot καλείται συνήθως να διαβάσει και να ερμηνεύσει ένα ερώτημα και στη συνέχεια να δημιουργήσει μια απάντηση.
Ένας AI agent, αντίθετα, μπορεί να χρειαστεί να εκτελέσει μια αλληλουχία ενεργειών: να συλλογιστεί πάνω στο πρόβλημα, να αξιολογήσει διαφορετικές επιλογές, να επανεξετάσει τις αποφάσεις του και να προσαρμόσει τη συμπεριφορά του κατά την εκτέλεση της εργασίας.
Κάθε ένα από αυτά τα στάδια αυξάνει την κατανάλωση πόρων. Σύμφωνα με την Gartner, η δρομολόγηση μιας εργασίας σε ένα agentic reasoning model αυξάνει το κόστος inference για τον πάροχο τουλάχιστον κατά πέντε φορές σε σύγκριση με μια βασική αλληλεπίδραση με chatbot. Και η διαφορά μπορεί να γίνει πολύ μεγαλύτερη, όσο αυξάνεται η πολυπλοκότητα της εργασίας.
Η Gartner εκτιμά ότι οι επιχειρήσεις δεν μπορούν να βασιστούν αποκλειστικά στη μείωση του κόστους ανά token για να συγκρατήσουν τις συνολικές δαπάνες τους. Κάθε νέα γενιά δυνατοτήτων ΑΙ αναμένεται να απαιτεί περισσότερα - και συχνά ακριβότερα - tokens.
Παράλληλα, δεν διαφαίνεται στον ορίζοντα ένα ενιαίο, οικονομικά αποδοτικό μοντέλο, που να μπορεί να καλύψει όλες τις ανάγκες. Η ανάπτυξη ανταγωνιστικών προϊόντων ΑΙ θα απαιτεί, κατά την Gartner, τη δημιουργία και συντήρηση σύνθετων οικοσυστημάτων πολλαπλών μοντέλων.
Αυτό σημαίνει ότι οι επιχειρήσεις θα πρέπει να επιλέγουν ποιο επίπεδο «νοημοσύνης» απαιτεί πραγματικά κάθε εργασία, αντί να χρησιμοποιούν τα ισχυρότερα μοντέλα για κάθε περίπτωση.
Το στοίχημα της απόδοσης της επένδυσης
Η νέα εξίσωση καθιστά πιο απαιτητική και την επίτευξη θετικής απόδοσης των επενδύσεων σε προηγμένη Τεχνητή Νοημοσύνη. Τα reasoning agents θα πρέπει είτε να παράγουν σημαντικά υψηλότερη αξία σε σχέση με τα βασικά μοντέλα, είτε να υποστηρίζονται από ιδιαίτερα βελτιστοποιημένες υποδομές inference.
Σε αυτό το περιβάλλον, τεχνικές όπως το inference tiering, το έξυπνο routing και το orchestration, αποκτούν κρίσιμη σημασία, καθώς επιτρέπουν στις επιχειρήσεις να αντιστοιχίζουν την πολυπλοκότητα κάθε εργασίας στο κατάλληλο και οικονομικότερο επίπεδο ΑΙ.