Η αλλαγή παραδείγματος στα LLMs
Σύμφωνα με τον Arvind Krishna, η αγορά της παραγωγικής τεχνητής νοημοσύνης (Generative AI) εισέρχεται σε μια νέα φάση. Ενώ το 2024 η υπεροχή των κλειστών frontier μοντέλων ήταν αδιαμφισβήτητη, η τρέχουσα κατάσταση δείχνει ότι τα open weight μοντέλα έχουν φτάσει σε ένα επίπεδο ωριμότητας όπου η διαφορά απόδοσης είναι πλέον οριακή. Για τυπικές εργασίες όπως η σύνοψη κειμένων ή η εξυπηρέτηση πελατών, η χρήση ακριβών μοντέλων δεν αποτελεί πλέον ορθολογική επιλογή.
Προκλήσεις στην υλοποίηση on-prem υποδομών
Παρά το οικονομικό πλεονέκτημα, η μετάβαση σε on-prem AI υποδομές δεν είναι απλή υπόθεση. Ο Krishna αναγνωρίζει ότι οι επιχειρήσεις δυσκολεύονται να βρουν το κατάλληλο ανθρώπινο δυναμικό για να διαχειριστούν:
- Τη βελτιστοποίηση του δικτύου για τη μείωση του latency.
- Τη σωστή τοποθέτηση των μοντέλων σε GPUs με υψηλή δικτυακή εγγύτητα.
- Τη στρατηγική caching για την επίτευξη υψηλού throughput.
Η IBM σκοπεύει να γεφυρώσει αυτό το χάσμα παρέχοντας το απαραίτητο software stack, το οποίο θα απλοποιεί το deployment και θα επιτρέπει την αξιοποίηση hardware όπως οι mainframes z17 και οι επιταχυντές Spyre.
Επιχειρηματική στρατηγική και cloud σταθερότητα
Ενώ το τμήμα λογισμικού της IBM, με αιχμή του δόρατος τη Red Hat, παρουσιάζει ισχυρή ανάπτυξη, η εταιρεία αντιμετωπίζει προκλήσεις στη διαθεσιμότητα των cloud υπηρεσιών της. Το πρόσφατο περιστατικό «έκτακτης συντήρησης» στο IBM Cloud, το οποίο επηρέασε το provisioning πόρων, αναδεικνύει την κρισιμότητα της σταθερότητας των υποδομών, ειδικά σε μια περίοδο όπου η IBM προσπαθεί να πείσει τους πελάτες της για την αξιοπιστία των on-prem και υβριδικών λύσεων που προτείνει.