Η RadixArk, η startup πίσω από το SGLang, συγκεντρώνει κεφάλαια με αποτίμηση $400M. Μάθετε πώς η πρώην μηχανικός της xAI, Ying Sheng, οδηγεί την επανάσταση στο AI inference.
Μια σημαντική εξέλιξη σημειώνεται στον χώρο της τεχνολογίας, καθώς ένα βασικό μέρος της ομάδας που είναι υπεύθυνη για τη συντήρηση του SGLang προχωρά στο επόμενο βήμα. Το SGLang αποτελεί το δημοφιλές εργαλείο ανοιχτού κώδικα που χρησιμοποιείται από κορυφαίες εταιρείες, όπως η xAI και το Cursor, για την επιτάχυνση της εκπαίδευσης μοντέλων AI. Τα στελέχη αυτά έχουν μεταπηδήσει στην πρόσφατα ιδρυθείσα εμπορική νεοφυή εταιρεία της ομάδας, η οποία ονομάζεται RadixArk και ανακοινώθηκε επίσημα τον περασμένο Αύγουστο.
Η καινοτόμος RadixArk, η οποία ξεκίνησε την πορεία της ως SGLang το 2023 μέσα στο ερευνητικό εργαστήριο του UC Berkeley από τον συνιδρυτή της Databricks, Ion Stoica, φαίνεται να προσελκύει έντονο επενδυτικό ενδιαφέρον. Η εταιρεία αποτιμήθηκε πρόσφατα περίπου στα 400 εκατομμύρια δολάρια σε έναν νέο γύρο χρηματοδότησης, του οποίου ηγήθηκε η Accel, σύμφωνα με πληροφορίες από δύο άτομα που γνωρίζουν το θέμα. Αξίζει να σημειωθεί ότι το TechCrunch δεν μπόρεσε να επιβεβαιώσει το ακριβές ύψος της χρηματοδότησης.
Σημείωση: Η εταιρεία είχε προηγουμένως συγκεντρώσει κεφάλαια από επενδυτές-αγγέλους, συμπεριλαμβανομένου του Lip-Bu Tan της Intel, όπως ανέφεραν οι ίδιες πηγές.
Σε μια κίνηση στρατηγικής σημασίας, η Ying Sheng, βασική συντελεστής του SGLang και πρώην μηχανικός στην xAI, αποχώρησε από την εταιρεία AI του Elon Musk. Στόχος της είναι να αναλάβει καθήκοντα συνιδρύτριας και CEO της RadixArk, σύμφωνα με σχετική ανακοίνωσή της στο LinkedIn τον περασμένο μήνα. Η Ying Sheng διαθέτει πλούσια εμπειρία στον χώρο, καθώς ήταν προηγουμένως ερευνήτρια στην Databricks.
Μέχρι στιγμής, η Ying Sheng εκ μέρους της RadixArk, η Accel και ο Lip-Bu Tan δεν έχουν ανταποκριθεί σε αιτήματα για σχολιασμό σχετικά με τις εξελίξεις.
Η τεχνολογική αξία της RadixArk έγκειται στην εξειδίκευση. Τόσο το SGLang όσο και η RadixArk εστιάζουν στην κρίσιμη βελτιστοποίηση της διαδικασίας του "inference" (εξαγωγή συμπερασμάτων) — ουσιαστικά επιτρέποντας στα προηγμένα μοντέλα να τρέχουν γρηγορότερα και πιο αποδοτικά στον ίδιο εξοπλισμό.
Ο ανταγωνισμός στον τομέα εντείνεται. Το vLLM, ένα πιο ώριμο έργο για τη βελτιστοποίηση της εξαγωγής συμπερασμάτων, έχει επίσης μεταβεί από έργο ανοιχτού κώδικα σε μορφή νεοφυούς εταιρείας. Η νεοσύστατη αυτή εταιρεία έχει προχωρήσει σε συζητήσεις για την άντληση κεφαλαίων άνω των 160 εκατομμυρίων δολαρίων, με την αποτίμηση να αγγίζει περίπου το 1 δισεκατομμύριο δολάρια, όπως ανέφερε το Forbes τον περασμένο μήνα.
Τρία άτομα που γνωρίζουν τη συμφωνία ανέφεραν στο TechCrunch ότι η Andreessen Horowitz ηγείται της επένδυσης στο vLLM, αν και τα τελικά νούμερα αυτής της επένδυσης μένει να επιβεβαιωθούν. Η Andreessen Horowitz αρνήθηκε να σχολιάσει τις φήμες.
Ωστόσο, ο συνιδρυτής του vLLM, Simon Mo, χαρακτήρισε τις πληροφορίες σχετικά με αυτόν τον γύρο χρηματοδότησης ως «πραγματολογικά ανακριβείς» σε σχετική δήλωση, αφήνοντας ερωτηματικά για τις ακριβείς κινήσεις στην αγορά.
