ai-infra-guide: Ολοκληρωμένη βάση γνώσης για την αρχιτεκτονική AI infrastructure από το GPU έως το inference

Τι είναι και τι πρόβλημα λύνει

Στην εποχή των Large Language Models (LLMs), η υποδομή τεχνητής νοημοσύνης (AI infrastructure) εξελίσσεται σε κομβικό μηχανικό πυλώνα. Ωστόσο, η ταχύτατη τεχνολογική εξέλιξη αφήνει συχνά τους μηχανικούς χωρίς δομημένη βιβλιογραφία. Το project αυτό οργανώνει το χάος των τεχνολογιών σε μία ενιαία πηγή, καλύπτοντας το υλικό (hardware), τους compilers και τα frameworks.

Βασικά χαρακτηριστικά

• Πλήρης στοίβα (Full-stack coverage): Καλύπτει CUDA programming, κατανεμημένη εκπαίδευση (distributed training) με DDP, FSDP και 3D parallelism, καθώς και τεχνικές inference optimization όπως PagedAttention και κβαντισμός (quantization).
• Ενότητα συνεντεύξεων (Interview prep): Περιλαμβάνει 180+ πραγματικά ερωτήματα από συνεντεύξεις σε περισσότερες από 60 εταιρείες τεχνολογίας.
• Πρακτική προσέγγιση: Ανάλυση εργαλείων performance profiling όπως τα Nsight Systems και Nsight Compute.

Σε ποιους απευθύνεται

Απευθύνεται σε ML infrastructure engineers, systems developers και μηχανικούς λογισμικού που επιθυμούν να εμβαθύνουν στα internals της εκπαίδευσης και εκτέλεσης μοντελων παραγωγικής τεχνητής νοημοσύνης (Generative AI).