برای سال‌ها، مسابقه CPU مراکز داده حول یک پرسش نسبتاً ساده می‌چرخید: چند هسته در یک سرور جا می‌شود، و همزمان چقدر کار می‌توانند انجام دهند؟ انویدیا اکنون استدلال می‌کند که این تلاش برای مقیاس، بهایی داشته که با خودمختارتر شدن سیستم‌های هوش مصنوعی اهمیت بیشتری پیدا می‌کند.
آیا صنعت CPU بیش از حد به تعداد هسته‌ها وسواس پیدا کرد؟
در مصاحبه‌ای با Wccftech، تیم Vera شرکت گفت که چرخش صنعت به سمت طراحی‌های مبتنی بر چیپلت و تعداد هسته‌های بالاتر، به قیمت عملکرد تک‌رشته‌ای و دستورالعمل در هر چرخه (IPC) تمام شده است. چون ایجنت‌های هوش مصنوعی خواستار اجرای سریع‌تر بین مراحل متوالی استدلال هستند، انویدیا معتقد است CPU نیاز به بازنگری دارد.
با رشد مراکز داده ابری، تراشه‌سازان بر چپاندن هسته‌های بیشتر در سرورها تمرکز کردند تا همزمان بارهای کاری بیشتری را مدیریت کنند. طراحی‌های چیپلتی با تقسیم یک پردازنده روی چند دای کوچک‌تر به‌جای ساخت همه‌چیز روی یک دای بزرگ‌تر این کار را ممکن کردند. اما تیم Vera انویدیا استدلال می‌کند که این رویکرد بهایی دارد. جابه‌جایی داده بین دای‌ها می‌تواند تأخیر ارتباطی اضافه کند و دسترسی به حافظه را پیچیده‌تر سازد، و به‌طور بالقوه محدود کند که هر هسته چقدر می‌تواند عملکرد تک‌رشته‌ای ارائه دهد. این چیپلت‌ها را به گزینه طراحی بدی تبدیل نمی‌کند، اما انویدیا معتقد است فشار صنعت برای هسته‌های بیشتر به قیمت هسته‌های تک‌تک سریع‌تر تمام شده است.
«…چیزی که در این مدت از نظر طراحی CPU آسیب دید واقعاً عملکرد تک‌رشته‌ای و IPC بود، چون وقتی چیپلت به کار می‌برید، عملاً فضایی روی تراشه ندارید تا برای عملکرد هر هسته طراحی کنید.»
هوش مصنوعی ایجنتی این معادله را تغییر می‌دهد. برخلاف چت‌باتی که صرفاً پاسخی تولید می‌کند، یک ایجنت هوش مصنوعی ممکن است نیاز داشته باشد کد اجرا کند، ابزارهای بیرونی را فراخوانی کند، اطلاعات را بازیابی کند، نتایج را تحلیل کند و سپس تصمیم بگیرد قدم بعدی چیست. در حالی که برخی کارها می‌توانند همزمان اجرا شوند، برخی دیگر باید پیش از شروع مرحله بعد تمام شوند. اینجاست که عملکرد تک‌رشته‌ای، یا سرعتی که یک CPU می‌تواند کار را روی یک رشته پردازش کند، مهم می‌شود. انویدیا استدلال می‌کند که اجرای سریع‌تر و تأخیر کمتر می‌تواند به ایجنت‌ها کمک کند این مراحل را سریع‌تر طی کنند.
یک اثر زنجیره‌ای هم برای GPUها وجود دارد. اگر CPU برای آماده‌کردن کار بعدی یا پردازش خروجی یک ایجنت بیش از حد طول بکشد، GPU ممکن است در انتظار دستورالعمل بیکار بماند و ظرفیت محاسباتی ارزشمندی هدر رود. صرف افزودن هسته‌های بیشتر CPU لزوماً این مشکل را حل نمی‌کند اگر کارهای تکی کند بمانند. انویدیا استدلال می‌کند که هوش مصنوعی ایجنتی به تعادل بهتری میان تعداد هسته‌ها و سرعت هر هسته نیاز دارد، تا CPU بتواند هم‌پای GPU حرکت کند و به گلوگاه تبدیل نشود.
انویدیا Vera چگونه قصد دارد سرعت تک‌هسته‌ای را بازگرداند؟
Vera هدفش ترکیب هسته‌های تکی سریع‌تر با توان عملیاتی مورد نیاز مراکز داده مدرن است. این تراشه ۸۸ هسته سفارشی CPU Olympus را روی یک دای محاسباتی یکپارچه جای می‌دهد، در کنار یک زیرسیستم حافظه سفارشی LPDDR5X. انویدیا می‌گوید Scalable Coherency Fabric نسل دومش تا ۳.۴ ترابایت‌برثانیه پهنای باند bisection ارائه می‌دهد، سه برابر تراشه‌های برجسته x86. نگه‌داشتن هسته‌ها روی یک دای محاسباتی واحد نیز از ارتباط میان چیپلت‌های جداگانه جلوگیری می‌کند. این‌ها ادعاهای انویدیاست، اما راهبرد روشن است: اولویت دادن به ارتباط سریع و کارآمد بدون چشم‌پوشی از مزایای تعداد بالای هسته‌ها.
Vera همچنین نشان‌دهنده تغییری در نگاه انویدیا به جایگاه CPU در زیرساخت هوش مصنوعی است. در حالی که CPU Grace آن عمدتاً به‌عنوان میزبان سیستم‌های مبتنی بر GPU عمل می‌کند، انویدیا می‌گوید هوش مصنوعی ایجنتی تقاضا برای رک‌های CPU مستقل ایجاد کرده است تا فراخوانی ابزارها، اجرای کد و یادگیری تقویتی را مدیریت کنند. این به معنای کم‌اهمیت‌تر شدن GPUها یا کنار رفتن چیپلت‌ها نیست. خود انویدیا می‌گوید وقتی منطقی باشد، همچنان به طراحی‌های چیپلتی باز است.
نکته مهم‌تر این است که هوش مصنوعی تعریف یک CPU خوب را تغییر می‌دهد. با حرکت ایجنت‌ها از پاسخ‌دادن به پرسش‌ها به اجرای کارهای چندمرحله‌ای، تعداد خام هسته‌ها به‌تنهایی ممکن است دیگر تمام ماجرا را نگوید. نبرد بعدی فقط بر سر چپاندن هسته‌های بیشتر در یک تراشه نیست. بر سر سریع‌کردن هر هسته است تا کارخانه هوش مصنوعی در حال کار بماند، نه اینکه گران‌ترین ماشین‌آلاتش منتظر بمانند.
دیدگاهتان را بنویسید