AI чип өндіруші Cerebras Systems CS-4-ті таныстырды, бұл Nvidia-ның GPU сервер нарығына және үлкен тілдік модельдер инференция жүктемелеріне арналған жаңа рақты-өлшемді AI жүйесі. Компанияның айтуы бойынша, CS-4 барлық жүйелік ресурстар бір қолданушыға бөлінгенде, дәстүрлі GPU серверлерінің жылдамдығынан 30 есе артық токендер генерациялай алады.
Айта кету керек, бұл көрсеткіш Cerebras-тің ішкі тестілеу нәтижелеріне негізделген және бір қолданушының жүйенің есептеу ресурстарына эксклюзивті қолжетімділігі болғанда тексттік генерация жылдамдығын өлшейді. Бұл жүйенің бірнеше пайдаланушыларға бір уақытта қызмет көрсету кезінде жалпы өткізу қабілетін білдірмейді.
Сан-Францискода өткен шарада Cerebras CS-4 үш WSE-3 Turbo wafer-scale процессорын құрастырғанын айтты. Компанияның айтуы бойынша, әрбір процессор шамамен 4 триллион транзисторды біріктіреді, бұл оны бүгінгі таңда жарияланған ең ірі AI процессорларының бірі етеді. Nvidia мен AMD жиі қолданатын көп чипті архитектуралардан өзгеше, Cerebras монолиттік, толық wafer дизайнын пайдаланады, бұл чип ішіндегі деректерді беру жолдарын қысқартады.
CS-4 моделі оқыту үшін емес, AI инференция үшін жасалған. Оның жады архитектурасы динамикалық жедел жад (DRAM) орнына статикалық кездейсоқ қолжетімді жады (SRAM) пайдаланады, ол салада жиі қолданылады. SRAM DRAM-ға қарағанда мәндерді оқу және жазу жылдамдығын едәуір арттырады, бірақ оның күрделі құрылымы мен бірлік сыйымдылығы бойынша жоғары құны оны шектеулі чип аумағы бар процессорларға интеграциялауды қиындатады. WSE-3 Turbo шамамен асхана табағының көлемінде, процессорда SRAM-ды тікелей орналастыру үшін жеткілікті физикалық кеңістік ұсынады.
Cerebras жылдам текст генерациясын CS-4-тің негізгі бәсекелестік артықшылығы ретінде орналастыруда. Компания өз wafer-scale процессоры AI моделіне қажетті барлық параметр мәндерін тікелей чипте сақтай алатынын айтты, бұл сыртқы жады чиптерінен деректерді алу қажеттілігін жояды және деректер қозғалысымен байланысты кідірісті азайтады.
Cerebras-тің айтуы бойынша, CS-4 үлгілері қазіргі уақытта шектеулі саны бар клиенттерге қолжетімді, ал кеңірек қолжетімділік биылғы жылдың үшінші тоқсанының соңында жоспарланған.