A Huawei acredita que sua nova ferramenta Flex:ai pode ajudar a China a criar um chip para IA análogo “1.000 vezes mais rápido” ao que a NVIDIA oferece. O software é open source e foi feito para aproveitar melhor o potencial de aceleradores já disponíveis no segmento.
O Flex:ai foi anunciado oficialmente na última sexta-feira, dia 21 de novembro. Ele é baseado na plataforma Kubernetes e foi desenvolvido em parceria com cientistas de universidades de Xangai, Xi’An e Xiamen. A Huawei afirma que sua nova ferramenta pode extrair até 30% mais utilização de um acelerador IA atual.
O software serve para organizar o trabalho do hardware em torno do processamento de IA em larga escala. Tarefas pequenas não muito exigentes são “enfileiradas” para processamento simultâneo, enquanto tarefas grandes que precisam de mais de um componente são distribuídas de maneira equilibrada entre vários. O Flex:ai divide GPUs e NPUs em instâncias computacionais virtuais para direcionar as cargas de trabalho entre diferentes componentes de hardware.
O “agendador inteligente” (scheduler) que a Huawei chama de Hi Scheduler garante que nenhum recurso fica ocioso, redistribuindo em tempo real as cargas de trabalho de IA pelos nodos disponíveis.
Huawei desenvolveu a Flex:ai como uma solução para hardware chinês
As promessas em torno do Flex:ai são semelhantes ao uso de outras ferramentas do tipo, como a Run:ai que a NVIDIA adquiriu no ano passado. O principal diferencial do novo software, entretanto, é que ele foi feito com foco para uso open source e compatibilidade entre aceleradores de diferentes fabricantes.
A ideia é favorecer o cenário de servidores e data centers da China, usando aceleradores variados, principalmente os Ascend, da própria Huawei. Se o Flex:ai cumprir o prometido, ele deve se tornar preferível para empresas que não basearam suas infraestruturas totalmente em CUDA.
Leia mais:
- Planos da Huawei para o futuro de seus chips Ascend para IA incluem HBM próprio
- Atlas 950 SuperCluster: novo supercomputador da Huawei atinge 1 ZettaFLOPS
- Mesmo com bloqueio da NVIDIA, big techs chinesas ainda não compram Huawei [RUMOR]
O Flex:ai foi anunciado mas ainda não está disponível. Assim, não temos informações de testes de terceiros sobre suas vantagens, e a Huawei não ofereceu comparativos de benchmark. Vamos ter que esperar por uma data específica para sua distribuição.
Via: Tom’s Hardware