Ursinho de pelúcia com Edge AI para conversação bilíngue no dispositivo, voltado ao aprendizado de idiomas infantojuvenil.

Projetamos um módulo de computação de borda de baixo consumo dentro de um ursinho de pelúcia que executa um modelo de linguagem de grande escala (LLM) quantizado localmente. Ele oferece tutoria bilíngue segura e com latência zero, sem depender de conectividade persistente com a nuvem, protegendo fundamentalmente a privacidade das crianças.
Uma PCB personalizada de 4 camadas integra um SoC NXP i.MX 8M Plus com uma NPU dedicada para inferência no dispositivo. O sistema de gerenciamento de energia alcança 72 horas de operação contínua a partir de uma célula Li-Po recarregável.
Quantizamos um modelo bilíngue de 1,3 bilhão de parâmetros para precisão INT4, alcançando latência de resposta <500ms enquanto mantemos fluência conversacional tanto em inglês quanto em mandarim.
O produto foi lançado como o brinquedo educacional nº 1 em sua categoria, com um vocabulário superior a 50.000 palavras em dois idiomas.
Vamos discutir como a ChipTalk pode entregar resultados para o seu próximo projeto.