Je vais développer du matériel d'edge AI et déployer un LLM local en utilisant phi 3 ou ollama

Headline : Apportez de l'intelligence à votre matériel avec Edge AI

Vous souhaitez créer un appareil intelligent qui ne dépend pas d'API cloud coûteuses ? Je me spécialise dans le déploiement de LLMs locaux (Phi-3, Llama 3, Mistral) sur du matériel Edge comme le Raspberry Pi 5 et le Compute Module 4/5.

Ce que je propose :

• Déploiement de LLM sur l'appareil : configuration experte d'Ollama et Phi-3 (3B à 7B paramètres) optimisée pour une RAM limitée.
• Intégration d'interface vocale : création de systèmes "Push-to-Talk" avec une reconnaissance vocale (STT) précise et une synthèse vocale (TTS) naturelle.
• Logique avancée d'IA : je peux programmer des modèles pour résumer de longues entrées, les stocker localement avec des horodatages, et les reconstituer sur commande vocale.
• Conception matérielle : prototypage avec RPi 5 tout en gardant à l'esprit le produit final CM5/industriel (gestion de l'alimentation, chargeur Type-C, Bluetooth).
• Déploiement WiFi : mise en place de systèmes permettant la mise à jour et le chargement des modèles via WiFi plutôt que par carte SD.

Ma stack technologique :

• Matériel : Raspberry Pi 5, CM4/5, ESP32, microphone/haut-parleur I2S/USB.
• Modèles d'IA : Phi-3, Ollama, Whisper (STT), Piper/Coqui (TTS).
• Langages : Python, C++, Bash.

Pourquoi me choisir ?

Je ne me contente pas d'écrire du code ; je comprends la transition d'un prototype encombrant comme le RPi 5 vers un produit compact