Atendimento ao cliente multilíngue com LLM local: 6 idiomas sem cloud

#Por que um LLM local para suporte multilíngue

As APIs de nuvem (GPT-4o, Claude, Gemini) cobram por token e exigem o envio de mensagens de clientes para fora da UE. Para um suporte B2C que trata 5.000 tickets por dia, a fatura mensal ultrapassa rapidamente 1.500 € e manter a conformidade com o RGPD se torna um malabarismo assim que um cliente envia um IBAN ou um número de seguridade social no corpo do ticket.

Um LLM local resolve os dois problemas de uma vez. Qwen 3.8 27B (Alibaba, lançado em 14 de agosto de 2026) é nativamente multilíngue em mais de 100 idiomas, lida com as seis línguas europeias do briefing com uma qualidade que rivaliza com a dos modelos de entrada na nuvem e roda em uma única RTX 4090 ou em um Mac M4 Max. Custo marginal por chamado: zero.

#Pré-requisitos

GPU com pelo menos 24 GB de VRAM

RTX 3090, 4090, 5090, ou Mac M3/M4 Max com 32 GB de memória unificada. Qwen 3.8 27B em Q4_K_M ocupa aproximadamente 18 GB.

Ollama instalado

Versão recente com suporte nativo a Qwen 3.8 (visão e contexto longo).

Uma conta Zendesk ou Freshdesk

Com permissões de admin para criar uma integração webhook e um trigger.

Um endpoint HTTPS acessível

Ou um VPS que faz reverse-proxy para o seu Ollama, ou ngrok / Cloudflare Tunnel para expor o servidor local.

Python 3.11+

Para a camada de detecção de idioma e o roteador de webhooks. FastAPI + langdetect são suficientes.

#1. Instalar Qwen 3.8 27B com Ollama

O modelo está disponível diretamente na biblioteca Ollama. Inicie o download e realize um teste rápido:

ollama pull qwen3.8:27b
ollama run qwen3.8:27b "Réponds en une phrase : qu'est-ce qu'un LLM open-weight ?"

O pull baixa aproximadamente 18 GB. Em uma RTX 4090, a inferência roda a 40–60 tokens por segundo em Q4 — o que permite gerar uma resposta de suporte em 3 a 5 segundos. Com o esforço de raciocínio em 'low', a latência diminui ainda mais.

Exponha o Ollama na rede para que seu webhook possa acessá-lo:

sudo systemctl edit ollama
# Ajoutez :
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_KEEP_ALIVE=30m"

sudo systemctl restart ollama

OLLAMA_KEEP_ALIVE=30m mantém o modelo na VRAM por 30 minutos após a última requisição, evitando um cold start a cada chamado de suporte durante os horários de baixa demanda.

#2. Detecção automática de idioma

Antes de enviar uma mensagem ao Qwen3, identifica-se o idioma dela para escolher o prompt de sistema correto. A biblioteca fast-langdetect (baseada no fastText da Meta) detecta 176 idiomas em menos de 5 ms por requisição, com precisão superior a 99% em mensagens com mais de 50 caracteres.

pip install fast-langdetect fastapi uvicorn httpx

from fast_langdetect import detect

SUPPORTED = {"fr", "en", "es", "de", "it", "ar"}

def detect_language(text: str) -> str:
    text = text.replace("\n", " ").strip()
    if len(text) < 10:
        return "en"  # message trop court, fallback raisonnable
    result = detect(text, low_memory=False)
    lang = result["lang"]
    return lang if lang in SUPPORTED else "en"

#3. Prompts de sistema adaptados por idioma e tom

Um bom suporte multilíngue não traduz um prompt em francês para o inglês — ele adapta o registro. O francês profissional usa o tratamento formal com “vous”, o inglês corporativo é mais direto, o alemão exige uma cortesia formal bem marcada, o espanhol latino-americano aceita mais cordialidade, o italiano é mais expressivo e o árabe pede fórmulas de cortesia no início e no fim da mensagem.

SYSTEM_PROMPTS = {
    "fr": (
        "Tu es un agent de support client professionnel. "
        "Réponds en français, avec vouvoiement systématique. "
        "Sois concis, empathique, factuel. Ne promets jamais de remboursement "
        "sans validation. Si tu ne sais pas, propose une escalade humaine."
    ),
    "en": (
        "You are a professional customer support agent. "
        "Reply in English, business-friendly tone, direct and concise. "
        "Never commit to a refund without confirmation. "
        "Escalate to a human if uncertain."
    ),
    "es": (
        "Eres un agente de soporte profesional. Responde en español, "
        "trato de usted, tono cálido pero conciso. Nunca prometas reembolsos "
        "sin confirmación. Escala a un humano en caso de duda."
    ),
    "de": (
        "Du bist ein professioneller Kundensupport-Agent. Antworte auf Deutsch "
        "mit Sie-Form, höflich-formell, präzise und sachlich. Versprich nie eine "
        "Rückerstattung ohne Bestätigung. Eskaliere im Zweifel an einen Menschen."
    ),
    "it": (
        "Sei un agente di assistenza clienti professionale. Rispondi in italiano, "
        "forma di cortesia (Lei), tono cordiale e conciso. Mai promettere rimborsi "
        "senza conferma. Scala a un umano in caso di dubbio."
    ),
    "ar": (
        "أنت موظف دعم عملاء محترف. أجب باللغة العربية الفصحى، "
        "بأسلوب رسمي ومهذب يبدأ بتحية وينتهي بعبارة لطيفة. "
        "لا تعد بأي استرداد دون تأكيد. إذا لم تكن متأكدًا، اطلب تدخل موظف بشري."
    ),
}

#4. Integrar um webhook Zendesk ou Freshdesk

Zendesk e Freshdesk disparam um webhook HTTP POST a cada novo ticket. Expomos um endpoint FastAPI que detecta o idioma, escolhe o prompt, chama o Ollama e devolve a resposta à API do suporte para que ela seja adicionada como comentário interno (o agente humano valida antes do envio).

from fastapi import FastAPI, Request
import httpx
from detector import detect_language
from prompts import SYSTEM_PROMPTS

app = FastAPI()
OLLAMA_URL = "http://localhost:11434/api/chat"

@app.post("/webhook/zendesk")
async def handle_ticket(req: Request):
    payload = await req.json()
    ticket_id = payload["ticket"]["id"]
    message = payload["ticket"]["description"]

    lang = detect_language(message)
    system = SYSTEM_PROMPTS[lang]

    async with httpx.AsyncClient(timeout=60) as client:
        r = await client.post(OLLAMA_URL, json={
            "model": "qwen3.8:27b",
            "messages": [
                {"role": "system", "content": system},
                {"role": "user", "content": message},
            ],
            "stream": False,
            "options": {"temperature": 0.3, "num_ctx": 8192},
        })
    draft = r.json()["message"]["content"]

    # Ajoute la réponse en note interne sur le ticket
    await post_internal_note(ticket_id, lang, draft)
    return {"status": "ok", "lang": lang}

A função post_internal_note envia o rascunho como comentário privado via a API Zendesk (PUT /api/v2/tickets/{id}.json) ou Freshdesk (POST /api/v2/tickets/{id}/notes). O agente humano revisa, ajusta e clica em "Enviar". Você economiza aproximadamente 60% do tempo de redação sem nunca deixar o bot responder sozinho.

1. 01
   Expor o endpoint

   Cloudflare Tunnel ou ngrok aponta para http://localhost:8000. Anote a URL pública HTTPS.
2. 02
   Criar o destino webhook

   No Zendesk Admin → Aplicativos & integrações → Webhooks, crie um destino com sua URL e o método POST.
3. 03
   Conectar um disparador

   Em Triggers, condição "Ticket Created", ação "Notify webhook", com um payload JSON contendo {ticket: {id, description, requester}}.
4. 04
   Testar com um ticket falso

   Crie um ticket em alemão. O endpoint deve receber o evento, detectar "de" e publicar um rascunho em alemão nas notas internas.
5. 05
   Ativar gradualmente em produção

   Comece com uma única fila (por exemplo, a fila espanhola). Meça a qualidade durante uma semana. Amplie fila por fila.

#5. Medir a qualidade por idioma

Qwen 3.8 não oferece a mesma qualidade nos seis idiomas. O francês e o inglês são excelentes, o espanhol e o italiano são muito bons, o alemão é razoável, e o árabe varia conforme o dialeto (o árabe padrão moderno, MSA, funciona bem; os dialetos do Magrebe, menos). É preciso medir para orientar as decisões.

Três indicadores a serem registrados por idioma, desde o primeiro dia:

Taxa de validação sem edição

Porcentagem de rascunhos que o agente envia sem alterações. É o indicador mais simples e claro. Meta: 40–60 % em 3 meses.

Taxa de edição (palavras alteradas / palavras geradas)

Meça com um diff entre a resposta final e o rascunho. Se, em um idioma, a edição ultrapassa 30%, o prompt precisa ser retrabalhado.

CSAT por idioma

A pesquisa de satisfação pós-resolução, cruzada com a língua do ticket. Se o alemão cai para 3,5/5 enquanto o francês permanece em 4,5, você tem um problema de tom.

#Armadilhas comuns

O bot responde no idioma errado

É quase sempre uma mensagem com idiomas misturados (assinatura em inglês abaixo de um ticket em francês). Detecte o idioma com base no primeiro parágrafo ou force o idioma do rascunho com uma instrução explícita "Reply in {lang}" além do prompt de sistema.

Latência > 10 segundos

Verifique se OLLAMA_KEEP_ALIVE está ativo e se o modelo permanece na VRAM. O comando ollama ps deve mostrar 100 % de GPU. Caso contrário, reduza num_ctx para 4096 para tickets curtos.

Respostas árabes mal formatadas (RTL)

Qwen3 gera bem o árabe, mas algumas interfaces de suporte não exibem o texto da direita para a esquerda (RTL) automaticamente. Adicione dir="rtl" lang="ar" ao bloco de resposta no Zendesk/Freshdesk.

Alucinação de promoções inexistentes

Reduza a temperatura para 0.2 e especifique no prompt "não mencione nenhuma promoção ou código de desconto a não ser que esteja presente no ticket". O LLM gosta de oferecer presentes que não existem.

Webhook executado novamente várias vezes

Zendesk pode tentar novamente em caso de timeout. Armazene ticket_id no Redis com um TTL de 10 minutos para garantir a idempotência — caso contrário, você gera 3 rascunhos para o mesmo ticket.

#Para se aprofundar

Depois que a base estiver estável, duas extensões aumentam significativamente a taxa de validação: conectar um RAG local à sua base de conhecimento (FAQ, política de devolução, condições de garantia) para fundamentar as respostas em fatos e adicionar uma camada de fine-tuning com LoRA usando alguns milhares de tickets resolvidos para ajustar o tom da empresa. Para colocar o sistema em produção em várias estações de trabalho, a implantação na intranet por trás do Nginx cobre os aspectos de rede e autenticação.