Uma alternativa offline ao ChatGPT

O ChatGPT funciona offline?

Não. O ChatGPT, inclusive o app para Mac, envia cada pergunta para os servidores da OpenAI e precisa de conexão. Para usar IA sem internet, o modelo tem que rodar no seu próprio computador: é isso que é um LLM local.

Como o Twoody funciona offline

Na configuração inicial, o Twoody baixa uma única vez o modelo certo para o seu computador, de 3,5 ou 6,7 GB. A partir daí, conversas, documentos e mensagens de voz são processados no computador: desligue o Wi-Fi e ele continua respondendo. O que passa pela internet para enquanto você está sem conexão: a busca na web, desativada por padrão, os conectores online e a conta opcional.

E com privacidade

Suas conversas e seus documentos são processados no seu computador, e uma conversa privada fica guardada só lá. O que sai conforme o que você ativar — como a verificação de atualizações, o download dos modelos, a busca na web se você ativá-la, as conversas que você guarda na sua conta opcional, criptografadas de ponta a ponta — está listado, com o jeito de verificar.

Onde ajuda

• No avião ou no trem.
• Em uma rede fechada ou monitorada.
• Com arquivos confidenciais: clientes, pacientes, contratos.
• Onde quer que a conexão seja ruim.

O que esperar

Um modelo que roda em um computador pessoal é menor que os do ChatGPT: excelente para escrever, resumir e fazer perguntas sobre seus documentos, nem tanto para os raciocínios mais difíceis. Offline, ele não sabe nada do que aconteceu depois do treinamento.