Uma alternativa offline ao ChatGPT

O ChatGPT funciona offline?

Não. O ChatGPT, inclusive o app para Mac, envia cada pergunta para os servidores da OpenAI e precisa de conexão. Para usar IA sem internet, o modelo tem que rodar no seu próprio computador: é isso que é um LLM local.

Como o Twoody funciona offline

Na configuração inicial, o Twoody baixa uma única vez um modelo do tamanho certo para o seu Mac, de 2,5 a 9 GB. A partir daí, conversas, documentos e mensagens de voz são processados no Mac: desligue o Wi-Fi e ele continua respondendo. Só a busca na web, desativada por padrão, precisa de internet.

E com privacidade

O que nunca sai não pode vazar: suas conversas e seus documentos ficam no seu Mac, e o Twoody não envia telemetria. As poucas coisas que saem — a verificação de atualizações, o download dos modelos, a busca na web se você ativá-la — estão listadas, com o jeito de verificar cada uma.

Onde ajuda

• No avião ou no trem.
• Em uma rede fechada ou monitorada.
• Com arquivos confidenciais: clientes, pacientes, contratos.
• Onde quer que a conexão seja ruim.

O que esperar

Um modelo que roda em um Mac é menor que os do ChatGPT: excelente para escrever, resumir e fazer perguntas sobre seus documentos, nem tanto para os raciocínios mais difíceis. Offline, ele não sabe nada do que aconteceu depois do treinamento.