← Signals

Opinion · 1 min read

Privacy server and private connectors

Proxying connectors and a local Ollama server

There is a need for private connectors: connectors that work as a proxy, so the connection to your tools runs through a server you own.

The second piece is running an Ollama server locally. The reason is cost: running models on a cloud is too expensive, and anyone can easily set up their own server on their own machine.

We then detect the models you have already downloaded. That way our users stay in control of the system: which models run, and where.

← Sinais

Opinião · 1 min de leitura

Servidor de privacidade e conectores privados

Conectores proxy e um servidor Ollama local

Há uma necessidade de conectores privados: conectores que funcionam como proxy, para que a ligação às suas ferramentas passe por um servidor que é seu.

A segunda peça é correr um servidor Ollama localmente. A razão é o custo: correr modelos na cloud é demasiado caro, e qualquer pessoa consegue montar facilmente o seu próprio servidor na sua máquina.

Depois detetamos os modelos que já descarregou. Assim, os nossos utilizadores mantêm o controlo do sistema: que modelos correm, e onde.